منابع و ماخذ پایان نامه مقدار خطا

دانلود پایان نامه ارشد

صنوعي نشان داده شده است.

شکل (1-2) مدل يک نرون مصنوعي

مدل مصنوعي نرونهاي بيولوژيکي انسان توسط مک کالو و پيتز ارائه گرديد. اين نرون در واقع سنگ بناي هر شبکهي عصبي را تشکيل داده است. شبکههاي عصبي امروزي اين نرون پايه را با معماريهايي مختلف ترکيب کرده‌اند تا قابليتهاي محاسباتي متنوعي را بدست آورند.
همانطور که در شکل (1-2) ملاحظه شده است، هر نرون بوسيله يک مجموع خطي وزن دار n و يک تابع که ميتواند خطي يا غيرخطي باشد، نشان داده شده است. تابع که مقدار خروجي را بر اساس وروديها مشخص ساخته، تابع فعاليت62 يا تابع انتقال ناميده شده است.
اگر سيگنال ورودي iام از نرون jام را با و وزن آن را با (وزن سيگنال iام به نرونjام ) نشان داده ‌شود، در نهايت مجموع سيگنالهاي وزن دار شده به صورت رابطه (1-4) محاسبه گرديده است:
(1-4)
البته گاهي اوقات مقدار ثابتي در هر نرون به رابطه (1-4) به نام وزن باياس63 افزوده شده که اين مقدار معمولاً در هر نرون متفاوت است. با اضافه شدن اين ترم، رابطه (1-5) بدست آمده است:
(1-5)
سپس با انجام يک عمل معمولاً غير خطي توسط تابع فعاليت مانند روي وروديهاي وزن‌دار شده، خروجي نرون حاصل شده است.
(1-6)

1-19 مراحل ساخت يک مدل با شبکههاي عصبي مصنوعي
يک شبکه عصبي مصنوعي از تعداد زيادي گره و پارهخطهاي جهتدار که گرهها رابه هم ارتباط داده‌اند، تشکيل شده است. گرههايي که در لايه ورودي هستند گرههاي حسي64 و گرههاي لايهي خروجي، گرههاي پاسخ دهنده65 ناميده شده‌اند. بين نرونهاي ورودي وخروجي نيز لايههاي پنهان66 قرار دارند. اطلاعات از طريق گرههاي ورودي به شبکه وارد شده و سپس از طريق اتصالات به لايههاي پنهان منتقل شده، در نهايت خروجي شبکه از گرههاي لايه خروجي بدست آمده است.
در ساخت يک مدل بر مبناي شبکه عصبي، اولين کار انتخاب نوع شبکه است. پس از آن پارامترهاي ورودي که در خروجي تاثير گذار هستند، انتخاب گرديده و سپس معماري شبکه ( تعداد لايهها، تعداد گرههاي و چگونگي اتصال گرهها) و نوع توابع انتقال و پارامترهاي مؤثر در آموزش شبکه تعيين گرديده‌اند. بعد از تعيين نوع شبکه و معماري آن يک سري اطلاعات ورودي- خروجي به شبکه داده شده و شبکه بر اساس اين اطلاعات آموزش يافته ‌است. اين مرحله، مرحله آموزش67 يا تربيت68 شبکه ناميده شده است.
در مرحله آموزش با توجه به نوع الگوريتم يادگيري، وزنهاي اتصالات شبکه تغيير يافته‌اند. با تغيير توابع انتقال، تعداد لايهها و تعداد گرههاي لايه پنهان و عوامل مؤثر در تغيير وزنها به صورت سعي و خطا، مناسبترين مدل شبکه عصبي مصنوعي براي مسئله مورد نظر بدست آمده است. براي اطمينان از عملکرد مطلوب شبکه از يک سري ورودي به عنوان اطلاعات آزمايشي استفاده گرديده و خروجيهاي آنها با خروجيهاي شبکه مقايسه شده‌اند. اين مرحله آزمايش يا امتحان69 شبکه عصبي مصنوعي ناميده شده است. بعد از امتحان شبکه و رسيدن به خطاي کمتر، مدل شبکه عصبي مصنوعي قابل استفاده خواهد بود.
1-20 انواع شبکههاي عصبي مصنوعي

1-20-1 انواع شبکههاي عصبي بر مبناي روش يادگيري

بطور کلي بسته به چگونگي آموزش شبکه، شبکههاي عصبي به سه دسته تقسيم شده‌اند:
۱- آموزش با وزنهاي ثابت70: در روش وزنهاي ثابت براساس اطلاعات داده شده، وزنها يکبار محاسبه و ثابت مانده‌اند. اين روش در بهينهسازي اطلاعات و فشرده سازي اطلاعات و همچنين بازيابي الگو کاربرد دارد.
۲- آموزش با مربي71: در يادگيري با مربي، شبکه بصورت يک سيسم ورودي- خروجي عمل کرده، به عبارت ديگر شبکه با دريافت بردار وروديx، بردار خروجي y را توليد کرده ‌است. در اين روش دنبالهاي از زوجهاي آموزش دهنده به شبکه داده شده است. مولفه اول، بردار ورودي و مولفه دوم، بردار خروجي است. از بردار خروجي به عنوان مربي (آموزش دهنده) استفاده شده است. بعد از اعمال بردار ورودي به شبکه، خروجي به عنوان تقريبي از ساخته شده است و از بردار خطاي به عنوان عاملي براي تربيت شبکه و اصلاح وزنها استفاده گرديده است. در اين روش بردارهاي آموزشي بصورت دستهاي72 و يا لحظهاي73 به شبکه داده شده‌اند و سپس بر اساس بردارهاي خطاي محاسبه شده، وزنهاي شبکه آنقدر تغيير کرده‌اند تا اختلاف خروجي شبکه و خروجي مطلوب به حداقل مورد نظر برسد.
۳- آموزش بدون مربي74: در يادگيري بدون مربي، بردار خطا وجود ندارد و وزنها فقط بر اساس ورودي اصلاح شده‌اند، قوانيني که در اين دسته قرار گرفته‌اند در پاسخ به ورودي شبکه و با کشف همبستگي و خواص آماري بين وروديهاي مختلف، وزنهاي شبکه را اصلاح کرده‌اند و باعث تفکيک و دستهبندي و يا کلاسهاي مختلف از يکديگر شده‌اند. در بکارگيري اين نوع قوانين يادگيري براي تربيت شبکههاي عصبي دو فرض زير را بايد در نظر داشت:
الف- تمام الگوهاي ورودي که داراي ويژگيهاي مشترکي هستند در يک کلاس قرار گرفته‌اند.
ب- شبکه بايد قادر باشد ويژگيهاي مشترک را تنها با استفاده از وروديها کشف کند.

1-20-2 انواع شبکههاي عصبي بر مبناي نوع اتصالها در شبکه
براساس چگونگي اتصال گرهها در معماري شبکه به يکديگر، شبکههاي عصبي به انواع زير تقسيم شده‌اند:
۱- شبکههاي عصبي پيشرو (پيشخور)75: در اين نوع شبکه، گرهها در لايههاي متوالي قرار گرفتهاند و ارتباط آنها يکطرفه است و زماني که يک الگوي ورودي به شبکه اعمال شده، اولين لايه مقادير خروجي را محاسبه کرده و در اختيار لايه بعدي قرار داده است. لايه بعدي اين مقادير را به عنوان ورودي دريافت کرده و مقادير خروجياش را به لايه بعدي منتقل کرده و هرگره فقط به گره لايه بعدي سيگنال ارسال کرده است. شبکه هاي پرسپترون چند لايه (MLP)76 جزء اين شبکهها بوده‌اند که در ادامه به اين نوع از شبکهها نيز پرداخته شده است.
۲- شبکههاي عصبي پسرو (پسخور)77: در اين نوع شبکهها، گرههاي لايههاي بالاتر به گرههاي لايههاي پايينتر سيگنال منتقل کرده اند. شبکههاي پسخور از توانايي بالقوه بيشتري نسبت به شبکههاي پيشخور برخوردارند و بهتر ميتوانند رفتار مربوط به ويژگيهاي زماني سيستمها را نشان دهند.
۳- شبکههاي عصبي با پيوندهاي جانبي گرهها78: در اين نوع شبکهها، گرههاي هر لايه به گرههاي همان لايه سيگنال منتقل کرده‌اند.

1-21 شبکه عصبي پرسپترون79
اين نوع شبکه از سادهترين شبکه بوده که براي الگوهاي مختلف به کار برده شده است. شبکه پرسپترون تک‌لايه از يک لايه با s نورون تشکيل شده که داراي R پارامتر ورودي بوده ‌است. شکل (1-3) مدل اين شبکه را نمايش داده ‌است:

شکل (1-3) مدل شبکه پرسپترون تک لايه

شکل (1-4) يک شبکه عصبي پرسپترون چند لايه را نشان داده است. بطور کلي اينگونه شبکهها داراي مشخصات زير هستند:
الف- اين شبکهها داراي سه لايه به نامهاي لايه ورودي80 و لايه مياني(پنهان)81 و لايه خروجي82 بوده‌اند، تعداد لايههاي پنهان محدوديتي ندارد.
ب- در اين شبکهها نرونهاي هر لايه به نرونهاي لايهي بعد از خود، سيگنال فرستاده‌اند.

شکل (1-4) شبکه پرسپترون چند لايه

1-22 روند طراحي شبکههاي عصبي مصنوعي
در يک شبکه عصبي چند لايه پيشرو، اطلاعات از سلولهايي به نام نرون يا گره تشکيل شده است. پردازشي که در کل گرهها صورت گرفته، ممکن است بسيار پيچيده باشد اما اصل و اساس شبکههاي عصبي مصنوعي اين است که هرگره عمليات ساده و پردازشهاي موضعي انجام داده ولي زماني که تعداد زيادي گره به صورت موازي اطلاعات را پردازش کرده‌اند، نتيجه نهايي پيچيده بوده است. شبکههاي عصبي چند لايه پيشرو تابع سه جزء عمدهي زير بوده‌اند:
۱- تعداد لايهها و تعداد نرونهاي شبکه عصبي مصنوعي: حداقل تعداد لايهها در شبکههاي عصبي چند لايه پيشرو، سه عدد بوده و بطور معمول وجود يک لايه پنهان به منظور پردازش مناسب اطلاعات کافي است. با اين حال در صورت نياز ميتوان کاربرد لايههاي پنهان بيشتر را مورد آزمايش قرار داد. تعداد نرونهاي لايه ورودي و خروجي به ترتيب بستگي به تعداد پارامترهاي ورودي و خروجي داشته اما تعداد نرونهاي لايه پنهان تابع قانون خاصي نبوده ولي معمولاً بين نصف تا دو برابر نرونهاي لايه ورودي بوده است. تعيين تعداد اين نرون تنها از طريق تجربه و سعي و خطا امکانپذير است. بدين معني که تعداد بهينه نرونها زماني حاصل شده که شبکهي عصبي بهترين پردازش را با کمترين خطا انجام دهد.
۲- تابع فعاليت يا تابع انتقال مورد استفاده: در اين شبکهها بطور کلي دو نوع تابع فعاليت خطي و غيرخطي استفاده شده و انتخاب نوع تابع نيز با توجه به تجربه و با سعي وخطا انجام گرفته است. در شکل (1-5) چند نمونه از توابع فعاليت آمده است.

شکل (1-5) چند تابع فعاليت پر کاربرد

۳- وزنهاي شبکه عصبي مصنوعي: مهمترين بخش شبکههاي عصبي، وزنهاي آن بوده است. تعيين وزنهاي بهينه شبکه نياز به کاربرد يک روش منطقي دارد که اصطلاحاً به آن تربيت شبکه گفته شده است.

1-23 آموزش شبکههاي عصبي مصنوعي
آموزش شبکههاي عصبي در واقع تعيين مقادير بهينه وزنها بوده، تا شبکه کمترين خطا را داشته باشد. ايده کلي اين آموزش از روند تربيت و آموزش در انسان گرفته شده است. ذهن انسان از بدو تولد با دريافت الگوهاي مختلف از خارج شکل گرفته و در واقع وزنهاي داخلي ذهن براساس الگوهاي مختلف تغيير يافته‌اند. همين ايده در شبکههاي عصبي مصنوعي استفاده شده است. بدين ترتيب که در ابتدا يک سري وزنها بصورت تصادفي انتخاب شده و سپس با توجه به اطلاعات آموزشي که شامل ورودي و خروجيهاي مرتبط بوده و يک روش مناسب تربيت، وزنها به نحوي تغيير کرده‌اند که شبکه به ازاي مقادير ورودي دادهها، مقادير خروجي را بدهد.
1-24 روش‌هاي آموزش شبکههاي عصبي مصنوعي
روش‌هاي آموزشي مختلف براي انواع شبکههاي عصبي به کاربرده شده است. اين روش‌ها عبارتنداز:
۱- قانون يادگيري پرسپترون تک لايه83: اين قانون از نوع يادگيري با ناظر است و فقط براي شبکههاي عصبي متشکل از نرونها با تابع تبديل آستانهاي دو مقداره84 به کار برده شده است.
۲- قانون يادگيري هب85: اين قانون از نوع يادگيري بدون ناظر است و جهت آموزش شبکههاي انجمني به کار برده شده است.
۳- قانون يادگيري ويدرو- هوف86 ويا LMS87 : روش يادگيري ويدرو- هوف يادگيري با ناظر است و تعميمي از الگوريتم (S.D.)88 بوده است. در اين روش پارامترهاي کنترل کننده جهت پايان دادن به آموزش، ميانگين مجذور خطا بوده است. اين روش براي آموزش شبکههاي عصبي پرسپترون با تابع انتقال خطي موسوم به شبکههاي آدالاين89 به کار برده شده است.
۴- قانون يادگيري انتشار به عقب (BP) 90: اين قانون که تعميمي از روش آموزشي LMS بوده که براي آموزش شبکههاي عصبي چند لايه پيشخور که عموماً شبکههاي چند لايه پرسپترون MLP هستند، به کار برده شده است. اين قانون نيز مانند روش LMS تعميمي از الگوريتم SD است.

1-25 روش آموزش انتشار به عقب
الگوريتم تصحيح انتشار به عقب بر اساس خطايي که در خروجي شبکه وجود دارد و براي تنظيم وزن‌ها مورد استفاده قرار گرفته است. حال فرض شود يک شبکه عصبي مصنوعي با مقادير وزن اوليه به همراه n عدد زوج الگو شامل و در اختيار داشته بطوريکه بردار مقادير ورودي و نشان دهنده تعداد ورودي و بردار مقادير خروجي متناظر با بردار ورودي و تعداد خروجيها بوده است. اگر خروجي شبکه باشد آنگاه مقدار خطاي شبکه بصورت رابطه (1-7) بدست آمده است:
(1-7)
که در آن تعداد نرونها در لايهي خروجي بوده، اگر تعداد کل زوج الگوهاي آموزشي عدد باشد، درآن صورت خطاي محاسباتي بصورت رابطه (1-8) بوده

پایان نامه
Previous Entries منابع و ماخذ پایان نامه مصرف کنندگان، قانون کار Next Entries منابع و ماخذ پایان نامه مقدار خطا