پایان نامه با کلید واژگان شبکه عصبی، منطق فازی، سیستم استنتاج فازی

دانلود پایان نامه ارشد

u

σi

i i1

با فرض گوسی بودن تابع : R(.)

2

r∑ fi .exp.−

(23-3)

c

x

u u

2

σi

i i1

که در آن
r تعداد نرونهای لایه RBF میباشد.

بنابراین دریک سیستم استنتاج فازی کـه تعـداد قواعـد آن r و شـکل توابـع عـضویت متغیرهـای

ورودی آن گوسی و برای هر تابع گوسی پارامترهای ci و σi آن مشخص باشند، میتوان نوشت:

(24-3)
+a1n xn
xn is A1n , then y1=f1+a11x1+

if x1 is A11 and
R1:

+arn xn
xn is Arn , then yr=fr+ar1x1+

if x1 is Ar1 and
Rr:

فرض چهارم بیان میکند که قسمت تالی قواعد باید یک عدد ثابـت در نظـر گرفتـه شـود.ایـن فـرض معادل با این است که تمامی پارامترهای aij برای i 1,2,…r و برای j 1,2,….n مساوی صفر باشند. بـه

این ترتیب در قسمت تالی قواعد تنها اعداد ثابت fi باقی میمانند. برای محاسبه تابع عضویت مقدم قواعد،

با توجه به فرض سوم، از ضرب به عنوان عملگر منطقی استفاده میشود. اگر مقـدار عـضویت بـا yi نـشان

داده شود، آنگاه:

46

(25-3)

i i1,2,…r

yi Ai1(x1).Ai 2 (x2 )…….Ain (xn )

و در نتیجه

− c )2
n
− (x
)2
− c
2
− (x
)2
− c

−(x

(26-3)

in

…..exp

i 2

)).exp

i1
1
yi exp

2

2

2

σin

σi 2

σi1

اگر طبق فرض پنجم پارامترهای
σij را برای j 1,2,….n

(27-3)
)2
− c

j 2 ij

σi

یکسان باشد، آنگاه خواهیم داشت:

− (x

σi1 σi 2 σin σi → yi exp

که آرگومان تابع نمایی دارای عبارتی شامل مجذور فاصله اقلیدسی بوده و خروجی نرون شـماره i شـبکه RBF میباشد.

خروجی نهایی کنترل کننده فازی متوسط وزن دار خروجیهای هر قاعده میباشد:

(28-3)
r∑ fi yi

i i1
y y

r

∑yi

i i1

بنابراین خروجی کنترل کننده فازی، نرمـالیزه شـده خروجـی RBF میباشـد. ایـن موضـوع نـشان میدهد که شبکه RBF و کنترل کننده فازی رفتار تابعی مشابهی دارند. بدون فرضهای بیان شده شـبکه عصبی RBF حالت خاصی از یک کنترل کننده فازی است.

مزایای استفاده از شبکه های RBF به عنوان استنتاجگر فازی را میتوان به صورت زیر خلاصه کرد:

-1 شبکه RBF دارای تعبیر ذاتی فازی میباشد و بنابر این طراحی سـاختار آن بـه کمـک منطـق فـازی، کاری آسان و سرراست میباشد.

-2 لایه پنهان شبکه RBF بدون سرپرست آموزش میبیند و در نتیجه سرعت یاد گیری آن بالا میباشـد و میتوان در سیستمهای یادگیری تقویتی نیز از آنها استفاده کرد.
و معایب آن عبارتند از:

-1 به دلیل استفاده از تابع گوسی، به وجود آوردن توابع عضویت نامتقارن در شبکه امکان پـذیر نیـست و این موضوع تا حد زیادی از کارایی شبکه میکاهد. این امر به دلیل تقارن شعاعی تابع پایه شبکه RBF بـه وجود میآید. این عیب را میتوان تا حدی با افزایش تعداد قواعد جبران کرد.

-2 در ایجاد پایگاه قواعد کنترل کننده فازی، باید قواعدی را به وجود آورد که قسمت تالی آنها یک عـدد ثابت باشد. این امر طراحی کنترل کننده فازی را بسیار محدود میسازد.

47

فصل چهارم

الگوریتم آموزشی FHLA

48

فصل چهارم: الگوریتم آموزشی FHLA

(1-4 مقدمه

یکی از مهمترین پارامترهایی که در بازدهی شبکههای عصبی و بهویـژه شـبکههـای عـصبی RBF

نقش به سزایی را ایفا مینماید، الگوریتم یادگیری و دقت آن میباشد. در این پروژه یک الگوریتم آموزشی برای شبکههای عصبی RBF منطبق بر منطق فازی و ترکیب روشهای LLS و گرادیان ارائه میگردد.
اساس روش یادگیری FHLA برگرفته شده از روش1HLA[29] میباشد که در آن تعداد نرونهای لایه RBF و مقدار اولیه پارامترهای آنها با استفاده از منطق فازی و روشهای خوشـهیـابی فـازی مـشخص میگردند. در روش FHLA تعداد نرونهای لایه RBF با استفاده از انـدیسهـای اعتبـاری خوشـهای2 بـه همراه قانون انتخاب اکثریت3 تعیین می گردند و سپس با اسـتفاده از تکنیـک FCM مقـادیر اولیـه بـرای پارامترهای نرونهای لایه RBF شامل مرکز گوسی ( (ci و پهنای نرون ( (σi مقداردهی مـیشـود. بـرای تعیین مقادیر نهایی پارامترهای نرونهای لایـه RBF و همچنـین وزنهـای ارتبـاطی شـبکه عـصبی RBF،

ترکیب روش LLS به همراه گرادیان به عنوان روش بهینهسازی در نظر گرفته میشود.

روش پیشنهادی FHLA برای طراحی و آموزش شبکه عصبی RBF شامل دو مرحله میباشد: -1 طراحی ساختار شبکه RBF و مقداردهی اولیه به پارامترهای آن.

2ـ تنظیم پارامترهای شبکه براساس الگوهای آموزشی.

در مرحله اول، ساختار شبکه عصبی RBF به وسیله انتخاب تعداد نرونها در لایه ورودی، لایه RBF

و لایه خروجی مشخص میگردد. سپس در این مرحله و بعد از طراحی ساختار شـبکه، بـرای پارامترهـای نرونهای لایه RBF شامل مرکز ( (ci و پهنا ( (σi یک مقدار اولیـه مناسـب در نظـر گرفتـه مـیشـود. در مرحله دوم، مراکز، پهناهای نرونهای لایه RBF به همراه وزنهای ارتباطی ( (wij شبکه RBF طراحی شده، براساس روش LLS و گرادیان به عنوان پروسه بهینهسازی تنظیم میگردند. تکنیک FHLA دو مرحلهای برای طراحی و آموزش شبکه عصبی RBF در بخشهای زیر ارائه میگردد.

(2-4 طراحی ساختار شبکه RBF و مقداردهی اولیه به آن

با توجه به اینکه شبکه عصبی RBF دارای یک ساختار سه لایه نظیر شـبکه پرسـپترون سـه لایـه میباشد، از این رو طراحی ساختار شبکه فوق مستلزم مشخص شدن تعداد نرونها در لایـه ورودی، RBF

و خروجی میباشد. تعداد المانهای بردار ویژگی، تعداد نرونها در لایـه ورودی را مـشخص مـینمایـد در حالی که تعداد کلاسها، تعداد نرونهای خروجی را معین میکننـد. بنـابراین عمـده مـسئله در طراحـی ساختار شبکه عصبی RBF در معین نمودن تعداد نرونها در لایه RBF میباشد. همچنـین انتخـاب مقـدار اولیه برای پارامترهای ci و σi در سرعت بخشیدن به آمـوزش شـبکه عـصبی و همچنـین دقـت شـبکه

1−Hybrid Learning Algoritm 2−Cluster Valiity Indices 3−Majority rule

49

عصبی نقش مهمی را ایفا مینمایند. در روش پیشنهادی FHLA، برای مشخص نمودن تعـداد نـرونهـای لایه RBF و مقداردهی اولیه به پارامترهای آنها، سه مرحله زیر انجام میگیرد:

-1 استفاده از اندیسهای اعتباری خوشهای برای مشخص کردن تعداد نرونهای لایه .RBF -2 استفاده از تکنیک FCM برای مقداردهی اولیه به مراکز نرونهای لایه .RBF
-3 استفاده از معیار همپوشانی1 بین خوشهها (گروهها) برای مقداردهی اولیه به عرض نرونهای لایه.RBF

شکل 1-4 فلوچارت مقداردهی اولیه به پارامترهای شبکه عـصبی RBF را نـشان مـیدهـد در حـالی کـه راهحلهای وابسته به هر یک از سه مرحله فوق در ادامه ارائه میگردد.

1−Overlapping Criteria

50

Start

Initialize num ber of hidden neurons with the num ber of classes (n r = s)

Com pute a few iterations of

FCM algorithm

Find rmax by using m ajority rule

n r = n r + 1

and cluster validity indices

No

n r rmax

Yes

Set num ber of RBF units to r
max
r = r max

Initialize m atrix U [ ik ] with random values

Com pute the center of each cluster ( c *i )

Com pute U m atrix

Com pute Jm(U , C)

by com puting b *ik

Com pute the difference between new Jm and old one (dJm)

JmT1
No

or

dJmT2

Yes

Select c *i as RBF centers

RBF یبصع هکبش هیلوا ریداقم یحارط تراچولف (1-4) لکش

51

FCM (1-2-4 و مقداردهی اولیه به مراکز نرونها در لایه RBF

در شبکه عصبی RBF، یک تکنیک خوشهیـابی، بـه هـر نـرون لایـه RBF یـک خوشـه را وابـسته میسازد. Bezdek روشهای متعددی برای خوشهیابی دادهها براساس تئوری مجموعههای فازی ارائه نمـود

.روشی که بیشترین کاربرد را در این میـان دارد، روش FCM مـی باشـد.[30] روش FCM یـک تکنیـک خوشهیابی میباشد که در آن هر الگویی از طریق یـک درجـه عـضویت بـه یـک خوشـه (گـروه) وابـسته

میباشد. این روش یک مجموعهای متشکل از NT الگو را به r گروه فازی تقسیم میکند و سـپس مرکـز هر خوشه را به گونهای پیدا میکند که تابع هزینه اندازه عدم شباهت حداقل گـردد. در روش FCM یـک

الگو می تواند به گروههای متعددی با درجه عضویت که بین صفر و یک بیان می گردد، تعلق داشته باشـد.

یک مجموعه فازی
r خوشهای ناشی از NT بردار ویژگـی الگوهـای ورودی بوسـیله مـاتریس U [[ik ]

مشخص میگردد که در آن اعضاء ماتریس باید در شرایط زیر صدق نمایند:

(1-4)

ikiiiii[0 ,1]
,
1 ≤ k ≤ N T , 1 ≤ i ≤ r

(2-4)

r

1 ≤ k ≤ N T , ∑ ik 1

i i1

(3-4)

N T

NNT
1 ≤ i ≤ r , 0 ∑ ik

k k1

که در روابط فوق

ik درجه عضویت الگوی xk را بـه گـروه (خوشـه)
i نـشان مـی دهـد. یـک مـاتریس

خوشهیابی مناسب
U بوسیله به حداقل رساندن تابع هزینه زیر میتواند مشخص گردد:

(4-4)

r
N T

J m (U , C ) ∑ ∑ ( ik ) m d ik2

i i 1
k k 1

که در آن m [1,[[) نشان دهنده فازی فایرC {c1,c2 ,…,cr } 1 بردار مراکز خوشه ها و سـرانجام dik فاصله بین الگوی xk و خوشه i ام می باشد. Bezdek ثابت کـرده اسـت کـه چنانچـه m ≥1 ، d 2ik o و

1 ≤ i ≤ r در این صورت ماتریس U و بردار C تـابع Jm (U ,C) را حـداقل خواهـد نمـود، اگـر چنانچـه مقادیر ماتریس U و بردار C از روابط زیر محاسبه شوند:

1

(5-4)

ik

∑(dik /d jk )2 /(m−1)

( ( ik ) m x k
N T

(6-4)

k k1
c i*

( ( ik ) m
T
N

k k1

1−Fuzzifire

52

(σi )
یکی از فاکتورهای مهم که انتخاب خوشههای مناسب را تحـت تـاثیر قـرار مـیدهـد، انـدازه عـدم شباهت انتخاب شده برای مسئله میباشد. مربع فاصله1 بین بردار ویژگـی الگـوی xk و مرکـز خوشـه Ci

میتواند به عنوان یک معیاری از اندازه عدم شباهت به صورت زیر در نظر گرفته شود:

d ik2 || x k − c i || G ( x k − c i ) T G ( x k − c i ) (7-4)

که در آن G هر ماتریس معین مثبت n ×n میباشد. ماتریس واحد به عنوان سـادهتـرین و عمـومیتـرین انتخاب برای ماتریسG در نظر گرفته می شود. روش FCM یک سری از تکرارهاست که بـین روابـط -4)
(5 و (6-4) در جریان میباشد. برای پیدا کردن مرکز هر نرون در لایه RBF، ( (ci و ماتریس عـضویت U

برای یک تعداد خوشه مشخص شده r، روش FCM به صورت مراحل زیر عمل میکند:

مرحله :1 در ابتدا مقادیر درجه عضویت به صورت اتفاقی و با مقادیر بـین صـفر و یـک مقـداردهی اولیه میشوند بگونهای که محدودیتهای موجود

پایان نامه
Previous Entries پایان نامه با کلید واژگان شبکه های عصبی، سیستم استنتاج فازی، چند متغیره Next Entries پایان نامه با کلید واژگان شبکه عصبی، حد آستانه ای، مقدار خطا