Bulanık-Sinir Ağı Yapısı İçin Yeni Bir Karma Yaklaşım

Transkript

1 Bulanık-Snr Ağı Yapısı İçn Yen Br Karma Yaklaşım Canan ŞENOL, Tülay YILDIRIM Mühendslk Fakültes, Elektronk Mühendslğ Bölümü Kadr Has Ünverstes Elektrk-Elektronk Fakültes, Elektronk ve Haberleşme Mühendslğ Bölümü Yıldız Teknk Ünverstes Özet Bu bldrde Yapay Snr Ağları le Bulanık Mantığın br arada kullanıldığı karma br yapı tasarlanmış ve algortması gelştrlmştr. Konk Kest Fonksyonlu Snr Ağı (KKFSA), Çok Katmanlı Algılayıcı (ÇKA) ve Radyal Tabanlı Fonksyon (RTFA) ağlarının yayılım kurallarını tek br ağda kendne özgü yayılım kuralı le brleştrr. Yan KKFSA ağı, yapısı tbaryle ÇKA ve RTFA ağlarının ntelklern kend bünyesnde barındıran karma br yapıya sahptr. Ayrıca bu çalışmada lteratürde lk kez Bulanık Mantık ve KKFSA karma yapısı kullanılmıştır. Bulanık-ÇKA, Bulanık-RTFA ve Bulanık- KKFSA karma yapıları oluşturularak performansları ncelenmştr. Gelştrlen bu karma yapıların yaygın olarak kullanılan klask ANFIS yapısından ve karma olmayan yapılardan daha y sonuçlar verdğ gözlenmştr. Abstract In ths paper, a new hybrd structure nwhch Neural Network and Fuzzy Logc are combned s planned and ts algorthm s developed. Conc Secton Functon Neural Network (CSFNN) unfes the propogaton rules of the Multlayer Perceptron (MLP) and the Radal Bass Functon (RBF) networks at a unque network by ts dstnctve propogaton rules. That means CSFNNs accommodates MLPs and RBFs because of the self-network structure. In addton, Fuzzy-CSFNN s used frst tme n lterature. Fuzzy-MLP, Fuzzy-RBF and Fuzzy- CSFNN structures are consttuted, and ther performances are nvestgated. These developed hybrd structures are observed better results than ANFIS structure and non-hybrd structures.. Grş Bulanık-Snr ağı mantığı; yapay snr ağlarının (YSA) öğrenme ve en uygununu bulma yeteneğ le, bulanık mantığın nsan gb karar vereblme ve uzman blgs sağlama üstünlüklernn brleştrlmes esasına dayanır. İlk defa Loft A.Zadeh tarafından tanımlanan Bulanık mantık, bulanık küme mantığına dayanır. Bulanık küme, üyelk değer le tanımlanır. Klask küme kavramında br eleman br kümenn üyesdr veya değldr. Bulanık mantıkta küme atlk dereces µ, 0 le arasında değşr. 0 kümeye at olmamayı, se kesn olarak o kümenn üyes olmayı gösterr. Kümenn üyelk fonksyonları üçgen, yamuk, gauss eğrs gb standart fonksyonlarlarla tanımlanabldğ gb farklı fonksyonlarda oluşturulablr. Bulanık mantık le modellemede üç temel basamak vardır. Bunlar: bulanıklaştırma, kural çıkarma ve durulama dır. Bulanıklaştırma aşamasında, grşler bulanıklaştırılır. Yan grşlern, uygun bulanık kümelere üyelk dereceler, üyelk fonksyonları oluşturularak belrlenr. Bulanık Çıkarım aşaması üyelk fonksyonlarını ve eğer-öyleyse kurallarını kullanarak, bulanık kümenn dğeryle lşklendrlmesnden oluşur. Durulama, bulanık çıkış değernn, br kesn çıkış değerne dönüştürülmesdr. Bulanık mantık, kural tabanında grş ve çıkış bulanık kümeler arasında kurulmuş olan lşklern hepsn br arada toplayarak sstemn br çıkışlı davranmasını sağlayan şlemler topluluğudur. Br bulanık kural tabanlı sstemde, farklı çözümleme yöntemler uygulanablr. Bunlardan en önemller Mamdan ve Sugeno modellerdr. ANFIS yapısı Sugeno Bulanık modeln kullanır. ANFIS yapısında, Eğm Düşümü ve En Küçük Kareler yöntemlernn beraber kullanıldığı br karma öğrenme algortması kullanılmıştır. Karşılaştırma ANFIS yapısı le yapılacağından bu çalışmada Sugeno Model üzernde durulmuştur. Sugeno bulanık modelndek tpk bulanık kuralı aşağıdak forma sahptr: EĞER = A VE y = B İSE z = f (, y) () Burada A ve B grş bulanık kümeler, z = f (, y) se ve y ye bağlı keskn çıkış veren br fonksyondur. Bulanık kurallardan elde edlen çıkışların, yne kurallardan elde edlen üyelk değerler üzernden ağırlıklı ortalaması alınarak, sonuç değer bulunur. Sugeno Modelndek yaklaşım, Mamdan modelndek durulama şlemndek şlem yükü ve zaman kaybını gderen bast ve fonksyonel br yaklaşımdır. Sstem modelleme ve kontrol tasarımına uygun br mekanzmadır []. KKFSA fkr 994 yılında G.Dorffner tarafından ortaya atılmıştır. Çeştl uygulamalarda kullanılmaya başlanan [, 3,

2 4, 5] bu yöntemn Bulanık Mantık le brlkte kullanılması hç yapılmamış br uygulamadır. Snrsel-Bulanık karma ağına at parametrelern güncellenmesnde Matlab dak ANFIS kullanılan çalışmaların [6, 7, ] yanısıra başka karma algortmalar da gelştrlmştr. Bu karma algortmalar arasında Rough Hesaplama tabanlı ANFIS [8], Gerye yayılım Algortması ve Genetk Algortmaların brarada kullanıldığı karma algortması [9] ve k-ortalamalar kümeleme (k-means clusterng) yöntem kullanılarak oluşturulan kurallar çersnden en öneml ve en önemsz kuralları seçmek çn Tekl Değer Ayrıştırması (Sngular Value Decomposton) kullanan karma algortması [0] sayılablr. Bu çalışmada Bulanık Mantık le Yapay Snr ağlarının br arada kullanıldığı karma yapılar gelştrlmştr.. Oluşturulan Bulanık-SA Yapıları Oluşturulan Bulanık YSA karma yapıların genel yapısı Şekl dek gbdr. Bu yapıda Bulanık kısımda, üyelk fonksyonları oluşturulmuştur. Üyelk fonksyonlarından elde edlen k katsayıları ve grşler YSA kısmına grş olarak uygulanır. Bu çalışmada YSA yapısı olarak ÇKA, RTFA ve KKFSA uygulanmıştır. BULANIK YSA.. Bulanık-ÇKA Karma Yapısı İlk olarak YSA yapısı çn ÇKA seçlerek Bulanık-ÇKA karma yapısı oluşturulmuştur. Bu yapı Şekl dek gbdr. Bulanık kısmında, grşlere at üyelk fonksyonları oluşturulmuştur. Grş vektörünün her vers çn kural sayısı kadar değerler bulunur. Buradak k kural sayısını göstermektedr. Bulanık kısmındak grşler aynı zamanda ÇKANN ün de grşlerdr. ÇKANN e ayrıca Bulanık kısmından değerler de grş olarak verlmektedr. Tasarlanan 3 katmanlı yapının.gzl katmanında 0,.gzl katmanında 3, çıkışta nöron vardır. Deneme sonucunda optmum parametreler aşağıdak gbdr: Bulanık kısmında grşlere at k tane üyelk fonksyonu tanımlanmış bu üyelk fonksyonları çan eğrs tpnde seçlmştr. Çıkışın üyelk fonksyonu doğrusal, transfer fonksyonu se saf doğrusal seçlmştr. Gerye yayılım ağı eğtme fonksyonu olarak Levenberg-Marquardt ve gerye yayılım ağırlık öğrenme fonksyonu olarak momentumlu eğm düşümü kullanılmıştır. Öğrenme oranı 0.05 olarak seçlerek en yüksek sonuçlar bulunmuştur. Grşler çn adet üyelk fonksyonu seçlmştr, grş sayısı da 4 tanedr. Dolayısıyla; Kural Says = (Üyelk FonksyonuSays) Grş Says = () 4 = 6 Her grş çn; 6 kural olduğundan 6 tane k değer elde edlr. ÇKA ya 6 tanes katsayılarından, 4 tanes de özellklere at grşlerden olmak üzere 0 değer grer. ÇKA nın grş-çıkışları Şekl dek gbdr. k k Şekl. Bulanık-YSA genel yapısı ω Burada k,, j :. grşn j. datası, : k. kuralın j. data çn normalze edlmş katsayısı, y: j j. hedef datası nı gösterr.,, M 6,,, 3, 4,,, 6, M,, 3, 4, O,, 6, M,, 3, 4, ÇKA [ y y L ] y Şekl.ÇKA nın grş-çıkışları

3 .. Bulanık-RTFA Karma Yapısı YSA yapısı olarak RTFA seçlerek Şekl dek karma yapı oluşturulmuştur. Bulanık kısmındak grşler aynı zamanda RTFA nın da grşlerdr. RTFA ya ayrıca Bulanık kısmından değerler de grş olarak verlmektedr. Deneme sonucunda optmum parametreler aşağıdak gb elde edlmştr. Bulanık kısmında grşlere at k tane üyelk fonksyonu tanımlanmış bu üyelk fonksyonları çan eğrs tpnde seçlmştr. Çıkışın üyelk fonksyonu doğrusal, hedef 0, yayılma parametres değer olarak seçlerek en y sonuçlar bulunmuştur..3. Bulanık-KKFSA Karma Yapısı İlk defa 994 yılında Dorffner tarafından önerlen Konk Kest Fonksyonlu Snr Ağlarının anafkr, ÇKA ve RTFA ağlarının brarada kullanılmasıdır. KKFSA yayılım kuralı, ÇKA ve RTFA yayılım kurallarını çerr ve br konnn analtk denklemler kullanılarak elde edleblr. KKFSA ağları ver uzayının dağılımına ve verlen problemn karmaşıklığına bağlı olarak otomatk karar sınırları oluşturur. ÇKA nn düzlemsel karar sınırları ve RTFA n daresel karar sınırları KKFSA ağının özel durumlarını oluşturmaktadır. Kon le düzlemn farklı açılarda kesştrlmes le k boyutlu grş uzayı çn adlandırılan dare, elps, parabol ve hperbol gb düzlemler oluşmaktadır. Şekl 3 de KKFSA ağ mmars verlmştr. kısımdan oluşur. ω açısı π/ olduğu zaman denklem sadece ÇKA kısmına dönüşür. Denklemn knc kısmı da RTFA nn grşler le merkezler arasındak ökld uzaklığıdır. Bulanık-KKFSA karma yapısında Şekl dek genel yapı çn YSA yapısı olarak KKFSA düşünülmüştür. Yne bulanık kısmındak grşler aynı zamanda KKFSA nın da grşlerdr. KKFSA ya ayrıca bulanık kısmından değerler de grş olarak verlmektedr. Deneme sonucunda optmum parametreler aşağıdak gb seçlmştr. Bulanık kısmında grşlere at k tane çan eğrs üyelk fonksyonu tanımlanmıştır. Çıkışın üyelk fonksyonu doğrusaldır. KKFSA kısmında se, RTFA yayılma parametres ve merkez sayısı 4 seçlmştr. Hedeflenen toplam karesel hata 0.00, öğrenme oranı seçlerek adım eğtme yapılmış ve en y sonuçlar bulunmuştur. 3. Benzetm Sonuçları Lteratürde Fsher'n Irs ver kümes olarak geçen Irs ççeğne at çanak yaprağı uzunluğu, çanak yaprağı genşlğ, taç yaprağı uzunluğu ve taç yaprağı genşlğ özellkler kullanılarak ççeğn Setosa, Verscolor ya da Vrgnca türlernden hangsne at olduğu ncelenmştr. Bu ver kümesnde her br ççek türü çn örnek vardır. Ver kümes 0 tanes eğtme, 40 tanes test ve 0 tanes eğtme, 30 tanes testte kullanılmak üzere k kısımda ncelenmştr. Bulanık-ÇKA, Bulanık-RTFA ve Bulanık-KKFSA yapılarının benzetm sonuçları Matlabdak ANFIS yapısı le karşılaştırılmıştır. Ayrı ayrı ÇKA, RTFA ve KKFSA yapıları kullanılarak da eğtme yapılmış ve oluşturulan karma yapılar le kıyaslanmıştır. Tablo, Tablo 4 ve Tablo 7 de ver kümesnn lk kısmının, Tablo, Tablo 5 ve Tablo 8 de se knc kısmının sonuçları sunulmuştur. Ayrıca -kat çapraz geçerleme yöntem uygulanmış ve sonuçları Tablo 3, Tablo 6 ve Tablo 9 da sunulmuştur. Şekl 3. KKFSA Model Konk Kest Fonksyonlu Ağların yayılım kuralı aşağıdak gbdr: n+ = n+ ( j j j y = c ) a cosω ( c ) () j = j Tablo-. Bulanık-ÇKA, ANFIS ve ÇKA yapılarının başarı karşılaştırması (0 eğtme-40 test) Bulanık-ÇKA 38/40 39/40 36/40 ANFIS 4/40 34/40 30/40 ÇKA 40/40 39/40 33/40 burada a j ÇKA dek grş le gzl katman arasındak ağırlıkları, c j RTFA dek merkez koordnatlarını, ve j grş ve gzl katmanı gösteren ndslerdr. Bu durumda y j Konk Kest Fonksyonlu Ağların aktvasyon değerdr. Kolayca görüldüğü üzere bu denklem ÇKA ve RTFA gb temel

4 Tablo-. Bulanık-ÇKA, ANFIS ve ÇKA yapılarının başarı karşılaştırması (0 eğtme-30 test) Bulanık-ÇKA 30/30 30/30 30/30 ANFIS 9/30 30/30 30/30 ÇKA 30/30 9/30 8/30 Tablo-7. Bulanık-KKFSA, ANFIS ve KKFSA yapılarının başarı karşılaştırması (0 eğtme-40 test) Bulanık-KKFSA 40/40 40/40 40/40 ANFIS 4/40 34/40 30/40 KKFSA 40/40 40/40 40/40 Tablo-3. Bulanık-ÇKA, ANFIS ve ÇKA yapılarının başarı karşılaştırması (-kat çapraz geçerleme le) Bulanık-ÇKA %00 %00 %00 ANFIS %98 %96 %00 ÇKA %00 %98 %96 Tablo-8. Bulanık-KKFSA, ANFIS ve KKFSA yapılarının başarı karşılaştırması (0 eğtme-30 test) Bulanık-KKFSA 30/30 30/30 30/30 ANFIS 9/30 30/30 30/30 KKFSA 30/30 30/30 30/30 Tablo-4. Bulanık-RTFA, ANFIS ve RTFA yapılarının başarı karşılaştırması (0 eğtme-40 test) Bulanık-RTFA 40/40 40/40 40/40 ANFIS 4/40 34/40 30/40 RTFA 4/40 34/40 30/40 Tablo-5. Bulanık-RTFA, ANFIS ve RTFA yapılarının başarı karşılaştırması (0 eğtme-30 test) Bulanık-RTFA 30/30 30/30 30/30 ANFIS 9/30 30/30 30/30 RTFA 9/30 30/30 30/30 Tablo-6. Bulanık-RTFA, ANFIS ve RTFA yapılarının başarı karşılaştırmas (-kat çapraz geçerleme le) Bulanık-RTFA %00 %00 %00 ANFIS %98 %96 %00 RTFA %98 %00 %00 Tablo-9. Bulanık-KKFSA, ANFIS ve KKFSA yapılarının başarı karşılaştırması (-kat çapraz geçerleme le) Bulanık-KKFSA %00 %00 %00 ANFIS %98 %00 %00 KKFSA %00 %00 %00 4. Sonuçlar Tablolarda; oluşturulan Bulanık-ÇKA, Bulanık-RTFA ve Bulanık-KKFSA Karma yapılarının performansının ANFIS yapısı, ÇKA, RTFA ve KKFSA le kıyaslamaları verlmştr. ANFIS yapısının kullandığı, eğm düşümü ve en küçük kareler yöntemlernden oluşan karma öğrenme algortması, adaptf algortmalar çermektedr. Yaygın olarak bulanık-snr benzetmler Matlabda ANFIS yapısı kullanılarak yapılmakta olup aslında bu yapı tam olarak br YSA ve Bulanık Mantık karma yapısı değldr. Bu çalışmada farklı Bulanık-YSA karma yapıları oluşturulmuştur. Tablolardan da görüldüğü üzere karma yapılar sadece YSA kullanılarak yapılan çalışmalara göre üstün performans göstermektedr. Bundan sonrak çalışmlarda KKFSA, daha büyük ver kümeler çn denenecektr. 5. Kaynaklar [] Elmas, Ç., Bulanık Mantık Denetleycler, Seçkn Yayıncılık, İstanbul, 003. [] Karlk, J., Tokh, B., Alc, B.O., A Fuzzy Clusterng Neural Network Archtecture for Multfuncton Upper- Lmb Prosthess, IEEE Transactons on Bomedcal Engneerng, Vol., No., pp.55-6, 003.

5 [3] Lee, R., Lu, J., A Weather Forecastng System Usng Intellgent Multagent Based Fuzzy Neuro Network, IEEE Transactons on Man&Cybernetcs, Vol.34, No.3, August 004. [4] Özyılmaz, L., Yıldırım, T., ROC analyss for fetal hypoa problem by artfcal neural networks, Lecture Notes n Artfcal Intellgence, specal ssue for Artfcal Intellgence and Soft Computng, LNAI Vol. 3070, 004, pp [5] Özyılmaz, L., Yıldırım, T., Şeker, H., EMG sgnal classfcaton usng conc secton functon neural networks, Proceedngs of IJCNN'99 Internatonal Jont Conf. on Neural Networks, IEEE publcaton, USA, vol.5, pp , 999. [6] Kwak, K.C., Kım, D.H., Adaptve Neuro-Fuzzy Networks wth the Ad of Fuzzy Granulaton, IEICE Trans. INF. & SYST. Vol.E88-D, No.9, September 005. [7] Ouyang, C.S., Lee, S.J., A Hybrd Learnng Algorthm for Fuzzy Neural Networks, Internatonal Conference on Neural Informaton Processng, November 4-8, 00. [8] Chandana, S., Mayorga, R.V., RANFIS: Rough Adaptve Neuro-Fuzzy Inference System, Internatonal Journal of Computatonal Intelgence Vol.3, No.4, 006. [9] Lee, C.H., Ln, Y.C., Hybrd Learnng Algorthm for Fuzzy Neuro Systems, IEEE Internatonal Conference on Fuzzy Systems, Budapest, Hungary, 5-9 July 004. [0] Seker, H., Odetayo, M.O., Petrovc, D., Nagub, R.N.G., Hamdy, F.C., An Intellgent Hybrd Neuro-Fuzzy Rule- Based System For Prognostc Decson Makng n Prostate Cancer Patents, The 4th Annual IEEE Engneerng n Medcne and Bology Socety Specal Topc Conference on Informaton Technology Applcatons n Bomedcne, 4-6 Aprl 003, Brmngham, UK. [] Jang, J.S.R. ANFIS: Adaptve-Network-Based Fuzzy Inference System, IEEE Transactons on Systems, Man and Cybernetcs, Vol.3, No.3, Page , 993. [] Jang, J.S.R., Sun, C.T., Mızutan, E. Neuro-Fuzzy and Soft Computng, Prentce Hall, 997. [3] Dorffner, G., A Unfed Framework for MLPs and RBFs: Introducng Conc Secton Functon Networks, Cybernetcs and Systems, 5(4), 994.