YAPAY SİNİR AĞI DESTEKLİ KALMAN FİLTRESİ YARDIMIYLA HEDEF İZLEME. Tarkan SANCAKDAR. Enstitü No:

Transkript

1 İSTANBUL TEKNİK ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ YAPAY SİNİR AĞI DESTEKLİ KALMAN FİLTRESİ YARDIMIYLA HEDEF İZLEME Y. LİSANS TEZİ Tara SANCAKDAR Estitü No: Aabilim Dalı: Uça Mühedisliği Programı: Uça Mühedisliği Tez Daışmaı: Doç.Dr. Ramaza TAŞALTIN MAYIS

2 İÇİNDEKİLER KISALTMALAR TABLO LİSTESİ ŞEKİL LİSTESİ SEMBOL LİSTESİ ÖZET SUMMARY iii iv v vi vii ix 1. GİRİŞ 1. YAPAY SİNİR AĞLARI 4.1.Giriş 5.. Biyoloi Siir Ağları 6.3. Yapay Siir Ağıı Özellileri 8.4. Siir Hücresi Yapısı 9.5. Ativasyo Fosiyoları Threshold Fosiyou Parçalı-Lieer Fosiyo Sigmoid Fosiyou 1.6. YSA Modelleri İleri Beslemeli Ağlar Te Katlı İleri Beslemeli Ağlar Ço Katlı İleri Beslemeli Ağlar Geri Beslemeli Ağlar Yapay Siir Ağlarıda Öğreme Hebb Öğreme Kuralı Perceptro Öğreme Kuralı.7.3. Widrow-Hoff Öğreme Kuralı Delta Öğreme Kuralı 1.8. Geriye Yayılım Algoritması 3. KALMAN FİLTRESİ Giriş Bir Diami Modeli Kestirimide Optimalli Kalma Filtresie Giriş Kalma Filtresi Matemati Modeli UYDU NAVİGASYON SİSTEMLERİ Giriş Uydu Navigasyo Sistemleri Yapısı Uzay Bölümü 43

3 4... Kullaıcı Bölümü Kotrol Bölümü Bir Cismi Koumuu Tespiti GPS Ölçümlerii Etileye Hatalar KALMAN FİLTRESİ İLE GPS'NİN BİRLEŞTİRİLMESİ Uyduları Hareet Simülasyou Uçağı Uçuş Simülasyou GPS Ölçümlerii Kalma Filtresi ile Düzeltilmesi Simülasyo Souçları KALMAN FİLTRESİNİN YSA İLE BİRLEŞTİRİLMESİ YSA Desteli Kalma Filtresi Yapısıı Kurulması Simülasyo Souçları SONUÇ 68 KAYNAKLAR 7 EKLER 7 ÖZGEÇMİŞ 78 ii

4 KISALTMALAR YSA ÇKP KF INS GPS NAVSTAR : Yapay Siir Ağları : Ço Katmalı Perceptro : Kalma Filtresi : Ataletse Navigasyo Sistemi : Global Positioig System : Navigatio System with Time ad Ragig iii

5 TABLO LİSTESİ Sayfa No Tablo 4.1. GPS Stadart hata modeli 5 Tablo 5.1. Uyduu simülasyouda ullaıla başlagıç değerleri 53 Tablo 6.1. YSA ı Kalma Filtresii düzeltme oraı 66 iv

6 ŞEKİL LİSTESİ Şeil.1 Şeil. Şeil.3 Şeil.4 Şeil.5 Şeil.6 Şeil.7 Şeil.8 Şeil.9 Şeil.1 Şeil.11 Şeil.1 Şeil.13 Şeil.14 Şeil.15 Şeil 3.1 Şeil 3. Şeil 3.3 Şeil 3.4 Şeil 3.5 Şeil 3.6 Şeil 3.7 Şeil 3.8 Şeil 4.1 Şeil 4. Şeil 4.3 Şeil 4.4 Şeil 5.1 Şeil 5. Şeil 5.3 Şeil 6.1 Şeil 6. Şeil 6.3 Şeil 6.4 Şeil 6.5 Şeil 6.6 Yapay siir ağı modeli Treshold fosiyou Parçalı-Lieer Fosiyo Sigmoid fosiyou Te atmalı ileri beslemeli ağ Ço atmalı ileri beslemeli ağ Te atmalı geri beslemeli yapay siir ağı Deetimli öğreme blo diyagram Deetimsiz öğreme blo diyagramı Hebb öğreme uralıı şemati hali Perceptro öğreme uralıı şemati hali Delta öğreme uralı şemati gösterimi Çıış atmaıdai. örou detaylı olara göstere siyal aış grafiği Çıış öroua gizli öro elemiş halde siyal aış diyagramı Hata siyalii geriye yayılımıı göstere siyal aış diyagramı Kalma Filtresii Matematisel Temeli m1 ölçme şartıa bağlı şartlı yoğulu fosiyou m ölçme şartıa bağlı şartlı yoğulu fosiyou m1ve m ölçme şartıa bağlı şartlı yoğulu fosiyou Temel Kalma Filtresi Ayrı Kalma Filtre çevrimi Kalma Filtresii çalışmasıı göstere diyagram Kalma filtresii yapı şeması Uydu Navigasyo Sistemi GPS alıcı bölümü elemaları Kotrol bölümü ve işlemleri Navigasyo uyduları ile cismi oumuu buluması Uçağı x esei yöüdei hareeti Uçağı x yöüdei gerçe, GPS, Kalma Fitresi souçları Uçağı sistem bozutusua bağlı olara KF çıışları Kalma Filtresii YSA ile birlite çalışması Kullaıla YSA yapıları. KF ve YSA desteli KF çıışı Te gizli at. YSA ı Kalma Filtresii düzeltme soucu İi gizli atmaa sahip YSA ı aresel hata grafiği Tegizli atmaa sahip YSA ı aresel hata grafiği Sayfa No v

7 SEMBOL LİSTESİ A, B, C, D X t t Q R w t v t W : Sistem Matrisleri : t aıda sistem durum vetörü : Kalma Filtresi durum geçiş matrisi : Öreleme zamaı : Sistem bozutusuu orelasyo matrisi : Ölçüm bozutusuu orelasyo matrisi : Sistem bozutusu : Ölçüm bozutusu : Ağırlı matrisi : Öğreme atsayısı : Mometum atsayısı : Loal gradyat Y D U D : Giriş uzayı : Çıış uzayı vi

8 Üiversitesi Estitüsü Aabilim Dalı Programı Tez Daışmaı : İstabul Tei Üiversitesi : Fe Bilimleri : Uça Mühedisliği : Uça Mühedisliği : Doç. Dr. Ramaza TAŞALTIN Tez Türü ve Tarihi : y. Lisas Mayıs ÖZET YSA DESTEKLİ KALMAN FİLTRESİ İLE HEDEF İZLEME Tara SANCAKDAR Kalma filtresi, öz yielemeli ve ardışı veri işleme yeteeği ile, bir hedefi pozisyo, hız ve ivmesii tahmi etme içi yaygı şeilde ullaılır. Aca Kalma filtresii başarılı çalışabilmesi içi şart ola gauss dağılımlı sistem gürültüsü prati uygulamalarda her zama olmayabilir. Bu durum Kalma filtresii tahmi hatasıı arttırır. Böyle bir durumda Kalma filtresii tahmi hatasıı azaltma içi çeşitli yalaşımlar vardır. Bu yalaşımlarda birisi birço Kalma filtresii paralel olara işletilmesidir. Bu yalaşım doğru bir hedef izleme sağlasa da hesaplama süresii artması ve hesaplamaı daha omples hale döüşmeside dolayı tercih edile bir yalaşım değildir. Yuarıda alatıla yalaşımı getirdiği zorluğu çözme içi yapay siir ağları ile farlı bir yalaşım getirilmiştir. Bu yalaşım, Kalma filtresii tahmi yapabilme apasitesii yapay siir ağlarıı öğreme yeteeğii birleştirmetedir. Böylece hedef izleme doğruluğu ve hızı arttırılmatadır. vii

9 Bu çalışmada, yuarıda alatıla yapay siir ağları ile destelemiş Kalma filtresii hedef izleme performasıı icelemiştir ve yapay siir ağı ullaılmaya Kalma filtresi ile arşılaştırmasıı yapılmıştır. Ayrıca farlı YSA yapılarıı hata düzeltmedei performasıı iceleyeceğim. Bu tezde üç temel aşama olacatır. Birici aşamada ayrı Kalma filtresi ile GPS te alıaca bilgilere göre uçağı durum bilgileri tahmi edilecetir. İici aşamada Kalma filtresii hatası hesaplaıp bu hatalarla yapay siir ağı eğitilecetir. Kalma filtresii yapacağı hataları öcede öğremiş ola yapay siir ağı Kalma Filtresie elediğide sistem çıışıda Kalma Filtresii hatalarıda arımış souçlar elde edilecetir. Yapay siir ağıı eğitimide, popüler bir yötem ola geriye yayılım algoritması ullaılacatıryapay siir ağı ile Kalma filtresii birlite çalışması şöyle olacatır. Radarda alıa bilgilere göre Kalma filtresi uçağı durum bilgilerii tahmi edecetir. Kalma filtresii yapacağı hataları öğree yapay siir ağı bu hataları giderir ve daha doğru bir souç elde edilir. So olara da bu ii yalaşımı hedef izlemede performasları arşılaştırılacatır. Aahtar Kelimeler: Yapay Siir Ağları, Kalma Filtresi, GPS viii

10 SUMMARY Kalma filters has wide rage of use i target tracig to estimate the velocity ad acceleratio of a flyig obect obect due to its ability to process the squetial data. However Kalma filter asumes that the system oise has Gaussia distributio characteristic, ad this assumptio is violated i most practical stuatios, resultig the icrease of Kalma filter estimatio error. There are differet techiques to reduce this estimatio error. Oe method to reduce the estimatio error is to use parallel Kalma filters. This approach however icreases the calculatio burde at it is ot preferred i most practical stuatios. Oe approach to solve the above problem is to use eural etwors to reduce the Kalma filter estimatio error. This method combies the advatages of Kalma filter estimatio techiques with those of NN learig capacity. Thus the accuracy ad speed of target tracig algorithm is icreased. I this wor, Kalma filter based target trac tracig algorithm is improved by usig eural etwors. The performace of Kalma filter algrithm is compared with that of eural etwor aided Kalma filter algorithm. Differet NN structures is examied to obtai their success i suppressio of estimatio error. This subect is ivestigated i three parts. I the first part GPS data is processed by Kalma filter ad aircraft positio is solely estimated by it. I the secod part Kalma filter error is used to trai NN ad aircraft. Oce the NN is traied ad after that the traied NN is used to get more correct results. I the last sectio performace of these two approaches are compared i target tracig applicatios. ix

11 1. GİRİŞ Çağımızda bilgisayar teoloisii ve ölçme aletlerii hızlı bir şeilde gelişmesi, heme heme tüm mesle ve bilim dallarıda aıda souçlar üretebile sistemleri urulmasıa olaa sağlamıştır. Otomasyou sağlayaca ve ullaıcılara diret souç ürülerii suabilece bu tür sistemleri oluşturulması, güümüzde bilim adamlarıı öcelili ousuu oluşturmatadır. GPS Global Positioig System teiği ile oumları belirlemesi, uça otrolüde öemli bir gelişme olmuştur. Her türlü hava şartıda ve gece-güdüz süreli ullaılabilmesi diğer avigasyo sistemlerie arşı bir üstülü oluşturmatadır. Bu yeteeleride dolayı hava, ara ve deiz taşıtlarıda oum bulma problemi GPS sistemi yardımı ile çözülmetedir. Buula beraber optimal estirim ilesii oruya ve bilgisayarlarda daha hızlı çalışara aıda souçlar üretebile algoritmaları deemesi bilimsel çalışmaları başıda gelmetedir. Bu süreç yavaş yavaş edii tüm düyada göstermetedir. Bu algoritmaları başıda da Kalma Filtresi gelmetedir.. yy teoloisidei başdödürücü gelişmeler, so yıllarda bilim adamlarıı isa ve isa davraışlarıa ola ilgisii örülemete, ayı zamada da düşücelerii uygulamaya döme imaı taımatadır. Siir ağları, isa ve yüse sııfta diğer calılarda bulua yaşamsal meaizmaı temelidir. Düşüme gibi sadece isa türüde bulua yeteeleri dışıda siir ağları calıı fizisel özellilerii, imyasal degesii, savuma meaizmalarıı oluşturur. Bilim adamları so 1 yılda basit ve ispete yavaş hücreleri bir araya geldileride asıl oluyor da düyaı e hızlı bilgisayarıda daha hızlı işlem yapabildilerii araştırmatadır. Araştırmalar, isaları öroları basit modellerii yapıp, bu 1

12 modeller ile oluşturduları devrelere isası bazı işlemleri yaptırmaya götürmüştür. Nörou modellemesi, ele alıa öreğe bağlı olara ço farlı şeillerde olabilir. Öğreme yeteeği ola bir öro yaıda, öğreme yeteeği olmaya faat ço hızlı cevap verebile bir öro modeli yapma da mümüdür. Bu çalışmada YSA yapay siir ağları, GPS ve Kalma Filtresi haıda bilgi verildite sora bu üçüü üçüü birlite ullaıldığı, bir cismi x,y,z eseide pozisyolarıı hesaplaya bir avigasyo problemi öre olara verilmiştir.. bölümde il öce geel olara siir ağlarıı tarihsel gelişimide bahsedilmiştir. Biyoloi siir ağları ile yapay siir ağları taıtılıta sora basit bir YSA hücre yapısı alatılmıştır. Daha sora bu hücre yapısıda ullaıla ativasyo fosiyoları ve YSA modelleri açılamıştır. YSA da ullaıla öğreme uralları alatıldıta sora, so olara geriye yayılım algoritmasıı teorisi ele alımıştır. 3. bölümde estirim problemii Kalma Filtresie geliceye adar ısa bir tarihi ele alımış ve diami bir sistem estirimide optimalli asıl olmalı ousu açılamıştır. Kalma Fitresii daha iyi alaşılması içi il öce öre üzeride bir estirimi asıl olduğu alatılmış ve sora Kalma Filtresii matemati modeli verilmiştir. 4. bölümde avigasyo uydu sistemlerii yapısı açılamıştır. Navigasyo uyduları ile bir cismi oumuu asıl buluduğu alatıldıta sora GPS ölçümlerii etileye fatörler ortaya oulmuştur. 5. bölümde Kalma Filtresi ile GPS ölçümlerii birleştirilmesi alatılmıştır. İl öce 4 GPS uydusuu hareetii, daha sora bir uçağı x,y,z yöüdei doğrusal hareetii simülasyou yapılıp bu simülasyolar üzeride GPS ölçümleri elde edilmiştir. Daha sora bozutulu ola bu ölçümler Kalma

13 Filtresi yardımı ile bozutularda arıdırılmaya çalışılmıştır. Kalma Filtresi uygulaıre çeşitli sistem bozutularıda performası izlemiştir. 6. bölümde Kalma Filtresi souçlarıı YSA ile asıl düzeltileceği ousu ele alımıştır. Farlı YSA yapılarıı soucu asıl etilediği gözlemiştir. 3

14 . YAPAY SİNİR AĞLARI.1. GİRİŞ Bu bölümde yapay siir ağları ele alıacatır. İl öce biyoloi siir ağları taıtılaca ardıda yapay öro modeli iceleecetir. Yapay siir ağları mimarisi iceledite sora başlıca öğreme uralları, avataları ve dezavataları alatılacatır.[1] Bu oulara başlamada öce asgari bir alt yapıyı oluşturma içi yapay siir ağlarıı basit bir tarifi ve tarihçesi verilecetir. Sayısal bilgisayarlar tamame edileri içi taımlamış omut dizilerii yürütmete olduça başarılıdırlar. Öte yada isa beyi, sayısal bilgisayarlarla yapılması zor ola gürültülü bir ortamda ve ısme bozulmuş bilgi ile görme, ouşma, bilgi düzeltmesi ve şeil taıma gibi işlerde başarılı bir davraış gösterir. Beyi işleme elemaları örolar, çağdaş bilgisayarları işleme elemalarıda daha yavaş olmalarıa rağme, beyi bu işi asıl başarmatadır? Eletro imyasal elemalar ola örolar, milisaiye mertebeleride cevap verebilire, şu adai eletroi teoloi ürüleri oosaiye mertebeside durum değiştirebilirler. Teoloi gelişmeye rağme söz ousu yeteelere sayısal bilgisayarlar üzeride alışılagelmiş yapay zea yötemlerii ullaara doyurucu bir şeilde erişilememesi, birço bilim adamıı böyle yeteelere sahip maieleri tasarlaması ousuda yei yalaşımlar içi isa beyii icelemeye itmiştir. 4

15 Yapay siir ağ modelleri üzeride, yapay zeaı çeşitli alalarıda yıllarca çalışılmıştır. Bir yapay siir ağı, isa siir sistemii bazı fosiyolarıı modelleye ve ou bazı yeteelerii yaalama isteye basit hesaplama birimlerii öroları yoğu bir paralel dizisidir. Nöral ağları başa bir taımı şu şeilde verilebilir. Yapay siir ağları, basit elemaları yoğu bir şeilde paralel olara bağlamasıyla oluşa ağlardır ve gerçe düyadai cisimleri, aye biyoloi siir sistemlerii yaptığı gibi ilişide buluabilmeleri içi, belli bir düzede birbirlerie bağlamış halidir.[] Yapay siir ağları ousuda literatüre geçmiş il büyü çalışma 1943 yılıda W. S. McCulloch ve W. A. Pitts tarafıda yapılmıştır.[3] Bu tarihte McCulloch ve Pitts il hücre modelii geliştirdiler ve biraç hücrei arabağlasımıı icelediler yılıda ise bir öropsioloist ola Hebb, siir ağıı davraışıı ortaya çıarmış ve hücre bağlarıı değerlerii ayarlama içi bir öğreme uralı geliştirmiştir. [4] 1958 yılıda Roseblatt, algılayıcı perceptro modelii ve öğreme uralıı geliştirdi. Bugü ullaıla uralları temellerii oydu.[5] Perceptro, armaşı adaptif davraışlarda buluma yeteeği ola bir öğreme maiasıydı. Perceptrou e büyü dezavataı lieer ayrılabile fosiyoları gerçeleyebilmesiydi. Devrei öğreme apasitesi, giriş bilgileri arasıdai bu sııfladırmaya sıı sııya bağlıdır. Maalei e öemli otası, o zamaa adar yapıla çalışmaları asie, Roseblatt ı, sayısal loi fosiyoları beyi modellemesie uygu olmadığıı vurgulamasıdır. Misy, 196 larda yürüttüğü araştırmasıı bir soucu olara, basit te atmalı ağları bazı ço olay problemleri çözemeyecelerii eşfetti. O zamalarda ço atmalı ağlar ço az alaşılmıştı ve ço atmalı eğitmeyi göstere hiçbir teori yotu yılıda Misy ve Papert, beraber yazdıları Perceptro adlı itapta, te atmalı ağları XOR işlemii gerçeleştirme gibi basit işlemleri yapamayacağıı ispatlamışlardır.[6] Misy ve Papert şuları yazmışlardır. Perceptro birço ısıtlarıa rağme ve hatta bularda dolayı icelemeye değer olduğuu göstermiştir. Diati çee bir ço özelliği vardır: 5

16 lieerliği, ilgi çee öğreme teoremi, -bir çeşit paralel hesaplama ola- ulladığı yötemi basitliği. Bütü bu özellileri ço atmalı ağlarda da olması içi hiçbir ede yotur. Yie de, atmaları arttırmaı verimsiz olacağı yoludai içte gele yargımızı açılama veya reddetme içi, ço atmalı versiyou öemli bir araştırma problemi olara itelediriyoruz. Beli de ço atmalı maie içi bir öğreme teoremii buluamamasıı edei güçlü bir yaısalı teoremii buluamayışıdır. Perceptrou bu başarısızlığıda sora yapay siir ağları üzeride yapıla çalışmalar heme heme durma otasıa gelmiştir. Çalışmalar sadece biraç bilim adamıı işisel gayreti ile so derece dağıı ve yavaş olara 198 li yıllara adar ilerledi. 198 li yıları başıda Hopfield adlı bir örobiyoloğu yayıladığı üç maale [7-9] ile yapay siir ağları üzeridei çalışmaları terar caladırdı da, Rumelhart, esas olara 1974 yılıda Werbos tarafıda bulua ço atmalı algılayıcı perceptro tipi ağlar içi geriye yayılma algoritması dee bir eğitim algoritması geliştirdi.[1] Bu çalışmayla yapay siir ağları alaıda bir çığır açtılar. Bugü e ço ullaıla algoritma da bu algoritmadır. Geriye yayılım yötemide öğreme ve öğremei hızlaabilmesi, eğitim ümesii ağa suulması gibi oular değişi çalışmalarda ele alımıştır.[18-1] M. Riedmiller, çeşitli öğreme yötemlerii arşılaştırılması üzerie bir çalışma yapmıştır.[11].. Biyoloi Siir Ağları Yüzyıllar boyuca isalığı e büyü amacı işlerii olaylaştıraca maieler yapma olmuştur. Bu büyü tutuu ardıdai yegae sebep isaı hoşlamadığı işleri başalarıa yaptırıp edie ve sevdiği işlere daha fazla vait ayırması olara ifade edilebilir. İsalığı emeleme döemleride aldıracı, teerleği bulumasıda beri bu böyle süre gelmiş ve bilim adamları bugü aıllı 6

17 maieler geliştirmele uğraşmatadırlar. Yapay siir sistemleri aıllı maielere bir öre teşil etmete olup daha aliteli bir yaşam içi büyü vaadiler sumatadır.[1] Bilidiği gibi isalar ve hayvalar öreği bir görütüü taımlamasıda e gelişmiş bilgisayarlarda bile daha iyidirler. Buu başlıca sebepleride bir taesi beyi sahibi ola varlılarda beyi geleesel sayısal bilgisayarlarda ço farlı bir şeilde çalışması olara ifade edilebilir. Bilgisayarlar ardarda bir ço işlemi hatasız ve ço hızlı bir şeilde gerçeleştirebilirler faat ses taıma veya görütü taıma gibi bazı özellilerii maddeler halide yazarsa ıyaslama yapmamız daha olay olur. Sayısal bilgisayarlar: 1. Seri çalışır.. Hızlı birimlerde oluşurişlem hızı saiyede milyo işlem mertebeside 3. Tam taımlı omut dizii programlı hesaplama geretirir. 4. Belli bir adımdai yalış hesaplama, soucu ço değiştirir. 5. Giriş verileridei bir hata zamala yayılır. 6. Alt birimlerdei bozulu tü sistemi devre dışı bıraabilir. Beyi: 1. Paralel çalışır.. Yavaş birimlerde oluşur.işlem hızı saiyede 1 işlem mertebeside. 3. Bilgi çevresie, adaptif olara işlemsel yeteelerii ayarlayara cevap verir. 4. Alt birimleri, yapıla aa işe atısı azdır. Bu edele bir adımdai yalış hesaplama souca fazla eti etmez. 5. Giriş verileridei gürültüye duyarsızdır. 6. Sistemi bir ısmıı ölmesi performası düşürür faat tüm sistemi devre dışı bıramaz. Yuarıdai maddelerde de görüldüğü gibi isa beyi yavaş birimlerde oluşmasıa rağme paralel çalışma ve bilgi çevresie adaptif bir şeilde cevap vermesi ile muazzam bir sistem oluşturmatadır. Ayrıca isa beyi üzeride yapıla araştırmalara göre beyide ortalama yüz milyar hücre buluduğu ve her hücrei 7

18 ortalama olara birbirleri ile o bi bağlatı yaptığı düşüülürse sistemi omplesliği daha da iyi alaşılır..3. Yapay Siir Ağlarıı Özellileri Yapay siir ağlarıı alışılagelmiş bilgi işleme yötemlerie göre üstülüleri şu şeilde sıralaabilir.[33,34] 1. Paralelli: Alışılagelmiş olduğu gibi işlem yötemlerii çoğu seri işlemlerde oluşmatadır. Bu da özellile hız problemlerie ede olur. Mesela, bilgisayarlar beye göre ço hızlı çalışmasıa rağme beyi toplam hızı bilgisayarlara göre ıyaslaamayaca adar yüsetir. Doğaları gereği siir ağları edilerii düzelerler başa bir deyişle her düğüm sistem içide diğer tüm işlemcilerde bağımsız olara edi girişleri üzeride çalışa bir işlemci olara görülebilir. Yai, ağ bir çözüme yaısare, tüm işlemciler meşguldür.. Gerçeleme Kolaylığı: Yapay siir ağları, arışı fosiyolar yerie basit işlemleri içerdiği içi gerçeleme olaydır. 3. Yerel Bilgi İşleme: Yapay siir ağlarıda her bir işlem birimi, çözülece problemi tümü ile ilgileme yerie, sadece problemi bir parçası ile ilgileir. Hücreleri ço basit işlemler yapmalarıa rağme, sağlaa görev paylaşımı sayeside ço armaşı ve zor problemler çözülebilmetedir. 4. Öğreebilirli: Alışılagelmiş veri işleme yötemlerii çoğu programlama ile hesaplamaya dayaır. Bu yötemler ile tam taımlı olmaya bir problem çözülemez. Ayrıca, herhagi bir problemi çözümü içi probleme yöeli algoritma geliştirme gereir. Yapay siir ağları ise problemleri, verile öreler ile çözer. Çözülece problemler içi yapı ayıdır. 5. Geelleme: Geleesel bilgisayarları bir arateristiği, isteile çıışı üretme içi, tam doğru girişlere ihtiyaç göstermeleridir. Öte yada siir ağları girişlerie değişimler olsa bile çıışı üretebilir. Öreği, basılı harfleri taıma içi eğitilmiş bir sistem, giriş araterleri %4 oraıda bozulsa bile doğru olara çalışabilir. Yai, sistem daha öcede tam o tipte hiçbir 8

19 şey görmemiş olmasıa rağme aye isaları tamam olmaya veya ısme hatalı girişlerle yaptığı gibi taıyabilmetedir. Çalışmalar, isaları çoğuu bir metidei harfleri yarısıda fazlası silimiş olsa bile o metii ouyabildilerii göstermiştir. Bilgisayarlar gürültülü girişlere atlaaca şeilde programlaabilirler aca getirile e hesapsal yü çoğu ez bu algoritmaları prati uygulamalarda ullaılmasıı egellemetedir. Siir ağları bu geellemeyi ayrıtılı programlamada ziyade, yapılarıda dolayı başarırlar. 6. Çıarım yapma: Yapay siir ağları tam olmaya bir eğitim ümeside tam doğruyu çıarabilir. Öreği; alfabeyi taıma içi eğitilmiş bir yapay siir ağıa farlı biçimde yazılmış harfler gösterildiğide harfleri taıyabilmetedir. Yai sistem edie hiç öğretilmemiş bir şeyleri hatırlamıştır. Diğer bir deyişle sistem eğitim ümesii özüü çıarmış ve salamıştır. Böylece esi girişlere uygu cevap verebilmetedir. 7. Hız: Yapay siir ağları giriş bilgileri ile isteile çıış bilgilerii ilişiledire eşledireasosyatif belleler olara görülebilirler. Girişe yei bilgiler suulduğuda, ilgili bilgiler çıışta üretilir. Siir ağlarıda çıışları üretme içi gereli zama, salaa ilişileri sayısıda bağımsızdır. Yai, arama ya arşı hiçbir şey düşmez. Gereli zama ağ ararlılığı ile ilgili ola bir süredir i bu da birço mimaride sabittir. O milyo ilişiyi salaya bir ağ, o bi ilişiyi salaya bir ağ adar hızlıdır..4. Siir Hücresi Yapısı Bugüe adar verilmiş tüm yapay siir ağları modellerii orta özellilerii içere bir taım aşağıda verilmiştir.[13]: I. Ağ, II-VIII de verile hücre deile yapı taşlarıı birbirlerie IX-XII de belirtile bir geometri ile bağlamasıda oluşa bir sistemdir. II. Hücreler, geelde ço girişli ve te çıışlı, yüse derecede lieer olmaya diami alt devrelerdir. III. Hücreleri yapısı şeil.1 de gösterildiği biçimdedir. 9

20 IV. Te ola çıış işareti, dışarıya çıış olara alıabilir veya diğer hücrelere giriş olaca şeilde ullaılabilir. V. Bir hücre, dış girişleri, omşu hücre çıışlarıı ve bir eşi değerii giriş olara abul eder. VI. Hücre çıışıdai lieer olmaya cebri fosiyo te giriş-te çıışlıdır ve özel olara lieer olabile herhagi bir fosiyodur. VII. Hücre parametreleri, hücrede hücreye değişebilir. VIII. Ağ, geelde ço boyutlu atmaları ileri veya geri beslemeli olaca şeilde bağlamasıda oluşur. IX. Ağdai her atma, hücreleri ço boyutlu bir dizidir. X. Katma içide, her bir hücre omşularıa belli bir metri uyarıca ayı şeilde bağlıdır. Böylece atma içi bağlatı geometrisi düzgüdür. XI. Katmalar arası bağlatı, bir metri ile taımlı düzgü bir geometriye sahiptir. XII. Ağda yalızca bağlatı ağırlıları değişebilir. XIII. Bağlatı ağırlıları, ya eğiticili bir öğreme uralı ile ya eğiticisiz bir öğreme uralı ile değişebilir ya da öcede belirlee değerlerde sabit tutulur. XIV. Eğiticili bir öğreme uralı eğer varsa; giriş-çıış öre çiftlerii alıdığı, bilimeye bir giriş fosiyoua bu öreler yardımı ile yalaşılmasıı sağlaya bir bağlatı ağırlı değişim uralıdır. XV. Eğiticisiz öğreme uralı eğer varsa; giriş örelerii ümeledirilmesii sağlaya bir bağlatı ağırlı değişim uralıdır. Şeil.1. de bir siir hücresii modeli görülmetedir. Bu model, yapay siir ağı dizayıda temel ola bir formdur. Aşağıda bu siir hücresii modelii temel elemaları açılamıştır. 1. Saps yada birleşme ağları: Bular ağırlı olara araterize edilebilir. Özelde, x girişii. öroa bağlaya ağırlı w diye adladırılır. Ağırlığı taımlaya il alt idis bağladığı örou, iici alt idis ise girişi iteledirmetedir. İsa beyide farlı olara yapay siirde ağırlığı değeri egatif değer de olabilir. 1

21 . Toplayıcı: Toplayıcı, girişlerle edilerii öroa bağlaya ağırlılarla çarpımlarıı toplaya bir elemadır. 3. Ativasyo fosiyou: Ativasyo fosiyou siir hücresii çıışıı sıırlar. Çıışı belli geli değeri içide tutulmasıı sağlar. Giriş siyalii sosuz değeride bir limit değere ulaşır. Buları dışıda özel olara b ile gösterile yalılıbias terimie sahiptir. Bias, pozitif veya egatif olmasıa bağlı olara, ativasyo fosiyou girişie gele toplam değeri azaltır veya azaltır. Şeil.1. Yapay siir ağı modeli vetör formuda Burada siir ağıa uygulaa giriş ümesi m X b x 1, x,.., x m, b şelide olup, olara ifade edilir. Her bir giriş siyali edisi ile ilgili ağırlı w 1, w,..., w, w ile çarpılır. Ağırlılar da vetörel biçimde bu iili çarpımları toplamı; W olara gösterile, T et X, W W X.1 Burada; W w w... 1 X x x... 1 w m x m b T w T b Ağırlılı toplam, yai et X, W değerii hesabıda sora, buu bir ativasyo fosiyou f. üzeride geçirilmesi ile örou çıışı üretilir. y T f W X yada m y f w x. i1 i 11

22 .5. Ativasyo Fosiyoları.5.1. Treshold Fosiyou Treshold fosiyou şeil. de görüldüğü gibidir. Bu fosiyo ; 1, et f et.3, et yada f et sig et.4 gibi gösterilebilir. Şeil.. Treshold fosiyou T Bu modelde, öro çıışı, et X, değeri pozitif ise 1 asi halde dır. Bu durum, McCulloch&Pitts modeli özellilerii gösterir. W.5.. Parçalı-Lieer Fosiyo Parçalı-lieer fosiyo aşağıda taımladığı gibidir. 1, et 1 f et et, 1 et et 1 Şeil.3 de bu fosiyou grafiği görülmetedir. 1

23 Şeil.3. Parçalı-Lieer Fosiyo.5.3. Sigmoid Fosiyo Sigmoid fosiyou, yapay siir ağlarıda yuarda alatıla fosiyolarda olduça farlıdır. Bu fosiyo lieer davraış ile olieer davraış arasıda ço güzel bir dege sağlar. Bu fosiyo ile olieer sistemleri davraışı daha iyi araterize edilebilir. Bu fosiyo aşağıdai gibi taımlaır. f et exp a et Burada a, sigmoid fosiyou eğim parametreleri olara adladırılır. Bu parametrei değişmesiyle şeil.4 de görüldüğü gibi farlı eğimlerde sigmoid fosiyo elde edilir. a parametresii sosuza gitmesi ile sigmoid fosiyou treshold fosiyou halie döüşür. Buula beraber sigmoid fosiyouda sıır değerler arasıda değişim görülüre, treshold fosiyouda değişme olmaz. Şeil.4. Sigmoid fosiyou 13

24 Sigmoid fosiyou yerie ullaıla diğer bir fosiyo ise taat hiperboli fosiyoudur. f et tah et.7 Yuarıda açılaa ativasyo fosiyoları 1 ile 1 aralığıda taımlıdır. Faat bazı durumlarda fosiyou 1 ile arasıda taımlaması isteebilir. Böyle bir durumda.5 dei fosiyolar aşağıdai gibi taımlaır. 1 1, et 1 1 f et et, et,8 1 et Sigmoid fosiyou 1 ile arasıda taımlama isteiyorsa 1 f et.9 1 exp a et şelide bir fosiyo ullaılır..6. Yapay Siir Ağı Modelleri So 5 yılda ço sayıda ağ modelleri geliştirilmiştir. Bu modellerde biyoloi siir sistemii presipleride ve mühedislite bilie teorilerde yararlaılmıştır. Geel olara yapay siir ağları, ii sııfa ayrılır: İleri beslemeli ağlar ya da cebri ağlar ve geri beslemeli ağlar ya da diami ağlar. İleri beslemeli ağlar, örütü taımapatter recogitio problemleride, geri beslemeli ağlar ise optimizasyo problemlerii çözümüde başarılı olara ullaılabilmetedir.[14] 14

25 .6.1. İleri Beslemeli Ağlar İleri beslemeli ağlar, işareti ağ girişide çıışıa doğru te yölü olara iletildiği ağlardır. Bir atmadai hücreler, aca bir öcei atmaı çıışlarıı giriş olara alabilir. İleri beslemeli ağlar edi içide iiye ayrılır Te Katmalı İleri Beslemeli Ağlar Geelde te bir hücre, istee giriş-çıış işlevii yerie getiremez. Buu içi bağlatı ağırlıları dışıda ayı özellilere sahip hücreler bir araya getirilere atmalar oluşturulur. E basit şeliyle, atmalı bir siir ağı giriş atmaı olara giriş siyallerii ağa uyguladığı atma düşüülebilir. Giriş atmaıdai siyaller ağırlılarla çıış atmaıa bağlamıştır. Böyle bir yapı, te atmalı yapay siir ağı olara isimledirilir. Bu yapıda bilgi işlemesi girişte çıışa doğrudur. Giriş atmaı, hesaplama yapılmadığı içi atma olara sayılmaz. M girişli ve N çıışlı te atmalı ileri beslemeli bir ağ şeil.5 de gösterilmiştir.[33] Şeil.5. Te atmalı ileri beslemeli ağ Ço Katmalı İleri Beslemeli Ağlar Bu tip siir ağları, bir yada daha fazla gizli atma buludurmaları ile ayırt edilebilirler. Gizli atma, giriş atmaı ile çıış atmaı arasıda ilişiyi oluşturur. Gizli atmaı elemesiyle, yapay siir ağıı yüse derecede matemati işlemler 15

26 Giriş atmaıı boyutu arttığıa, gizli atmaı yüse derecede matemati işlem yapma apasitesi daha bir öem taşımatadır. Şeil.6 de ço atmalı ileri yol ağlarıa bir öre görülmetedir. Buradai ağ yapısı, tam bağlı ileri besleme ağ yapısıdır. Bazı etworlerde her öro her örola bağlı olmayabilir. Böyle yapılara ise parçalı bağlı ağ yapıları deir. Şeil.6. Ço atmalı ileri beslemeli ağ.6.. Geri Beslemeli Yapay Siir Ağları Bu tür ağlarda e belirgi özelli çıış atmaıda elde edile siyali giriş atıa uygulamasıdır. Şeil.7. de bu yapıya bir öre görülmetedir. Bu şeilde gösterile yapıda öz geri besleme yotur. Öz geri besleme, her bir örou çıışıı edi girişlerie terar uygulamasıdır. Ayrıca bu yapı te atmalı bir siir ağıı geri beslemesidir. Ayrıca ço atmalı ağlarda da geri besleme uygulaabilir. Geri besleme dögüsü yapay siir ağıı performasıda ve öğreme abiliyetide ço büyü eti oluşturur. Geri beslemeli ağlarda birim zama gecime elemaı buluur. Buları özelliği olieer diami davraış sergilemeleridir. 16

27 Şeil.7. Te atmalı geri beslemeli yapay siir ağı.7. Yapay Siir Ağlarıda Öğreme Yapay siir ağlarıda öğreme işlemi, siir hücreleri arasıdai bağlatıyı sağlaya bağları ağırlılarıı belli bir urala göre değiştirilmesi işlemi ile sağlaır. Öğreme uralı, giriş işaretlerie ve trasfer fosiyou tarafıda sağlaa değerlere cevap olara yerel belletei ağırlıları hepsii veya bazılarıı değiştire bir delem olara biliir. Öğreme uralı giriş işaretlerii doğasıa bağlı olara, işleme elemaıı zamala değişmesie ima sağlar. Bu şeilde ağ edisii istee cevaplara uyarlayabilir ve edi içide bilgiyi düzeleyebilir, yai öğreebilir. Yapay siir ağları programlama yerie örelerle eğitilir. Çocuları aelerii taıma içi arşılaştırmalı fizyoloi haıda hiçbir şey bilmedileri gibi, programcılar siir ağıa taıtılaca cisimleri icel taımlarıı veya söz ousu cisimleri bezer cisimlerde ayırma içi loi riter ümeleri sağlama zoruda değillerdir. Buu yerie bir siir ağıa baze taımları ile beraber ae, masa veya dağlar cisim öreleri yüzler, eseler veya görütüler girilir. Yapay siir ağlarıa öğreme içi suulaca eğitim ümesi, girişlerde ve varsa çıışlarda oluşmatadır. Her adımda eğitim ümeside sırayla veya rastgele öreler alımata ve ağı bu 17

28 girişlere ilişi çıışı bulumatadır. Adım souda veya tüm öreler bir defa ağa uyguladıta sora çevrim souda belirli bir amaç ölçütü uyarıca ağı bağlatı ağırlıları değiştirilmetedir. Ağırlıları değiştirilmesiyle öğreme sağlamış olur. Öğreme, adım souda değiştiriliyorsa veri uyarlamalı, çevrim souda değiştiriliyorsa grup uyarlamalı öğreme olara adladırılır. Siir ağlar deetimli ve deetimsiz olma üzere ii şeilde eğitilmetedir: Deetimli öğremede, ağ a hem giriş hem de istee çıış bilgisihedef vetörü girilir. Her deemede sora ağ edi çıışıı doğru cevaplar ile arşılaştırır ve çıış hatası abul edilebilece seviyeye adar ağırlılarıı değiştirere iterasyo yapar. Şeil.8. Deetimli öğreme blo diyagramı Deetimsiz öğremede hiçbir hedef vetörü yotur. Giriş vetörü sisteme uygulaır. Sistem, bu giriş vetörü sisteme uyguladığıda uyumlu bir çıış muhtemele eğitimde öce tahmi edilemeye üretece şeilde edii değiştirebilir. Böyle sistemler sııflama problemleri içi ullaılmışlar ve özellile Kohoe ile Grossberg tarafıda geliştirilmişlerdir. Şeil.9. Deetimsiz öğreme blo diyagramı 18

29 Her ii eğitim türüde sora da ağ gerçe girişleri işleme içi hazırdır. Bu otada, yapılaca işi iteliğie bağlı olara bir operatör ağı edisii yei bilgiye uyarlamasıı durdurma ve işlemesii hızladırma içi öğreme uralıı devrede çıartıp ağırlıları dodurabilir. Öreği, eğer ağ yazılı bir meti sesli olara ouma içi yeteri adar eğitilmiş ise gerçe bilgi üzeride öğremesii devam ettirmeye gere yotur. Öte yada öreği ağ, yaıtı harcadıça ütlesi azala, yörügedei bir uzay aracıı hareetii otrol etmete ullaılacasa, ağ edisii değişe şartlara uyarlamaya devam ettirmelidir. Böyle sistemlerde, sadece deetimsiz öğremei ullaılması alamlı olmatadır. Belli başlı öğreme uralları aşağıda alatılmıştır Hebb Öğreme Kuralı Hebb öğreme uralıa göre öğreme siyali siir hücresii çıışıa eşittir. Bua göre; T r f w x.1 i olur. Bua arşılı ağırlı vetörüdei artış aşağıdai gibi tarif edilir. T w cf w x x.11 i i veya w cy x.1 i i Bu öğreme uralı başlagıçta sıfıra yaı değerler ile başlamayı geretirmetedir. Hebb uralı tam bir ileri beslemeli, eğiticisiz öğreme uralıdır..1 olu ifadeye diat edilece olursa şuu alayabiliriz. Eğer giriş ve çıışta oluşa çarpım pozitif ise o zama olur. w i ağırlığıda bir artma, egatif ise bir azalma 19

30 Şeil.1. Hebb öğreme uralıı şemati hali.7.. Perceptro Öğreme Kuralı Perceptro öğreme uralı içi öğreme siyali örou istee çıışı ile gerçe çıışı arasıdai far olara alıır. Böylece öğreme eğiticili öğreme sııfıa girer. Bu öğreme siyalii aşağıdai gibi ifade edebiliriz. r d i y i.13 T Burada yi sg w x, i edile hataya göre ağırlı uyarlamaları da aşağıdai gibidir. i i T i x d i de öroda istee çııştır. Bu uralda elde w c d sg w x.14 Şeil.11. Perceptro öğreme uralıı şemati hali

31 .14 olu ifadede görüldüğü üzere bu ural sadece bipolar iili çıış vere örolara uygulaabilir. Bu ağırlı uyarlaması sadece y i yalış olduğu zama yapılır. Eğitime rastgele başlagıç şartları ile başlayabiliriz. Perceptro öğreme uralı eğiticili öğreme ile eğitile yapay siir ağlarıda ço öemli bir yere sahiptir Widrow-Hoff Öğreme Kuralı Widrow-Hoff öğreme uralı da eğiticili öğreme tabalı bir uraldır. Bu ural ativasvo uralıı doğasıda bağımsızdır. Çüü örou istee çıışı ile gerçe çıışı arasıdai hatayı miimize etmeye çalışır. Bu ural içi öğreme siyali aşağıdai gibi verilmiştir. T r d w x.15 i i Bua arşılı ağırlı uyarlaması da aşağıdai şele gelir. w c d w x x.16 i i T i Widrow-Hoff öğreme uralı Delta öğreme uralıı özel bir durumu olara abul edilir Delta Öğreme Kuralı Delta öğreme uralı sadece süreli ativasyo fosiyoları ve eğiticili öğreme durumlarıda geçerlidir. Delta diye adladırıla öğreme siyali aşağıdai gibidir. T T d f w x f w x r.17 i i i T Yuarıdai ifadede f w x, ativasyo fosiyou f et i türevidir. i Bu ural istee çıış ile gerçe çıış arasıdai hataı aresii miimizasyou 1

32 şartıda çıartılabilir. So olara Delta öğreme uralıda ağırlı uyarlamaları aşağıdai ifadeye göre yapılmatadır. w d y f et x.18 i i i i Burada öğreme sabiti olup ile 1 arasıda bir değerde olur. Şeil.1. Delta öğreme uralı şemati gösterimi.8. Geriye-Yayılım Bac-Propagatio Algoritması Çıış atmaıdai. örou hata siyali.19 dai gibi taımlamıştır. e d y.19 Burada, iterasyou eğitim öreğide olduğuu gösterir.. öroa ait 1 toplam aresel hata, e ifadesii tüm eğitim ümesi içi toplamasıyla elde edilir. Çıış atmaıdai tüm öroları toplam aresel hatası ise şöyle gösterilir. 1 E e. C

33 Burada C, çıış atmaıdai öroları hepsii içermetedir. E, toplam aresel hata, siir ağıdai bütü serbest parametreleri ağırlılar ve bias seviyesi bir fosiyoudur. Öğreme işlemii amacı, bu serbest parametreleri değerlerii aresel toplam hataı, E değiştirmetir., değerii miimum yapaca şeilde Şeil.13. Çıış atmaıdai. örou detaylı olara göstere siyal aış grafiği Şeil.13. de gösterile et çıış atmaıdai. örou ativasyo fosiyouu girişidir. Aşağıdai gibi ifade edilir. m et w y.1 i i i Burada, m,. örou toplam giriş sayısıı bias değeri dahil göstermetedir. w b ağırlığı girişi değeri y 1 b. öroa uygulaa bias değerie eşittir. Bua göre. iterasyodai gösterildiği gibi olur.. örou çıış değeri aşağıda y f et. Ağırlıları hagi yöde değişeceğie arar verebilme içi E w i ağırlılarıa göre egatif gradyatıı E buluması gereir. Daha i 3

34 sora ağırlılar toplam aresel hatayı azaltaca şeilde ayarlaır. Zicir uralıa göre E gradyatıı gösterimi aşağıdai gibidir. E E e y et E.3 w e y et w i i. olu eşitliği her ii tarafıı e ye göre türevii alırsa; E e e.4 ifadesii elde ederiz..19 olu eşitliği her ii tarafıı y ye göre türevii alırsa; e y 1.5 türevii alırsa; ifadesii elde ederiz..1 olu eşitliği her ii tarafıı et ye göre y et f et.6 ifadesii elde ederiz. So olara,. olu eşitliği her ii tarafıı w i ye göre türevii alırsa; et w i y i.7 ifadesii elde ederiz..3 olu eşitliği içide.4,.5,.6,.7, olu ifadeleri ullaaca olursa aşağıdai eşitli oluşur. 4

35 E E e f et yi.8 w i Delta uralıa göre ağırlı uyarlaması aşağıdai gibi yapılır. E w i.9 w i Burada, geriye yayılım algoritmasıı öğreme sabitidir..9 olu eşitlite ullaıla esi işaretii sebebi ağırlı değişimii E yöde olması istediği içidir..8 ve.9 olu ifadeleri ullaara yi azaltaca w y.3 i i eşitliğii elde ederiz. Burada loal gradyat olara taımlaır ve aşağıdai gibi ifade edilir. E et E e y.31 e y et e f et Şeil.14. Çıış öroua gizli öro elemiş halde siyal aış diyagramı 5

36 Loal gradyat ağırlıları değişim mitarıı gösterir..31 olu ifadeye göre. çıış örouu loal gradyat,, bu örou hata siyalii, e yie bu örou ativasyo fosiyouu türevi, f et, ile çarpılması ile elde edilir., Eğer gizli atmadai bir örou loal gradyatıı hesaplama istiyorsa şeil.14. de gösterildiği gibi bir durum ortaya çıar. Bu durumda örou çıışıda elde edilmesi istee belli bir değer yotur. Gizli atmadai bir örou hata siyalii elde edebilme içi bu örou çıışıa bağlı tüm öroları hata siyallerii hesaplama gerelidir. Bu durum da geriye yayılım algoritmasıı daha armaşı hale getirmetedir..31 olu ifadeyi terar gizli atmadai bir öro içi düzelerse ; E y y et E f et.3 y ifadesii elde ederiz. Burada E y ısmi türevii hesaplama içi aşağıdai işlemler yapılmalıdır. Şeil.14. de görüldüğü üzere çıış atmaıdai örou aresel toplam hatası aşağıdai gibi hesaplaır.. 1 E e.33 C burada ullaıla idisi. olu ifadede ullaıla idisii yerie ullaılmıştır. Çıış atmaıı ifade eder..33 olu ifadei y türevii alırsa aşağıdai eşitliği elde ederiz. ye göre E y e e.34 y 6

37 7 Sora y e ısmi türevii hesaplama içi.34 olu eşitlite zicir uralı uygulaır. y et et e e y E.35 Ayrıca, şeil.14 de görüleceği üzere y d e et f d.36 Burada. öro çıış atmaıa aittir. Böylece aşağıdai ifade elde edilir. et f et e.37 Yie şeil.14. de görüleceği üzere; m y w et.38 Burada m,. öroa uygulaa toplam giriş sayısıdır..38 olu ifadei y ye göre türevii alırsa; w y et.39 ifadesii elde ederiz..37 ve.39 olu ifadeleri.35 olu eşitliği içide ullaara isteile ısmi türev elde edilmiş olur. w et f e y E

38 w.4 Burada idisi yerie idisii ullaılmış olmasıdır.,.31 olu ifadede taımlaa loal gradyattır. Te far So olara,.3 ve.4 olu ifadelerde, gizli atmadai loal gradyatıı geriye yayılım formülü elde edilir.. örou f et w.41 göstermetedir. Şeil.15.,.41 ifadesii siyal aış diyagramıda ifadesii w i, Yuarıda alatıla geriye yayılım algoritmasıı toparlama gereirse; i. örou. uralıı taımıa göre öroa bağlaya ağırlığı değişimi olma üzere delta w y i.4 i ifadesii elde ederiz. Burada y i,. örou giriş siyalidir. Şeil.15. Hata siyalii geriye yayılımıı göstere siyal aış diyagramı 8

39 3. KALMAN FİLTRESİ 3.1. GİRİŞ GPS teiği ile oumları belirleebilmesi, yei uygulama alalarıı açılmasıı sağladığı gibi, lasi yötemlerle çözüm buluabile bir ço uygulama içi de yei yötemleri arayışıı hızladırmıştır. Güümüzde, lasi ölçme ve değerledirme aşamaları yerii bilgisayar desteli ve aıda çözümler üretebile sistemlere bıramıştır. GPS teiği ile biraç satimetre doğruluğuda alı oumları belirleebilmesi, diami sistemleri hızlı bir şeilde izleebilmesi olaağıı da sağlamıştır. Sistem ve otrol mühedislerii bu gibi olaaları ullaara birço ölçme ve otrol sistemlerii oluşturmaları, lasi değerledirme ve estirim algoritmalarıı yerie, optimal estirim ilesii oruya ve bilgisayarlarda daha hızlı çalışara aıda souçlar üretebile algoritmaları arayışıa girilmesie ede olmuştur. Bu algoritmaları başıda Kalma Filtresi gelir. Kalma Filtreside öce, estirim teorileride bazı öemli gelişmeler olmuştur. R. A. Fishher, e büyü olasılılı estirim maximum lielihood estimatio firii geliştirdi. Daha sora 1941 de Kolmogorov, 194 de Nobert Wieer, birbirleride bağımsız olara bir filtre modeli oluşturdular.[16] Bu filtre literatürde Wieer Filtresi yada Wieer-Kolmogorov Filtresi olara da aılır. Aca 9

40 Gauss u yalaşımı ile Wieer ve Kolmogorv u yalaşımı arasıda bazı farlılılar vardır. Bu filtre gerçete estirim problemlerii e üçü areler yötemie göre çözmemeteydi. Bua rağme Wieer Filtresi de Kalma Filtresii matematisel alt yapısıı oluştura öemli gelişmelerde biridir de Joh Hopis Üiversitesi de J. W. Folli, diami sistemler içi terarlı bir yalaşım modeli geliştirdi. R. E. Kalma la birlite Richard Bucy i çalışmalarıı gelişmesii sağlamıştır. [16] R. E. Kalma, geliştirdiği yei bir lieer filtre modelii 196 yılıda yayılamıştır. [17] Söz ousu bu model literatürde Kalma Filtresi olara aılır. Şeil 3.1. de Kalma Fitresii matematisel yapı taşları gösterilmetedir. Kalma Filtresi Wieer Filtresi E üçü Kareler Yötemi Stoasti Sistemler Olasılı Teorisi Diami Sistemler Şeil 3.1. Kalma Filtresii Matematisel Temeli Kalma Filtresi 196 yılıda ortaya atıldıta sora eletri mühedisleri ve istatiçiler tarafıda geliştirilmiş ve mühedisli uygulamalarıı bir çoğuda ullaılmaya başlamıştır. Kalma Filtresi geel olara bütü diami sistemleri durum değişelerii estirimide ullaılabilir. Diami sisteme ilişi parametreler ve birbirleri ile ilişileri, filtrei diami modelide doğru bir şeilde tamılaabildiği ve ölçülerle bağı da uygu bir şeilde urulabildiği sürece, bütü diami sistemleri durum değişelerii estirimi Kalma Filtresii ousu olabilirler. Yötemi alı real-time çalışmalarda ullaılabilmesi, diğer bir ço yöteme göre avata sağlamış ve uygulama alalarıı da geişlemesie ede olmuştur. GPS teiği ile alı oum belirleebilmesi ve Kalma Filtresii de ölçümlerdei bozutuları izole etmesi bu iisii deiz, ara ve hava taşıtlarıı alı olara izlemesi uygulamalarıda birlite ullaılmasıı sağlaıştır. [18] Kalma Filtresi, imyada fiziğe, eodozide sistem mühedisliği uygulamalarıa adar yüzlerce uygulamada ullaılmıştır. 3

41 Yapay siir ağlarıı gelişmesi ile birlite Kalma Filtresi bu alada da uygulama alaı bulmuştur. Bizzat yapay siir ağıı eğitim algoritmasıda ullaıldığı gibi[19][] sistem taımlamada da[1] ullaılmıştır. Ayrıca otrol sistemleride [][3], hedef izleme alaıda [4] ve daha pe ço alada beraber uygulamışlardır. 3.. Bir Diami Model Kestirimide Optimalli Kalma Filtresi sistem hatalarıı istatisel özelliliğii, sistem diamiği ile birleştirir. Sistem durumuu estirimi içi, Kalma Filtreside sistem diamiğii durum uzayı delemleri ullaılır Durum vetörleri, miimum hata varyasıı üretece optimize edilmiş Kalma azacı ile hesaplaır. Bu edele Kalma Fitresi, optimal filtre diye de adladırılır. Lieer sistemler içi Kalma Filtresi e iyi estirimi sağlayaca bir yapıya sahiptir. Bir estirimi optimal olup olmadığı, estirim souçlarıı gerçe abul edilebilece değerlere yaılığıa göre değerledirilir. Faat pratite, gerçe değerler bilimediği içi estirim souçlarıı gerçe değerlere yaılığıda bahsedilemez. Bu edele bir estirimi optimal olup olmadığı, e üçü areler yötemie göre belirleir. Diğer bir deyişle, estirim soucu bulua düzeltmeleri areleri toplamıı e üçü olması şartı, optimalli riteri olara düşüülür. Bir diami model estirimide bu riteri sağlaması içi te boyutlu bir estirim problemii düşüelim. Başa bir deyişle durum vetörü sadece bir bilimeyede oluşsu. Herhagi bir t aıda bu bilimeye x t i, ölçme modelide bulua estirimi olsu. Bua göre; m x t ve diami modelde bulua öcül estirim x t m x x x x miimum 3.1 t t t t 31

42 ifadesi miimum şartı sağlıyorsa; estirim soucu bulua xˆt ye, x t i e üçü areler estirimi yada optimal estirimi deir. m x t ve x t i farlı ağırlılara sahip olması durumuda e üçü areler oşulu aşağıdai gibi olur. m m x x P x x P miimum 3. t t w t t Gerçete durum vetörleri ço boyutlu olurlar. Bu durumda, ölçmelere gele düzeltmeler V vetörü ile ve diami modelde bulua öcül estirimlere gele düzeltmeler w fosiyou miimum olmasıyla taımlaır. vetörü ile gösterilirse, optimal estirim aşağıdai T T V P V w P w 3.3 m w Burada P m, ölçme modelii ağırlı matrisi, P w, diami modeli ağırlı matrisidir. Souç olara, e üçü areler estirimi, optimal olara düşüülür ve aşağıdai özellileri oluşmasıı sağlar. 1. Kestirimler matemati beletiyeexpected value sadıtır.. Kestirimler e üçü varyasa sahiptirler. 3. Eğer hatalar ormal dağılımda ise estirimler, estirimler e olasılılı değerlerdir. [5] Kalma Filtresi de bir diami sistemi estirimii optimal estirim yötemi ile tamılar. Gerçete filtre soucu bulua değerler, e üçü areler estirimiyle özdeştir Kalma Filtresi e Giriş Kalma Filtresi i daha iyi alayabilme içi şöyle bir örele başlayabiliriz. Bizim elimizde bir ölçü aleti olsu. Bu ölçü aleti ile t 1 aıda bir ölçme yaptığımızda ölçü aletide oua değer m 1 olara ousu. Aca aletsel, 3

43 gere işisel gerese dış ortamlarda dolayı ayalaa hatalarda dolayı m 1 ölçmesii m1 gibidir stadart sapmaya sahip olması açıılmazdır. Böylece t 1 aıda x 1 değerii m 1 ölçme şartıa bağlı olasılığı tahmi edilebilir. x değerii ormal Gauss bozutu dağılımlı şartlı olasılı fosiyou şeil 3. dei gibidir. Şeil 3.. m 1 ölçme şartıa bağlı şartlı yoğulu fosiyou Ölçümü m1 i değerii büyülüğü, bize bozutuu bu ölçüm içidei mitarıı gösterir. m1 değerii büyü olması olasılılı değeri x değeri boyuca geiş bir alaa yayılmasıa ede olacatır. Başa bir deyişle bu ölçü aletii, ölçüm alitesii iyi olmadığıı gösterir. Souç olara t 1 aı içi e iyi estirim; xˆ m ve bu estirimi varyası; m1 şelide hesaplaabilir. Bu arada t aıda m stadart sapmasıa sahip bir ölçüm aleti ile m ölçmesi yapılmış olsu. İici ölçüm aletii stadart sapması ilide üçü olduğu düşüülsü. Bu durumda m şartıa bağlı ilie göre daha dar bir olasılı eğrisi oluşturacatır. Bu durum şeil 3.3. de görülmetedir. Yapıla iici ölçme biriciside daha doğru olduğu içi siyali büyülüğüü estirimi olara m değeri abul edilebilir. Faat her ii ölçmeyi de ullaara m 1 ve m ölçmelerie bağlı olara yei bir estirimde buluabilir. m 1 ve m ölçmelerie bağlı olara yei estirimi matemati beletisi 33

44 m m1 x m1 m m1 m m1 m m 1 m şelide hesaplaır. Şeil 3.3. m ölçme şartıa bağlı şartlı yoğulu fosiyou Yei estirimi stadart sapması hem m1 de hem de m de üçü olacatır ve bu yei estirimi her ii ölçmede de daha doğru olacağı esidir. Bua göre yei estirim; ˆx 3.7 olacatır ve bu estirimi varyası da dir. Bu durumu şeil 3.4. de görebiliriz. 3.6 ve 3.7 ifadelerii ullaara aşağıdai ifadeyi yazabiliriz. xˆ m m1 m m 1 m1 m1 m m m m1 1 m m1 m1 m

45 Şeil 3.4. m 1 ve m ölçme şartıa bağlı şartlı yoğulu fosiyou 3.6 ve 3.7 ifadelerii ullaara aşağıdai ifadeyi yazabiliriz. xˆ m m1 m m 1 m1 m1 m m m m1 1 m m1 m1 m 3.8 yazılabilir. xˆ m olduğu düşüülürse Kala Filtresii temel formu aşağıdai gibi 1 1 xˆ ˆ x1 K ˆ m x1 K m1 m1 m 3.9 Burada K Kalma filtresi azacıdır. Böylece bir estirim problemi çözülebilir. Bu işlemleri bir blo diyagram halide gösterece olursa şeil 3.5 dei temel filtre yapısıı elde ederiz. [5] Gerçe uygulamalarda durum vetörleri diami olara değişe ve daha fazla değişelere sahiptir. Öreği, bir uçağı durum vetörleri olara üç yödei 35

46 hız ve pozisyoları olabilir. Ayrıca, sistem durum modeli gerçe gürültü ve sistem bozutuları içere model hatası içermetedir. Gecitirme Bloğu t xˆ 1 K t t xˆ K t t t xˆ xˆ m y t K y t xˆ t x ˆ t xˆ t K t y t xˆ t Optimal estirim xˆ t Gecitirme Bloğu x ˆ t Şeil 3.5. Temel Kalma Filtresi 3.4. Kalma Filtresii Matemati Modeli Kalma Filtresi üç temel aşamada oluşur. t<ti oşuluyla bir diami sistemi ti aıdai durum değişelerii, sistemi öcei özellileride faydalaara hesaplamasıa öcül estirim predictio, extrapolasyo aşaması deir. Eğer herhagi bir t aıda diami bir sistemi ti aıdai durum değişeleri t = ti oşulu ile ti aıdai ölçülerde ullaılara hesaplaıyorsa, bu aşamaya filtre aşaması update deir. Eğer herhagi bir t aıda diami bir sistemi ti aıdai durum değişeleri t>ti oşuluyla, ti aıa adar i ölçülerle birlite hesaplaıyorsa bu aşamaya da yumuşatma aşaması deir. [17] Alı uygulamalarda filtre il ii aşama ile sıırlı alma zorudadır. Çüü yumuşatma aşaması yalızca bütü 36

47 ölçümler soa erdite sora uygulaabilir ve alı ölçümlerde böyle bir şas yotur. Kalma Filtre delemi ii ısımda oluşmatadır. Bular sırayla diami model ve ölçme modeli ; x x Bu w z Hx v 3.11 Burada x durum vetörüü gözlem matrisidir. ayrı zamadai sistemi durum vetörüdür. w ve v z, sistem ve ölçüm bozutularıı göstermetedir. Ölçüm bozutuları birbiride bağımsız ve gauss dağılımıa uygu rastgele değişelerdir. m, p w N, Q p v, R 3.1 Burada, Q, sistem gürültü ovaryas matrisi, R, ölçüm gürültü ovaryas matrisidir. Bu değerler gerçete her ölçümde değişmetedir. Aca hesaplarda olaylı olması sebebiyle buları sabit olara almatayız. A matrisi boyutuda olup -1 adımdai durumu adımıa bağlaya geçiş matrisidir. B matrisi l boyutuda otrol matrisidir. u l otrol vetörüdür. Kotrol vetörüü her sistemde olması gereli değildir. Ölçülece sistemi yapısıa göre ullaılıp ullaılmayacağıa arar verilir. H, sistemi boyutlu gözlem matrisidir. m xˆ xˆ, K. adımdai öcül estirim estrapolasyo olara tamılayalım.,. adımdai ölçüm değerii, z, ullaara elde edile filtrelemiş durum vetörüdür. 3.9 delemii terar yazarsa aşağıdai delemi elde ederiz. 37

48 x ˆ xˆ K z Hxˆ 3.13 z Hxˆ, ioasyo süreç olara tamılaır ve z~ olara da gösterilir. İovasyo süreç tahmi edile ölçüm, Hˆ x, ile gerçe ölçüm, z, arasıdai farlılığı derecesii gösterir. Eğer iovasyo süreç sıfır ise tahmi edile değer ile gerçe ölçüm değeri birbirleri ile tamame ayıdır. optimal filtrei matris azaç atsayısıdır. m boyutudai K atsayısı, K P H T HP H T R 1 HP P H H T T R 3.14 Burada, ölçüm hata ovaryası, R artmatadır. R, sıfıra yalaştıça K değeri de estirim hata ovaryası,,azaldıça 1 H P, sıfıra yalaştıça K K Kalma azacı e yalaşır. Diğer tarafta öcül azacıda sıfıra yalaşacatır. Başa bir deyişle ölçüm hata ovaryası, R, sıfıra yalaştıça gerçe ölçüm değeri z ıda güveilirliği artar, tahmi edile ölçüm değerii güveilirliği azalır. Asi durumda öcül estirim hata ovaryası, z P, sıfıra yalaştıça gerçe ölçüm değeri ıda güveilirliği azalır, tahmi edile ölçüm değerii güveilirliği artar. Öcül estirim hata ovaryası, P, aşağıdai gibi taımlaır. P T AP 1 A Q 3.15 Kalma Filtresi yapısıı ii gruba ayırabiliriz. Biricisi adımı ilerletilmesi time update, iicisi ölçümü düzeltilmesi measuremet update olara isimledirilebilir. Adımı ilerletilmeside, bir sorai adım içi öcül estirimi elde edilmeside ullaıla durum ve hata ovaryas estirimlerii bir adım soraya taşıması sağlaır. Ölçümü düzeltilmesi ise yei ölçüm değeri ile öcül estirim değeri ullaılara filtrelemiş durum vetörü elde edilir. Olaya şu açıda da baılabiliriz. Adım ilerletme, ölçümle ilgili ögörmede buluure, ölçümü 38

49 düzeltilmesi, yapıla bu ögörmeyi düzeltmetedir ve gerçe ölçüme yalaştırmatadır. O zama Kalma Filtresii aşağıdai şeildei gibi gösterebiliriz. Adımı İlerletilmesi Ögörme Ölçmei düzeltilmesi Düzeltme Şeil 3.6. Ayrı Kalma Filtre çevrimi. Kalma Filtresii çalışması şu şeilde olmatadır. Sistem çalışmaya başlamada öce ölçüm hata ovaryası, R, ve sistem hata ovaryası, Q, belli olmalıdır. Sistem çalışmaya başladığıda il öce t aı içi başlagıç değerleri ataır ya da il ölçülerde hesaplaır. Daha sora bu başlagıç değerlere göre t1 aı içi durum vetörüü ve il öcül estirimi yapılır ve ölçül estirimi hata ovaryası hesaplaır. t1 aı geldiğide öcül estirimi hata ovaryasıda Kalma azacı elde edilir. t1 aıdai ölçme ullaılara Kalma azacı ve öcül estirimle birlite filtrelemiş durum vetörü elde edilir. Sistem ardışı olara ölçmeleri soa erdiği. adıma adar bu şeilde çalışmaya devam eder. Şeil 7. de Kalma Filtresii çalışmasıı göstere diyagram görülmetedir. [6] Kalma filtresii öemli özellileri aşağıda verilmiştir: 1- Diami sistemi matemati modeli tamame belli olduğuda, filtre bilgisayarda olay olara gerçeleştirilir - Filtrei yardımı ile bulumuş değer ölçüme göre lieerdir 3- Filtreleme hatasıı orelasyo matrisi P filtreii lieer olması edeiyle z ölçümüe bağlı değildir ve öcede hesaplaabilir 4- Filtreleme algoritmaları ço boyutlu durum içi olay olara uygulaabilir 5- Durgu diami sistemler içi ararlı durumda Kalma filtresi Vier filtresi ile de düşer.[7] 39