Makine Öğrenmesi 6. hafta

Transkript

1 Makne Öğrenmes 6. hafta Yapay Snr Ağlarına Grş Tek katmanlı YSA lar Algılayıcı (Perceptron) Aalne (Aaptve Lnear Elemen Byolojk Snr Hücres Byolojk snrler ört ana bölümen oluşmaktaır. Bunlar: Denrt, Akson, Çekrek, Bağlantılar.

2 Byolojk Snr Hücres Denrt: Bağlı oluğu yerleren gelen şaretler çekreğe letr. Çekrek: Denrtten gelen şaretler br araya toplar ve aksona letr. Akson: Toplanan bu şaretler şleyerek nöronun ğer ucuna bulunan bağlantılara gönerlr. Bağlantılar: Üretlen bu şaret ğer nöronlara letr. 3 Yapay Snr Hücres net f(ne y n n b net b+ M y f(ne 4

3 Tek Katmanlı Yapay Snr Ağı Tek katmanlı ler beslemel ağlar her br bell ağırlıklarla tüm grşlere bağlı olan br veya aha fazla çıkış nöronuna sahptr. Şekle gösterlğ gb en bast ağ, k grş ve br çıkıştan oluşur. Nöronun grş, grş eğşkenlernn ağırlıklı toplamına sapma (b) eğernn eklenmesyle hesaplanır. Ağın çıkışı, hesaplanan toplamın br f fonksyonu olan çıkış nöronunun aktvasyonuyla aşağıak gb hesaplanır. M M b + y y f + b 5 Aktvasyon Fonksyonu Tek katmanlı ağlara f aktvasyon fonksyonu oğrusalır. Byolojk hücrelerek gb hesaplanan toplam eğern belrl br eşk eğernen büyük olması urumuna çıkış aktve elr. Dğer urumlara çıkış pasftr. Bu k eğer bazı çalışmalara 0 ve ken bazılarına - ve eğerlern alır. net> 0 f( ne 0 6 3

4 Öğrenme Kuralı İk öğrenme kuralını konuşacağız: 958 e Rosenblatt tarafınan önerlen Algılayıcı (perceptron) kuralı ve 960 a Wro ve Hoff un önerğ Aalne (Delta veya LMS kuralı). Her k yöntem e brbrne çok benzer. Her ağırlık çn esk eğere br üzeltme eklenerek yen br eğer hesaplanır. ( t+ ) ( + (, 7 Genel Algortma Hem algılayıcı hem e aalne çn algortma aımları şöyler:. Bağlantılar çn rasgele ağırlıklarla başla.. Eğtm kümesnen br örnek seç ( örneğn grş ve örneğn sınıfı). 3. Çıkışı (y) hesapla. Eğer y se, tüm bağlantı ağırlıklarını öğrenme kuralının buluğu eğerne göre eğştr. 4.. aıma gt. 8 4

5 Algılayıcı (Perceptron)... M Aktvasyon fonksyonu çn br eşk (θ) eğer kullanılır. Hesaplanan net eğer θ eğernen büyükse çıkış aktve elr. net> θ f( ne 0 net y f(ne M b θ 9 Algılayıcı (Perceptron) Ağın buluğu çıkış eğer gerçek eğere uymuyorsa (mutlak hata se) ( eğerler aşağıak gb hesaplanır. e( ( y( ( ηe( ( b( ηe( {,0,} buraa η öğrenme katsayısı eğer özenle seçlmş br sabttr. 0 5

6 Örnek X ve D versne göre algılayıcı eğtm sonucu ağırlıkları bulalım. X 0 0 D 0 Varsayımsal başlangıç eğerler şöyle olsun. b0 θ η 0.5 Örnek İk boyutlu ver kümemze örnek mevcuttur. Buna göre sırayla ler beslemeler hesaplayalım. net b+, 0+ *+ 0* y f() +, e 0 İlk ver örneğ oğru sonuç ürett. Ağırlıklar güncellenmez. [ 0] [ 0 ] 0 b 0 θ η 0.5 6

7 Örnek İknc örneğmzn sonucunu hesaplayalım. net y b+, +, 0+ 0*+ * f() e Yanlış sonuç ürettğ çn ağırlıklar güncellenr. b *0 0.5*.5 [ 0] [ 0 ] 0.5 b 0.5 θ η MATLAB Uygulaması >et Perceptron_ornek.m Hazırlanmış olan farklı atasetler yüklenerek Perceptron algortması eney yapılmaktaır. Matlab komutları le Perceptron benzetm ncelenmel ve bazı eğşklkler yapılarak kolar relenmelr. 4 7

8 Aalne (Aaptve Lnear Elemen Eşk eğer, aktvasyon fonksyonuna gren toplama eklenr. Hesaplanan net eğer sıfıran büyükse çıkış aktve elr. net> 0 f( ne 0... M M b net f(ne y 5 Aalne (Aaptve Lnear Elemen Wro ve Hoff tarafınan gelştrlen en küçük ortalama kare (LMS) yöntemyle eğm azaltmayı heefleyen öğrenme algortmasıır. Karesel hatalar toplamının mnmum olmasına ayanır. Ağırlıkları güncellemek çn aşağıak temel enklem kullanılır: ( t+ ) ( η ( { }) buraa Ee ( faes eğm vektörüür. [ ( E{ e ()})] t 6 8

9 Aalne (Aaptve Lnear Elemen Eğm vektörünün hesaplanması çn aşağıak enklem kullanılablr: ( E{ e ( }) ( e( Bu açılım öncek enkleme yerne konulursa ağırlık güncelleme enklem şu şekl alır: ( t+ ) ( + η( e( 7 Aalne (Aaptve Lnear Elemen Bulunan ağırlık güncelleme enklem aslına algılayıcı le aynıır. Tek fark algılayıcıa hata hesaplanırken aktvasyon fonksyonun çıkışı le stenen heef farkı alınırken aalne çn aktvasyon fonksyonunun grş olan net eğer le stenen heef farkı hesaplanır. e e perceptron aalne ( ( ( ( f ( + b) + b 8 9

10 Örnek Öncek örneğmzn. terasyonunu Aalne çn tekrarlayalım. net y 0+ 0*+ * e 0 İknc ver örneğ yanlış sonuç ürett. Ağırlıklar güncellenmelr. b 0 *0.5 *0.5*0 *0.5* [ 0] [ 0 ] 0 b θ η MATLAB Uygulaması >et Aalne_ornek.m Hazırlanmış olan farklı atasetler yüklenerek Aalne algortması eney yapılmaktaır. Matlab komutları le Aalne benzetm ncelenmel ve bazı eğşklkler yapılarak kolar relenmelr. 0 0

11 ÖDEV Algılayıcı ve Aalne çn hazırlanmış MATLAB koları le üç farklı çapraz geçerlk yöntem kullanılarak öncek erslere verlen sentetk ver kümeler analz elecek.