Makine Öğrenmesi 4. hafta

Transkript

1 ain Öğrnmsi 4. hafta Olasılı v Koşullu Olasılı ays Tormi Naïv ays Sınıflayıcı Olasılı Olasılı ifadsinin birço ullanım şli vardır. Rasgl bir A olayının hrhangi bir olaydan bağımsız olara grçlşm ihtimalini ifad tm için notasyonu ullanılır. A olayının olasılığı olara bilinn bu ifad önsl (prior), oşulsuz (unconditional) vya marjinal (marginal) olasılı isimlriyl ullanılabilir. 2

2 Örn ir para atma olayının ii z trarlanması durumunda ardarda ii dfa da tura glm ihtimalini bulalım. A Koşullu Olasılı Rasgl bir A olayının, farlı bir rasgl olayına bağlı grçlşmsi ihtimalini ifad tm için önsl olasılılar ytrli olmaz. u yüzdn oşullu (conditional) vya sonsal (postrior) olasılı olara isimlndiriln A notasyonu ullanılır. ilinn bir olayına gör A olayının oşullu olasılığışöyl göstrilir. A A 4 2

3 Koşullu Olasılı A c A A A A 5 Örn Elimizd bulunan ii avanozdan birincisind 3 mavi v 4 sarı, iincisind 5 mavi 2 sarı top olsun. u durumda rasgl sçiln bir avanozdan mavi top çm olasılığı ndir? A: irinci avanozu sçm durumu : İinci avanozu sçm durumu C: avi top sçm durumu 3 5 C) C + C

4 ays Tormi irbirindn bağımsız v rasgl ii olayın (A v birbiri ardı sıra grçlştiği durumlarda bu ii olaydan birinin grçlşmsi durumunda iinci olayın grçlşm olasılığı A, vya, yada A ifadsi il göstrilbilir. Dğişm özlliği saysind aşağıdai çarpım uralı ii farlı ifad il yazılabilir. A A A 7 ays Tormi ays tormi (uralı vya anunu) stoasti (rassal) bir sürc bağlı olara ortaya çıan rasgl bir A olayı il diğr bir rasgl olayı için oşullu olasılılar v marjinal olasılılar arasındai ilişiyi tanımlar. u ilişiyi il z Thomas ays (702-76) ortaya atmış v aşağıdai şitliği önrmiştir. P ( A 8 4

5 Örn İi sınıflı (ansr v ansr dğil) bir tıbbi tşhis problmini l alalım. Tüm popülasyonun %0.8 nin ansr olduğunu varsayalım. Ayrıca işilr + (pozitif) v - (ngatif) olma üzr ii sonucu olan bir laboratuvar tsti uygulanmış olsun. Tst, hastalığın var olduğu durumların %98 ind +, olmadığı durumların is %97 sind - sonuçlar ürtiyorsa; ansr) ansr) 0.98 ansr) 0.02 ansr) ansr) 0.03 ansr) Örn u olasılılara gör labortuvar sonucu + olan v ansr şüphsiyl gln bir işinin ansr olup olmadığı ays Tormin gör hsaplanırsa aşağıdai sonuçlar ld dilir; ansr + ) ) ansr + ) ) P ( ansr + ) < ansr + ) olduğu için ansr dğildir! 0 5

6 Naïv ays Sınıflayıcı ays Tormi sınıflandırma amaçlı ullanılırn n yüs olasılılı durum hdf sınıf olara sçilir. S hdf argmax s s j S v) Faat girdi vtörlrinin (v) birdn ço olduğu durumlarda ays formülü farlı bir forma dönüşür. irço özlliğin sişimi görünümündi vri örnği için hdf sınıf tahminind tüm özllilr için oşullu olasılıların çarpımı hsaplanmalıdır. j v n, v2,..., vn sj) vi sj) i Naïv ays Sınıflayıcı Naïv ays Sınıflayıcı il ays Tormi hsaplarında diat dilmsi grn n önmli far sınıflayıcıların olasılı dğrindn ziyad hdf sınıfı bulmaya odalanmasıdır. u yüzdn paydada bulunan dğr, tüm hdf sınıflara ait olasılı hsaplarında orta olduğundan ihmal dilbilir. O zaman hdf sınıf bulurn diat dcğimiz formül; S hdf n arg max sj) v sj S i i s j ) 2 6

7 Naïv ays Sınıflayıcı u yüzdn ays Tormind bulunan sınıf olasılıları toplamı olma zorunda in Naïv ays Sınıflayıcı il bulunan dğrlrin toplamı (ihmal diln paydadan dolayı) olamaz. una gör ays Tormi il bir durumun olası sonuçlarının olasılıları bulunurn Naïv ays il normalizasyonsuz olasılılar üzrindn sınıflandırma yapılabilir. 3 Örn v v 2 v 3 v 4 Sınıf Yandai vri ümsi için sırasıyla gln <,,, > örnğinin sınıfını bulalım. 4 7

8 Örn V V2 V3 V4 Sınıf S,,, )? S b v, v2, v3, v4) S m v, v2, v3, v4) Sonuçlara gör hdf sınıf b bulunur. 5 Nümri Dğrlr ays Tormi yalnızca atgori vri özllilrind ullanılabilmtdir. Nümri dğrlr sahip özllilr uygulayabilm için ilgili özlli uzayında örnlrin Gauss (normal) Dağılımına sahip olduğu varsayılır. Aranan olasılı dğri, özlli vtörünün ortalaması µ v standart sapması σ dğrin bağlı aşağıdai dağılım formülü il hsaplanır. v) 2 2πσ 2 v µ 2 σ 6 8

9 Örn V V 2 V 3 V 4 Yaş Cinsiyt V, V 2, V 3, V 4, Yaş 45 için Cinsiyt? Yaş özlliği nümritir. rmal dağılıma sahip olduğu varsayılara olasılıları hsaplanır. 7 Örn Yaş Cinsiyt Yaş Cinsiyt) için µ43.5 v σ7.77 Yaş Cinsiyt) için µ37 v σ7.46 rmal dağılıma gör; Yaş45 Cinsiyt) ~ 5/00 Yaş45 Cinsiyt) ~ 3/00 bulunur. 8 9

10 Örn v v 2 v 3 v 4 Yaş C P (C,,,,45)? C v, v2, v3, v4, Yaş) C v, v2, v3, v4, Yaş) Sonuçlara gör hdf sınıf bulunur. 9 Sıfır Olasılı Sorunu ays formülü, özllilr ait oşullu olasılıların çarpımı şlind düznlnirn bir özlli vtöründ çözümü aranan dğr rastlanmaması durumunda gnl sonucu tilyc bir sıfır olasılı ürtilir. Diğr özlli olasılılarının büyü olduğu durumlarda sıfır olasılılı özlli gnl sonucu tilr. unu ngllm için olasılılar sıfır olamayaca şild trar organiz dilir. 20 0

11 ATLA Uygulaması >dit Nays_orn.m ain öğrnmsind popülr IRIS datasti üzrind Naiv ays algoritması dnyi yapılmatadır. atlab grafi omutları v Naivays.fit omutu üzrind dğişililr yapılara odlar irdlnmlidir. 2 ÖDEV Aşağıdai yöntmlri ATLA d hazırlayınız. Lojisti Rgrsyon E (Expctation aximization) 22