T.C. KIRIKKALE ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ ELEKTRİK ELEKTRONİK ANA BİLİM DALI YÜKSEK LİSANS TEZİ GÖRÜNTÜ DİZİLERİNDEN İNSAN YÜZ İFADE ANALİZİ

Transkript

1 T.C. KIRIKKALE ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ ELEKTRİK ELEKTRONİK ANA BİLİM DALI YÜKSEK LİSANS TEZİ GÖRÜNTÜ DİZİLERİNDEN İNSAN YÜZ İFADE ANALİZİ TURAN GÜNEŞ HAZİRAN 2009

2 Fen Blmler Ensttü Müdürünün onayı. 30/06/2009 Doç. Dr. Burak BİRGÖREN Müdür V. Bu tezn Yüksek Lsans tez olarak Elektrk Elektronk Anablm Dalı standartlarına uygun olduğunu onaylarım. Doç. Dr. Edz POLAT Anablm Dalı Başkanı Bu tez okuduğumuzu ve Yüksek Lsans tez olarak bütün gerekllklern yerne getrdğn onaylarız. Doç. Dr. Edz POLAT Danışman Jür Üyeler Prof. Dr. Şerafettn EREL Doç. Dr. Edz POLAT Yrd. Doç. Dr. Tolga EREN

3 ÖZET GÖRÜNTÜ DİZİLERİNDEN İNSAN YÜZ İFADE ANALİZİ GÜNEŞ, Turan Kırıkkale Ünverstes Fen Blmler Ensttüsü Elektrk Elektronk Anablm Dalı, Yüksek Lsans Tez Danışman : Doç. Dr. Edz Polat Hazran 2009, 74 sayfa Yüz fadeler, nsanlar arası letşmde anlam bütünlüğünün sağlanması çn büyük rol oynayan, sözlü olmayan şaretlerdr. İnsanoğlu yüz fadelern kavramada herhang br zorluk çekmezken, bu durum makneler çn geçerl olmayıp, halen güvenlr fade tanıma sstemler üzernde araştırmalar yapılmaktadır. Bu çalışmada, nsanın çnde bulunableceğ 6 fade durumunun (öfke, ğrenme, korku, mutluluk, üzüntü ve şaşkınlık) analz gerçekleştrlmştr. Bu amaçla, her br fade çn alınan görüntülern özntelkler Gabor dalgacıkları kullanılarak çıkartılmıştır. Gabor özntelklernn 6 farklı fadeye göre sınıflandırılmasında k-nn, SVM ve AdaBoost sınıflandırıcıları kullanılmıştır. Ayrıca sınıflandırma başarımlarını

4 arttırmak ve hız kazancı sağlamak çn, çeştl özntelk dönüştürme ve özntelk seçme teknkler kullanılarak Gabor özntelklernn sayısı azaltılmıştır. Kullanılan yöntemlern fade sınıflandırılması üzerndek etkler ncelenerek detaylı br karşılaştırma yapılmıştır. Anahtar Kelmeler: Yüz İfade Analz, İfade Sınıflandırması, Boyut İndrgemes

5 ABSTRACT HUMAN FACIAL EXPRESSION ANALYSIS FROM IMAGE SEQUENCES GÜNEŞ, Turan Kırıkkale Unversty Graduate School of Natural and Appled Scences Department of Electrcal and Electroncs Eng., M. Sc. Thess Supervsor : Assoc. Prof. Dr. Edz Polat June 2009, 74 pages Facal expressons are non-verbal sgns that play mportant role to provde complete meanng n human communcaton. Whle humans can easly comprehend the facal expressons, t s not vald for the computers, thus the researchers are stll workng on developng relable facal expresson recognton systems. In ths research, the analyss of 6 dfferent human facal expressons (anger, dsgust, fear, happness, sadness and surprse) s performed from human facal mages. For ths purpose, the features for every facal expresson are extracted usng Gabor wavelets. To classfy the Gabor features, k-nn, SVM, and AdaBoost classfers are carred out. The dmenson of the Gabor feature space s also reduced by usng

6 dfferent feature extracton and feature selecton technques to mprove the classfcaton performances and to save tme. A detaled comparson s made to analyze the effect of the methods and technques used for expresson classfcaton. Key Words: Facal Expresson Analyss, Expresson Classfcaton, Dmenson Reducton v

7 Babam, Annem, Ablam ve Kendm çn v

8 TEŞEKKÜR Bu çalışmada desteklern benden esrgemeyen, önerler le ben yönlendren, büyük lg ve yardımlarını gördüğüm danışman hocam Sayın Doç. Dr. Edz POLAT a; Çalışma süresnce gösterdğ lg ve desteğnden dolayı Almanya Tuebngen Ünverstes, Max-Planck Ensttüsü nden Dr. Gökhan BAKIR a; Ve sonsuz sevgleryle her zaman yanımda olan sevgl babam, annem ve ablama en çten teşekkürlerm sunarım. v

9 İÇİNDEKİLER ÖZET ABSTRACT TEŞEKKÜR İÇİNDEKİLER ÇİZELGELER DİZİNİ ŞEKİLLER DİZİNİ KISALTMALAR DİZİNİ v v x x x 1. GİRİŞ Yüz İfade Analz Yüz Belrleme Yüz İfadelerne At Ver Çıkartılması Yüz İfadelernn Sınıflandırılması Lteratürde Yapılış Çalışmalar Çalışmanın Amacı MATERYAL VE YÖNTEM Gabor Dalgacıkları Kullanılarak Özntelk Çıkartılması Gabor Dalgacıkları Yüz Görüntülernn Gabor Dalgacık Gösterm Özntelk Çıkartılması Özntelk Boyutunun İndrgenmes Özntelk Dönüşümü Temel Bleşenler Analz Özntelk Seçm 25 v

10 Fsher Ölçüt Skoru Özntelk Seçm İçn Sıfırıncı-Norm Kullanılması (L0) Ortak Blg Temell Özntelk Seçm (MutInf) Ynelemel Özntelk Elmnasyonu (RFE) Gabor Özntelklernn Sınıflandırılması k-en Yakın Komşuluk Sınıflandırma Algortması (k-nn) Destek Vektör Makneler (SVMs) İkl Sınıflandırma İçn SVM Lneer SVM (Ayrılablr Ver Durumu) Lneer SVM (Ayrılamayan Ver Durumu) Lneer Olmayan SVM Çoklu Sınıflandırma İçn SVM Adaptve Boostng (AdaBoost) ARAŞTIRMA BULGULARI VE TARTIŞMA Grş Yüz İfade Görüntüler Ver Set Ön İşlemler Deney Deney Deney İk Sınıflı Özntelk Seçm Çok Sınıflı Özntelk Seçm Deney SONUÇ 66 KAYNAKLAR 68 v

11 ÇİZELGELER DİZİNİ ÇİZELGE 2.1 Dört Temel Kernel Tp ve Fonksyonları Çoklu Sınıflandırma İçn AdaBoost.M1 Algortması Her br fadeye at görüntü sayıları Özntelk ndrgemes yapılmadan elde edlen SVM sınıflandırıcı başarımları TBA le boyut ndrgemes yapıldıktan sonra elde edlen SVM sınıflandırıcı başarımları One-Vs-Rest yaklaşımına göre oluşturulan özntelk kümeler One-vs-One yaklaşımına göre oluşturulan özntelk kümeler One-Vs-Rest yaklaşımına göre oluşturulan özntelk kümelernden %1 oranında seçlen özntelkler çn alınan SVM sınıflandırıcı başarımları One-Vs-Rest yaklaşımına göre oluşturulan özntelk kümelernden %3 oranında seçlen özntelkler çn alınan SVM sınıflandırıcı başarımları One-Vs-One yaklaşımına göre oluşturulan özntelk kümelernden %1 oranında seçlen özntelkler çn alınan SVM sınıflandırıcı başarımları One-Vs-One yaklaşımına göre oluşturulan özntelk kümelernden %3 oranında seçlen özntelkler çn alınan SVM sınıflandırıcı başarımları One-Vs-Rest yaklaşımına göre oluşturulan özntelk kümelernden %1 ve %3 oranlarında seçlen özntelkler çn alınan ortalama SVM sınıflandırıcı başarımları One-Vs-One yaklaşımına göre oluşturulan özntelk kümelernden %1 ve %3 oranlarında seçlen özntelkler çn alınan ortalama SVM sınıflandırıcı başarımları 62 x

12 3.12 One-Vs-Rest özntelk kümes oluşturma yaklaşımına göre özntelk seçme algortmaları çn ortalama SVM sınıflandırıcı başarımları One-Vs-One özntelk kümes oluşturma yaklaşımına göre özntelk seçme algortmaları çn ortalama SVM sınıflandırıcı başarımları İk ve çok sınıflı kümelerden Fsher le seçlen özntelkler çn SVM başarımları 64 x

13 ŞEKİLLER DİZİNİ ŞEKİL 1.1 Yüz fadelernn oluşmasına neden olan kaynaklar Makne Öğrenme problemler çn genel çözüm yöntem Yüz İfade Analz Sstem Uzay bölgesnde karmaşık Gabor fonksyonu ( 2, 0, f 2, k max, ) 2 (a) Fonksyonunun gerçek kısmı (çft smetrk) (b) Fonksyonunun sanal kısmı (tek smetrk) Gabor Fltre Bankasının Reel Kısımları (3 Farklı Frekans ve 4 Farklı Yönelm İçn) Gabor fltrelernn herhang br görüntüye uygulanması durumunda elde edlen Gabor görüntüler (a) Orjnal görüntü (b) Gabor görüntülernn büyüklük cevapları Denetml ve Denetmsz Öğrenme Algortmalarına Göre Boyut İndrgeme Teknkler k-nn Sınıflandırma Örneğ SVM, maksmum marjn olmak üzere, poztf (beyaz dareler) ve negatf (syah dareler) örnekler ayıran w, x b 0 aşırı düzlemn bulur Geçc Değşkenlern Gösterm Lneer olmayan SVM gösterm. R R şeklndek eşleştrme x1, x2 z1, z2, z3 ( z x, z le tanımlanır x ve z3 2x1x 2 ) adet yüz fadesne br örnek (Cohn and Kanade DFAT-504 ver set) İk farklı görüntünün yüz kısımlarının ayrıştırılmış haller 48 x

14 3.3 Farklı kşlere at göz hzalı 6 yüz fades Özntelk Kümes Genel Yapısı Kodlama Matrs ve İfade Görüntü Sayılarına Göre Boyutu Özntelk ndrgemes yapılmadan elde edlen k-nn sınıflandırıcı başarımları TBA le boyut ndrgemes yapıldıktan sonra elde edlen k-nn sınıflandırıcı başarımları AdaBoost Sınıflandırıcısı Başarımı 65 x

15 KISALTMALAR DİZİNİ k-nn SVM SVM 1 SVM 2 SVM 3 AdaBoost TBA Fsher L0 MutInf RFE k-nearest Neghbor Support Vector Machne SVM (One-Vs-One) Classfer SVM (One-Vs-Rest) Classfer SVM (Mult-Class) Classfer Adaptve Boostng Temel Bleşenler Analz Fsher Crteron Score Zero-Norm Feature Selecton Mutual Informaton Based Feature Selecton Recursve Feature Elmnaton x

16 1. GİRİŞ İnsanlar arasında gerçekleştrlen yüz-yüze letşm, gelşmş nsan-blgsayar ara yüzlernn tasarlanmasında deal br model teşkl etmektedr (1 3). İnsan letşmnn temel özellğ, letşm kanallarının çok çeştl olması ve yapılan letşmn farklı şekllerde gerçekleşmesdr. Kanal, letşmn yapıldığı ortamı belrtrken, letşm şekl, dış dünyadan snyallern alınma bçmn fade etmektedr. İnsanlardak letşm kanalları, konuşulan seslern ve seslere at vurgulamaların taşındığı ştsel kanal le yüz fadeler ve beden hareketlernn taşındığı görsel kanaldan oluşmaktadır. İnsanlardak letşm yapısı çok gelşmş olup, herhang br letşm kanalındak problem, mesajın br dğer letşm kanalı tarafından letlmes le telaf edlmektedr. İnsanlardak letşmn bu özellğnden yola çıkılarak gürbüz ve güvenlr nsan-blgsayar ara yüzlernn gelştrlmes çn brçok çalışma yapılmıştır. Örneğn, Chen vd. (4) ve De Slva (5) yüz ve ses fadelernn brleştrlmes üzerne çalışmışlardır. Fakat çalışmalar çoğunlukla her br letşm kanalı çn ayrı ayrı yapılmıştır (6). Yüz yüze yapılan letşm, nsanlar arasındak letşmde çok büyük rol oynamaktadır. Çünkü nsan yüzü dğer letşm şekllernn br gösterges ve bu göstergenn kaynağı olan herhang br yüz fades de, br nsanın hss durumunun, anlayış tavrının, karakternn ve çnde bulunduğu pskolojk durumunun görünen belrtsdr (7). Yapılan brçok sosyo-pskolojk çalışma, karşılıklı yapılan konuşmalarda yüz fadelernn büyük etksnn olduğunu göstermştr (8,9). Mehraban (10), yüz fadelernn karşımızdak dnleycler üzernde çok büyük etksnn olduğunu belrtmştr k, bu etklern yaklaşık %55 konuşmacının 1

17 açıklamalarındak yüz fadelernden, %38 konuşmadak kelme tonlamalarından ve %7 s de konuşulan kelmelerden kaynaklanmaktadır. Bu açıklamalar, nsanlar arasındak letşmde yüz fadelernn en baskın özellk olduğunu açıkça belrtmektedr. Yüz fadeler bçmsel olarak yüzdek belrl bölgelern şekl değştrmes le ortaya çıkmaktadır. Özellkle yüz kaslarının kasılarak göz kapakları, kaşlar, burun, dudaklar ve yüz ders gb yüz özntelklernde geçc değşmler oluşturması sonucu ortaya çıkan, zamana bağımlı ve brkaç sanye süren bu değşmlern yer, yoğunluğu ve dnamğnn ölçülmes, yüz fadelernn tanınarak sınıflandırılması çn önem taşıyan ntelklerdr. Bu değşmlern kşye, yaşa, ırka, cnsyete göre mktar ve zaman olarak farklılık göstermes, problem çok boyutlu hale getrp zorlaştırmaktadır (11). Şekl 1.1 de yüz fadelernn oluşmasına neden olan kaynaklar gösterlmştr. Hssedlen duygular Kanı Düşünce Mmkler İşaretler Jestler Ruh Hal Sözlü olmayan letşm Yüz İfadeler Pskolojk aktvteler Sözlü İletşm Manpülatör Acı Yorgunluk İllüstratör Dnleyc tepkler Düzenleyc Şekl 1.1 Yüz fadelernn oluşmasına neden olan kaynaklar 2

18 Sabt görüntülern ve görüntü dzlernn kullanılmasıyla brlkte yüz fade analz, sadece pskoloj alanında yapılan br araştırma konusu olmaktan çıkmıştır. Bununla brlkte görüntülerde yüz bulma (face detecton), yüz takp etme (face trackng) ve yüz tanıma (face recognton) alanındak lerlemeler, yüz fade analz üzerne yapılan çalışmaların artmasına sebep olmuştur (12). Taşıdıkları blgnn önemnden dolayı yüz fadeler, br nsan-makne ara yüzü olarak örneğn, br müşter veya kullanıcının pazarlık çeren alım-satım şlem gb durumlarda ken çnde bulunduğu duygusal durumun düzgün değerlendrlmesnn gereksnm duyulduğu servslerde, otomatkleştrlmş önlem ve hazırlıkları mümkün kılacaktır. Bununla brlkte yüz fade analz sstemler sözlü olamayan haberleşmede, davranış blmnde, tıpta, pskolojde, pskyatrde, nörolojde, acı tesptlernde, yalan belrlemede, çeştl robotk uygulamalarında ve nsan-blgsayar ara yüzlernn gerekl olduğu brçok alanda kullanılmaktadır (13 16). Bu çalışmada Yüz İfade Analz, Ekman ve Fresen (17) tarafından tanımlanan 6 temel duyguya at yüz fadelernn ( öfke, ğrenme, korku, mutluluk, üzüntü ve şaşkınlık ) sınıflandırılması çerçevesnde gerçekleştrlmştr. Çalışmanın lk bölümünde Yüz İfade Analz nn genel olarak nasıl gerçekleştrldğ anlatılmış, analzn hang bölümlerden oluştuğu ve bu bölümlere at blgler verlmş, geçmşten günümüze Yüz İfade Analz üzerne lteratürde yapılmış olan çalışmalar derlenmş ve bu çalışmanın amacından bahsedlmştr. Çalışmanın knc bölümünde, yüz fade analznde kullanılmış olan yöntemlere lşkn blgler sunulmuştur. Öncelkle yüz görüntülerne at özntelklern çıkartılmasında kullanılan Gabor dalgacıkları anlatılmıştır. Daha sonra, çok 3

19 boyutlu Gabor özntelk boyutunun azaltılması amacıyla, br özntelk dönüşüm teknğ olan Temel Bleşenler Analz (Prncple Component Analyss PCA) ne lşkn blg verlmştr. Hemen ardından, yne özntelk boyutunun azaltılmasında kullanılan özntelk seçme algortmaları Fsher Ölçüt Skoru (Fsher Crteron Score Fsher), Özntelk Seçmnde Sıfırıncı Norm Kullanılması (Zero Norm Feature Selecton L0), Ortak Blg Temell Özntelk Seçlmes (Mutual Informaton Based Feature Selecton MutInf) ve Ynelemel Özntelk Elmnasyonu (Recursve Feature Elmnaton RFE) hakkında açıklamalar yapılmıştır. Son olarak Gabor özntelklernn lgl fadelere göre sınıflandırılmasında kullanılan k- En Yakın Komşuluk (k-nearest Neghbor k-nn), Destek Vektör Makneler (Support Vector Machnes SVMs) ve AdaBoost (Adaptve Boostng) algortmalarına değnlmştr. Üçüncü bölümde, sözü edlen algortmalar ve teknkler kullanılarak yüz fadelernn sınıflandırılmasına yönelk deneyler yapılmıştır. Dördüncü ve son bölümde, elde edlen sonuçlarla lgl genel br değerlendre yapılmıştır. Hang teknk ve algortmaların doğru ve hızlı yüz fade analz sstem çn daha uygun olduğu, hanglernn se olmadığı nedenler le brlkte anlatılmaya çalışılmıştır Yüz İfade Analz İnsanlarda öğrenmenn nasıl gerçekleştğ pskologlar tarafından hala ncelenmekte olan br konudur. Genel olarak öğrenme; geçmş deneymler, örnekler ve merakla gelen br şlemler bütünü olup, kesn olarak açıklanablmes pek mümkün değldr. Yüz tanıma örneğn ele alalım. Hemen her gün ale breylern ve arkadaşlarımızı yüzlerne bakarak veya fotoğraflarından, saç stllerndek 4

20 farklılıklara, makyaj yapıp yapmadıklarına ve duruşlarındak değşklklere rağmen hç zorluk çekmeden tanıyablrz. Bunu blnçszce ve nasıl gerçekleştğn açıklayamadan gerçekleştrrz. Yapay Snr Ağlarının (YSA) br altkümes olan Makne Öğrenmes nn amaçlarından br de, nsanlardak öğrenmenn nasıl gerçekleştğn anlamamıza yardımcı olmaktır. Makne öğrenmes tanımsal olarak, br problemn çözümünde örnekler veya geçmş deneymlere at verlern kullanılarak blgsayarların programlanmasıdır şeklnde fade edlr. Makne Öğrenme uygulamaları genellkle farklı nesnelern sınıflandırılmasını amaçlar. Yüz tanıma, ses tanıma, karakter tanıma, hava durumu tahmn, yüz fade analz çalışmaları Makne Öğrenme uygulamalarından sadece br kaçıdır. Farklı nesnelern sınıflandırılması şlem, br başka deyşle Makne Öğrenme problemlernn çözümü klask olarak Şekl 1.2 de gösterldğ gb gerçekleştrlmektedr (18,19). Ham Ver Özntelk Çıkartılması Özntelk Sınıflandırması Şekl 1.2 Makne Öğrenme problemler çn genel çözüm yöntem Br makne öğrenme problem olarak Yüz İfade Analz karmaşık br ssteme sahptr. Cnsyet, etnk yapı ve yaş farklılıklarının yanı sıra, yüzde olması muhtemel sakal, kozmetk ürünler, gözlükler ve saçlar nedenyle kşden kşye değşen yüz fadelern tanıyan, genel ve geçerl br sstem oluşturmak bu karmaşıklığın temel nedendr. Ayrıca yüz görünümler duruş ve ışıktak değşmlere göre farklılıklar göstereblr (16). 5

21 Pantc ve Rothkrantz (20) yüz fade analznde 3 temel problem bulunduğunu belrtmşlerdr: Br görüntüdek yüz kısmının belrlenmes, yüz fadelerne at özntelklern çıkartılması ve yüz fadelernn sınıflandırılması. Pantc ve Rothkrantz (20) ın şaret ettğ problemler ve makne öğrenme yaklaşımı çerçevesnde, yüz fade analz üzerne br çalışma yapılması çn öncelkle, resmlerdek fadelern taşındığı kısım, yan yüz görüntüler çıkarılır. Ardından yüz görüntülernde bulunan fadeler temsl eden blgler (özntelkler) çıkartılır. Çıkartılan özntelkler, her br fade çn sınıflandırılırlar. Ayrıca hızlı ve doğru br analz yapılması amacıyla, sınıflandırmadan hemen önce gereksz özntelkler atılarak özntelk boyutu azaltılablr. Yüz İfade Analz çn genel sstem yapısı Şekl 1.3 tek gb gösterlrken, sstemn temel bleşenlerne lşkn blgler sonrak bölümlerde verlmştr Yüz Belrleme Br yüz fadesnn sınıflandırılablmes çn öncelkle görüntüdek yüz kısmının belrlenmes gerekmektedr. Görüntüler genellkle kşlern ön yüzlernden çeklmş şekldedr. Buradak en öneml problem, görüntüdek yüz bölgesne at kısmın doğru br şeklde çıkarılmasıdır. Çünkü yüz bölgesnn konumu ve büyüklüğü her br görüntü çn farklılık gösterebldğnden, görüntülerden yüz kısmının çıkarılmasında aynı türden br şablon kullanılması pek mümkün olmamaktadır (20). Bu nedenle yüz kısımları, çeştl yüz belrleme teknkler (21,22) veya el le yapılan çalışmalar sonucu çıkarılmaktadır. 6

22 7 Görüntü Ednme Özntelk Vektörü Öfke İğrenme Korku Mutluluk Üzüntü Şaşkınlık Ham Ver Ön İşlemler Özntelk Çıkartma Boyut İndrgeme Sınıflandırma Sınıf Etket Yüzün ön veya yan tarafından alınmış 2 boyutlu görüntüsü Baş konumunun eğklğ ve ölçeğe karşı geometrk normalzasyon le yüz kısmının çıkarılması Yüze at görsel vernn sayısal ver olarak fade edlmes Özntelk dönüşümü: TBA Özntelk Seçme: Fsher, L0, MutInf, RFE k-nn SVM AdaBoost Mutluluk Şekl 1.3 Yüz İfade Analz Sstem

23 Yüz İfadelerne At Ver Çıkartılması Görüntülerde fadeler taşıyan yüz kısımlarının belrlenmesnden sonra her br fadeye at ver, yan özntelkler çıkartılır. Bu şlem görsel vernn sayısal verye dönüştürülmes şeklnde açıklanablr. Yüz bleşenlerne (ağız, kaşlar, burun) at olan noktalardan elde edlen Geometrk Özntelkler le yüz bölgesndek değşmlerden (kırışıklık, zler) kaynaklanan Görüntüye Dayalı Özntelkler olmak üzere 2 farklı tpte özntelk bulunmaktadır (16). Özntelk çıkartılması aynı zamanda özntelk uzayının boyutunun azaltılmasını da kapsamaktadır. Çünkü br çok örüntü tanıma sstemnde bulunan büyük boyutlardak verler, problem çözümünü neredeyse mkansız hale getrmektedr. Boyut azalması le verdek esas blg kaybolmamalı, bunun yanında boyutu azalan ver, orjnal verye göre sınıf ayrımı çok daha fazla olan özntelkler çermeldr Yüz İfadelernn Sınıflandırılması Br yüz görüntüsüne at özntelkler çıkartıldıktan sonra yüz görüntüsünün taşımış olduğu fade belrlenr. Bu şlem br sınıflandırıcı tarafından gerçekleştrlr. Makne, fadelere at belrl sayıda örnekle eğtlr ve br karar kuralı oluşturulur. Dğer örnekler bu kurala göre her br fade çn sınıflandırılırlar. İfade sınıflandırılmasında lteratürde k-en Yakın Komşuluk, Destek Vektör Makneler, Saklı Markov Modeller ve Karar Ağaçları gb brçok sınıflandırıcı kullanılmaktadır (16). 8

24 1.2. Lteratürde Yapılmış Çalışmalar 1872 yılında Darwn (23) n nsanlarda doğuştan gelen bazı duyguları olduğunu belrtmes, Yüz İfade Analz üzerne yapılan çalışmaların temeln oluşturmuş ve Yüz İfade Analz, brçok davranış blmc çn popüler br araştırma konusu olmuştur. Darwn (23) n yapmış olduğu çalışmadan yola çıkarak, 1971 de Ekman ve Fresen (17) ve 1983 te Izard vd. (24) nsanlarda 6 temel duygu bulunduğunu ve bu duygusal fadelern her brne karşılık gelen yüz fadelernn olduğunu belrtmşlerdr. Farklı kültür ve mlletler çn geçerl kabul edlmş olan bu duygular öfke, ğrenme, korku, mutluluk, üzüntü ve şaşkınlık olarak gösterlmştr. Önceler pskoloj alanında br araştırma konusu olan yüz fade analz üzerne yapılan lk çalışma, 1978 de Suwa vd. (25) tarafından br görüntü dzs üzernde 20 nokta belrlenerek gerçekleştrlmştr lerde Marcelja (26) ve Daugman (27) tarafından nsan görsel sstemnn 2- boyutlu karmaşık Gabor fonksyonları le modellenebldğnn gösterlmes, örüntülere at özntelklern çıkartılmasında öneml br adım olmuştur. Suwa vd. (25) nn 1978 de yapmış oldukları çalışmadan sonra, blgsayar temell yüz fade analz 1990 lara kadar yapılmamıştır. Mase (28) yüz fadelernn tanınmasında optk akış teknğn kullanmıştır. Black ve Yacoob (29) görüntüdek hareketlerden yola çıkarak elde ettkler verler 6 temel yüz fadesnn sınıflandırmasında kullanmışlardır. 9

25 Rosenblum, Yacoob ve Davs (30) yüz üzerndek bölgelerde optk akış hesabı yapmışlar ve Radal Bass Fonksyon Ağı kullanarak fade sınıflandırmasını gerçekleştrmşlerdr. Essa ve Pentland (31) bölgesel optk akış metodunu kullanarak fadeler sınıflandırmışlardır. Otsuka (32) 6 farklı yüz fadesn sınıflandırmak amacıyla Saklı Markov Model (Hdden Markov Model HMM) temell sınıflandırıcılar kullanmıştır. Donato vd. (7) yüz fadelernn tanınmasında farklı tplerdek özntelkler karşılaştırmışlardır. Martnez (33) yüz görüntülernn, farklı aydınlık ortamlar, yüz fadeler ve görüntüyü kapayan engelleyc durumlar altında tanınması üzerne çalışmıştır. Bu amaçla, Saklı Markov Modeller kullanılmıştır. Olver vd. (34) ağız şeklnn değşmnden kaynaklanan özntelkler Saklı Markov Model temell tanıma sstemnde kullanmışlar ve fadeszlk, mutluluk ve üzüntü gb fadelern sınıflandırması üzerne çalışmışlardır. Kotsa ve Ptas (35) görüntü dzlernden yüz fade analzn Destek Vektör Makneler kullanarak gerçekleştrmştr. Çalışmalarında, dzdek lk görüntü üzerne yerleştrlen noktalar referans alınıyor ve sonrak görüntülerle olan yer değştrmeye göre fade sınıflandırması yapılıyordu. Bartlett vd. (36), Cohn and Kanade ver setndek yüz görüntülernden farklı fadeler çn elde ettkler Gabor özntelklern sınıflandırmak çn, yen gelştrdkler AdaSVM metodunu kullanmışlardır. 10

26 1.3. Çalışmanın Amacı Bu çalışmada, 6 farklı yüz fadesnn sınıflandırılması hedeflenmştr. İnsanların herhang br zorluk çekmeden tanıyabldkler bu fadelern maknelerce olabldğnce doğru ve hızlı br şeklde sınıflandırılması ancak, hızlı ve güvenlr algortmalar kullanılarak, maknelern önceden doğru örneklerle eğtlmes le mümkün olacağı nkar edlemez br gerçektr. Bu amaç doğrultusunda, yapılan çalışmada, lteratürde sık rastlanılan brçok algortma kullanılarak, hızlı ve doğru yüz fade sınıflandırılması çn kapsamlı br nceleme gerçekleştrlmştr. Çalışmanın temel, farklı fadelere at yüz görüntülerne lşkn özntelklern farklı Gabor dalgacıkları kullanılarak elde edlmes üzerne kurulmuştur. En y fade analz sstemne sahp olan nsan örneğnden yola çıkıldığında, nsanlardak görme merkezndek hücrelern tepk şaretlernn Gabor dalgacık fonksyonları le modelleneblmes, özntelk çıkartılmasında Gabor dalgacıklarının kullanılmasının en öneml neden olmuştur. Çıkarılan Gabor özntelkler k-nn, SVM ve AdaBoost algortmaları kullanılarak sınıflandırılmıştır. Ayrıca, çeştl özntelk dönüştürme ve özntelk seçme algortmaları kullanılarak yapılan boyut azaltılması le sınıflandırıcı başarımlarının arttırılması amaçlanmıştır. Kullanılan boyut ndrgeme algortmalarının temel özellğ hızlı sonuçlar üretyor olmalarıdır. İfade sınıflandırması üzerndek etkler bakımından kullanılan algortmalar ve teknkler arasında kapsamlı br karşılaştırma yapılmıştır. Ayrıca, yüz fadelernn doğru br şeklde sınıflandırılmasına yönelk çeştl yaklaşımlar kullanılarak sınıflandırma başarımları arttırılmaya çalışılmıştır. 11

27 2. MATERYAL VE YÖNTEM 2.1. Gabor Dalgacıkları Kullanılarak Özntelk Çıkartılması Özntelk çıkartılması, yüz görüntülernde farklı fadeler sonucu oluşan değşklklern sayısal göstermdr. Yüz fadelernn neden olduğu değşklklere at blglern, yan özntelklern çıkartılmasında genel olarak; Geometrk tabanlı özntelk çıkartım metotları Görüntü tabanlı özntelk çıkartım metotları olmak üzere 2 tür yaklaşım vardır. Geometrk özntelkler, yüz bleşenlernn (ağız, göz, kaşlar, burun) yerler ve şekllern fade ederler. Yüz bleşenlerne at özntelk noktaları, yüz geometrsn belrten br özntelk vektörü oluşturmak çn çıkartılır. Görüntüye dayalı metotlarda se özntelk vektörü, Gabor dalgacıkları gb br görüntü fltresnn yüz resmnn tümüne veya bel br bölgesne uygulanması suretyle elde edlr (37). Zhang vd. (38), özntelk çıkartılmasındak bu k yaklaşımı yüz fadelernn tanınması çn karşılaştırmışlardır. Br yüz görüntüsünden alınan 34 adet referans noktası le bu noktalara uygulanan farklı Gabor fltreler le elde edlen 612 Gabor dalgacık katsayısı özntelk vektörler olarak kullanılmış ve 6 farklı yüz fadesnn tanınmasında Gabor fltrel elde edlen özntelklern daha üstün başarım gösterdğ görülmüştür. Donato vd. (7) de fade tanınmasında optk akış, temel bleşenler analz, bağımsız bleşenler analz, yerel özntelk analz ve Gabor fltre teknklern karşılaştırmışlar ve yne en y sonucu Gabor fltreler le elde edlen özntelkler kullandıkları durumda almışlardır. Çünkü Gabor fltreler le görüntüde var olan ışık 12

28 dağılımının homojen olmamasının oluşturduğu negatf etkler yok olmakla brlkte, bu fltrelemenn küçük mktardak yer değştrme ve deformasyonlara karşı daha az duyarlı olması da özntelk çıkartılmasında dğer yöntemlere üstünlük sağlamasına neden olmaktadır. Lteratürde yapılmış olan bu çalışmalar göstermştr k; fade analznde görüntüye dayalı özntelk çıkartma metotları (özellkle Gabor fltreler) le daha hassas ve kesn sonuçlar alınmıştır. Bu yüzden, yapılan çalışmada yüz görüntülerne at özntelkler Gabor fltreler kullanılarak elde edlmştr Gabor Dalgacıkları 1946 yılında Denns Gabor (39) snyallerdek karakterstk blglern elde edleblmes amacıyla, snyale uygulanacak br fonksyonun zaman ve frekans eksenlerndek bant genşlğnn, Fourer analz belrszlk lkesne göre mnmum olması gerektğn belrtmştr. Gabor (39), bu fonksyonun br Gauss snyal le modüle edlmş karmaşık üstel br snyal le elde edlebleceğn göstermş ve br boyutlu Gabor fonksyonunu üretmştr. Memel canlılardak görüntü stemnn Gabor fltreler le modellenebldğn gösteren Marcelja (26), görüntü sstemnde bulunan hücrelerdek alıcı alanların br görüntü karşısında verdkler snyallern çft veya tek smetrk yapıda olduğu belrtmştr. Ayrıca, memel canlılardak görüntü merkeznde bulunan hücreler üzerne yapılan fzyolojk çalışmalar bu hücrelern farklı yönelm ve uzaysal frekanslarda snyal verdklern göstermştr. Bu blgler ışığında Daugman (27), görüntü merkezndek alıcı hücrelern verdkler tepk snyallernn teork olarak 2 boyutlu karmaşık Gabor fonksyonları şeklnde fade edlebleceğn göstermştr. 13

29 Daugman ın görüntü sstemn 2 boyutlu karmaşık Gabor fonksyonları le matematksel olarak göstermes, Gabor fltrelernn doku bölütlemes (40), parmak z tanıma (41), yüz tanıma (42) ve rs tanıma (43) gb brçok blgsayarlı görü ve örüntü tanıma uygulamasında özntelk çıkartılmasında yaygın olarak kullanılmasına mkan sağlamıştır. Bunun yanı sıra Hubel ve Wesel n (44) görüntü sstemndek alıcı alanların brer kenar detektörü şlev gördüklern göstermes, Gabor fltrelernn de y brer kenar detektörü olduklarını belrtmektedr. Bu özellk sayesnde, yüz fadelerne at özntelkler çıkartılırken göz, ağız, kaşlar, burun gb fadey temsl eden öneml noktaların belrlenmes gerçekleşmektedr. Gabor fltres, mpuls cevabı, br Gauss fonksyonuyla harmonk br fonksyonun çarpılmasıyla tanımlanan lneer br fltredr. Konvolüsyon şlemnn çarpma özellğnden dolayı, Gabor fltresnn mpuls cevabının Fourer dönüşümü, harmonk fonksyonun Fourer dönüşümü le Gauss fonksyonunun Fourer dönüşümünün konvolüsyonudur (45). Buradan, memel canlılarda görme sstemnn modellendğ ve Daugman tarafından 2 boyutlu hale getrlen karmaşık Gabor dalgacık fonksyonu, () z ;,, ( ) k, z k, z 2 k z e e e 2.1 olarak tanımlanır. 2.1 eştlğ le verlen 2 boyutlu karmaşık Gabor fonksyonda 2 k, 2 term görüntülerdek frekansa bağımlı güç spektrumunun azalmasını telaf ederken (46), e 2 2 k, z 2 2 k z, term Gauss dalgasını, e term de karmaşık üstel snyal fade etmektedr. e 2 2 term se Gabor fltresnn görüntüdek farklı ışık 14

30 dağılımlarına karşı etklenmeyecek br yapıda olduğunu göstermektedr. 2.1 fonksyonunda z ( x, y), yatay eksen x ve dkey eksen y üzernde bulunulan noktayı belrtr. ve parametreler sırasıyla, Gabor kernel nn yönelm ve ölçeğn belrtrken, Gauss penceresnn standart sapmasını belrten parametres, Gauss pencere genşlğnn dalga boyuna oranı şeklnde tanımlanır. Dalga vektörü k, se; k, kve 2.2 olarak tanımlanır. 2.2 fonksyonunda k v k ve max f 2.3 n bçmnde tanımlanır. k max maksmum frekansı, f kernel ler arasındak uzaysal frekansı ve n de yönelm sayısını fade eder. Bu çalışmada 0,1,2 ve 0,1, 2,3 olmak üzere 3 farklı frekans ve 4 farklı yönelmde toplam 12 farklı Gabor dalgacığı yüz görüntülernden özntelk çıkartmak amacıyla kullanılmıştır. Gabor dalgacıklarının dğer parametreler se, k max ve f 2 olarak 2 seçlmştr. Şekl 2.1 de uzay bölgesnde karmaşık Gabor fonksyonunun sanal ve gerçek kısımları gösterlmektedr. 15

31 (a) (b) Şekl 2.1 Uzay bölgesnde karmaşık Gabor fonksyonu. 2, 0, f 2, k max, ) (a) Fonksyonunun gerçek kısmı ( 2 (çft smetrk) (b) Fonksyonunun sanal kısmı (tek smetrk) Gabor fltresnn br dğer öneml parametres de yüz görüntülerne uygulanacak olan Gabor fltre maskesnn boyutudur. Fltre maskesnn boyutu Gabor dalgacıklarını belrtecek kadar büyük olmalı, fakat şlemsel zorluklar yaşanmaması adına çok fazla da büyük olmamalıdır. Dunn vd. (47) ne göre Gabor dalgacığının boyutu, Gauss fonksyonunun yayılma alanının 6 katı olarak belrlenmştr. Gauss fonksyonunun yayılma alanı k ve k v k olmak üzere max f Gabor fltre maskesnn boyutu W ; W f k k max olarak belrlenr. Bu çalışmada kmax, f 2 ve Gauss fonksyonunun standart 2 sapması olarak belrlendğnden Gabor fltre maskesnn boyutu; W

32 olacaktır. Bu durumda, 0,1,2 olmak üzere 3 farklı frekans çn Gabor fltre maske boyutları 13x13, 18x18 ve 25x25 olup, bu çalışmada 25x25 maske boyutu kullanılmıştır Yüz Görüntülernn Gabor Dalgacık Gösterm Son zamanlarda yapılan nörofzyolojk çalışmalar görüntü merkez hücrelerndek alıcı alanların farklı uzaysal yapıda olduklarını göstermştr (48). Daugman (49) bu hücre topluluklarının en y, farklı yönelm ve frekanslardak Gabor fltrelernden oluşan br fltre bankasıyla modellenebldğn göstermştr. Bu çalışmada 0,1,2 ve 0,1, 2,3 olmak üzere, 3 farklı frekans ve 4 farklı yönelmde toplam 12 farklı Gabor fltresnden oluşan br fltre bankası oluşturularak, yüz görüntülernden farklı özellklerde özntelklern çıkartılması amaçlanmıştır. Oluşturulan Gabor fltre bankasının reel kısımları Şekl 2.2 de gösterlmştr. Şekl 2.2 Gabor fltre bankasının reel kısımları (3 farklı frekans ve 4 farklı yönelm çn) 17

33 Br görüntünün Gabor dalgacık gösterm, görüntünün Gabor fltre bankasında bulunan her br fltre le ayrı ayrı konvolüsyonuyla elde edlr. I görüntüsü le, () z gb herhang br Gabor dalgacığının konvolüsyonu; O ( z) I( z) ( z) 2.6,, bçmnde tanımlanır. Iz () görüntüsünün tüm Gabor dalgacıkları (3 frekans ve 4 yönelm olmak üzere 12 farklı Gabor dalgacığı) çn gösterm; S O, ( z) : {0,...,2}, {0,...,3}, z ( x, y) 2.7 olarak fade edleblr (50). Şekl 2.3 te br görüntü ve bu görüntüye karmaşık Gabor dalgacıklarının uygulanması sonucu elde edlen Gabor görüntülernn büyüklük cevapları gösterlmektedr. 18

34 (a) (b) Şekl 2.3 Gabor fltrelernn herhang br görüntüye uygulanması durumunda elde edlen Gabor görüntüler (a) Orjnal görüntü (b) Gabor görüntülernn büyüklük cevapları 19

35 Özntelk Çıkartılması Fltrelenen görüntülerden özntelklern çıkartılması çn lteratürde brçok yöntem kullanılmaktadır. Claus ve Jerngan (51) a göre fltre çıkışlarından özntelklern elde edlmesnde kullanılan bu yöntemlerden bazıları; Büyüklük cevabını kullanma Uzaysal düzeltme uygulanması Sadece reel bleşenlern kullanılması Lneer olmayan sgmodal fonksyonun kullanılması Pksel komşuluğu blgsn kullanma Tam dalga doğrultma uygulanması olarak sıralanmıştır. Yapılan bu tezde özntelk vektörü fltrelenmş görüntülern büyüklük cevaplarından elde edlmştr. z ( x, y) olmak üzere, herhang br grş görüntüsü Iz () le herhang br kompleks Gabor fonksyonu, () z nn konvolüsyonundan elde edlen sonuç olan O, () z, reel ve sanal olmak üzere k kısımdan oluşur. O halde özntelk vektörünün elde edlmes çn bu sonucun büyüklüğü O, () z ; O ( z) O ( z) O ( z) ,,, olarak elde edlr. 20

36 2.2. Özntelk Boyutunun İndrgenmes Yüz görüntülerne Gabor fltrelernn uygulanması sonucu çok sayıda özntelk elde edlmektedr. Bu durum ver analz, makne öğrenmes, örüntü tanıma, metn sınıflandırma, web madenclğ ve byolojk gen analz uygulamalarında karşılaşılan en büyük problemlerden brdr. Bu nedenle, yapılan analze lşkn etkl ve doğru sonuçlar alınması amacıyla ver boyutunun ndrgenmes çoğu zaman yararlı olmaktadır. Brçok makne öğrenme ve örüntü tanıma uygulamalarında kullanılan algortmalar lteratürde boyutun lanet (52) olarak blnen probleme karşı hassas olduklarından, özntelk sayısının artması kullanılan öğrenme algortmasının performansının azalmasına neden olmaktadır. Zra Gabor fltreleme sonucu elde edlen özntelklern tamamı yüz fade analz çn gerekl olmayıp fade sınıflandırması çn önem ve yararı olmayan blgler çermektedrler. Bu nedenle, yapılan çalışmalarda çoğu zaman büyük boyutlu ver kümelernden çeştl boyut ndrgeme teknkler kullanılarak daha küçük boyutta azaltılmış yen ver kümeler oluşturulmuştur. Sınıflandırma ve kümeleme üzerne yapılan çalışmalarda boyutu ndrgenmş verlern kullanılması le daha doğru ve anlaşılablr sonuçlar elde edlmştr (53). Boyut ndrgeme yapılmasının nedenler ve avantajları; Boyutu ndrgenmş verdek özntelkler daha fazla ayırt edc olablmektedrler. Brçok öğrenme algortması çn eğtm ve sınıflandırma zamanı boyutun ndrgenmesyle öneml ölçüde azalır. Önemsz ve yararı olmayan özntelkler sınıflandırma performansını olumsuz yönde etklemektedrler. 21

37 Özntelk Seçm Özntelk Dönüşümü Kullanılan algortmalar daha hızlı çalışır ve sstem belleğnn gereksz yere kullanılması önlenmş olur. bçmnde sıralanablr (54). Yapılan çalışmalar boyut ndrgemenn genel olarak Şekl 2.4 te gösterldğ üzere 2 boyutlu br yapısının bulunduğunu göstermştr. Denetml Denetmsz DAA TBA Özntelk Kümes Seçm (Fltre) (Sarmalama) Laplas Skoru Şekl 2.4 Denetml ve denetmsz öğrenme algortmalarına göre boyut ndrgeme teknkler Brnc boyut, elde bulunan özntelklerden bell br küme seçlmesn veya azaltılmış özntelk kümesne dönüştürülmesn tanımlarken, knc boyut öğrenme algortmasının denetml veya denetmsz olması lkesne dayanmaktadır. Denetml boyut ndrgeme teknkler farklı sınıf etketlerne göre ayrılmış vernn boyutunu azaltır. Kullanılan algortmanın ncelğ, br sınıfı dğer sınıflardan en çok ayıran özntelklern bulunmasında kullanılır. Denetmsz boyut ndrgeme teknkler se herhang br sınıf etketne htyaç duymadan, özntelkler arasındak benzerlklere göre hang özntelklern ver kümesnden çıkarılacağına karar verrler. Benzer özntelkler br arada gruplandırılırken dğer özntelkler atılır. Örneğn Temel 22

38 Bleşenler Analz br denetmsz özntelk dönüşüm teknğ ken, Fsher Ölçüt Skoru br denetml özntelk seçme teknğdr (54) Özntelk Dönüşümü Özntelk dönüşümü, orjnal özntelk kümesnn çeştl teknkler kullanılarak daha küçük boyutta ve gerekl blgy olabldğnce koruyan alternatf br kümenn oluşturulması şeklnde gerçekleştrlr. Bu teknklerden en önemls orjnal özntelk kümesne uygulanacak bazı dönüştürme uygulamalarıyla azaltılmış ver kümes oluşturulmasıdır. Lteratürde denetml özntelk dönüşüm teknğ Doğrusal Ayırma Analz DAA (Lnear Dscrmnant Analyss) le denetmsz özntelk dönüşüm teknğ Temel Bleşenler Analz kullanılmakta olup, bu çalışmada özntelk dönüşüm teknğ olarak Temel Bleşenler Analz kullanılmıştır Temel Bleşenler Analz İstatstksel br yöntem olan Temel Bleşenler Analz nn (TBA) amacı boyut ndrgemes yapmaktır. TBA, orjnal t vektörün varyans yapısını daha az sayıda ve bu t vektörün doğrusal bleşenler olan yen vektörlerle fade etme yöntemdr. Aralarında korelasyon (lşk) bulunan t tane vektörün açıkladığı yapıyı, aralarında korelasyon bulunmayan ve sayıca orjnal vektör sayısından daha az sayıda ( k t) orjnal değşkenlern doğrusal bleşenler olan vektörlerle fade etme yöntem Temel Bleşenler Analz olarak tanımlanır. N tane görüntü, [ x 1, x 2,..., x t ] olmak üzere t boyutlu Gabor özntelk vektörü le gösterlmş olsun. Temel Bleşenler Analz (55,56) k t olmak üzere orjnal t 23

39 boyutlu özntelk uzayını k boyutlu özntelk alt uzayına dönüştüren lneer br dönüşüm bulmak çn kullanılmaktadır. Yen özntelk vektörü y ; T y W x, ( 1,2,... t) 2.9 bçmnde tanımlanır. Burada W aradak lneer dönüşümü göstermekte olup, bu lneer dönüşüm [ x 1, x 2,..., x t ] n statstksel olarak elde edlen kovaryans matrsnn özdeğer ve özvektörlernn bulunması le elde edlr. Buna göre kovaryans matrsnn özdeğer ve özvektör çftler ( 1, e1 ),( 2, e2 ),...,( t, et) olmak üzere. temel bleşen; y x x x x 2.10 T W e1 1 e et t bçmnde elde edlr.. temel bleşenn varyansı se; Var( y ) 2.11 olur. Burada t 0 dır. Temel bleşenler brbrleryle lşkszdr ve varyansları kovaryans matrsnn özdeğerlerne eşttr. t tane temel bleşen oluşturulduktan sonra, verlern kaç tane temel bleşen le fade edlmes gerektğ en öneml konudur. Bununla lgl olarak lteratürde çeştl kurallar mevcuttur. Ancak bunlardan en yaygın kullanılanı Genel varyansın en az %67 sn açıklayan sayıda temel bleşen seçlmesdr. Buna göre, lk k tane özdeğern toplamı, tüm özdeğerlern toplamına oranlandığında elde edlen %67 oranı, orjnal ver setnn temsl edleblmes çn lk k tane temel bleşenn kullanılmasının yeterl olduğunu fade etmektedr (57). 24

40 Özntelk Seçm Boyut ndrgemenn, özntelk versnn yen br özntelk kümesne dönüşümü şeklnde gerçekleştrldğ özntelk dönüşümüne nazaran özntelk seçme algortmaları, orjnal özntelk kümesnden en y özntelk alt kümesn seçmey amaçlarlar. Özntelk dönüşümü le orjnal özntelk versnden farklı yen br özntelk kümes oluşturulmakta ve bu şlem bazı ver kayıplarına neden olablmektedr. Tam tersne, özntelk seçm le orjnal özntelk kümesnden seçlen özntelkler kullanılarak yen azaltılmış ver kümes oluşturulmaktadır. Dolayısıyla özntelk dönüşümüne göre daha anlaşılır ve yorumlanablr ver kümes elde edlmş olur (54). Özntelk seçlmes le esasen lgsz ve alakasız özntelkler le fazla ve htyaç duyulmayan, yan gereksz özntelklern atılması gerçekleştrlmektedr. Örneğn denetml özntelk seçme algortmalarından Entrop (Blg Kazancı) teknğne göre özntelk seçm şu şeklde gerçekleştrlmektedr: E entrop y göstermek üzere F 1 ve F 2 gb k özntelk olsun. F özntelğnn blg kazancı E E şeklnde hesaplanacaktır. E 0, 0 F özntelğnn sınıf bazında bölünmeden önce elde edlen entrop değerdr ve E0 pclog pc 2.12 c bçmnde hesaplanır. Burada p, c sınıfının ( c 1, 2,..., C) hesaplanan olasılığıdır. E se F özntelğnn sınıf bazında bölündükten sonra elde edlen entrop değerdr. Sonuç olarak, entrop teknğne göre, büyük blg kazancının elde edldğ özntelk 25

41 seçlecektr. Denetmsz özntelk seçmnde se (örneğn kümeleme) özntelkler arasındak uzaklığa göre benzer özntelkler gruplandırılır ve dğerler atılır (54,58). Özntelk seçlmesnde genel olarak Fltre Model ve Sarmalama Model olmak üzere 2 farklı model kullanılmaktadır. Fltre modelne göre özntelk seçme şlem, herhang br öğrenme algortması hesaba katılmaksızın önemsz ve gereksz özntelklern atılması şeklnde gerçekleştrlr. Bu şlemde genellkle, br değerlendrme fonksyonunu maksmum yapan br küme seçmek çn br arama metodu kullanılır. Buna göre, br özntelğn ncelenen problemdek önem belrlenr ve önemsz olan özntelkler atılarak özntelk sayısı azaltılmış olur. Sarmalama modelne göre se algortma, seçlecek gerekl özntelkler belrlemek çn br öğrenme algortması kullanır. Bunun çn sarmalama algortması, seçlen her özntelk alt kümes çn lgl sınıflandırıcının başarım performansını ölçer ve en y başarımı veren özntelk kümes seçlr (58,59). Çoğu örüntü tanıma uygulamasında sarmalama model algortmaları fltre model algortmalarına göre üstün performans göstermş olmasına karşın hesaplama bakımından çok daha zahmetldr (59). Yapılan bu çalışmada özntelk ver kümesnn çok büyük boyutta olması nedenyle şlem yükü fazla olmayan ve hızlı sonuçlar üreten özntelk seçme algortmaları terch edlmştr. Özntelk seçmnde; 1. Fsher Ölçüt Skoru 2. Özntelk Seçm İçn Sıfırıncı-Norm Kullanılması 3. Ortak Blg Temell Özntelk Seçm 4. Ynelemel Özntelk Elmnasyonu algortmaları kullanılmıştır. Bu algortmalara lşkn blgler sonrak bölümlerde sıralı br şeklde verlmştr. 26

42 Fsher Ölçüt Skoru Fsher ölçüt skoru (Fsher Crteron Score) (60), özntelk seçm çn kullanılan en bast fltre algortmalarından brdr. İk sınıf durumunda, her br t özntelğ çn; F t değer hesaplanır. Burada 1, Sınıf1 e at t değerlernn ortalaması; 2, Sınıf2 ye at t değerlernn ortalaması ve 1 le 2 de sırasıyla Sınıf1 ve Sınıf2 nn standart sapmalarıdır. Fsher ölçüt skoruna göre br özntelk, Sınıf1 ve Sınıf2 dağılımlarını ne kadar çok ayırablyorsa o kadar ydr. İk sınıftan daha fazla sınıf varsa Fsher ölçüt skoru; F t 2 M M M j M j M bçmnde kolayca genelleştrleblr. Burada M sınıf sayısıdır. Fsher ölçüt skoru aracılığıyla tüm özntelkler çn br sıralama hesaplanır. Metodu karakterze eden, özntelkler arasındak tam bağımsızlık varsayımıdır. Her F t katsayısı tek br özntelk hakkındak blgyle hesaplanır ve özntelkler arasındak ortak blg hesaba katılmaz (61) Özntelk Seçm İçn Sıfırıncı-Norm Kullanılması (L0) Weston vd. (62) standart destek vektör maknelernde 1 norm veya 2 norm un mnmze edlmes yerne w { w : w 0} bçmnde tanımlanan 0 j j 27

43 sıfırıncı normun mnmze edlmesn önermşlerdr. Dolayısıyla destek vektör maknesn tanımlayan optmzasyon problem, sıfırıncı norm çn; mn w w 0 y ( w. x b) 1 ( 1,2,..., l) 2.15 olarak fade edlr. Bu optmzasyon problemnn çözümü standart destek vektör makneler çn olan problemn çözümünden daha kısadır. Buradan, seçlecek özntelk sayısı belrlenemyor olmasına rağmen özntelk seçm dolaylı olarak gerçekleştrleblr. r adet özntelk; mn w n w 2 y w x b 1 ( 1,2,..., l) ve w r optmzasyon problemnn çözülmesyle seçleblr. Bu denklem, w 0 r kısıtından başka herhang br kısıt olmaksızın standart destek vektör maknes optmzasyon problemne eşttr. w kısıtı, çözüm vektörü 0 * w ın sadece r adet ve sıfır olmayan öğeden oluştuğunu garant eder. w 0 durumunu sağlayan j ndsler seçlen * j özntelkler gösterr Ortak Blg Temell Özntelk Seçm (MutInf) Ortak blg ( I ), ayrık rastgele değşkenlern stokastk (olasılıksal) bağımlılık blgsnn ölçümünde yaygın olarak kullanılan br teknk olup aynı zamanda sınıflandırma problemlernde sınıf değşkenlernn özntelk kümesnn seçmnde kullanılır (63). X ve Y gb k ayrık rastgele değşkenn ortak blgs; 28

44 p x, y I X ; Y p x, ylog 2.17 p x p y yy xx olarak tanımlanır denklemnde px, y, X ve Y nn brleşk olasılık dağılım fonksyonu, px ve p y de sırasıyla X ve Y nn marjnal olasılık dağılım fonksyonlarıdır. Yukarıda verlen toplam, sürekl zamanda k katlı belrl ntegral le; p x, y I X ; Y p x, ylog dxdy 2.18 p x p y Y X bçmnde tanımlanır. Burada, px, y, X ve Y nn brleşk olasılık yoğunluk fonksyonu, px ve p y de sırasıyla X ve Y nn marjnal olasılık yoğunluk fonksyonlarıdır. log fonksyonunun tabanı belrtlmedğnden verlen bu tanımlamalar belrszdr. Bu belrszlğ ortadan kaldırmak çn I fonksyonu, b logartma tabanı olmak üzere I X, Y, b şeklnde yenden parametrelendrleblr. Fakat ortak blg ölçümlernn çoğunun ortak brm bt olduğundan, logartma tabanı 2 olarak belrtleblr. Bu durumda tanımlamalar; p x, y I X ; Y p x, ylog p x p y yy xx ve p x, y I X ; Y p x, ylog2 dxdy 2.20 p x p y Y X 29

45 halne gelr. Ortak blg, X ve Y nn paylaştıkları blgy ölçer. Yan bu değşkenlerden herhang brnn blnmesnn, br dğer hakkındak belrszlğ ne kadar düşürdüğü ölçülür. Örneğn, eğer X ve Y bağımsız seler, X n blnmes Y hakkında hçbr blg vermez (veya ters). Buradan bu k değşken arasındak ortak blg sıfırdır. Öte yandan, eğer X ve Y özdeş seler X tarafından taşınan tüm blgler Y le paylaşılır, blnen X, Y değern belrler (veya ters). Ortak blg, X ve Y nn brleşk dağılımları le X ve Y bağımsız oldukları durumdak brleşk dağılımın arasındak farkın mktarını belrtmektedr ve; I X ; Y 0 X ve Y bağımlı değllerse ( X ve Y bağımsız rastgele değşkenler) şeklndek bağımlılığın br ölçümüdür. Yan X ve Y bağımsız seler, p x y p x p y olacaktır ve buradan; p x, y log log1 0 p x p y 2.21 olur. Ayrıca ortak blg negatf değldr (yan; ; I Y; X I X Y ) (64). I X ; Y 0) ve smetrktr (yan; Ynelemel Özntelk Elmnasyonu (RFE) Ynelemel özntelk elmnasyonu (Recursve Feature Elmınaton RFE), Guyon vd. (65) tarafından son yıllarda gelştrlmş br özntelk seçme algortmasıdır. Algortma, n toplam özntelk sayısını göstermek üzere, r n koşulunu sağlayan en y r boyutlu özntelk altkümesn bulmaya çalışır. Bu şlem, br SVM 30

46 sınıflandırıcısı kullanılarak sınıflar arası marjn en büyük yapan r özntelğn seçlmes le gerçekleştrlr. r boyutlu özntelk kümes kalıncaya kadar her terasyonda grş özntelk kümes azaltılır. Algortma özellkle mkro dz ver analz çn gen seçlmesnde y performans göstermştr (62,66). 2 SVM ler çn marjn, W j y y jk x, x j değer le ters orantılıdır. Algortma, bu değer küçük tutan özntelkler çıkarmakta olup, bu şlem aşağıdak ynelemel süreç le yapılmaktadır: çözümü ve her br özntelk p çn p p 2 W( p) j y y jk x, x j 2.22 değer hesaplanır. (Burada p x, p özntelğ atılan noktasının eğtm anlamına 2 2 gelr). Daha sonra W W fadesnn en küçük değerl olan özntelğ ( p) çıkarılır. Eğer sınıflandırıcı lneer se ( g() x w x b bçmnde) bu algortma, her ynelemede en küçük w değerl özntelğ atar. Özntelklern sayısı büyük olduğu zaman hesaplamaları hızlandırmak çn her ynelemede özntelklern yarısının çıkarılması önerlmektedr. Çok-sınıflı özntelk seçm bre karşı dğerler gb br yaklaşım çn kolaylıkla elde edleblmesne rağmen, RFE k-sınıflı problemler çn tasarlanmıştır (62) Gabor Özntelklernn Sınıflandırılması Yüz fade analznde son adım, çıkarılan özntelklern fadelere göre sınıflandırılmasıdır. İfade sınıflandırması, br karar şlem le bağlantılı örüntü 31

47 dağılımı modeller çeren br sınıflandırıcı le gerçekleştrlmektedr. Bu şlem çn öncelkle makne, sınıflandırması stenen öğe kümesnden bell sayıda örnekle eğtlr ve dğer öğeler eğtm örneklerne göre sınıflandırılırlar (20). Lteratürde yüz fade analznde Destek Vektör Makneler (67), Bayes Ağları (68), En Yakın Komşu (69) ve Saklı Markov Model (70) gb brçok sınıflandırma algortması kullanılmıştır. Bu çalışmada yüz fadelernn sınıflandırılmasında en bast sınıflandırma algortmalarından k-nn (k-nearest Neghbors En Yakın Komşu) le en gelşmş sınıflandırma algortmalarından SVM (Support Vector Machnes Destek Vektör Makneler) ve AdaBoost (Adaptve Boostng) kullanılmıştır. Algortmalarla lgl blgler sonrak bölümlerde verlmştr k En Yakın Komşuluk Sınıflandırma Algortması (k-nn) k-nn sınıflandırıcı (k-nearest Neghbor k-nn), br örnek tabanlı öğrenme algortması olup, gözlem çftlernn Ökldyen uzaklık gb br fonksyonuna dayalıdır. Bu sınıflandırma örneğnde, önce eğtm kümesnn k yakın komşuları hesaplanır. Sonra test versnden, br örneğn k en yakın komşuluklarına olan benzerlkler, komşulukların sınıflarına göre kümelenr ve test örneğ en benzer sınıfa atanır. k- NN n avantajı, sınıflandırma kararının benzer nesnelern küçük komşuluklarına dayalı olmasından ötürü, çoklu sınıflar çn uygun olmasıdır. Buradan hedef sınıfı çoklu (örneğn, çerdğ nesnelern bağımsız değşkenler farklı altkümeler çn farklı karakterstklere sahp) se k-nn doğruluğunu yne de devam ettrr. k-nn de kullanılan benzer değerlern en büyük dezavantajı, tüm özntelkler eşt hesaplama benzerlkler çnde kullanmasıdır. Bu, sınıflandırma çn sadece küçük br özntelk kümes faydalı ken, zayıf ölçümler ve sınıflandırma hatalarına neden olur (71). 32

48 Genel olarak en y k parametresnn seçm verye bağlı olup k nın büyük değerler sınıflandırma üzerndek gürültüyü azaltır, fakat sınıflar arasındak sınırların belrgnlğn en aza ndrger. İy br k değernn seçm, çapraz geçerllk (cross-valdaton) gb br teknkle gerçekleştrleblr. Şekl 2.5 k-nn sınıflandırma örneğ Şekl 2.5 te gösterlen k-nn sınıflandırma örneğne göre test örneğ (yeşl dare), Sınıf1 (mav kareler) veya Sınıf2 (kırmızı üçgenler) den brne sınıflandırılmalıdır. Eğer k 3 se yeşl dare Sınıf2 ye sınıflandırılır. Çünkü çtek darenn çnde 2 tane üçgen ve sadece 1 tane kare bulunmaktadır. Eğer k 5 se yeşl dare Sınıf1 e sınıflandırılır. Çünkü dıştak darenn çnde 3 tane kare, 2 tane üçgen var. Br sınıfın en yakın eğtm örneğnn sınıfı olarak tahmn edldğ özel durum ( k 1 olduğu durum) en yakın komşuluk algortması olarak blnr. k-nn algortmasının doğruluğu, gürültülü ve lgsz özntelklern bulunmasından veya özntelklern önemlerne uygun br şeklde ölçeklendrlmemesnden dolayı cdd mktarda düşeblr (72). 33

49 Destek Vektör Makneler (SVMs) Destek Vektör Makneler (Support Vector Machnes SVMs) ver sınıflandırma çn çok kullanışlı br teknktr. Bu teknğe at sınıflandırma algortması lk olarak 1992 yılında Vapnk ve çalışma arkadaşları tarafından kl sınıflandırma çerçeves çnde ler sürülmüştür (73,74). Son yıllarda bu metot, kernel metotları (75,76) olarak blnen tüm statstksel öğrenme algortma alesnn doğmasına yol açan makne öğrenme çerçevesnde büyük br lg kazanmıştır. SVM, optk karakter tanıma (77), metn madenclğ (78), yüz tanıma (79,80), yüz fade analz (36) ve byotıp (81) gb brçok uygulamada başarılı olmuş ve çoğu yaklaşıma üstünlük sağlamıştır İkl Sınıflandırma İçn SVM En bast SVM bçm, örnekler ve bu örneklere at etketlerden oluşan kümenn br kl sınıflandırma kuralı öğrenme algortmasıdır. Bçmsel olarak fade edlrse, her br örneğe lşkn kl olarak etketlenmş br küme olsun. Örneğn bu küme S ( x, y ),...,( x, y ) olmak üzere, ( x, y ) X 1, 1 bçmndedr. 1 1 l l ve 1,2,..., l Burada X, d R bçmnde olup, analz edlecek ver uzayını belrtr. Örneğn d boyutlu yüz görüntülerne at fadeler ver uzayını, etketler 1 ve 1 de fadelern kl sınıflarını belrtmektedrler. SVM nn amacı, S den f : X 1, 1 şeklnde br sınıflandırma fonksyonu öğrenmektr. SVM sınıflandırıcı çıkışı, lneer br fonksyonun şaretne dayalıdır: f ( x) sgn w, x b

50 Geometrk olarak, br w, x X R kls Hwb, x X : w, x b 0 bçmnde br aşırı düzlem tanımlar k bu düzlem, grş uzayı X k yarım uzaya böler ve böylece yen br noktanın sınıf tahmn, bu noktanın düzlemn hang tarafında bulunduğuna bağlı olacaktır Lneer SVM (Ayrılablr Ver Durumu) Eğtm set lneer br şeklde ayrılablr olduğunda, başka br deyşle poztf ve negatf örneklern aşırı düzlemn farklı taraflarında bulunduğu bu durum, SVM nn en bast çeşd olan Hard Marjn SVM dr. Hard Marjn SVM, sonsuz sayıdak aşırı düzlem arasından, S den en yakın ver noktasına en genş aralıklı olanı seçer. Bu aralık, aşırı düzlemn marjn olarak blnr ve genellkle le belrtlr. Aşırı düzlem se Şekl 2.6 da gösterldğ gb maksmum marjn sınıflandırıcıyı tanımlar (74). w, x b 0 w, x b 0 w, x b 0 Şekl 2.6 SVM, maksmum marjn olmak üzere, poztf (beyaz dareler) ve negatf (syah dareler) örnekler ayıran w, x b 0 aşırı düzlemn bulur. 35

51 ( x, y) S noktasından Hwb, x X : w, x b 0 aşırı düzlemne olan uzaklık w, x b w le verlr. Eğer H wb, br ayırma aşırı düzlem se, bu aralık y w, x b w ya eşt olur ve buna lşkn marjn; 2.24 mn y w, x b w, x, y S 1,..., l le verlr. Aşırı düzlemler, önlerne br ölçeklendrme sabt alarak tanımlandıkları çn H wb, tanımına; mn y w, x b 1, x, y S 1,..., l 2.25 kısıtı ekleneblr. Buradan H wb, aşırı düzlemnn marjn 1 w olarak elde edlr. SVM algortması, maksmum marjne sahp olan w, b aşırı düzlemn arar ve sözü edlen maksmum marjn, H 1 2 w, b argmn w wx br y w, x b 1, 1,..., l 2.27 bçmnde br optmzasyon problem olarak formülze edleblr (82). Optmzasyon problemler pratkte Lagrange dualty çerçeves çnde çözüleblr ve 2.27 le belrtlen prmal optmzasyon problemlerne bağlı olan Lagrange; l 1 2 Lw, b, w y w, x b

52 bçmnde fade edlr. Burada 0 katsayıları Lagrange çarpanları olup y w, x b 1 kısıtıyla lşklendrlr. Bu optmzasyon problemnn çözümü Lagrange ın eyer noktasında, yan,, L w b nın wb, ye göre mnmumunda ve ya göre br maksmumunda bulunur. Sabt br çn, w ve b ye göre Lagrange mnmze edlr. Bu şlem Lw, b, nın w ve b ye göre kısm türevler alınarak gerçekleştrlr ve buradan sırasıyla; l Lw, b, 0 w y x 2.29 w 1 1 l Lw, b, 0 y b elde edlr. Bu fadeler (2.28) le verlen Lagrange denklemnde yerne konulursa orjnal problem şu şekldek dual probleme dönüşür: l l 1 argmax y y x, x l R 2.31 j j j 1 2, j1 0, 1,..., l 2.32 l y Bu problem Sequental Mnmal Optmzaton (SMO) (83) algortması le çözülür ve optmum le karşılaşıldığında karar fonksyonu f x sgn w, x b şeklde olur: şu l f x sgn y x, x b

53 b kayması da optmumda elde edlr ve noktalar Karush-Kuhn-Tucker durumunu doğrular: y w, x b 1 0, 1,..., l 2.35 Bu duruma göre sıfır olmayan Lagrange çarpanları sadece y w x b, 1 olduğu durumdak x, y noktalarına karşılık gelr. Bu noktalar aşırı düzlemn marjn üzernde bulunurlar ve sınıflandırıcının destek vektörler olarak adlandırılırlar Lneer SVM (Ayrılamayan Ver Durumu) Ayrılablr ver çn olan durumun aksne, genel olarak very ayırablen lneer br aşırı düzlem bulunmayablr. Ayrılamayan ver kümeler, pratkte her ( x, y ) noktası çn prmal problemn, 2.27 le verlen ayrılablrlk kısıtlarını sağlamak amacıyla, x ³ 0 geçc değşkenlern kullanılması şeklnde düşünüleblr: S ( ) y w, x + b ³ 1- x 2.36 x term, (, ) x y noktasının sınıflandırılmasında yapılan hatayı açıklamaktadır. Şekl 2.7 den görüleceğ üzere, eğer 0 x = se, (, ) sınıflandırılır ve marjnn dışında bulunur; 0 x 1 x y noktası doğru br şeklde < < se, (, ) sınıflandırılır, fakat marjnn çnde bulunur ve eğer 1 x y noktası yne doğru x > se, (, ) x y noktası 38

54 sınıflandırılmaz. Aşırı düzlemn marjnnn 0 tanımlandığına dkkat edlmeldr. x = çn ( x, y ) S noktalarında w, x b 0 Şekl 2.7 Geçc değşkenlern gösterm Geçc değşkenlern toplamı, ayrılablrlk kısıtlarının mktarının eğtm set üzerndek hlaln açıklar, dolayısıyla bu toplam öğrenme şlem süresnce kontrol edlmeldr. Bu şlem, geçc değşken ncelğnn SVM optmzasyon problem objektf fonksyonuna eklenmesyle yapılır: 1 w, b, argmn w C x 2.37 * * * ( x ) l 2 = w X, + å br, 2 = 1 xr l ( ) y w, x + b ³ 1 - x, = 1,..., l 2.38 x ³ 0, = 1,..., l

55 2.37 le belrtlen amaç fonksyondak C sabt, w term le fade edlen marjn maksmzasyonu arasındak lşky gösterme anlamındadır. C nn azaltılması, artan marjnn yararı çn eğtm kümes üzerndek büyük sayıdak sınıflandırılmayışın tolere edlmesn sağlar. Soft Marjn SVM olarak blnen bu formülasyon, ayrılablr durumdak Hard Marjn formülasyonunun tam tersdr. Hard Marjn formülasyonu, eğtm set lneer olarak ayrılablr olmasına rağmen, C = + çn düzelme gösterrken, Soft Marjn formülasyonu se gürültü ve olablecek aykırı değerlere karşı uyumu önler Lneer Olmayan SVM Şekl 2.8 n sol tarafında görüldüğü gb lneer olarak ayrılamayan problemlerde, lneer sınıflandırıcılar kümes düzgün br sınıflandırma fonksyonu sağlamak çn yeterl olmayablr. x 2 z 2 f x 1 z z 3 1 Şekl 2.8 Lneer olmayan SVM gösterm. eşleştrme x1, x2 z1, z2, z3 z 2x x ) R R şeklnde şeklndek le tanımlanır. ( z x, z x ve

56 Lneer olmayan durumda destek vektör makneler, orjnal ver yerne dönüştürülmüş ver x x,..., 1 l ye lneer yaklaşım kullanılarak genelleştrleblr. Burada, grş uzayı X ten yen özntelk uzayı H ye lneer olmayan dönüşümü gösterr denklemndek, x x j yerne x, xj H konulmasıyla yen özntelk uzayında lneer br aşırı düzlem hesaplanır ve buradan grş uzayındak lneer olmayan ayırma fonksyonu f ; l f x sgn x, x b H bçmnde gösterlr. Şekl 2.8 de grş uzayı 2 X R de elpsodal ayırma 3 fonksyonu, yen özntelk uzayındak ( H R ) aşırı düzlemne göre eşleştrldğnde; 2 3 : R R x 2 2 1, x2 z1, z2, z3 x1, x2, 2x1x halne gelr. Bununla brlkte, eğtm kümesndek vektörlern daha yüksek boyutlu uzaya dönüştürülmesnde bazı sayısal problemler meydana gelr. Yen yüksek boyutlu özntelk uzayı, eğtm vektörü x lere karşılık gelen özntelk vektörlernn fade edlmesn hafıza ve zaman bakımından çok zahmetl kılar. Ayrıca, dönüştürülen very lneer olarak ayıran dönüşümünün bulunması çok zor olablr. x Dkkat edlrse daha önce bahsedlen amaç fonksyon ve aşırı düzlemn tanımı vektörler arasındak ç çarpıma bağlıdır. Eğer x den dönüştürülmüş x 41

57 özntelk vektörler arasındak ç çarpımlar, x y hesaplayablen br fonksyon bulursa, hesap karmaşıklığı büyük ölçüde gderleblr. Böyle br fonksyon Kernel Fonksyonu le gerçekleneblr ve Kernel Fonksyonu; T K( x, x ) x x 2.42 j j bçmndedr (84). Araştırmacılar tarafından yen kernel çeştler gelştrlmesne rağmen, lteratürde bulunan dört temel kernel Çzelge 2.1 de gösterlmektedr: Çzelge 2.1 Dört Temel Kernel Tp ve Fonksyonları KERNEL TİPİ FONKSİYON T Lneer K( x, x ) x x j j T Polnomal K( x, x j ) x x j r, 0 2 Radal Bass Functon (RBF) K( x, x j ) exp x x j d, 0 T Sgmod K( x, x j ) tanh x x j r Çoklu Sınıflandırma İçn SVM Destek vektör makneler aslında kl sınıflandırma çn tasarlanmışlardır. Bunların etkn br şeklde çoklu sınıflandırma çn kullanılablmeler hala devam eden br araştırma konusudur. Buradan çoklu sınıflandırma problemlernn (sınıf sayısı k olmak üzere, k 2 ) SVM kullanılarak çözülmesnde genel olarak 3 metot vardır: Mult-Class Rankng SVM (Çoklu Sınıflandırma) : Bu yaklaşımda tüm sınıfların sınıflandırılması çn tek br SVM karar fonksyonu vardır. 42

58 One-Aganst-Rest (One-Vs-Rest) Classfcaton (Br Sınıfın Dğerlernden Ayrılması) : Bu yaklaşım k tane kl sınıflandırıcının düzenlenmesne göre çalışır. nc sınıflandırıcı, nc sınıftak poztf etketl tüm örnekler le negatf etketl dğer tüm örneklerle eğtlr. Fnal çıkışı, en yüksek değerl sınıflandırıcıya karşılık gelen sınıftır (Wnner Takes All). One-Aganst-One (One-Vs-One) Classfcaton (Br Sınıfın Dğer Br Sınıftan Ayrılması) : Bu yaklaşım k adet sınıfın eğtm setnden olablecek tüm kl sınıflandırıcıları düzenler. Dolayısıyla k adet sınıfın kl kombnasyonu kadar sınıflandırıcı oluşacaktır ( ( k, 2) k( k 1)/ 2 ). Fnal çıkışında se her sınıflandırıcı terch ettğ sınıf çn br oy verr ve en çok oy alan sınıfa göre çıkış belrlenr (Votng) Adaptve Boostng (AdaBoost) Boostng herhang br öğrenme algortmasının performansını artıran genel br metot olup, öğrenme algortması tarafından üretlen zayıf sınıflandırıcılardan y br öğrenme algortması oluşturmayı amaçlar. Schapre (85) lk boostng algortmasının kends tarafından üretlmş olduğunu ve Freund (86) tarafından gelştrldğn belrtmştr. Boostng teork ve deneysel olarak brçok araştırmacı tarafından ncelenmştr. En popüler boostng algortması olan AdaBoost, Freund ve Schapre (87) tarafından ler sürülmüş ve öncek boostng yaklaşımlarına göre üstünlük sağlamıştır. AdaBoost aynı zamanda çoklu sınıflandırma ve regresyon problemlernn çözümü çn de gelştrlmştr (87,88). AdaBoost algortmasının çoklu 43

59 sınıflandırma problemlernn çözümü çn gelştrlen lk versyonu olan AdaBoost.M1, sınıflandırma şlemn Çzelge 2.2 de gösterldğ şeklde yürütmektedr. Çzelge 2.2 Çoklu Sınıflandırma İçn AdaBoost.M1 Algortması Verlen m örnekten oluşan eğtm set S ( x1, y1),...( xm, ym), x X ve y Y {1,..., k} sınıf etketlern göstermek üzere üzere, ağırlık değerlerne başlangıç değerler olarak w D( ) 1/ m, ( 1,..., m) verlr. 1 Her t 1,2,..., T çn; (T terasyon sayısını gösterr) 1. t p br olasılık dağılımını göstermek üzere ağırlıklar normalze edlr: p t t w m w 1 t 2. S eğtm kümes üzernde t p dağılımını sağlayan br zayıf sınıflandırıcı h : X Y şeklnde br hpotez hesaplar. Zayıf sınıflandırıcının amacı eğtm t hatasını mnmuma ndren br hpotez bulmaktır. 3. h m t t : t p h ( x ) y 1 t olarak fade edlen eğtm hatası hesaplanır. Bu hata zayıf sınıflandırıcı tarafından sağlanan t p dağılımına göre hesaplanır. Eğer hata t 1/ 2 se, T t 1 olacak şeklde ayarlanır ve döngüden çıkılır. 4. /(1 ) değer hesaplanır. t t t 5. Ağırlıklar t 1 t 1 ht ( x ) y t w w le hesaplanan yen değerlerne güncellenr. Bu şlem T terasyon sayısı boyunca devam eder ve sınıflandırıcıları brleştrlerek kuvvetl sınıflandırıcı bulunmuş olur (87). T 1 h ( x) arg max log h ( x ) y f t yy t1 t h,..., 1 h t zayıf 44

60 3. ARAŞTIRMA BULGULARI VE TARTIŞMA 3.1. Grş Yüz fade analznde, yüz görüntülernn taşıdıkları fadelere göre sınıflandırılması çn 4 farklı deney yapılmıştır. Yapılan deneylerde daha önce açıklanan k-nn (k en yakın komşuluk), SVM (Destek Vektör Makneler) ve AdaBoost sınıflandırıcılarının başarımları gözlenmştr. Ayrıca özntelk dönüşümü ve özntelk seçm gb çeştl algortmalar kullanılarak boyutu azaltılan özntelk kümesnn, sınıflandırıcılar üzerndek etks ncelenmş ve kullanılan algortmalar arasında çeştl karşılaştırmalar yapılmıştır. Yapılan deneyler, çeştl paket programlar (89,90) kullanılarak AMD Athlon GHz 64-bt şlemcl ve 1GB bellek brmne sahp br blgsayar le MATLAB ortamında gerçekleştrlmştr Yüz İfade Görüntüler Ver Set Bu çalışmada, Cohn and Kanade DFAT 504 (15) ver setnden alınan görüntüler kullanılmıştır. Bu ver set, yaşları arasında değşen 100 ünverste öğrencsne at görüntülerden oluşmaktadır. Öğrenclern %65 bayan, %15 zenc ve %3 ü Uzak Doğu ve Latn kökenldr. Görüntüler, analog S-vdeo kamera le kşlern ön taraflarından kaydedlmştr. Kşlerden 23 tane yüz fades yapmaları stenmştr. Görüntüler 640x480 veya 640x490 pksel boyutlarında ve 8-bt gr tona sahptr. 45

61 Bu ver setnden alınan görüntüler her br farklı duygusal çerk taşıyan 6 temel yüz fadesne göre sınıflandırılmıştır. Bu fadeler temel duygular olarak adlandırılır ve tüm etnk ve kültürlerde evrenseldr. Buradan duygusal görünümlere göre 6 yüz fades öfke, ğrenme, korku, mutluluk, üzüntü ve şaşkınlık olarak sıralanır. Cohn and Kanade DFAT 504 (15) ver setnden alınan ve 6 yüz fadesn gösteren br örnek Şekl 3.1 de gösterlmştr. Şekl adet yüz fadesne br örnek (Cohn and Kanade DFAT-504 ver set) Cohn and Kanade DFAT 504 (15) ver setnde farklı kşlere at görüntülern bulunduğu klasörlerdek son resm 6 yüz fadesnden herhang brnn en çok belrgn olduğu durumu ntelemektedr. Dolayısıyla, yüz fadeler sınıflandırılırken her br kşnn çnde bulunduğu durumun son görüntüsü kullanılmıştır. Buradan 6 temel yüz fadesne göre görüntüler ayrı ayrı klasörlere ayrılmış ve meydana gelen her br fadeye at klasördek görüntü sayıları Çzelge 3.1 de gösterlmştr. 46