İSTANBUL TEKNİK ÜNİVERSİTESİ ELEKTRİK-ELEKTRONİK FAKÜLTESİ. WEB SAYFASI SINIFLANDIRMA YÖNTEMLERİ ve BENZERLİK ÖLÇÜTLERİ

Transkript

1 İSTANBUL TEKNİK ÜNİVERSİTESİ ELEKTRİK-ELEKTRONİK FAKÜLTESİ WEB SAYFASI SINIFLANDIRMA YÖNTEMLERİ ve BENZERLİK ÖLÇÜTLERİ Btrme Ödev Eser Aygün Bölüm: Blgsayar Mühendslğ Anablm Dalı: Blgsayar Blmler Danışman: Yrd. Doç. Dr. Zehra Çataltepe Mayıs 006

2 İSTANBUL TEKNİK ÜNİVERSİTESİ ELEKTRİK-ELEKTRONİK FAKÜLTESİ WEB SAYFASI SINIFLANDIRMA YÖNTEMLERİ ve BENZERLİK ÖLÇÜTLERİ Btrme Ödev Eser Aygün Bölüm: Blgsayar Mühendslğ Anablm Dalı: Blgsayar Blmler Danışman: Yrd. Doç. Dr. Zehra Çataltepe Mayıs 006

3 Özgünlük Bldrs 1. Bu çalışmada, başka kaynaklardan yapılan tüm alıntıların, lgl kaynaklar referans gösterlerek açıkça belrtldğn,. Alıntılar dışındak bölümlern, özellkle projenn ana konusunu oluşturan teork çalışmaların ve yazılım/donanımın benm tarafımdan yapıldığını bldrrm. İstanbul, 16 Mayıs 006 Eser Aygün

4 WEB SAYFASI SINIFLANDIRMA YÖNTEMLERİ ve BENZERLİK ÖLÇÜTLERİ ( ÖZET Son yıllarda blşm ve letşm teknolojlernn hızlı yükselşyle brlkte sayısı hızla artan web sayfalarının sağladığı blgye erşmek gderek zorlaşmaktadır. Bu sorunun üstesnden geleblmek çn, verlen anahtar sözcüklerden yola çıkarak lgl sayfaları bulmaya çalışan arama motorları ya da web sayfalarını hyerarşk br yapı çersnde, kolayca anlaşılablecek br düzende tutmayı amaçlayan dznler kullanılır. Web sayfası sınıflandırma teknkler, verlen sayfaları bell kategorler altında toplayarak otomatk dzn oluşturmayı mümkün hâle getrrler. Bu projenn amacı, mevcut web sayfası sınıflandırma yöntemlern nceleyp kıyaslamak ve yen yöntemler önermektr. Çalışmada, web sayfası sınıflandırma sorununun üstesnden gelmek çn ortaya atılmış olan öneml sınıflandırma yöntemler ve bu yöntemlerde kullanılablecek farklı benzerlk ölçütler ncelenmş ve yen yöntemler önerlmştr. Ayrıca, ncelenen ve önerlen tüm yöntem ve ölçütler MATLAB dlnde gerçeklenmş ve gerçek hayattan verler kullanılarak brbrleryle kıyaslanmıştır. Böylece hanglernn ele alınan sorun çn daha uygun olduğuna karar verlmş ve önerlen yen yöntemler le br gelşme kaydedlp edlmedğ gözlenmştr. Özetle deneblr k; bu çalışmada örüntü tanıma ve web sayfası sınıflandırma alanları çn gereken temel kavram ve yöntemlern açıklanmış olmasının yanı sıra, web sayfası sınıflandırmak çn kullanılan yöntemler ve benzerlk ölçütler kıyaslanmış ve bu yöntemlerden brs olan Ağırlık Merkezyle Temsl yöntemnn gelştrlmesyle oluşturulmuş ve hem kuramsal olarak hem de deneysel olarak verml olduğu gösterlmş olan yen br yöntem ortaya atılmıştır. Son olarak, tüm bunların üzerne atılablecek adımlardan brkaçına değnlmş ve web sayfası sınıflandırma konusunun henüz kapanmamış br konu olduğu sonucuna varılmıştır.

5 WEB-PAGE CLASSIFICATION METHODS and SIMILARITY METRICS ( SUMMARY Durng recent years, wth the fast advance of computer and communcaton technology, the amount of nformaton on the WWW (World Wde Web s steeply ncreased. Ths stuaton makes the access to the nformaton harder than ever. There are two methods that are adopted to overcome ths problem: Search engnes and drectores. A search engne tres to locate a web-page usng gven keywords. To be able to do ths, search engnes use keyword ndces, whch are populated by a automatc web crawler program. However, even large ndces are becomng nsuffcent. One reason of ths s that junk pages that pollutes the ndces wth ncorrect entres. Furthermore, because of the ncreasng number of web-pages, t s becomng more and more a necessty not only to fnd the relevant pages but also to sort them by ther relevance. The other method s to categorze the web-pages usng drectores. These herarchcal drectores let the users to scan the pages n a top-down manner and fnd more easly what they are lookng for. Though, these drectores are created and kept up to date by human efforts. As a result of manual categorzaton, besdes objectvty of drectores, the constructon and mantenance costs also becomes a problem. So, one can ask How can we automate the process of web-page categorzaton? By collectng the gven pages under some specfc categores, web-page classfcaton technques make automatc web-page categorzaton possble. Ths work s on the classfcaton of web-pages after feature etracton. The project conssts of the nvestgaton of some mportant classfcaton methods, smlarty metrcs and some mprovements on them. Also, these methods and metrcs were mplemented usng MATLAB and compared to each other. There are so many approaches to classfy web-pages; statstcal, graph-based, artfcal neural network-based, etc. But, only the spatal ones are taken nto account durng ths work. These are Nearest Neghbor, K Nearest Neghbor, Nearest Cluster and Centrod- Based methods. In addton to these, three new methods wth names Representatve Addton Usng K Means, Representatve Addton Usng Subsets and Centrod-Based Wth Weghted Data, were ntroduced. There are also numerous metrcs to measure the smlarty between two objects. But, four of them are especally mportant n web-page classfcaton area: Eucld Smlarty, Cosne v

6 Smlarty, Etended Jaccard Smlarty and Pearson Correlaton. The eploraton of these metrcs was another step of the work. To be able to compare these methods and metrcs, t s requred to mplement them. Because of ts hgh level matr operaton support and vsualzaton capabltes, MATLAB was used durng mplementaton. To permt new classfcaton methods and smlarty metrcs to be added easly to the system, the code s wrtten modularly. Durng the comparson step, many dfferent real world data were needed. So, large amounts of data are collected from dfferent sources. Fnally, all the eperments were done usng these data and the results were nterpreted. In the deeper steps of the work, frst of all, general pattern recognton and web-page classfcaton concepts were defned and formulated mathematcally so that the constructed formal system may be used n future works. The classfer and the smlarty metrc notons and some evaluaton tools (confuson matr and accuracy were also defned precsely usng ths formal system, besdes the tranng and applcaton algorthms of classfcaton methods. Secondly, the four classfcaton methods were defned and they were compared theoretcally by the means of computatonal complety. The results ndcated that all of the methods that are dscussed n ths work behave nearly the same whle tranng, where the completes of applcaton algorthms dffer: Nearest Neghbor and K Nearest Neghbor methods are asymptotcally slower than the others whle applyng on test data. Thrd step was the eploraton of the four smlarty metrcs. Eucld smlarty, whch s derved from Eucld dstance, s senstve to the scale of the vectors and nsenstve to the transposton. On the contrary, cosne smlarty s senstve to the transposton and nsenstve to the scale. Etended Jaccard smlarty s lke a transton between cosne smlarty and Eucld smlarty, where Pearson correlaton has statstcal meanngs more than geometrc ones. After these nvestgatons, three eperments were followed. Frst eperment targeted to compare the four estng classfcaton methods and the results ndcated that the Centrod-Based method s performed best n spte of ts smplcty. The second eperment was done to compare the four smlarty metrcs. Pearson correlaton, etendend Jaccard smlarty and cosne metrcs are performed well durng ths eperment, whle Eucld smlarty had nothng to say. Fnally, the thrd eperment amed to compare the suggested methods wth estng ones and t showed that the newly ntroduced Centrod-Based Wth Weghted Data method performed very well. To sum up; n addton to defnng the basc concepts and methods of pattern recognton and web-page classfcaton, the classfcaton methods and smlarty metrcs were compared wth each other and three new methods dervng from Centrod-Based method were ntroduced and also t was shown both theoretcally and emprcally that on of these v

7 new methods s more effcent than estng ones n many cases. Fnally, some future work over ths work was proposed, and t was realzed that there are stll uncovered parts on the web-page classfcaton subject. v

8 İÇİNDEKİLER 1 GİRİŞ...1 PROJENİN TANIMI ve PLANI... 3 KURAMSAL BİLGİLER Örüntü Tanıma Örüntü Tanıma Uygulaması Olarak Web Sayfası Sınıflandırma Temel Matematk Tanımları Sınıflandırıcı Benzerlk Ölçütü Değerlendrme Araçları SINIFLANDIRMA YÖNTEMLERİ K Orta Algortması En Yakın Komşu Yöntem En Yakın K Komşu Yöntem En Yakın Küme Yöntem Ağırlık Merkezyle Temsl Yöntem Yen Yöntemler K Orta Kullanarak Temslc Ekleme Alt Kümeler Kullanarak Temslc Ekleme Ağırlıklandırılmış Verl Ağırlık Merkezyle Temsl BENZERLİK ÖLÇÜTLERİ Ökld Benzerlğ Kosnüs Benzerlğ Genşletlmş Jaccard Benzerlğ Pearson Korelasyonu GERÇEKLEME Genel Amaçlı Fonksyonlar Değerlendrme Fonksyonları Ver Yükleme Fonksyonları Ver Sağlayıcılar Benzerlk Ölçütler Eğtm Fonksyonları Uygulama Fonksyonları DENEYSEL SONUÇLAR Kullanılan Verler Yahoo! News Reuters TREC...6 v

9 7.. Kıyaslamalar Deney 1: Mevcut Yöntemlern Kıyaslanması Deney : Benzerlk Ölçütlernn Kıyaslanması Deney 3: Yen Yöntemlern Kıyaslanması SONUÇ ve ÖNERİLER KAYNAKLAR...33 v

10 1 GİRİŞ Son yıllarda blşm ve letşm teknolojlernn hızlı yükselşyle brlkte WWW (World Wde Web - Dünya Çapında Ağ üzerndek sayfaların sayısı ve bu sayfaların güncellenme sıklığında şaşırtıcı br artış meydana gelmştr yılında olan web stes sayısı 00 de 9 mlyonu aşmıştır ve bunların 3 mlyondan fazlasını halka açık steler oluşturmaktadır [1]. Bu stelern taşıdığı sayfaların mlyarları bulduğu düşünülürse sunulan blgye erşm hızlandırma gereksnm kolayca fark edleblr. Hızlı erşmn br kolunu arama motorları oluşturur. Arama motorları, verlen anahtar sözcüklerden yola çıkarak lgl sayfaları bulmaya çalışırlar. Bu şlemn verml yapılablmes çn kelme ndeksler kullanılır. Kelme ndeksler WWW üzerndek sayfaların br uygulama aracılığıyla otomatk olarak taranması le oluşturulur. [] dek verlere göre, 1994 te lk arama motorlarından br olan World Wde Web Worm (WWWW sayfayı ndekslemşken, 1997 de bu sayı bazı arama motorları çn 100 mlyona ulaşmıştır. 004 te se Google arama motorunun yaklaşık 8,1 mlyar sayfayı ndeksnde barındırdığı düşünülmektedr [3]. Bu şaşırtıcı rakamlara rağmen, maalesef büyük ndeksler aranan verye ulaşmak çn yeterl olmamaktadır. Bunun en öneml neden kullanıcıları kandırmak steyen reklâm amaçlı yalancı çerklerdr. Ayrıca artan sayfa sayısı nedenyle sadece doğru sayfaları bulmak yeterl olmamakta, aynı zamanda bu sayfaları lgllklerne göre sıralamak gerekmektedr. Bu sorunları aşmak çn sayfalar arası bağlantıların ncelenmes ve bağlantı metnlernn taranması gb ek yöntemler gelştrlmştr. Br dğer yöntem se sayfaları dznlemektr. Bu yöntemde sayfalar hyerarşk br yapı çersnde, kolayca anlaşılablecek br düzende tutulurlar; böylece kullanıcılar bu yapıyı aşağıya doğru tarayarak stedkler blglere ulaşablrler. DMOZ Open Drectory Project (ODP bu dznlere güzel br örnek teşkl eder. ODP, edtörün 7 mlyondan fazla sayfayı kategor altında toplaması le oluşmuştur [4]. ODP de olduğu gb mevcut yaklaşımlarla dznleme yöntem, akla yatkınlığına karşın, büyük oranda nsan emeğ gerektrr. İnsan elyle oluşturulan dznler özneldr ve bu dznler oluşturmak ve güncel tutmak yüksek malyet gerektrr. Bu durum dznleme şlemn otomatkleştrme düşüncesn akla getrr. Web sayfası sınıflandırma teknkler, verlen sayfaları bell kategorler altında toplayarak otomatk dzn oluşturmayı mümkün hâle getrrler. Bu projenn amacı, mevcut web sayfası sınıflandırma yöntemlern nceleyp kıyaslamak ve yen yöntemler önermektr. 1

11 PROJENİN TANIMI ve PLANI Bu çalışma, web sayfası sınıflandırma sürecnn üç adımından sonuncusu olan, ntelkler belrlenmş web sayfalarının kategorlere ayrılması üzernedr. Çalışmada, bu şn üstesnden gelmek çn ortaya atılmış olan öneml sınıflandırma yöntemler ve bu yöntemlerde kullanılablecek farklı benzerlk ölçütler ncelenecek ve yen yöntemler önerlecektr. Ayrıca, ncelenen ve önerlen tüm yöntem ve ölçütler MATLAB dlnde gerçeklenecek ve gerçek hayattan verler kullanılarak brbrleryle kıyaslanacaktır. Böylece hanglernn ele alınan sorun çn daha uygun olduğuna karar verlecek ve önerlen yen yöntemler le br gelşme kaydedlp edlmedğ gözlenecektr. Web sayfası sınıflandırma çn pek çok yaklaşım bulunmaktadır. Km yöntemler statstkî çözümler önerrken, kmler çzgelerden faydalanır. Ayrıca, yapay snr ağları da bu alanda kullanılmakta olan br dğer yaklaşımdır. Ancak, bu çalışmada, ntelk vektörlerne geometrk anlamda yaklaşan uzaysal yöntemler ncelenecektr. Bu yöntemler; En Yakın Komşu Yöntem, En Yakın K Komşu Yöntem, En Yakın Küme Yöntem ve Ağırlık Merkezyle Temsl Yöntem dr. Bunlara ek olarak; K Orta Kullanarak Temslc Ekleme, Alt Kümeler Kullanarak Temslc Ekleme ve Ağırlıklandırılmış Verl Ağırlık Merkezyle Temsl adında üç yen yöntem önerlecektr. İk varlığın benzerlğn tanımlamakta kullanılablecek benzerlk ölçütlernn sayısı da en az sınıflandırma yöntemler kadar çoktur. Ancak, web sayfası sınıflandırma sorunuyla lgl olan ve uzaysal yöntemlerle bağdaşanlara bakıldığında dört adet ölçüt göze çarpar: Ökld Benzerlğ (veya genel olarak geometrk uzaklıktan türeyen benzerlkler, Kosnüs Benzerlğ, Genşletlmş Jaccard Benzerlğ ve Pearson Korelasyonu. Bu ölçütlern ncelenmes, çalışmanın dğer br bölümü oluşturmaktadır. Çalışmada, kıyaslamaların yapılablmes çn, ncelemelern yanı sıra gerçeklemeye de ağırlık verlecektr. Bol mktarda matrs matematğne ve görselleştrme olanaklarına htyaç duyulması nedenyle, gerçekleme çn MATLAB dl terch edlmştr. Her an yen yöntem ve ölçüt ekleyeblmek ve eldek yöntemler le eldek ölçütler rahatça br araya getreblmek çn modüler br alt yapı kurulacaktır. Kurulan alt yapının web sayfası sınıflandırma dışındak örüntü tanıma uygulamalarıyla da kullanılablr olmasını sağlamak da br hedeftr. Kıyaslama aşamasında se, ncelenen yöntemler ve ölçütler doğru br şeklde karşılaştırablmek çn, gerçek hayattan alınmış bol mktarda verye htyaç vardır. Çalışmanın br adımı da bu verlern elde edlmes ve şlenmeye uygun hâle getrlmesdr. Daha sonra, bu verler kullanılarak kıyaslamalar yapılacak ve sonuçlar ncelenp yorumlanacaktır.

12 3 KURAMSAL BİLGİLER Web sayfası sınıflandırma, verlen web sayfalarının konularına göre önceden belrlenmş konu başlıkları altında sınıflandırılmasını amaçlar. Br takım varlıkların belrl ntelklerne göre kategorlerne ayrılması şlem örüntü tanıma adını alır. İlerleyen bölümlerde genel olarak örüntü tanıma kavramı tanımlanacak ve örüntü tanıma alanına lşkn kavramların ele alınan sorundak karşılıkları belrlenerek sorun somutlaştırılacaktır Örüntü Tanıma Örüntü tanıma, verlen varlıkları kategorlere ayırmayı amaçlayan blgsayar blm alanıdır. Bu alan, ele alınan varlıklara ve varlıkların ayrılacağı kategorlere göre farklılaşmış pek çok uygulama alanına sahptr. Örnek brkaç uygulama alanı Tablo 1 de verlmştr. Tablo 1. Örüntü tanımanın örnek uygulama alanlarında varlıkların ve kategorlern tanımları. Uygulama alanları Varlıklar Kategorler Yazı Tanıma Yazı görüntüsünden parçalar Karakterler Konuşma Tanıma Konuşma kaydından parçalar Kelmeler Belge Sınıflandırma Belgeler Konu başlıkları Örüntü tanıma, kategorlern önceden belrlenmş olup olmamasına göre k kola ayrılır. Kategorlern önceden bell ve tanımlı olduğu duruma sınıflama denr. Örneğn yazı tanımada kategorler karakterlerdr ve karakterler nsanlar tarafından önceden belrlenmşlerdr. Br yazı tanıma sstemnden beklenen, nsanların zaten bldğ karakter tanımının br modeln barındırmak ya da mekank öğrenme le böyle br modele ulaşmak suretyle, verlen yazı görüntüsü parçalarındak karakterler tıpkı br nsanın yapacağı gb - ama muhtemelen daha verml br şeklde- belrlemesdr. İknc kola kümeleme adı verlr. Kümeleme, kategorlern önceden bell olmadığı durumdur. Yazı tanıma örneğnden devam etmek gerekrse; kümeleme, blnmeyen br alfabenn karakterlern belrlemeye karşılık düşer. Bu durumda örüntü tanıma sstemn kuranın kategorler hakkında ssteme gömebleceğ ya da öğretebleceğ br ön blgs bulunmadığından, model, verlen varlıklar arasındak benzerlk lşklerne göre kurulur. Her durumda örüntü tanıma şlem üç adımda gerçekleşr: ( varlıkların algılanması, ( varlıkların ntelklernn ayrıştırılması ve ( sınıflandırma (bkz. Şekl 1. Brnc adımda, algılayıcı varlıkları algılar ve bu algıyı ham verye dönüştür. İknc adımda, ntelk ayrıştırıcı bu ham varlık verlernden, sınıflandırma çn gerekl olan önceden belrlenmş ntelkler ayrıştırır. Son adımda, sınıflandırıcı bu ntelkler kullanarak her varlık çn br kategor tahmnnde bulunur. 3

13 Şekl 1. Örüntü tanımanın adımları ve brmler. 3.. Örüntü Tanıma Uygulaması Olarak Web Sayfası Sınıflandırma Web sayfası sınıflandırma sorunu br örüntü tanıma sorunu olarak ele alınacaksa, örüntü tanıma bölümünde bahsedlen kavramların bu sorun çn somutlaştırılması gerekr. Tablo de örüntü tanıma kavramlarının web sayfası sınıflandırma sorunundak karşılıkları görüleblr. Tablo. Örüntü tanıma kavramlarının web sayfası sınıflandırma sorunundak karşılıkları. Örüntü tanıma kavramı Web sayfası sınıflandırmadak karşılığı Varlıklar Kategorler Ortam Algılama Ntelkler Ntelk ayrıştırma Web sayfaları Konu başlıkları WWW WWW üzernden web sayfalarının çeklmes Term sıklıkları Web sayfalarının metnlerndek termlern sayılması Termler, önceden belrlenmş ve sınıflandırılmak stenen web sayfalarının özünü temsl edeceğ varsayılan kelme ya da kelme köklerdr. Term sıklığı se, br termn br sayfada kaç kere tekrar edldğnn ölçüsüdür. Term olarak çoğunlukla, dldek kelmelerden bağlaç, edat gb her metnde geçeblecek olanların atılması ve çekml kelmelern köklerne ndrgenmesyle elde edlen kelmeler kullanılır. İlerleyen bölümlerde bahsedleceğ gb; bu şeklde elde edlen termler, sorunu bastleştrmek adına ayrıca br elemeden geçrleblr Temel Matematk Tanımları Sınıflandırıcı Her br web sayfasının, termlern bu sayfa metnndek sıklığı le ntelendrldğ belrtlmşt. Buna dayanarak, termlern sayısı d, grddek sayfa sayısı n ve. termn j. sayfadak sıklığı olmak üzere, her br j { 1,, K, n} varlığı j bçmndek br vektör le, tüm grd se aşağıdak matrs le fade edlr: j = j j j T [ 1 K d ] 4

14 1 n 1 1 L 1 1 n = L X. M M O M 1 n d d L d Bu matrs, sınıflandırıcının grdsn oluşturur. Sınıflandırıcının çıktısı se tahmnî sınıflandırmadır. Br sınıflandırıcı, kategor sayısı g olmak üzere, her br j varlığını br y j { 1,, K, g} kategorsne yerleştrr. Buna dayanarak, tahmnî sınıflandırma da aşağıdak vektör le fade edlr: y1 y Y =. M y n d n n Bu gösterm kullanılarak br sınıflandırıcı C : ( X R ( Y {1,, K, g} bçmndek br dönüşüm olarak tanımlanır Benzerlk Ölçütü Benzerlk ölçütler, sınıflandırma sırasında, k varlığın brbrne ne kadar benzedğne dar fkr veren fonksyonlardır. İk varlığın benzerlğne, aynı kategorde bulunma htmaller olarak bakılablr k; standart br benzerlk ölçütü de k ntelk vektörünü 0 dan 1 e kadar br reel sayıya eşler. Şu hâlde, br benzerlk ölçütü de s : ((, R d a b [0,1] bçmndek br dönüşüm olarak tanımlanablr Değerlendrme Araçları Br sınıflandırma şlemnn önceden blnen ve beklenen çıktısına hedef sınıflandırma denr. Her br j varlığının yerleştrlmes beklenen kategor { 1,, K, g} olmak üzere hedef sınıflandırma aşağıdak vektör le fade edlr: t1 t T =. M t n Sık sık kullanılan br değerlendrme aracı olan karışıklık matrs, h olarak sınıflandırılması l beklenrken l olarak sınıflandırılmış olan varlıkların sayısı f h olmak üzere şu şeklde fade edlr: t j 5

15 1 g f 1 f1 L f1 1 g = f f L f F. M M O M 1 g f g f g L f g Matrsn satırları beklenen kategorlerdek varlıkları gösterrken, sütunları tahmn edlen kategorlerdek varlıları gösterr. Karışıklık matrsnn br faydası, brbryle karıştırılan kategorler fark etmey kolaylaştırmasıdır [5]. Tablo 3 te, 1 ked, 1 köpek ve 1 fareden oluşan 36 hayvanlık br varlık takımının sınıflandırılması sonucu oluşablecek örnek br karışıklık matrs verlmştr. Beklenen Tablo 3. Örnek karışıklık matrs. Tahmnî Ked Köpek Fare Ked 7 3 Köpek 9 1 Fare Karışıklık matrs, br sınıflandırmanın başarısına lşkn oldukça fazla blg veryorsa da, karşılaştırılablr br değer sunmadığı çn kıyaslamalarda kullanılamaz. Bundan dolayı, karışıklık matrsnden, kıyaslamalarda kullanablecek reel br değerlendrme term üretlmştr. Doğruluk adı verlen bu term, beklendğ gb sınıflandırılmış varlık sayısının toplam varlık sayısına oranı olarak tanımlanır ve aşağıdak gb fade edlr: acc(f. g h f h=1 h = n Doğruluk, beklendğ gb sınıflandırılan hç varlık olmadığı durumda 0, tüm varlıkların beklendğ gb sınıflandırıldığı durumda 1 değern alır. 6

16 4 SINIFLANDIRMA YÖNTEMLERİ Bu çalışmanın en öneml aşamalarından brsn web sayfası sınıflandırmada kullanılan sınıflandırma yöntemlernn ncelenmes teşkl etmektedr. Öncek bölümde tanımlandığı gb, br sınıflandırıcı, verlen ntelk vektörlern kullanarak tahmnî sınıflandırma üreten br fonksyondur. Sınıflandırıcılar neredeyse her zaman mekank öğrenme yöntemleryle oluşturulurlar. Mekank öğrenmede, sınıflandırıcıya beklenen sınıflandırması blnen br varlık kümesne at ntelk vektörler verlr. Sınıflandırıcı, bu vektörler kullanarak sınıflandırma şlem çn genel br model üretmeye çalışılar. Br kere bu model üretldkten sonra, sınıflandırıcı uygulama verleryle çalıştırılablr. Çalışmadan ele alınan sınıflandırma yöntemler uzaysaldır. Yan ntelk vektörlernn geometrk anlamları olduğunu varsayarlar. Genel yaklaşım, eğtm versnden br mktar temslc seçmek ya da oluşturmak ve uygulama sırasında varlıkları kendlerne en çok benzeyen temslc le lşkl olan sınıfa yerleştrmektr. En Yakın Komşu yöntem, eğtm versndek tüm varlıkları temslc kabul ederek saklarken, Ağırlık Merkezyle Temsl yöntem her sınıf çn yalnızca br temslc, En Yakın Küme yöntem se toplamda k adet temslc üretr. En Yakın K Komşu yöntem, eğtm aşamasında En Yakın Komşu yöntem le benzerlk gösterse de, uygulama aşamasında farklılaşır: Bu yöntemn uygulanmasında, varlıklar kendlerne en çok benzeyen temslcnn sınıfına değl, kendlerne en çok benzeyen k temslc arasında baskın olan sınıfa yerleştrlrler. Bu mevcut yöntemlern yanı sıra, Ağırlık Merkezyle Temsl (A.M.T. yöntemnden hareketle üç yen yöntem önerlmştr. Bunların lk ks, A.M.T. gb sınıf başına br temslc le başlayarak, doğruluğu arttıracak şeklde yen temslcler eklemey amaçlar. Üçüncü yöntem se, doğruluğu arttırmak çn A.M.T. le üretlen temslclere yenlern eklemektense, bu temslcler hareket ettrmey dener. Tablo 4 te bahsedlen yöntemlern bast br karşılaştırılması görüleblr. İlerleyen bölümlerde her yöntem ayrıntılı olarak ncelenecektr. Tablo 4. Ele alınan sınıflandırma yöntemler. Yöntem Prm ler Eğtm Algo. Uygulama Algo. En Yakın Komşu - O( d n O( d n nˆ En Yakın K Komşu k O( d n O( d n nˆ log nˆ En Yakın Küme k O( d n k O( d n k Ağırlık Merkezyle Temsl (A.M.T. - O( d n O( d n g Temslc Ekleme Yöntemler m O ( d n m ( g + m O ( d n ( g + m Ağırlıklandırılmış Verl A.M.T. m O( d n m g O( d n g 7

17 4.1. K Orta 1 Algortması Başla 1. adım 5. adım 5 Ortalara lk değer ata Grd vektörlernden rasgele seç adım 5 4. adım adım atıldı mı? Evet Hayır Her vektörü kendsne en çok benzeyen ortayla lşklendr Son adım Her ortaya kendsyle lşkl vektörlern ortalamasını ata 3 1 Evet Ortalar değşt m? 0 Hayır Son Şekl. K Orta algortmasının akış dyagramı Şekl 3. K Orta algortması: d =, n = 100, k = 10. Düz çzgler küme sınırlarını temsl eden Vorono dyagramını göstermektedr. K Orta algortması, verlen vektörler çn öyle k adet orta vektörü üretmey amaçlar k; bu k adet vektörün grd vektörlerne olan benzerlklernn toplamı en küçük olsun. Bu algortma, daha çok kümeleme yöntemlernde kullanılmasına rağmen, br sınıflama yöntem olan En Yakın Küme yöntemnde de başvurulmaktadır. 1 İnglzce kaynaklarda K Means adıyla anılmaktadır. 8

18 4.. En Yakın Komşu Yöntem İlk akla geleblecek sınıflandırma yöntemlernden brs olan En Yakın Komşu yöntemnde, eğtm vers doğrudan saklanır ve uygulama çn verlen her varlık eğtm versndek en yakın komşunun bulunduğu sınıfa yerleştrlr. Eğtm Bütün varlıklar ve bulundukları sınıflar eğtm versn temsl etmek üzere doğrudan saklanır. Hesap karmaşıklığı O( d n dr. Uygulama NEAREST NEIGHBOR TRAIN( X, T ℵ ℵ ( X, T Şekl 4. En Yakın Komşu yöntem çn eğtm algortması. Her varlık, eğtm vers çersnden kendsne en çok benzeyen varlığın bulunduğu sınıfa yerleştrlr. Hesap karmaşıklığı, nˆ eğtm versnn boyutu olmak üzere, O( d n nˆ dır. : NEAREST NEIGHBOR APPLY( ℵ, X Y : ( X ˆ, Tˆ ℵ { 1,, K, n}: z y arg ma s( ˆ t z j {1,, K, nˆ}, ˆ j Şekl 5. En Yakın Komşu yöntem çn uygulama algortması Şekl 6. En Yakın Komşu yöntem: d =, n = 100, g = En Yakın K Komşu 3 Yöntem Sınıflara at varlıkların ntelk vektörü uzayında brbrne geçtğ durumda, En Yakın Komşu yöntem kararsız sonuçlar üretr. Bunun üstesnden gelmek çn, en yakın komşunun sınıfına bakmak yerne, en yakın komşular arasında baskın olan sınıfa bakmak önerlmştr. Parametre k : Uygulama sırasında dkkate alınacak komşu sayısı. İnglzce kaynaklarda Nearest Neghbor adıyla anılmaktadır. 3 İnglzce kaynaklarda K Nearest Neghbor adıyla anılmaktadır. 9

19 Eğtm Bütün varlıklar ve bulundukları sınıflar eğtm versn temsl etmek üzere doğrudan saklanır. Hesap karmaşıklığı O( d n dr. Uygulama K NEAREST NEIGHBOR TRAIN( X, T, k ℵ ℵ ( X, T, k Şekl 7. En Yakın K Komşu yöntem çn eğtm algortması. Her varlık, eğtm vers çersnden kendsne en çok benzeyen k varlık arasında baskın olan sınıfa yerleştrlr. Hesap karmaşıklığı O( d n nˆ log nˆ dır. K NEAREST NEIGHBOR APPLY( ℵ, X Y : ( X ˆ, Tˆ, k ℵ { 1,, K, n}: Z y arg ma k s( j= {1,, K, nˆ} dom( Tˆ Z, ˆ j Şekl 8. En Yakın K Komşu yöntem çn uygulama algortması En Yakın Küme 4 Yöntem En Yakın Küme yöntem, K Orta kümeleme yöntemnn sınıflandırmadak uzantısıdır. Eğtm çn, öncelkle tüm verler üzernde K Orta uygulanarak k adet temslc seçlr ve ardından bu temslclere, çevrelerndek varlıklar arasında baskın olan sınıfa göre brer sınıf atanır. Temslcler ve sınıfları belrlendkten sonra, yöntem, En Yakın Komşu yöntem gb uygulanır. Parametre k : Temslc sayısı. : 4 İnglzce kaynaklarda Nearest Cluster adıyla anılmaktadır. 10

20 Eğtm NEAREST CLUSTER TRAIN( X, T, k ℵ: Xˆ K means( X, k {1,, K, n}: z arg ma s( j {1,, K, k}, ˆ ˆ 5 j { 1,, K, k}: t j dom( T{ h z j} h = ℵ ( Xˆ, Tˆ, k j Şekl 9. En Yakın Küme yöntem çn eğtm algortması. Hesap karmaşıklığı O( d n k dr. Uygulama Her varlık, kendsne en çok benzeyen ortayla lşkl olan sınıfa yerleştrlr. Hesap karmaşıklığı O( d n k dr. 5 dom(τ : τ değerler arasında baskın olan değer. 11

21 NEAREST CLUSTER APPLY( ℵ, X Y : ( X ˆ, Tˆ, k ℵ { 1,, K, n}: z arg ma s(, ˆ y ˆ t z j {1,, K, k} j Şekl 10. En Yakın Küme yöntem çn uygulama algortması Şekl 11. En Yakın Küme yöntem: d =, n = 100, g =, k = Ağırlık Merkezyle Temsl 6 Yöntem Ağırlık Merkezyle Temsl yöntemnn yaklaşımı çok basttr: Her sınıf çn tek br temslc tutulur; o da sınıfa at varlıkların ağırlık merkezdr. Bu bast şleyşne karşın, deneysel sonuçlarda görüleceğ gb, doğruluk açısından dğer yöntemlerden ger kalır yanı yoktur. Eğtm Her sınıf çn br ağırlık merkez hesaplanır. Bu ağırlık merkezler ve lşkl oldukları sınıflar eğtm versn temsl etmek üzere saklanır. Ağırlık merkezler, lşkl oldukları sınıfa at varlıkların ntelk vektörlernn ortalamasıdır. Hesap karmaşıklığı O( d n dr. Uygulama CENTROID TRAIN( X, T ℵ: j { 1,, Kg}: 1 ˆ, C = { h t = j} j ℵ tˆ j j C j ( Xˆ, Tˆ C j Şekl 1. Ağırlık Merkezyle Temsl yöntem çn eğtm algortması. Her varlık, kendsne en çok benzeyen ağırlık merkez le lşkl olan sınıfa yerleştrlr. Hesap karmaşıklığı O( d n g dr. j h 6 İnglzce kaynaklarda Centrod-Based adıyla anılmaktadır. 1

22 CENTROID APPLY( ℵ, X Y : ( X ˆ, Tˆ ℵ { 1,, K, n}: z y arg ma s( ˆ t z j {1,, K, g} Şekl 13. Ağırlık Merkezyle Temsl yöntem çn uygulama algortması Yen Yöntemler K Orta Kullanarak Temslc Ekleme Ağırlık Merkezyle Temsl yöntem, sade olmasının yanında, çok az temslc vektör kullanmasına rağmen (tam olarak sınıf sayısı kadar gayet başarılı sonuçlar vermektedr. Bu durum, temslc sayısının br mktar arttırılmasıyla sınıflandırma doğruluğunun daha da yükseltlebleceğ fkrn uyandırır. Temslc sayısının adımlı olarak arttırılması durumunda, yen temslcnn hang sınıfa ekleneceğne karar vermek gerekr. Bunun çn her adımda öncelkle eldek temslcler le br sınıflandırma yapılır ve sınıflandırma hatası en yüksek olan sınıf yen temslc eklenmek üzere seçlr. Yen temslcnn konumuna karar vermek çn se, bu sınıfın varlıkları üzernde, sınıfın esk temslc sayısı r olmak üzere, k = r + 1 çn K Orta algortması çalıştırılır. Algortmanın oluşturduğu r + 1 adet orta, esk r adet temslcnn yerne saklanır. Sınama hatasında br yerel mnmuma ulaşılana ya da m temslcnn tamamı eklenene kadar bu sınıflandırma-ekleme şlemler devam eder. Parametreler m : Eklenecek temslc sayısı çn üst değer., ˆ j 13

23 Eğtm Şekl 14. K Orta Kullanarak Temslc Ekleme yöntem çn eğtm algortması. 14

24 Uygulama Her varlık, kendsne en çok benzeyen temslc le lşkl olan sınıfa yerleştrlr Alt Kümeler Kullanarak Temslc Ekleme K Orta Kullanarak Temslc Ekleme gb çalışır. Farklı olarak, yen temslcler sınıflar çn K Orta çalıştırılarak üretlmez. Bunun yerne, her adımda yapılan sınıflandırmadan sonra, yanlış sınıflandırılmış alt kümelern en kalabalık olanında bulunan varlıkların ağırlık merkez temslc olarak eklenr. Yanlış sınıflandırılmış alt kümelern en kalabalığı, karışıklık matrsnn köşegen harcnde kalan hücrelernn en büyüğüdür Ağırlıklandırılmış Verl Ağırlık Merkezyle Temsl A.M.T. yöntemnn gelştrlmes çn akla gelen knc br yol da, ağırlık merkezlernn sınıflandırma doğrulunu arttıracak şeklde oynatılmasıdır. Bunun çn çalışmada önerlen yöntem, eğtm verlern ağırlıklandırmak ve yanlış sınıflandırılanların ağırlıklarının arttırılmasıyla, ağırlık merkezlernn onlara daha benzer br duruma gelmesn sağlamaktır. Parametreler m : Adım sayısı çn üst değer. 15

25 Eğtm Şekl 15. Ağırlıklandırılmış Verl Ağırlık Merkezyle Temsl yöntem çn eğtm algortması. 16

26 Klask A.M.T. den farklı olarak, bu yöntemde, ağırlık merkezler ağırlıklandırılmış ver le hesaplanır. Ağırlıklandırılmış verl ağırlık merkez hesabı,. varlığın ağırlığı w olmak üzere, aşağıdak formüle göre yapılır: ~ w. 1 C = w C C Ağırlıkların değştrlmesnde se son derece bast br hörstk kullanılmaktadır: Yanlış sınıflandırılmış olan varlıkların ağırlıkları br brm arttırılır. Bundak amaç, ağırlık merkezlernn yanlış sınıflandırılmış varlıklarla olan benzerlklern arttırarak, bu varlıkların doğru sınıflandırılması htmaln yükseltmektr. Uygulama Ağırlık Merkezyle Temsl yöntem gb uygulanır. 17

27 5 BENZERLİK ÖLÇÜTLERİ Kuramsal Blgler bölümünde tanımlandığı üzere, benzerlk ölçütler, yapılmak stenen sınıflandırmanın doğası açısından k varlığın brbrne ne kadar benzedğne, dğer br değşle, bu sınıflandırmaya göre aynı kategorde bulunma htmallerne şaret eder. Ele alınan, varlıkların ntelk vektörler le fade edldğ durumda, ölçütler de vektör şlemler olarak tanımlanırlar. İlerleyen bölümlerde, web sayfası sınıflandırma çn öneml olan bazı benzerlk ölçütler ncelenecektr Ökld Benzerlğ Geometr sorunları çn standart uzaklık ölçütler, Mnkowsk uzaklıklarıdır: D p 1 p d p ( a, b = a 1,, = b,. p = 1 çn Mnkowsk uzaklığı, Manhattan uzaklığı adını alır. Manhattan uzaklığı, br kentn brbrn dk kesen caddelernde hareket ederek alınması gereken yola benzetleblr. Şekl 16. Manhattan uzaklığı: = 7 brm. p = alındığında se, en çok blnen geometrk uzaklık ölçütü olan Ökld uzaklığına ulaşılır. Ökld uzaklığı, klask evrende k nokta arasındak en kısa mesafeye denk düşer. Bu yüzden, özellkle görüntü sınıflandırma le lgl alanlarda sıklıkla kullanılır. Şekl 17. Ökld uzaklığı: ( = 5 brm. 18

28 19 0, [ aralığında değer alan Ökld uzaklığı d, ] 0,1 [ aralığında değer alan ve d azaldıkça artan s ye d e s = bağıntısı le bağlanablr [6]. Buradan hareketle, Ökld benzerlğ şu şeklde tanımlanır:, ( ( b a e s b a Ö =. Ökld benzerlğ, k vektörün aynı mktarda ötelenmes durumunda değern korur, yan ötelemeye karşı duyarsızdır:., (, ( ( ( ( ( ( ( b a Ö b a Ö s e e e s b a b a b a t t t t t t = = = = İk vektör aynı mktarda ölçeklendğnde se Ökld benzerlğnn değer değşr, yan Ökld benzerlğ ölçeklemeye karşı duyarlıdır Şekl 18. Ökld benzerlğ: Eş benzerlk eğrler eş merkezl çemberlerdr. 5.. Kosnüs Benzerlğ Br başka benzerlk ölçütü de kosnüs benzerlğdr. Kosnüs benzerlğ, k vektör arasındak açının kosnüsü olarak tanımlanır:

29 s ( K b (, =. Kosnüs benzerlğ, ölçeklemeye karşı duyarsızdır: s ( K ( f a a, f b b = = s T a a ( K b T ( f a ( f b f a f b T f ( a b f a b T a b a b Bu özellğ kosnüs benzerlğn belge sınıflandırma çn uygun hâle getrr. Çünkü belgelern çerdkler termlern sıklıklarının mutlak değerlernden çok, görel değerlern ön plana çıkarır; bu sayede, aynı termler toplamda farklı sayıda ama aynı oranda çeren belgeler benzer olarak değerlendrr. = = ( a, b Şekl 19. Kosnüs benzerlğ: Eş benzerlk eğrler orjnden geçen doğrulardır Genşletlmş Jaccard Benzerlğ Klask Jaccard benzerlğ, kl ntelk 7 ntelklern sayısının a da veya vektörler çn, hem a da hem b de olan b de olan ntelklern sayısına oranı olarak 7 Var ve yok gb, olası k değer olan ntelkler. 0

30 tanımlanmıştır ( a VE b a VEYA b. Genşletlmş Jaccard benzerlğ se, bu benzerlğn sürekl ntelk vektörlerne uyarlanması le elde edlmştr [6]: s ( J (, a b T a b = T a + b a b. Genşletlmş Jaccard benzerlğ, hem ötelemeye hem de ölçeklemeye duyarlıdır. Buna karşılık, kosnüs benzerlğ le Ökld benzerlğ arasında lgnç br geçş özellğ sergler. Orjne yakın noktalarda kosnüs benzerlğ gb, orjnden sonsuza doğru uzaklaştıkça se Ökld benzerlğ gb davranır Şekl 0. Genşletlmş Jaccard benzerlğ: Eş benzerlk eğrler eş merkezl olmayan çemberlerdr Pearson Korelasyonu Pearson korelasyonu, statstkte k değşken arasındak doğrusal lşky yansıtmak üzere kullanılır., vektörünün tüm boyutlardak değerlernn ortalamasını belrtmek üzere, ( a a ( b b a T a b b şeklnde tanımlanır. [ 1,1 ] aralığında değer üreten bu bağıntı [ 0,1] aralığına normalleştrlrse aşağıdak benzerlk ölçütüne ulaşılır [6]: s ( P T ( a a ( b b ( + 1 (, 1. a b = a a b b 1

31 6 GERÇEKLEME Gerçeklemenn tamamı MATLAB dlnde yapılmıştır. Üretlen kütüphanenn daha sonrak çalışmalarda, belk örüntü tanımanın farklı uygulama alanlarında kullanılablmes çn olabldğnce soyut br yapı kurulmuştur. Ayrıca kodun sadelğnn ve okunablrlğnn arttırılması çn çoğu yerde MATLAB a at çok bçml ver yapıları ve fonksyon değşkenler gb özellklerden faydalanılmış; böylece, tasarımda modülerlk sağlanmıştır. İlerleyen alt bölümlerde, yazılan fonksyonlar hakkında kısa blgler verlecektr Genel Amaçlı Fonksyonlar D = classdst(t, nclass: Verlen sınıflandırmadak sınıf dağılımını verr. datastat(: Yüklü olan verye lşkn sayısal değerler verr. I = flterbyfreq(x, fmn, fma: Verlen varlık-ntelk matrsndek ntelkler ortalama sıklıklarına göre fltreler. IDF = df(x: Ters belge sıklıklarını hesaplar: IDF = log( n DF. S = mutualsm(xa, Xb, metrc: Verlen varlık-ntelk matrslerndek varlıklar arasındak j ( metrc benzerlkler verlen ölçüte göre hesaplar: S = s,. ( a, b, [Itran Itest Ieval] = partton(t, nclass, ptest, peval: Br very eğtm, sınama ve gerekyorsa değerlendrme kümelerne böler. Bölme şlem sırasında verlen sınıflandırmadak sınıf dağılımını korumaya çalışır. Y = tebreak(x, n: X matrsndek değerlere çok küçük değerler ekleyerek eştlk durumlarını bozmaya çalışır. Sıralama ve en küçük/büyük bulma şlemlernden önce kullanılır. 6.. Değerlendrme Fonksyonları e = accuracy(y, T: Verlen tahmnî sınıflandırmanın doğruluğunu hesaplar. CM = confmat(y, T, nclass: Verlen tahmnî ve beklenen sınıflandırmalara göre karışıklık matrsn hesaplar Ver Yükleme Fonksyonları loaddata(pref, n: Verlen dosya ön ekne sahp dosyalardan ver yükler ve ver üzernde gerekl ön şlemler yapar.

32 6.4. Ver Sağlayıcılar [X T nclass] = bg(n: Bellekte yüklü olan verden n varlık ve bu varlıklar çn beklenen sınıflandırmayı döner. [X T nclass] = toy1(n: Rasgele oluşturulmuş, k boyutlu ntelk vektörlerne sahp, k sınıflı, n varlığa sahp br ver döner. Bu oyuncak ver, bast görselleştrmelerde kullanılır Benzerlk Ölçütler s = cosne(a, B: Kosnüs benzerlğ. s = correl(a, B: Pearson korelasyonu. s = eucld(a, B: Ökld benzerlğ. s = jaccard(a, B: Jaccard benzerlğ Eğtm Fonksyonları net = centrodtran(xtran, Ttran, nclass, params: Ağırlık Merkezyle Temsl yöntem çn eğtm fonksyonu. net = knntran(xtran, Ttran, nclass, params: En Yakın K Komşu yöntem çn eğtm fonksyonu. net = nctran(xtran, Ttran, nclass, params: En Yakın Küme yöntem çn eğtm fonksyonu. net = nntran(xtran, Ttran, nclass, params: En Yakın Komşu yöntem çn eğtm fonksyonu. net = randclasstran(xtran, Ttran, nclass, params: Rasgele sınıflandırıcı çn eğtm fonksyonu. net = kmcentrodtran(xtran, Ttran, nclass, params: K Orta Kullanarak Temslc Ekleme yöntem çn eğtm fonksyonu. net = sscentrodtran(xtran, Ttran, nclass, params: Alt Kümeler Kullanarak Temslc Ekleme yöntem çn eğtm fonksyonu. net = wdcentrodtran(xtran, Ttran, nclass, params: Ağırlıklandırılmış Verl Ağırlık Merkezyle Temsl yöntem çn eğtm fonksyonu Uygulama Fonksyonları Y = knn(net, X: En Yakın K Komşu yöntem çn uygulama fonksyonu. 3

33 Y = nn(net, X: En Yakın Komşu yöntem ve dğer tüm temslcl yöntemler çn uygulama fonksyonu. Y = randclass(net, X: Rasgele sınıflandırma çn uygulama fonksyonu. 4

34 7.1. Kullanılan Verler 7 DENEYSEL SONUÇLAR Anlamlı kıyaslamalar yapablmek çn bol mktarda ve gerçekç verye htyaç vardır. Daha öncek çalışmaların br sonucu olarak, web sayfası sınıflandırma deneylernde kullanılablecek bol mktarda verye ulaşılmıştır. Bunlardan Yahoo! News sayfaları [6] dan, ger kalanlar se [7] den elde edlmştr. Ver Adı Tablo 5. Çalışmada kullanılan verlerle lgl sayısal değerler. Belge Sayısı Fltrelenmemş Term Sayısı Fltrelenmş Term Sayısı Yahoo! News Reuters-1578 re Reuters-1578 re TREC tr TREC tr TREC la TREC la TREC la Yahoo! News Sınıf Sayısı Yahoo! haber kategorler altından toplanmış web sayfalarından oluşur [6]. 0 adet sınıf barındırır: Busness, Entertanment, art, cable, culture, flm, ndustry, meda, multmeda, musc, onlne, people, revew, stage, televson, varety, Health, Poltcs, Sports, Technology (küçük harflerle başlayan kategorler Entertanment kategors altında yer almaktadır. Verde 340 belge ve fltrelenmeden 1389, fltrelendkten sonra 903 term bulunmaktadır. Health, 1% Entertanment, multmeda, stage, meda, art, 0% 1% cable, 1% % varety, % Technology, 3% onlne, 3% ndustry, 3% culture, 3% Poltcs, 5% flm, 1% musc, 5% Sports, 6% people, 11% Busness, 6% televson, 8% revew, 7% Şekl 1. ynews sınıf dağılımı. 5

35 7.1.. Reuters-1578 Reuters-1578 Tet Categorzaton Test Collecton Dstrbuton 1.0 çersndek belgelerden oluşur [7]. İk parçaya ayrılmıştır: re0 ve re1. re0 çersnde 13 sınıf, 1504 belge, fltrelenmeden 886, fltrelendkten sonra 1007 term; re1 çersnde se 5 sınıf, 1657 belge, fltrelenmeden 3758, fltrelendkten sonra 1313 term bulunmaktadır. le, wp, 1% housng, 1% retal, 1% 1% p, % bop, 3% jobs, 3% reserves, 3% cp, 4% gran, % znc, orange, meal, 1% cotton, 1% tn, 1% pet, 1% wheat, 1% 1% gas, 1% carcass, 1% dlr, 1% nat, % alum, % ron, % rubber, % copper, % money, 40% gnp, 5% lvestock, 3% cocoa, 3% olseed, 3% nteres t, 15% crude, 0% veg, 4% gold, 5% coffee, 6% trade, 1% shp, 8% sugar, 6% TREC Şekl. re0 ve re1 çn sınıf dağılımları. TREC (Tet REtrval Conference çn hazırlanmış verlerden oluşur [7]. Beş parçadan oluşmaktadır: tr11, tr1, la1, la, la1. Bu verlerlerle lgl ayrıntılı blgler Şekl 3 de verlmştr. tr11: 414 sayfa, 3736 term, 9 sınıf tr1: 313 sayfa, 3557 term, 8 sınıf 10, 11, 1, 13, 14, 15, 16, 17, 18, 19, 0, 1,, 3, 4, 5, 1, 0% 1%, 3% 3, 5% 8, 3% 10, 11, 1, 13, 14, 15, 16, 17, 18, 19, 0, 1,, 3, 4, 5, 0% 7, 9% 1, 10% 4, 5% 9, 3% 5, 7%, 11% 6, 17% 6, 13% 3, 11% 4, 9% 8, 18% 7, 17% 5, 30% la1: 304 sayfa, 336 term, 6 sınıf la: 3075 sayfa, 339 term, 6 sınıf la1: 679 sayfa, 373 term, 6 sınıf 6, 11% 10, 11, 1, 13, 14, 15, 16, 17, 18, 19, 0, 1,, 3, 4, 5, 0% 1, 17% 6, 1% 10, 11, 1, 13, 14, 15, 16, 17, 18, 19, 0, 1,, 3, 4, 5, 0% 6, 1% 10, 11, 1, 13, 14, 15, 16, 17, 18, 19, 0, 1,, 3, 4, 5, 0% 1, 17% 1, 9% 5, 16% 5, 3%, 11% 5, 4%, 10% 3, 9%, 8% 3, 8% 4, 5% 3, 10% 4, 9% 4, 9% 7.. Kıyaslamalar Şekl 3. TREC verler çn sayısal değerler ve sınıf dağılımları. Kıyaslamalarda verler, %90 ı sınıflandırıcıların eğtmnde, %10 u değerlendrlmesnde kullanılmak üzere k kümeye ayrılmıştır. Bu ayrım sırasında sınıf dağılımlarının 6

36 bozulmamasına dkkat edlmştr. Sonuçta her sınıflandırıcı çn değerlendrme kümes sınıflandırmasındak doğruluk ölçülmüştür Deney 1: Mevcut Yöntemlern Kıyaslanması Brnc deneyde, ncelenmş olan dört mevcut yöntem kıyaslanmıştır. Kullanılmış olan sınıflandırma modeller Tablo 6 da açıklanmıştır. Tablo 6. Deney 1 çn kullanılan modeller. Model Adı Sınıflandırma Yöntem Benzerlk Ölçütü Parametreler nn (Ö En Yakın Komşu Ökld benzerlğ - nn (K Kosnüs benzerlğ - knn (Ö En Yakın K Komşu Ökld benzerlğ k = 10 knn (K Kosnüs benzerlğ k = 10 nc (Ö En Yakın Küme Ökld benzerlğ k = g nc (K Kosnüs benzerlğ k = g ctrd (Ö Ağırlık Merkezyle Temsl Ökld benzerlğ - ctrd (K Kosnüs benzerlğ - Kıyaslamalar, tüm verlerden 00 sayfa seçlerek 10 deneme yapılması suretyle gerçekleştrlmştr. Sonuçlar aşağıda görüleblr. Yahoo! News, n=00, 10 deneme re0, n=00, 10 deneme nn (K, 6.50 knn (K, nc (K, ctrd (K, Ortalama Doğruluk Ortalama Doğruluk nn (Ö, 6.50 knn (Ö, nc (Ö, ctrd (Ö, nn (Ö nn (K knn (Ö knn (K nc (Ö nc (K ctrd (Ö ctrd (K Modeller nn (Ö nn (K knn (Ö knn (K nc (Ö nc (K ctrd (Ö ctrd (K Modeller tr11, n=00, 10 deneme la1, n=00, 10 deneme knn (K, ctrd (K, ctrd (K, nn (K, knn (K, nn (K, Ortalama Doğruluk nn (Ö, 0.00 knn (Ö, 8.50 nc (Ö, 3.50 nc (K, Ortalama Doğruluk nn (Ö, 1.90 knn (Ö, 19.5 nc (Ö, 7.14 nc (K, ctrd (Ö, ctrd (Ö, nn (Ö nn (K knn (Ö knn (K nc (Ö nc (K ctrd (Ö ctrd (K Modeller nn (Ö nn (K knn (Ö knn (K nc (Ö nc (K ctrd (Ö ctrd (K Modeller Şekl 4. Deney 1: Dört ver çn sonuçların grafkler. 7

37 Tablo 7. Deney 1: Tüm verler çn en y sonuçlar. Model ynews re0 re1 tr11 tr1 la1 la nn (K knn (K nc (K ctrd (K Sonuçlara göre, Ökld benzerlğ kullanılan modeller kosnüs benzerlğ kullanılanlara göre çok düşük başarı göstermş, En Yakın Komşu yöntem üç verde, Ağırlık Merkezyle Temsl yöntemyse dört verde en y sonucu vermştr. Bu noktada, Ağırlık Merkezyle Temsl yöntemnn eğtm ve uygulama algortmalarının karmaşıklığının dğer yöntemlernkne göre az olduğunu hatırlamakta fayda vardır Deney : Benzerlk Ölçütlernn Kıyaslanması İknc deneyde, ortalamada y sonuçlar veren En Yakın K Komşu yöntem kullanılarak dört benzerlk ölçütü kıyaslanmıştır. Kıyaslamalar, tüm verlerden 00 sayfa seçlerek 10 deneme yapılması suretyle gerçekleştrlmştr. Tüm verler, n=00, 10 deneme Ortalama Doğruluk ynews, 11.6 re0, 36.0 re1, 3. tr11, 4.5 tr1, 19.5 la1, 8.1 la, 8.0 ynews, 60.0 re0, 54.0 re1, 58.4 tr11, 7.5 tr1, 69.5 la1, 68.6 la, 74.0 y news, 6.1 re0, 51.5 re1, 54. tr11, 71.0 tr1, 71.5 la1, 67.1 la, 73.0 ynews, 56.3 re0, 55.5 re1, 58.9 tr11, 77.0 tr1, 68.0 la1, 66.7 la, Ökld Kosnüs Gen. Jaccard Pearson Kor. Benzerlk Ölçütler Şekl 5. Deney : Tüm verler çn sonuçların grafğ. 8

38 Tablo 8. Deney : Tüm verler çn en y sonuçlar. Model ynews re0 re1 tr11 tr1 la1 la knn (Ö knn (K knn (J knn (P Deneyn sonucunda, kosnüs benzerlğ br, genşletlmş Jaccard benzerlğ k, Pearson korelasyonu se dört verde en y sonucu vermştr. Ökld benzerlğ se dğerlerne göre br hayl kötü sonuçlar üretmştr Deney 3: Yen Yöntemlern Kıyaslanması Son deneyde, önerlen yen yöntemler ncelenmş olan tüm esk yöntemlerle kıyaslanmıştır. Kıyaslamalar, tüm verler ve verlerdek tüm sayfalar çn yapılmış ve tüm modellerde kosnüs benzerlğ kullanılmıştır. Ele alınan modeller Tablo 9 de görüleblr. Tablo 9. Deney çn kullanılan modeller. Model Adı Sınıflandırma Yöntem Benzerlk Ölçütü Parametreler nn (K En Yakın Komşu Kosnüs benzerlğ - knn (K En Yakın K Komşu Kosnüs benzerlğ k = 10 nc (K En Yakın Küme Kosnüs benzerlğ k = g ctrd (K Ağırlık Merkezyle Temsl Kosnüs benzerlğ - wdatactrd (K Ağırlıklandırılmış Verl A.M.T. Kosnüs benzerlğ m = 10 Deneyn sonucunda, önerlen k temslc ekleme yöntemnn de Ağırlık Merkezyle Temsl yöntemne üstün gelemedğ görülmüş ve bu yöntemlern kullanıldığı modeller dkkate alınmamıştır. Sonuçlar Tablo 10 da görüleblr. Tablo 10. Deney : Tüm ver kümeler çn en y sonuçlar. Model ynews re0 re1 tr11 tr1 la1 la nn (K knn (K nc (K ctrd (K wdatactrd (K Sonuçlara göre, En Yakın Komşu yöntem k ve Ağırlık Merkezyle Temsl yöntem k, bu çalışmada önerlmş olan Ağırlıklandırılmış Verl A.M.T. yöntem se üç verde en y sonucu vermştr. 9

39 8 SONUÇ ve ÖNERİLER Yaklaşık üç aylık br sürede, genel olarak örüntü şleme ve sınıflandırma le bazı web sayfası sınıflandırma yöntemler ve bu yöntemlerde kullanılablecek bazı benzerlk ölçütler üzerne kapsamlı br araştırma yapılmış, mevcut yöntemlere ek olarak üç yen yöntem önerlmş, tüm bu yöntemlern uygulanablmes çn MATLAB dlnde yaklaşık olarak 30 fonksyondan oluşan br kütüphane yazılmış ve bu kütüphane kullanılarak kıyaslamalar yapılmıştır. Kuramsal Blgler bölümünde, örüntü tanıma kavramları önce sözle daha sonra matematk dlyle tanımlanarak başka çalışmalarda da kullanılablecek formel br sstem nşa edlmştr. Bu sstem kullanılarak sınıflandırma, benzerlk ölçütü ve değerlendrme araçları kesn br bçmde tanımlanmış ve daha sonrak aşamalarda değnlen algortmalar yne bu formel ssteme bağlı kalınarak açıklanmıştır. Br sonrak aşamada, sınıflandırma yöntemler ayrı ayrı ele alınmıştır. Kıyaslamaya geçmeden önce, her yöntemn eğtm ve uygulama algortmalarının karmaşıklığı kuramsal olarak hesaplanmıştır. Buna göre; eğtm algortmaları çn O( d n karmaşıklıkla, En Yakın Komşu, En Yakın K Komşu ve Ağırlık Merkezyle Temsl yöntemler ön plana çıkmaktadır. Ancak, En Yakın Küme yöntem çn k nın, temslc ekleme yöntemler ve Ağırlıklandırılmış Verl A.M.T yöntem çn de m nn ve g nn, n den çok küçük olduğu varsayılırsa, eğtm algortmalarının karmaşıklığı açısından ele alınan yöntemler arasında çok büyük fark olmadığı görülür. Dolayısıyla asıl farkı yaratan, uygulama algortmalarının karmaşıklığıdır. O hâlde, g le m nn asmptotk olarak aynı derecelere sahp olduğu durumda, O( d n k ve O( d n g karmaşıklıklarına sahp olan En Yakın Küme, Ağırlık Merkezyle Temsl, Ağırlıklandırılmış Verl A.M.T ve temslc ekleme yöntemlernn, En Yakın Komşu ve En Yakın K Komşu yöntemlernden düşük karmaşıklığa sahp olduğu söyleneblr. Br dğer aşama, benzerlk ölçütlernn ncelenmes olmuştur. İncelenen dört farklı ölçütün km özellklerne bakıldığında kıyaslamada alınan sonuçlar kısmen öngörüleblr: Ökld benzerlğ oranlamaya duyarlıdır; hâlbuk web sayfası sınıflandırmada ntelk vektörlernn oranlarının değer yoktur. Ntekm kosnüs benzerlğ bu oranları tamamen ortadan kaldırır ve tüm ntelk vektörlern brm hper-küre üzerne normalleştrr. Genşletlmş Jaccard benzerlğ se, doğal benzerlk ölçütü olan Ökld benzerlğ le web sayfalarında uygulamaya elverşl olan kosnüs benzerlğ arasında br özellk sergler. Dğer taraftan, geometrk br yorumu olmamasına rağmen, ntelk vektörlernn doğrusal korelasyonundan baret olan Pearson korelasyonunun da sınıflandırmada başarılı sonuçlar verebleceğ görülmüştür. Deneysel sonuçları yorumlamaya gelmek gerekrse; lk deney, mevcut yöntemler arasında bastlğne rağmen Ağırlık Merkezyle Temsl yöntemnn çoğunlukla en y sonucu 30

40 verdğn göstermştr. En yakın rakb olan En Yakın Komşu yöntemnn uygulama algortmasının karmaşıklığı da düşünüldüğünde A.M.T. den vermsz olduğu söyleneblr. Dkkat çeken br başka nokta da En Yakın Küme yöntemnn çok başarısız sonuçlar vermş olmasıdır. İknc deney se benzerlk ölçütlern kıyaslamak amaçlıdır. Bunun çn En Yakın K Komşu yöntem temel alınmış ve dört benzerlk ölçütü bu yöntemde kullanılarak kıyaslanmıştır. Geometrk br yaklaşım olmamasına rağmen, Pearson korelasyonu, deneyde kullanılan dört ver çn en başarılı ölçüt olmuş; Ökld benzerlğ se bahsedlen özellklernden dolayı en kötü sonuçları vermştr. Genşletlmş Jaccard benzerlğ se çoğunlukta kosnüs benzerlğne göre kötü sonuçlar vermş olmasına rağmen k ver kümes çn en yüksek doğruluğu sağlamıştır. Bu sonuçlar, benzerlk ölçütlern web sayfası kümeleme yöntemler üzernde kıyaslamış ve Ökld benzerlğ dışındak üç ölçütün bu alanda kullanılablr olduğu sonucuna varmış olan [6] le uyumluluk göstermektedr. Son deney yen önerlen yöntemlern mevcut yöntemlerle kıyaslanması çn yapılmıştır. Tam doğru br sonuca varablmek adına verlern tamamıyla yapılan kıyaslamalar sonucunda, temslc ekleme temelne dayanan K Orta Kullanarak Temslc Ekleme ve Alt Küme Kullanarak Temslc Ekleme yöntemlernn her sefernde A.M.T. den daha kötü sonuçlar verdğ görülmüş, bu yüzden bu yöntemler kıyaslamaya dâhl edlmemşlerdr. Bu başarısızlık, eklenen temslclern eğtm vers çn fazla özelleşmş olmalarına, dolayısıyla br ezberleme sorunu doğuruyor olmalarına bağlanablr. Dğer taraftan, Ağırlıklandırılmış Verl A.M.T. yöntem, beklenldğnden de yüksek başarı göstererek verlern üçünde en y sonucu vermştr. Klask A.M.T. ve En Yakın Komşu yöntemler k ver çn en yüksek doğruluğu sağlarken, En Yakın K Komşu yne ortalama br başarı serglemş, En Yakın Küme se tüm verlerde en başarısız yöntem olmuştur. Bundan sonra, yen önerlmş yöntemlerden temslc eklemel olanlar üzernde daha fazla durularak, yen temslcler ezberlemek yerne genelleyecek şeklde eklemeler sağlanablr. Ayrıca, temslc ekleme yöntem, akla br de temslc çıkarma yöntem olableceğ düşüncesn getrr. Bu sefer, en az sayıda temslcyle başlayarak yenlern eklemek yerne, en fazla sayıda temslcyle başlayıp, fazla olanların atılmasıyla genelleme sağlanablr. Ağırlıklandırılmış Verl A.M.T. yöntem çn önerleblecek değşklkler de bulunmaktadır. Bunlardan lk akla gelen, varlık ağırlıklarının nasıl değştrleceğn belrleyen hörstk üzernde oynamaktır. Br dğer se, bu yöntem br şeklde temslc ekleme yöntemleryle brleştrerek, yen eklenen temslclern de daha doğru konumlara hareket etmesn sağlamak olablr. Öyleyse deneblr k; bu çalışmada örüntü tanıma ve web sayfası sınıflandırma alanları çn gereken temel kavram ve yöntemlern açıklanmış olmasının yanı sıra, web sayfası sınıflandırmak çn kullanılan yöntemler ve benzerlk ölçütler kıyaslanmış ve bu yöntemlerden brs olan Ağırlık Merkezyle Temsl yöntemnn gelştrlmesyle oluşturulmuş ve hem kuramsal olarak hem de deneysel olarak verml olduğu gösterlmş 31