STANDART VE HİBRİD YAPILAR KULLANARAK YAPAY SİNİR AĞLARI İLE İMZA TANIMA

Transkript

1 STANDART VE HİBRİD YAPILAR KULLANARAK YAPAY SİNİR AĞLARI İLE İMZA TANIMA Canan ŞENOL Tülay YILDIRIM Kadr Has Ünverstes, Elektronk Mühendslğ Bölümü, 3430, Cbal, Fath-İstanbul Yıldız Teknk Ünverstes, Elektronk ve Haberleşme Mühendslğ Beşktaş-İstanbul e-posta: e-posta: Anahtar sözcükler: İmza Tanıma, Yapay Snr Ağları, Konk Kest Fonksyonlu Ağlar ABSTRACT Ths paper presents a new approach for off-lne sgnature recognton based on artfcal neural networks (ANNs). ANNs have recently become a very mportant method for classfcaton and recognton problems. In ths work, two well known neural network archtectures (Multlayer Perceptron-MLP and Radal Bass Functon-RBF Networks) and a hybrd neural network (Conc Secton Functon Neural Networks-CSFNN) are proposed for the sgnature recognton. The proposed system was traned and tested on a sgnature database consstng of a total of 56 sgnature mages taken from 8 dfferent persons. A total of 00 samples (5 samples for each person) for tranng and 56 samples (7 samples for each person) for testng are used. The results and comparsons are presented. k bu malyetn fazla olmasından dolayı çok terch edlen br yöntem değldr. Offlne SRVS de se yapılablr [, 6, 8, 9]. Bu sebeple bu alanda yapılmış çalışmaların çoğunda kullanılan sınıflama yöntem offlne SRVS dr. İmza tanıma ve doğrulama üzerne lteratürde yapılmış çalışmalar daha çok mza doğrulamayı çerr. Bu çalışmada mza tanıma üzerne faklı br yaklaşım sunulmuştur. Kullanılan sınıflama yöntem offlne mza tanımadır. Bu amaçla eğtme ve test şlemlernde kullanılmak üzere 8 farklı kşden 3 şer mza olmak üzere toplam 56 mza toplanmıştır. Şekl de toplanan mzalardan bazı örnekler görülmektedr.. GİRİŞ İmza kşye at özel br el yazısı türüdür. Herkesn mzası farklı olduğu gb, br kşnn farklı zamanlarda attığı mzalar da farklılık göstereblr. Br görüntü olarak ele alındığında mza, blgsayar teknolojler ve yapay snr ağı teknkler kullanılarak tanınablr. İmza tanımada amaç; eğtme mzaları le yapay snr ağını eğttkten sonra rastgele seçlen br test mzasının sahbn bulmaktır. Bunun çn mzalar brtakım önşlemlerden geçrldkten sonra eğtme şlem gerçekleştrlr ve test mzaları arasından rastgele br mza seçlerek bu mzanın sahb araştırılır. Eğtmede yöntem ne olursa olsun sınıflama yapmak çn bell başlı yöntem vardır. Bunlar Onlne mza tanıma ve doğrulama (SRVS) ve Offlne SRVS dr. Eğtme şlemne geçlmeden önce sınıflama yöntem belrlenmeldr. Onlne SRVS [, 3, 7] mza atarken ortaya çıkan hız, yön ve basınç blglern ölçüp kaydetmeye yarayan br takım özel donanımlar (djtal kalem, djtal ped, özel baskılı kağıtlar v.b.) gerektrr Şekl. İmza örnekler Çalışmada lk olarak çok blnen ve yaygın olarak kullanılan yapay snr ağı yapılarından olan Çok Katmanlı Algılayıcı (Multlayer Perceptron-MLP) ve Radyal Temell Fonksyonlar (Radal Bass Functon- RBF) le mza tanıma yapılmış daha sonra se hbrd br yapı olan ve lteratürde bu konuya hç uygulanmamış br yöntem olan Konk Kest Fonksyonlu Ağlar (Conc Secton Functon Neural Network-CSFNN) le de mza tanıma yapılarak üç yöntemn karşılaştırmalı sonuçları tablolar halnde verlmştr.

2 . ÖNİŞLEMLER İmza tanıma problemnde lk olarak mzanın bazı önşlemlerden geçrlmes gerekmektedr. Önşlemlerden sonra mza, eğtme ve test şlemlernde kullanılmaya hazırdır. Bu önşlemler aşağıda kısaca açıklanmıştır... Görüntü İşleme Bu aşamada kşlerden toplanan mzalar br tarayıcı yardımıyla blgsayar ortamında kullanıma hazır hale getrlr... Gürültü İndrgeme Bu aşamada gürültü ndrgeme fltres syah beyaz taranmış resme uygulanır. Bunu yapmaktak amaç; arka plan beyaz se üzerndek syah pkseller, syah se üzerndek beyaz pkseller bularak yok etmektr. Bunu yapablmek çn resme, bast br karar kuralı olan 3x3 lük br maske uygulanır. Merkez pksel, çevresndek brbryle aynı renktek 8 pkseln rengnden farklı se merkez pkseln reng değştrlr. İmza resmndek gürültülern çıkarılmasından sonra yapılacak şlem mza alanının keslp alınmasıdır. Yatay ve düşey zdüşümlü parçalama metodu kullanılarak mza alanı arka plandan keslp alınır. Böylece mzayı çerçeveleyen beyaz boşluk gözden çıkarılmış olur..3. Boyut Normalzasyonu Resmn genşlğnn kabul edlen değere ulaşması çn, genşlk-yükseklk oranının değşmemes şartıyla resmn boyutu ayarlanır..4. İskelet Çıkarma Önşlemlern son aşamasıdır. İmzanın karakterstğn bozmadan gereksz pksellern atılması mantığına dayanır. Daha sonra yapılacak olan bütün şlemlerde kullanılacak olan mza, skelet hale getrlmş mzadır. Şekl de skelet halne getrlmş br mza örneğ görülmektedr. grd blg özellkler olmak üzere k ana başlıkta toplanablr. 3.. Genel Özellkler İmzanın genel özellkler arasında mza yükseklğ, resm alanı, tam genşlk ve tam yükseklk, maksmum yatay ve düşey zdüşüm, yatay ve düşey zdüşüm tepeler, mzanın yatay ve düşey merkez, genel ve yerel meyl açıları, taban çzgs kayması, köşe noktası sayısı, kesşme noktası sayısı ve kapalı çevrm aded sayılablr. Bu makalede genel özellk olarak taban çzgs kayması, mzanın yatay merkez ve mzanın düşey merkez özellkler olmak üzere 3 özellk kullanılmıştır. Dğer özellkler kullanmak kullanıcıya bağlıdır. 3.. Grd Blg Özellkler Grd blgsn elde etmek çn se skelet hale getrlmş resm 96 dkdörtgen parçaya (8 x ) bölünür. Her parça çn alan yan ön plandak pksellern (syah pkseller) aded hesaplanır. Bulunan sonuç, en düşük alan değerne sahp parçanın alanı 0, en yüksek alan değerne sahp parçanın alanı olacak şeklde normalze edlr. Sonuçta; x 8 elemanlı ve her br elemanı 0 le arasında değerler alan br grd matrs elde edlr. Bu da parçalardak syah pksellern yoğunluğunu gösterr. Şekl.3 de br mza örneğne at grd blgs çıkarılmıştır. Şekl.3 Grd çıkarılmış br mza Grd blgsnden de 96 özellk gelr k, bu da yapay snr ağlarına uygulamak üzere toplam olarak 99 tane (96+3) grş sağlar. 4.KULLANILAN AĞ YAPILARI Bu çalışmada Çok Katmanlı Algılayıcı, Radyal Temell Fonksyonlar ve Konk Kest Fonksyonlu Ağlar olmak üzere 3 farklı ağ yapısı le eğtme yapılmıştır. Şekl. İskelet çıkarılmış br mza 3.ÖZELLİK ÇIKARMA İmza tanıma şlem çn öncelkle mzanın çeştl özellkler çıkarılarak bu özellklere göre eğtme yapılmalıdır. İy br özellk çıkarma, eğtme ve test sonucunda başarı yüzdelernn artması açısından çok önemldr. Br mzaya at özellkler genel özellkler ve 4.. Çok katmanlı Algılayıcı (MLP) En genel yapısıyla MLP model, br grş katmanı, br veya daha fazla ara katman, br de çıkış katmanından oluşur. Blg akışı dama ler doğrudur. Bu yüzden ler beslemel ağ model de denr. Grş katmanındak nöron sayısı problemdek grş sayısına bağlıdır. Ara katman sayısı ve ara katmanlardak nöron sayısı deneme-yanılma yolu le bulunur. Çıkış katmanındak nöron sayısı se yne uygulanan probleme dayanılarak

3 belrlenr. Pratkte 3 katmandan fazla katman kullanılmaz. Katman sayısına grş katmanı dahl değldr. Örneğn: tane gzl katman varsa katmanlı ağ, tane gzl katman varsa 3 katmanlı ağ denr. Ara katmandak grş-çıkış lşkler hakkında blg sahb değlz. Ara katmanlarda non-lneer çıkış katmanında se lneer fonksyonlar vardır. katmanlı MLP yapısı Şekl 4 de görülmektedr. uzaklığını, σ de genşlğ göstermek üzere aşağıdak şeklde fade edlr. x c ϕ (r) = exp( ) () σ Şekl 5 de en genel göstermyle br RBF yapısı verlmştr. Şekl.4 katmanlı MLP model 4. Radyal temell Fonksyonlar (RBF) Radyal temell fonksyon ağı tasarımı se çok boyutlu uzayda eğr uydurma yaklaşımıdır ve bu nedenle RBF nn eğtm, çok boyutlu uzayda eğtm verlerne en uygun br yüzey bulma problemne dönüşür. RBF nn genellemes se eğtm sırasında bulunan çok boyutlu yüzeyn kullanılmasına eşdeğerdr. Radyal temell fonksyonlar, sayısal analzde çok değşkenl problemlern çözümünde kullanılmış ve YSA nın gelşmes le brlkte bu fonksyonlardan YSA tasarımında yararlanılmıştır. RBF, ler beslemel YSA yapılarına benzer şeklde grş, saklı ve çıkış katmanından oluşur ancak, grş katmanından saklı katmana dönüşüm, radyal tabanlı aktvasyon fonksyonları le doğrusal olmayan sabt br dönüşümdür. Saklı katmandan çıkış katmanına se doğrusal br dönüşüm gerçekleştrlr. RBF de uyarlanablecek serbest parametreler; merkez vektörler, radyal fonksyonların genşlğ ve çıkış katman ağırlıklarıdır. RBF n matematksel fades aşağıdak şekldedr: N G(x) = W (x) () = jϕ Burada W j gzl katmandak. nörondan çıkış katmanındak j. nöron arasındak ağırlığı, ϕ (x) se aktvasyon fonksyonunu gösterr. RBF de gzl katman aktvasyon fonksyonu olarak genellkle Gauss Fonksyonu kullanılır. Gauss Fonksyonu x grş vektörünü, c merkez, x c standart ökld Şekl.5 RBF model 4.3. Konk Kest Fonksyonlu Ağlar (CSFNN) Konk Kest Fonksyonlu Ağların anafkr, MLP ve RBF ağlarının brarada kullanılmasıdır. Yen yayılım kuralı, (MLP ve RBF yayılım kurallarını çeryor) br konnn analtk denklemler kullanılarak elde edleblr. Şekl 6 bu ağların yapısını göstermektedr. Burada x, sağ daresel konnn üzernde herhang br nokta, ω [-π/,π/] aralığında herhang br değer, v konnn tepe noktası ve a konnn eksenn tanımlayan brm vektör olsun. Böylece daresel konnn denklem r r r r r ( x v) a = cosω ( x v) (3) olmaktadır. Konk Kest Fonksyonlu Ağların yayılım kuralını n-boyutlu grş uzayı çn genellersek (4) denklemn elde ederz. = ( x v ) a = cosω ( x v ) (4) = Açılma açısı (ω) 90 derece olduğunda x noktaları ve v arasındak uzaklık darenn yarıçapına eşt olduğundan darenn merkez koordnatı c, v nn yerne kullanılablr. (4) denklemnn sağ tarafı sol tarafından çıkarıldığında Konk Kest Fonksyonlu Ağların yayılım kuralı aşağıdak gb elde edlr:

4 = y j = ( x cj ) aj cosω j ( x cj ) (5) = burada a j MLP dek grş le gzl katman arasındak ağırlıkları, c j RBF dek merkez koordnatlarını, ve j grş ve gzl katmanı gösteren ndslerdr. Bu durumda y j Konk Kest Fonksyonlu Ağların aktvasyon değerdr. Kolayca görüldüğü üzere bu denklem MLP ve RBF gb temel kısımdan oluşur. ω açısı π/ olduğu zaman denklem sadece MLP kısmına dönüşür. Denklemn knc kısmı da RBF nn grşler le merkezler arasındak ökld uzaklığıdır. Grş Gzl Katman Çıkış Katmanı RBF le yapılan eğtmeden sonra gzl katmanda 75 nörona ulaşılmıştır. Genşlk değer olarak 0 seçlmştr. CSFNN le yapılan eğtmede se ağ, nörondan oluşan gzl katman ve 8 nörondan oluşan çıkış katmanı olacak şeklde tasarlanmıştır. Genşlk değer olarak seçlmştr. Sonuçlar aşağıdak tablolarda sunulmuştur: Tablo-. Doğru sınıflanan eğtme mzaları sayısı MLP Eğtme İmzaları A B C D E F G H 5 5 6,7 5 0,8,5 5 4,8.çıkış RBF çıkış CSFNN k.çıkış Yukarıdak tablodan da anlaşıldığı gb eğtme mzalarının doğru sınıflanma yüzdeler MLP le yapılan eğtmede %87.4, RBF de %00, CSFNN de %96 dır. Şekl.6 CSFNN model Tablo-. Doğru sınıflanan test mzaları sayısı 5. BENZETİM SONUÇLARI İmza tanıma şlemnde eğtme ve test şlemlernde kullanılmak üzere A, B, C, D, E, F, G ve H olarak smlendrlen 8 farklı kşden 3 şer mza olmak üzere toplam 56 mza toplandı. Bunların 00 tanes eğtmede (br kşden 5 mza), 56 (br kşden 7 mza) tanes de testte kullanıldı. İmzalar.bölümde anlatılan önşlemlerden geçrldkten sonra bu mzalara at özellkler çıkartıldı ve 99*56 boyutunda grş vektörü oluşturuldu. Grş vektörünün boyutu çok yüksek olduğundan dolayı temel bleşen analz yöntem kullanılarak bu boyut 0*00 e düşürüldü. MLP RBF CSFNN Test İmzaları A B C D E F G H 7 6,3 5, ,6 7 6,4 6, MLP le yapılan eğtmede.gzl katmanda 60,.gzl katmanda 4 ve çıkış katmanında 8 nörondan oluşan br ağ yapısı tasarlanmıştır. Momentum ve adaptf öğrenme oranının ayarlanabldğ gerye yayılım algortması kullanılmıştır. Eğtmede öğrenme oranı 0.05 ve momentum 0.09 seçlerek en y sonuçlar alınmıştır. Ağırlıklar rastgele seçldğ çn ağ 0 defa eğtlerek sonuçların ortalaması alınmıştır. Egtme yaklaşık olarak 00 adımda tamamlanmıştır. Test mzaları çn oluşturulmuş Tablo de se ağın başarısı MLP çn %9.43, RBF çn %98, ve CSFNN çn %96,43 dür. Bu sonuçlar tek br tablo halnde Tablo 3 de sunulmuştur.

5 Tablo-3. CSFNN, MLP ve RBF kullanarak yapılan mza tanıma sonuçları Yöntem Eğtme İmzaları Test İmzaları MLP %87,4 %9,43 RBF %00 %98, CSFNN %96,43 %96,43 6. SONUÇLAR VE YORUMLAR İmza tanıma çn MLP, RBF ve CSFNN le eğtme yapılarak eğtme ve test örneklernn sınıflanma sayıları ve ağların başarı yüzdeler verlmştr. Bulunan sonuçlar daha önce yapılan çalışmalarla kıyaslandığında oldukça tatmn edcdr. Bu tablolardan görüldüğü gb mza tanıma kısmında RBF le yapılan eğtme ve test başarı yüzdelernn %00 bulunması bakımından önemldr. Ayrıca CSFNN le yapılan eğtme şlem MLP ve RBF e göre çok daha hızlıdır. Dkkat çekc sonuçlardan br de CSFNN le yapılan eğtmede kullanılan nöron sayısının azlığıdır. CSFNN le 0 nöron kullanılırken MLP de 9, RBF de se 83 nöron kullanılmıştır k bu da pratkte uygulanması açısından CSFNN lern üstün olduğunun spatıdır. KAYNAKLAR [] Bajaj, R., Chaudhury, S., : Sgnature Verfcaton Usng Multple Neural Classfers, PATTERN RECOGNITION SOCIETY, (996), 30:-7. [] Baltzaks, H., Papamarkos,N.,:A new sgnature verfcaton technque based on a two-stage neural network classfer, ENGINEERING APPLICATIONS OF ARTIFICIAL INTELLIGENCE, (00), 4: [3] Brault, J., Plamondon, R., : Segmentng handwrtten sgnatures at ther perceptually mportant ponts, IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELIGENCE, Vol. 5. (993) [4] Hanmandlu, M., Madasu, V.K., Madasu, S., : Neuro-Fuzzy Approaches to Sgnature Verfcaton, ND NATIONAL CONF. ON DOCUMENT ANALYSİS AND RECOGNITION (NCDAR-003), - July 003, Mandya, Inda, (003). [5] Haykn, S., Neural Networks: A COMPREHENSİVE FOUNDATION, MACMILLAN COLLEGE PUBLISHING, New York, (994). [6] Huang, K., Yan, H., : Off-lne Sgnature Verfcaton Based on Geometrc Feature Extracton and Neural Network Classfcaton, PATTERN RECOGNITION SOCIETY, (996), 30:9-7. [7] Ket, T.H., Palanappan, R., Raveendran, P., Takeda, F., : Sgnature Verfcaton System usng Pen Pressure for Internet and E- Commerce Applcaton, ISSRE00 INTERNATIONAL SYMPOSIUM ON SOFTWARE RELIABILITY ENGINEERING, 7-30 November, Hong Kong, (00). [8] Murshed, N.A. Bortolozz, F., Sabourn, R., : Off-Lne Sgnature Verfcaton usng Fuzzy ARTMAP Neural Network, IEEE INTERNATIONAL CONFERENCE ON NEURAL NETWORKS, 7 November-st December 995, Perth, Australa, (995). [9] Öz, C., Ercal, F., Demr, Z., : Sgnature Recognton and Verfcaton wth ANN, ELECO 003 INTERNATIONAL CONFERENCE ON ELECTRICAL AND ELECTRONICS ENGİNEERING, 3-7 December 003, Bursa, (003). [0] Parzeu, M., Plamondon, R., : A Comparatve analyss of regonal correlatng dynamc tme warpng and skeletal tree matchng for sgnature verfcaton, IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELIGENCE, Vol.. (990) [0] Yıldırım, T., Özyılmaz, L., : Dmensonalty reducton n Conc Secton Functon Neural Network, SADHANA-ACADEMY PROCEEDINGS IN ENGINEERING SCIENCES, Vol 7, Part 6, (00), [] Yıldırım,T., : Development of Conc Secton Functon Neural Networks n Software and Analogue Hardware, PH.D. THESIS, Lverpool Unversty, UK, May (997).