ÖZET. Yüksek Lisans Tezi OTOMATİK KONUŞMA TANIMA ALGORİTMALARININ UYGULAMALARI

Transkript

1 ÖZET Yüksek Lisans Tezi OTOMATİK KONUŞMA TANIMA ALGORİTMALARININ UYGULAMALARI Köksal ÖCAL Ankara Üniversiesi Fen Bilimleri Ensiüsü Elekronik Mühendisliği Anabilim Dalı Danışman : Yrd. Doç. Dr. H. Gökhan İLK Bu çalışmada, SMM (Saklı Markov Model) abanlı izole bir kelime anıma sisemi gelişirilerek, sesin akusik paramereleri LPC (Linear Predicive Coding), LPCC (LPC Cepsrum), CEPS (Ayrık Fourier dönüşümü abanlı cepsrum) ve MFCC (Mel Frequency Cepsral Coefficiens) nin konuşmacıdan bağımsız konuşma anıma sisemlerindeki performansları değerlendirilmişir. Değişik akusik paramerelerle birlike değişik SMM ipleri de (ergodik, Bakis vb.) kullanılarak bu modellerin konuşmacıdan bağımsız konuşma anıma sisemlerindeki başarılarını karşılaşırılmışır. Konuşma anıma sisemi MATLAB oramında gelişirilmiş ve sözlük olarak sadece rakamlar kullanılmışır. Rakamların 20 ade konuşmacıya üçer ade ekrarlaılması sonucu her bir rakam için 60 ade eğiim verisi oplanmışır. Eğiim verileri kullanılarak sesin farklı akusik paramereleri ve farklı SMM ipleriyle (ergodik, Bakis) her bir rakam için model hesaplamaları yapılmışır. Eğiim verileriyle sisemin doğruluğu incelendiken sonra, es verisi olarak eğiim aşamasına kaılmamış 20 ade konuşmacının bir veya birkaç rakamı ekrarlaması sonucu elde edilen veriler kullanılarak, farklı akusik paramerelerin ve model iplerinin performansları incelenmişir. Yapılan çalışmalar sonucunda en iyi performansı, Bakis ipi SMM lerin ve MFCC akusik paramerelerinin verdiği espi edilmişir. 2005, 81 sayfa ANAHTAR KELİMELER : SMM, konuşmacı bağımsız izole kelime anıma, öznielik vekörleri. i

2 ABSTRACT Maser Thesis APPLICATION OF AUTOMATIC SPEECH RECOGNITION ALGORITHMS Köksal ÖCAL Ankara Universiy Graduae School of Naural and Applied Sciences Deparmen of Elecronics Engineering Supervisor : Ass. Prof. Dr. H. Gökhan İLK In his sudy, he performance of he acusic parameers of speech, LPC (Linear Predicive Coding), LPCC (LPC derived cepsrum), CEPS ( Discree Fourier Transform based cepsrum), MFCC (Mel Frequency Cepsral Coefficiens) and differen HMM (Hidden Markov Model) ypes (ergodic, Bakis) were compared in a speaker independen isolaed word recogniion sysem. The sysem was devoloped in he MATLAB environmen. Only digis were used as he recogniion dicionary. A rainning se ha consiss 60 occurrences of each digi by 20 alkers was used (hree occurrences of each digi per alker). Differen HMM model parameers were calculaed for digis using differen acusic parameers of he raining se and differen HMM ypes. Afer esing he algorihm using he raining se, a esing se ha consiss 60 occurrences of digis by anoher 20 alkers was used (one or more occurrences of each digi per alker) in order o compare differen acusic parameers of speech and HMM ypes in a speaker independen manner. The resuls revealed ha Bakis ype HMM models and MFCC acusic parameers give beer performances han he ohers. 2005, 81 pages KEY WORDS : HMM, speaker independen isolaed speech recogniion, feaure vecors. ii

3 TEŞEKKÜR Çalışmanın her aşamasında önerileri ile beni yönlendiren ve ihiyaç duyduğum her an yanımda olarak bana bilimsel danışmanlıkan çok daha fazlasını veren değerli danışmanım Sayın Yrd. Doç. Dr. H. Gökhan İLK e eşekkürü bir borç bilirim. Tez çalışması ve ezin yazımı süresince dosluklarını ve sevgilerini bir an bile esirgemeyen, bu süre boyunca bana ahammül eden aileme ve iş arkadaşlarıma sonsuz eşekkürlerimi sunuyorum. Köksal ÖCAL Ankara, Temmuz 2005 iii

4 İÇİNDEKİLER ÖZET... i ABSTRACT... ii TEŞEKKÜR...iii SİMGELER DİZİNİ... vi ŞEKİLLER DİZİNİ... vii ÇİZELGELER DİZİNİ... ix 1. GİRİŞ Sinyal Modelleme Konuşma Tanımanın Kısa Tarihçesi Konuşma Tanımanın Günümüzdeki Uygulamaları ve Geleceği4 2. KURAMSAL TEMELLER Ayrık Markov Prosesleri Saklı Markov Modellerine Geçiş Hava durumu yosun modeli Çuval içinde renkli bilye modeli SMM nin bileşenleri SMM için üç emel problem Problem 1 in çözümü Problem 2 nin çözümü Problem 3 ün çözümü Bölüm özei SMM Çeşileri Sürekli gözlem olasılık yoğunluk fonksiyonuna sahip SMM ler SMM nin Konuşma Tanıma Uygulamaları Genel halarıyla konuşma anıma sisemi Yalıık kelime anıma Konuşma Öznielik Vekörlerinin Çıkarımı Ön işlem bloğu Spekral şekillendirme Spekral analiz Pencereleme Doğrusal öngörümsel kodlama. (Linear Predicive Coding, LPC) Cepsral analiz LPC den üreilen cepsrum Mel-cepsrum iv

5 LPC den üreilen cepsrum ile öznielik...56 vekörlerinin çıkarılması FFT abanlı mel-cepsrum ile öznielik. vekörlerinin çıkarılması (MFCC) MATERYAL VE YÖNTEM MATLAB Oramında Gelişirilen İzole Kelime Tanıma Yazılımı (ISRTK) Ana GUI Konfigürasyon GUI si ISRTK Çalışma İlkeleri ve Tez İçinde Kullanımı ISRTK nın eğiilmesi ISRTK ile konuşma anıma ISRTK ile konfigürasyon ARAŞTIRMA BULGULARI TARTIŞMA VE SONUÇ...78 KAYNAKLAR...80 ÖZGEÇMİŞ...81 v

6 SİMGELER DİZİNİ ARPA CEPS DARPA DFT HMM IDFT ISP ISRTK LPC LPCC MFCC SMM SUR Advanced Research Projecs Agency Ayrık Fourier dönüşümü abanlı cepsrum Defense Advanced Research Projecs Agency Discree Fourier Transform Hidden Markov Model Inverse Discree Fourier Transform Inerne Service Provider Isolaed Speech Recogniion Toolki Lineer Predicive Coding LPC Cepsrum Mel Frequency Cepsral Coefficiens Saklı Markov Modeli Speech Undersanding Research vi

7 ŞEKİLLER DİZİNİ Şekil 1.1. Voder çalışma ilkesi...2 Şekil 2.1. Bazı durum geçişleri verilmiş 5 durumlu bir Markov zinciri...6 Şekil 2.2. Hava durumu yosun modeli...9 Şekil 2.3. Çuval içinde renkli bilye modeli...12 Şekil 2.4. anından +1 anına S j durumuna olası üm geçişler...19 Şekil 2.5. İleri değişken yöneminin grafiksel anlaımı...20 Şekil 2.6. Geri değişken hesaplama yöneminin grafiksel göserimi..21 Şekil 2.7. ξ ( i, j) değişkeninin grafiksel göserimi...24 Şekil durum ergodik (am bağlı) SMM...28 Şekil durum soldan-sağa (Bakis) SMM ( = 2 )...28 Şekil Sürekli konuşma anıma siseminin genel halarıyla blok diyagramı...33 Şekil SMM ile izole kelime anıma siseminin blok diyagramı.35 Şekil Öznielik vekörlerinin çıkarımı...37 Şekil a sesinin zaman bölgesi eğrisi...38 Şekil a sesinin frekans bölgesi eğrisi...38 Şekil Önvurgu filresinin frekans epkisi...39 Şekil Konuşma sinyali üreim modeli...40 Şekil Konuşma sinyalinin pencerelenmesi...42 Şekil Orijinal konuşma sinyali ve LPC analizi sonucunda elde edilen haa...46 Şekil Orijinal sinyal spekrumu ve H(z) frekans epkisi...46 Şekil Konuşma sinyalinin kısa zamanlı cepsral analizi...48 Şekil Ses yolu ve uyarı sinyalinin spekruma ekileri...48 Şekil a öümlü sesi zaman eğrisi...49 Şekil a öümlü sesine ai cepsrum...50 Şekil Low-ime lifer...51 Şekil Cepsrum yönemiyle ses yolu frekans epkisi, H ( ω ) nin elde edilmesi...51 Şekil Cepsrum yönemiyle forman analizi...52 Şekil Frekans ve mel arasındaki ilişki...54 Şekil Kısa zamanlı DFT kullanılarak mel-cepsral kasayıların hesaplanması...55 Şekil Mel filre bankası...56 Şekil LPC den üreilen cepsrum ve dela cepsrum ile öznielik vekörlerinin çıkarılması...58 vii

8 Şekil FFT den üreilen mel cepsrum ve dela cepsrum ile öznielik vekörlerinin çıkarılması Şekil 3.1. Ana GUI Şekil 3.2 Ses giriş ekranı Şekil 3.3 Konfigürasyon GUI si Şekil 3.4 ISRTK nın eğiimi Şekil 3.5 Karışımların hesaplanması Şekil 3.6 ISRTK ile konuşma anıma viii

9 ÇİZELGELER DİZİNİ Çizelge 2.1. Hava durumu modeli için durum kalma sayılarının beklenen değerleri...8 Çizelge 2.2. SMM deki problemler ve çözümleri...26 Çizelge 3.1. ISRTK da kullanılan konfigürasyonlar...74 Çizelge 4.1. ISRTK ile farklı konfigürasyonların doğruluk oranları..76 ix

10 1. GİRİŞ 1.1. Sinyal Modelleme Günlük hayaaki prosesler ölçülebilir çıkılara sahipir ve bunlar genel olarak sinyaller olarak karakerize edilebilir. Bu sinyaller yapıları iibariyle kesikli (sonlu bir alfabeden karakerler, her hangi bir kod deferinden nicemlenmiş vekörler) veya süreklidir (konuşma, ısı ölçümleri). Sinyal kaynağı durağan (isaiksel özellikleri zamanla değişmeyen) veya durağan değildir (sinyal özelikleri zamanla değişen). Sinyal saf (ek bir sinyal kaynağından oluşan) veya bozulmuş (gürülülü) olabilir. Bu ip sinyallerin, sinyal modelleriyle nasıl karakerize edilebileceği ilgi duyulan emel problemlerden biridir. Sinyal modelleri kullanmanın çeşili sebepleri vardır. İlk olarak, bu modeller sinyal işleme sisemlerinin eorik yapılarının emelini oluşurur. Örneğin gürülüyle veya ileim haları nedeniyle bozulmuş konuşma sinyali göz önüne alındığında, gürülüyü uzaklaşırmak ve ileim halarından kaynaklanan bozulmayı yok emek amacıyla bir sinyal modeli asarlanabilir. Sinyal modelleri kullanmanın diğer bir sebebi ise, bu modellerin sinyalin gerçek kaynağını bilmeden sinyal kaynağı hakkında çok önemli bilgiler verebilmesidir. Bu durumda iyi bir sinyal modeli ile sinyal kaynağına benzeim yapılabilir. Sonuç olarak sinyal modelleri kullanmanın en önemli sebebi, bu modellerin praike çok iyi çalışması ve bir çok önemli praik sisemin gerçeklenmesini sağlayabilmesidir. Bu sisemlere örnek olarak öngörüm sisemleri ve anıma sisemleri sayılabilir. Genel olarak sinyal modelleri deerminisik ve isaisik modeller olarak ikiye ayrılabilir. Deerminisik modeller sinyallerin bilinen bir akım özellikleri üzerinde dururlar. Örnek olarak sinyalin bir sinüs dalgası veya eksponensiyellerin oplamı olduğunu düşünelim. Bu durumda sinyalin modellenmesi için genlik, frekans, faz vb. kullanacağımız bir akım belirli özellikler vardır. İsaiksel modeller sinyallerin isaiksel özelliklerini modellerler. Bu modellere örnek olarak Gausian prosesleri, Poision prosesleri, Markov prosesleri ve Saklı Markov prosesleri sayılabilir. 1

11 Bu çalışmada konuşma sinyalinin SMM (Saklı Markov Model) ile modellenmesi üzerinde durulacakır Konuşma Tanımanın Kısa Tarihçesi Kronolojik olarak konuşma alanında yapılan çalışmalar incelendiğinde göze çarpan en eski çalışmanın 1936 yılında AT&T Bell Labs arafından üreilen ve Voder olarak adlandırılan ilk elekronik konuşma senezleyicisi olduğu görülmekedir ( Dudley, Riezs ve Wakins). Voder in çalışmasına ai blok diyagram Şekil 1.1. de verilmişir. Rasgele Gürülü Üreeci Öümsüz İnsan konuşma üreim sisemini modelleyen paralel bağlı band geçiren filreler Yükseleç Vızılı Osilaörü Öümlü Hoparlör Yükseleç Kazanç Konrolu Klavye Mekanik Anahar Salınım frekansını (pich frekansı) konrol eden pedal Şekil 1.1. Voder çalışma ilkesi Konuşma sinyali genel olarak öümlü ve öümsüz olmak üzere iki gruba ayrılabilir. Öümlü sesler hemen hemen periyodik bir yapıya, öümsüz sesler ise gürülüye benzerler. Öümlü seslere örnek olarak a, e, i, öümsüz seslere ise ğ, j, k verilebilir. Şekil 1.1. de bahsedilen band geçiren filreler üreilecek sesin öümlü veya öümsüz olmasına bağlı olarak ya vızılı osilaöründen yada rasgele gürülü üreicinden beslenir. Bu işlem Voder ı kullanan operaör arafından mekanik bir anahar aracılığıyla gerçekleşirilir. Vızılı osilaörünün frekansı, pedal yardımıyla ayarlanır. Band geçiren filreler üreilecek sesin formanlarını belirler ve dolayısı ile 2

12 insan konuşma sisemindeki arikülaörleri ( dil, dudak, çene vb..) modeller. Formanlar konuşma sinyalinin spekrumunun zarfındaki rezonans frekanslarıdır (spekrumun zarfındaki epe nokaları) ve yerleri arikülaörler arafından belirlenir. Voder da bu işlem şekilde de görülen klavye aracılığıyla gerçekleşirilir. Son olarak paralel bağlı filrelerin çıkışları oplanarak kazancı operaör arafından ayarlanabilen bir yükselece girilir. Üreilen bu sinyal ses çıkış aygıına verilerek konuşma üreilir. Voder ilk kez eğiilmiş operaörler arafından 1939 yılında Newyork World s Fairs de anıılmışır. Uzun bir eğiim sürecinden sonra, Voder, operaörler arafından bir piyano gibi çalınabilmişir lerin başlarında konuşma anımaya, Saklı Markov Modelleme (SMM) yaklaşımı Princeon Üniversiesinde Lenny Baum arafından keşfedilmiş ve içinde IBM inde bulunduğu bir çok ARPA (Advanced Research Projecs Agency) arafından paylaşılmışır. SMM, karmaşık bir maemaiksel örünü eşleme sraejisi olarak anımlanabilir ve içinde Dragon Sysems, IBM, Philips ve AT&T nin de bulunduğu bir çok konuşma anıma şirkei arafından kullanılmışır. SMM ilerleyen bölümlerde ayrınılı olarak anlaılacakır yılında DARPA (Defense Advanced Research Projecs Agency) arafından, sürekli konuşmayı anlayabilecek bir bilgisayar sisemi gelişirmek için SUR (Speech Undersanding Research) kuruldu. Programı başlaan Lawrance Robers 5 yıl boyunca her bir yıl için 3 milyon dolar olmak üzere hüküme fonundan harcama yapı. Buna ek olarak CMU, SRI, MIT Lincoln Laboraory, Sysems Devolopmen Corporaion (SDC) ve BBN (Bol, Berenak and Newman) da kapsamlı SUR projeleri kurulmuşur yılında Texas Insrumens arafından, popüler oyuncak Speak and Spell gelişirilmişir. Speak and Spell için bir konuşma çipi asarlanmış ve bu çip daha doğal (insana yakın) konuşma senezleme alanında büyük adımların aılmasını sağlamışır. 3

13 1984 yılında SpeechWorks isminde bir şirke kurulmuş ve elefon üzerinden oomaik konuşma anıma sisemleri (ASR) üremişir yılında, ilk kez Dragon Sysems arafından üreilen kelime abanlı dike yazılımı piyasaya sürülmüşür. Bunun ardından, benzer yazılımlar IBM ve Kurzweil arafından da üreilmeye başlanmışır da Charles Schwab ve Nuance arafından Voice Broker isminde bir konuşma anıma sisemi gelişirilmiş ve bu sisemle 360 ade müşeri elefon üzerinden aynı anda borsa işlemi yapmışır. Bu sisem, her gün ade iseği yerine geirebilmişir. Sisemin doğrulunun %95 civarında olduğu belirlenmişir. Yine aynı yıl Dragon Sysems Naurally Speaking i gelişirmiş ve bu ürün ilk sürekli dike yazılımı olmuşur Konuşma Tanımanın Günümüzdeki Uygulamaları ve Geleceği Konuşma anıma uygulamaları günlük hayaa yavaş yavaş yerini almaya başlamışır. Bunlara örnek olarak dike pakeleri (dicaion packages), sesli arama (voice browsing), elefon üzerinden konuşma anıma abanlı oomaik sisemler, görme hareke vb. engelleri olan insanlara makinelerle ileişimi sağlamak için bir akım alernaifler sunan sisemler verilebilir. Dike pakeleriyle, bilgisayarlara en hızlı dakilo kullananlarla karşılaşırıldığında bile çok hızlı ve kolay mein girişi yapılabilmekedir. Bu ip dike sisemleri saın alınabilecek uygun fiyalarla piyasaya sürülmüşür. Lernou and Hauspie dan Voice Xpress, Dragon Sysems den Naurally Speaking, Philips den FreeSpeech, SpeechPro ve IBM den ViaVoice günümüzdeki dike pakelerine örnek olarak verilebilir. Günümüzdeki diğer bir uygulama ise sesli web arama sisemleridir. Bu ip sisemlerle doğrudan bir elefon üzerinden daha önce mümkün olmayan koşullarda web araması gerçekleşirilmekedir. TellMe buna benzer bir sisemdir. Bu sisemle kullanıcılar elefon üzerinden sesli olarak borsa bilgilerinden resoranlara kadar her ürlü bilgiye, bilgisayar ve ISP bağlanısı olmadan ulaşabilmekedir. 4

14 Konuşma alanındaki yaygın uygulamalardan biride elefon üzerinden bankacılık rezervasyon gibi işlemlerdir. Daha önce elefon uşları kullanılarak uzun zaman alan işlemler konuşma anıma abanlı sisemlerle daha hızlı, ucuz ve kolay hale geirilmişir. Yakından anıdığımız sesli arama yapan cep elefonları, sese duyarlı ev eşyaları daha önce saydığımız örnekler gibi hayaımızı kolaylaşırmakadır. Konuşma anıma alanında şu an yapılan çalışmalara bakıldığında sisemlerin doğruluğunun arırılması, bağımlılıkların oradan kaldırılması (konuşmacı, dil, konuşulan oram vb.) yönünde olduğu görülmekedir. Doğruluğun arması ve bağımlılıkların oradan kalkmasıyla ilerde daha praik ve önemli sisemlerin oraya çıkacağı açıkır. 5

15 2. KURAMSAL TEMELLER 2.1. Ayrık Markov Prosesleri Her hangi bir anda S 1, S 2, S N gibi N farklı durumdan herhangi birinde bulunan bir sisem düşünelim. N = 5 için böyle bir sisem Şekil 2.1. de verilmişir. a 22 a 11 S 1 a 15 S 5 S 2 a 21 a 32 a 31 a 53 a 14 a 33 S 3 a 43 S 4 a 45 a 44 a 55 Şekil 2.1. Bazı durum geçişleri verilmiş 5 durumlu bir Markov zinciri Sisem eşi aralıklı ayrık zamanlarda durumlarla ilgili bir olasılık seine göre bir durumdan diğer duruma veya aynı duruma geçiş yapar. Geçişlerin yapıldığı ayrık zaman anları = 1,2, olarak ve anındaki durumu q olarak göserelim. Şekil 2.1 deki sisemin olasılıksal olarak am bir şekilde ifade edilebilmesi için her hangi bir durumun, ondan önce gelen durumlarla birlike olasılıksal olarak ifade edilebilmesi gerekir. Birinci dereceden bir Markov zincirinde bu olasılıksal ifade şimdiki ve bir önceki duruma indirgenir. Pq [ = S q = S, q = S,...] = Pq [ = S q = S] (2.1) j 1 i 2 k j 1 i 6

16 (2.1) de verilen eşiliğin zamanla değişmediği proseslerde durum geçiş olasılıkları, a ij ler eşilik (2.2) deki gibi ifade edilir ve eşilik (2.3) ve (2.4) de verilen isaiksel kısılamaları sağlarlar. a = P[ q = S q = S ) 1 i,j N (2.2) ij j 1 i aij 0 N (2.3) aij = 1 (2.4) j = 1 Şimdi, hava durumunun üç durumlu Markov modelini düşünelim. Her hangi bir günde hava durumu aşağıdaki durumlardan biri olarak gözlensin. Durum 1: Yağmurlu veya karlı Durum 2: Bululu Durum 3: Güneşli A durum geçiş marisi, { a ij } eşilik (2.5) deki gibi olsun A= { a ij } = (2.5) Birinci günde (=1) hava durumunun güneşli (Durum 3) olduğu verilsin. Bu durumda şöyle bir soru sorulabilir. Modele göre gelecek 7 günün güneşligüneşli-yağmurlu-yağmurlu-güneşli-bululu-güneşli olma olasılığı nedir? Daha formal olarak, bir Markov modeli verildiğinde gözlem sırası O={O 1, O 2, O 3, O 4, O 5, O 6, O 7, O 8 }={S 3,S 3, S 3, S 1, S 1, S 3, S 2, S 3 } olma olasılığı nedir. Bu problem aşağıdaki gibi çözülebilir. P( O Model) = P( S, S, S, S, S, S, S, S Model) = π a a a a a a a i = 1 (0.8) (0.8) (0.1) (0.4) (0.3) (0.1) (0.2) =

17 Burada π i, =0 anında (başlangıç) S i durumundan başlama olasılığıdır. Modelin (zincirin) hangi durumla hangi olasılıka başlangıç yapacağını belirleyen parameredir. π = Pq [ = S], 1 i N (2.6) i 1 i Bunun dışında modeli kullanarak hava durumu her hangi bir durumda iken bu durumda d gün boyunca kalma olasılığı nasıl hesaplanır? gibi bir soruda sorulabilir. O = { S, S, S,..., S, S S } i i i i j i d d + 1 d 1 (, 1 i) ( ii) (1 ii) i( ) PO Modelq = S = a a = p d (2.7) Eşilik (2.7) de verilen pi ( d), i. durumun d gün boyunca devam emesinin olasılık dağılımıdır. Bu üssel yoğunluk fonksiyonu Markov zincirinin durum kalma süresi karakerisiğidir. Bu olasılık yoğunluk fonksiyonunu kullanılarak i. durumun devam eme sayısının beklenen değeri eşilik (2.8) deki gibi hesaplanabilir. d i = dp i d = 1 d 1 daii d = 1 1 = ( ) (1 aii ) = 1 a ii (2.8) Hava durumu modeli için durum kalma sayılarının beklenen değerleri Çizelge 2.1. de verilmişir. Çizelge 2.1. Hava durumu modeli için durum kalma sayılarının beklenen değerleri Durum Durum kalma sayısının beklenen değeri Yağmurlu = 1.67 Bululu = 2.5 Güneşli = 5 8

18 2.2. Saklı Markov Modellerine Geçiş Bölüm 2.1. de anlaılan Markov modellerinde her bir durum gözlemlenebilir fiziksel bir olaya karşılık geliyordu. Bu ip bir modelleme bir akım problemlerin modellenmesi için gerekli yapıya sahip olmayabilir. Bu bölümde gözlemlerin, durumların birer olasılıksal fonksiyonları olduğu Markov modelleri incelenecekir. Sonuç olarak oluşan model, arka planda işleyen, gizli ve gözlemlenemeyen bir isaiksel proses ile bu isaiksel proses sonucunda oluşan ve ölçülebilen gözlem sıralarını oluşuran başka isaiksel proseslerin birleşiminden oluşan çif kalı isaiksel bir süreç halini alır ve Saklı Markov Modeli (SMM) olarak bilinir. Bu bilgiler ışığında Bölüm de verilen hava durumu yosun modeli ve Bölüm de verilen çuval içinde renkli bilye modellerini inceleyelim Hava durumu yosun modeli İçinde yosunlarının yeişiği ve hava durumunun doğrudan izlenemediği bir zindanın içinde olduğumuzu düşünelim. Zindandaki yosunların fiziksel durumları zamanla değişmeke ve Kuru, Nemli ve Islak şeklinde doğrudan izlenebilmekedir. Yosunlardaki fiziksel değişimlerin sebebinin doğrudan gözlemlenemeyen havanın farklı durumları olduğu ahmin edilmekedir. Böyle bir durumda yosunların fiziksel hallerindeki değişimi modelleyen bir SMM nasıl oluşurulabilir? Hava Durumu Yosunların Durumu Kuru Kuru Nemli... Islak Şekil 2.2. Hava durumu yosun modeli 9

19 Bu sorunun cevaplanması için ilk yapılması gereken modeldeki durumların neler olduğunu ve kaç ane olabileceğini belirlemekir. Şekil 2.2. de örnek bir SMM göserilmişir. Bu modelde üç ade durum vardır. Bu durumlar havanın Güneşli, Yağmurlu ve Bululu durumlarıdır. Hava durumunun değişimi isaiksel bir prosesir ve bu isaiksel proses direk olarak gözlemlenememekedir. Faka arka planda işleyen bu gizli prosesin sonucunda oluşan ve gözlemlenebilen üç ade isaiksel proses daha vardır. Bu prosesler havanın her bir farklı durumu için yosunların fiziksel değişimidir Çuval içinde renkli bilye modeli Şimdi SMM ile modellenebilecek başka bir senaryo üzerinde düşünelim. Kapalı bir odanın içinde birden alıya kadar numaralandırılmış 6 ade çuval ve her bir çuvalın içinde M değişik renke, değişik sayıda bilyeler olsun. Bu odanın içindeki bir adam, yazı ura aarak bir başlangıç çuvalı belirlesin ve bu çuvaldan bir bilye çeksin. Çekiği bilyenin rengini kaydeiken sonra bilyeyi aldığı yere bıraksın. (Parayla başlangıç çuvalı seçme işleminde yazı ilk çuvala ura ise ikinci çuvala karşılık gelecekir. Diğer çuvallarla başlama olasılığı ise sıfır olacakır). Bu işlemden sonra zar aarak geçiş yapacağı çuvalı belirlesin ve bilye çekme işlemini bu çuval için ekrarlasın.(geçiş çuvalı belirlerken zar ama işleminin olası sonuçları 1, 2, 3, 4, 5, 6 geçiş yapılacak çuvalın numarasına karşılık gelecekir). Bu şekilde T ade bilye çekme işleminden sonra, çekiği bilyelerin rengini, çekme sırasına göre, odanın dışında bulunan ve olup bienlerden haberi olmayan başka bir adama söylesin. Bu işlem belli sayıda ekrar edildiğinde T uzunluğunda çekilen bilyelerin rengini göseren gözlem dizileri oluşacakır. Bu durumda gözlem sıralarının oluşmasının açıklayan Şekil 2.3. deki gibi bir model oluşurulabilir. Bu modelde 6 ade durum vardır ve her bir durum bir çuvala karşılık gelmekedir. Durum başlangıç olasılıkları ve durum geçiş olasılık marisi anlaılan senaryoya göre sırasıyla eşilik (2.9) ve (2.10) daki gibi verilebilir. 1 1 π = { π i } = {,,0,0,0,0,0} (2.9)

20 a ij ,,,,, =,,,,, ,,,,, (2.10) Başlangıç durum olasılıkları ve durum geçiş olasılıklarından başka belirlenmesi gereken bir paramere daha vardır. Bu paramere modeldeki durumların hangi gözlemleri hangi olasılıkla üreiğini belirleyen durum gözlem olasılık dağılımlarıdır ve (2.11) deki gibi anımlanır. bj( k) = P[ anında vk q = Sj], 1 j N (2.11) 1 k M Burada j durum numarasını, k ise gözlemin gözlem alfabesindeki indisini göserir. b ( k) j. durumun alfabedeki k indisli gözlemi oluşurma j olasılığıdır. Gözlem alfabesi her bir durum için izlenen farklı gözlemlerin bir alfabesidir. Bu alfabe her bir durum için farklı seçilebilir. Bu bölümde anlaılan modeldeki gözlem alfabeleri her bir durum için aynıdır ve (2.12) deki gibi anımlanabilir. V = { v } = { v, v,..., v } k 1 2 M = { Mavi, Sarı,..., Yeşil} (2.12) 11

21 = Olası başlangıç durum geçişleri Çuval 1 için olası geçişler 1/6 Çuval 1 Çuval 2 Çuval 3 Çuval 4 Çuval 5 Çuval 6 1/6 1/6 1/6 1/6 1/6 Çuval 1 Bilye Dağılımı P(Mavi) =b ( Mavi) P(Sarı) =b ( Sarı)... P(Yeşil) =b ( Yeşil) Çuval 6 Bilye Dağılımı P(Mavi) =b ( Mavi) P(Sarı) =b ( Sarı)... P(Yeşil) =b ( Yeşil) Şekil 2.3. Çuval içinde renkli bilye modeli SMM nin bileşenleri Bölüm ve Bölüm de verilen SMM örneklerinde arka planda işleyen gizli bir Markov süreci olduğunu ve bu Markov sürecindeki durumların belli bir olasılık dağılımına göre gözlem vekörlerini üreiği görüldü. Bu gözlem vekörleri SMM nin çıkısı olan gözlem dizilerini oluşurur. Şimdi büün bunları bir araya geirerek daha formal bir biçimde bir SMM nin bileşenlerini inceleyelim. Bir SMM aşağıdaki bileşenlerle karakerize edilir. 1) N, modeldeki durum sayısıdır. Modellemedeki durumlar gizli olmasına ve dolayısı ile sayısının am olarak bilinmemesine rağmen bazı sisemlerdeki durumlar daha önce verilen örneklerde 12

22 olduğu gibi fiziksel bir olguyla ilişkilendirilebilir. Örnek olarak hava durumu-yosun modelinde durumlar Güneşli, Yağmurlu ve Bululu hava koşullarına, çuval içinde renkli bilye modelinde ise durumlar çuvallara karşılık geliyordu. Genel olarak her bir duruma her hangi bir durumdan geçiş yapılabilir. Daha sonra ayrınılı olarak inceleneceği gibi bu ip bir SMM ye ergodik SMM denir. Bazı modellerde durumlar arasındaki bazı geçişler sınırlandırılabilir. Modeldeki durumlar S={S 1, S 2,, S N } ve anındaki durum q şeklinde göserilecekir. 2) M, her bir durum için gözlemlenen farklı gözlem sayısı veya sonlu alfabe büyüklüğü. Gözlemler sisemin çıkılarıdır. Hava durumu yosun modelinde gözlemler yosunun Kuru, Nemli ve Islak halleri, çuval içinde renkli bilye modelinde ise bilyelerinin renkleriydi. Alfabe büyüklüğü durum sayısına eşi olmak zorunda değildir. V vk v1 v2 v M = { } = {,,..., } (2.13) 3) Durum geçiş olasılık dağılımları A={a ij } a = P[ q = S q = S ], 1 i,j N (2.14) ij + 1 j i 4) Durumların gözlem olasılık dağılımları, B={b j (k)} bj( k) = P[ anında vk q = Sj], 1 j N 1 k M 5) Başlangıç durum dağılımı π = { π i} π = Pq [ = S], 1 i N i 1 i (2.15) (2.16) Şimdi üm bu paramereleri kullanarak bir SMM nin O = O1, O1,..., OT (2.17) gibi bir gözlem dizisini nasıl oluşurduğunu aşama aşama inceleyelim. Burada O anında her hangi bir durumdayken üreilen gözleme karşılık gelmekedir. 13

23 1) Başlangıç durum dağılımı π ye göre bir q1 = Si başlangıç durumu belirle. 2) =1 3) q S durumundaki gözlem olasılık yoğunluk dağılımı b ( k) ya = i göre bir gözlem vekörü O = v seç. k S ij) 1 4) i durumunun durum geçiş olasılık dağılımına göre (a q = + Sj durumuna geçiş yap. 5) =+1. Şaye <T ise 3. basamağa geri dön. Aksi akdirde işlemi biir. i Bir SMM nin am olarak belirilebilmesi için N,M, gözlem vekörleri ile A, B, π olasılık selerinin belirlenmesi gerekir λ = { AB,, π} bir SMM yi göserir SMM için üç emel problem Problem 1: Bir O = O1, O2,..., OT gözlem dizisi ve λ = { AB,, π} modeli verildiğinde, gözlem dizisinin olasılığı, PO ( λ ) nasıl hesaplanır? Problem 2: Bir O = O1, O2,..., OT gözlem dizisi ve λ = { AB,, π} modeli verildiğinde, bu gözlem dizisine karşılık gelen durum dizisi Q = q1, q2,..., qt (bu gözlemleri oluşuran durumların dizisi) her hangi bir kriere göre opimal olacak şekilde nasıl hesaplanır? Problem 3: Belli sayıda gözlem dizisi verildiğinde SMM paramereleri, λ = { AB,, π} PO ( λ ) lar maksimum olacak şekilde nasıl hesaplanır? Problem 1 bir değerlendirme problemidir. Bir gözlem dizisi ve bir model verildiği zaman, bu gözlem dizisinin bu model arafından hangi olasılıkla üreildiğinin bulunmasıdır. Daha başka bir bakış açısıyla bu gözlem dizisinin hangi ölçüde bu modele uygun olduğunun hesabıdır. Problem 1 in 14

24 çözümü ile, bir gözlem dizisi ve birden fazla model verildiğinde bu gözlem dizisinin hangi modele daha yakın olduğu bulunabilir. Problem 2, bir model ve bir gözlem dizisi verildiğinde, bu gözlem dizisine karşılık gelen opimum durum dizisini belli bir kriere göre oraya çıkarma problemidir. Problem 3 gözlem dizileri verildiği zaman bu gözlem dizilerinin oluşmasını en iyi şekilde açıklayan model paramerelerinin bulunması problemidir. Bu gözlem dizileri eğiim dizileri, bu işlem ise SMM eğiim işlemi olarak adlandırılır. Bu fikirler ışığında içinde W ade kelime bulunan küçük sözlüklü bir konuşma anıma sisemini düşünelim. Örneğin bir rakam anıma siseminde W=10 ve kelimeler { sıfır, bir,..., dokuz } olur. Konuşma sinyalinin kodlanmış spekral vekörler olarak düşünelim. Bu vekörlerin M büyüklüğündeki bir kod deferi aracılığıyla kodlansınlar. Bu durumda her bir gözlem vekörü kod deferindeki bir indise karşılık gelir. Her bir kelime için belli sayıda ekrarlar sonucu oluşurulan eğiim daaları olsun. Bu eğiim daalarını kullanarak SMM lerin asarımı Problem 3 ün çözümüdür. Yani λ = { AB,, π} hesaplanır. Modeldeki durumların fiziksel anlamlarını bulmak ve eğiim daalarını durumlara ayırarak model üzerinde değişiklikler yapmanın çözümü Problem 2 dir. Yani gözlemlere göre durum sıralıları bulunur. Bu işlemler sonucunda W ade SMM bulunduğu zaman bir es dizisi verildiğinde bu dizinin hangi modele daha yakın olduğunun çözümü ise Problem 1 dir. Yani PO ( W) yi maksimum yapan W kelimesidir. Burada W i i sözlükeki i. kelime O ise es gözlem dizisidir. i Problem 1 in çözümü Problem 1 O = O1, O2,..., OT gözlem dizisi ve λ = { AB,, π} SMM si verildiğinde PO ( λ ) olasılığının hesaplanmasıdır. Bu olasılığı hesaplamanın bir yolu T uzunluğundaki üm durum sıralıları için olasılıkların hesaplanıp bu olasılıkların oplanması olabilir. 15

25 Q = q1, q2,..., qt Burada q 1 başlangıç durumudur. Bu durum sıralısı için gözlem sıralısının olasılığı T PO ( Q, λ) = PO ( q, λ) (2.18) = 1 olarak hesaplanır. Bu eşilik yazılırken gözlemlerin isaiksel olarak bağımsız oldukları varsayılmışır. Bu eşilik açılırsa P( O Q, λ ) = b ( O ) b ( O ) b ( O ) (2.19) olarak elde edilir. q1 1 q2 2 qt T Durum sıralısının olasılığı ise eşilik (2.20) deki gibi yazılabilir. Q λ ) = π a a a (2.20) P ( q1 q1q2 q2q3 q T 1 q T λ = { AB,, π} verildiğinde O gözlem dizisinin ve Q durum dizisinin birleşik olasılığı (2.19) da ve (2.20) de ayrı ayrı hesaplanan bu iki olasılığın çarpımıdır. POQ (, λ) = PO ( Q, λ) PQ (, λ ) (2.21) O gözlem dizisinin λ = { AB,, π} modeli alında oluşma olasılığı üm olası durum dizileri için (2.21) de verilen olasılığın hesaplanıp oplanması ile bulunabilir. PO ( λ ) nın eşilik (2.22) verilen şekilde hesaplanmasına doğrudan hesaplama denir. PO ( λ) = PO ( Q, λ) PQ ( λ) all Q (2.22) = π b ( O ) a b ( O ) a b ( O ) q1, q2,..., qt q1 q1 1 q1q2 q2 2 qt 1qT qt T Eşilik (2.18)-(2.21) de verilen hesaplamalar sözle şu şekilde anlaılabilir. Başlangıç anında (=1) durumundan π olasılığı ile başlanıyor ve bu q 1 durumda bq ( O) olasılıkla O1 gözlemi oluşuruluyor. Bunun ardından zamanın anından +1(=2) anına gelmesiyle birlike durumuna 1 1 a qq 1 2 q 1 durumundan q1 q2 olasılığıyla geçiş yapılıyor ve yeni geçilen bu durumda 16

26 b ( O ) olasılığıyla gözlemi oluşuruluyor. Bu işlem bu şekilde q2 2 qt 1 durumundan q durumuna a olasılığıyla geçip b ( O ) olasılığıyla O T T O 2 qt 1qT gözlemi oluşuruluncaya kadar (=T) devam ediyor. qt T PO ( λ ) nın doğrudan hesaplama yönemiyle hesaplanması halinde T T (2T 1) N çarpma ve N 1 oplama yapılması gerekir, çünkü N farklı T durum için oplam T uzunluğunda N ade farklı durum sıralısı vardır. Her bir durum sıralısı için (2T-1) ade çarpma yapıldığından, oplamda T (2T 1) N ane çarpma yapılır. Daha sonra her bir durum sıralısı için T bulunan sonuçlar opladığından ise N 1 ade oplama gerekir. PO ( λ ) nın doğrudan (2.18)-(2.22) de verilen eşiliklerle hesaplanması uygulanabilir değildir. Çünkü küçük N ve T değerlerinde bile çok fazla sayıda işlem yapılması gerekir. Örnek olarak N=6 ve T=100 olması durumunda ade çarpma ve (6 1) ade oplama yapılması gerekir. Bu sebepden dolayı daha ekili bir hesaplama yöneminin kullanılması zorunludur. Bu amaçla gelişirilmiş ve ileri-geri değişken yönemi (The Forward-Backward Procedure) olarak bilinen çok ekili bir hesaplama yönemi vardır. İleri Geri Değişken Yönemleri: İleri ve geri değişken yönemleri λ = { AB,, π} SMM paramerelerinin zamanla değişmezliği ve gözlem vekörlerinin birbirlerinden bağımsız oldukları varsayımı göz önüne alınarak gelişirilmiş yönemlerdir. İleri değişken yönemine geçmeden önce ileri değişken α () i değişkenini anımlayalım. α( i) = P( OO O, q = S i λ) (2.23) α () i değişkeni (2.23) deki eşiliken görüldüğü gibi anına durumunda iken kısmi gözlem sıralısı OO O nin üreilme olasılığıdır. α () i değişkeni özyineli bir yapıda aşağıdaki gibi hesaplanabilir. S i 17

27 1) Başlama α1( i) = π ibi( O1), 1 i N. (2.24) 2) Özyineleme N α+ 1( j) = α( i) aij bj( O+ 1), 1 T-1 i= 1 1 j N. (2.25) 3) Sonlandırma N PO ( λ) = α ( i) (2.26) i= 1 T Yönemin ilk basamağında ileri değişkenler ( α1 (), i 1 i N) =1 anında başlangıç durumu Si ve başlangıç gözlemi 1 in birleşik olasılığına se edilir. Daha sonra özyineleme aşamasına geçilir. Bu aşama yönemin en önemli nokasıdır. Şekil 2.4. de +1 anındaki S durumuna, anındaki N ade olası durumda ( Si, 1 i N) geçişler göserilmişir. α () i, anında Si durumunda iken, OO O kısmi gözlem dizisinin üreilmesi olasılığı olduğundan α () ia ij olasılığı anında Si durumunda iken OO O gözlem dizisinin üreilme ve +1 anında S j durumuna geçme olasılığını verir. Tüm i değerleri (1 i N) için bu olasılık hesaplanıp oplanması halinde kısmi gözlem dizisi OO O nin üreilip, +1 anında S j durumunda olma olasılığı bulunur. Bu işlem sonunda S j durumu bilindiğinden bu olasılık değeri b ( O + ) ile çarpılarak α ( ) + 1 j hesaplanır. Özyinelemeye üm j 1 =1,2,,T-1 anları için devam edilerek elde edilen N ade ileri değişkenin oplamı PO ( λ ) olasılığını verir. O j PO ( λ ) nın ileri değişken yönemi ile hesaplanmasını işlem yükü bakımından doğrudan hesaplama yönemiyle karşılaşıralım. PO ( λ ) T doğrudan hesaplama yönemiyle hesaplandığında (2T 1) N ade çarpma T ve N 1 oplama gerekirir. Bu iki büyüklüğü opladığımızda yaklaşık T olarak 2T N ade işlem yapılması gerekiği oraya çıkmakadır. İleri 2 değişken yöneminde her bir özyinelemede N işlem yapıldığından ve özyineleme T kere ekrarlandığından oplam yapılan işlem yaklaşık olarak 18

28 2 NT adeir. N=5 ve T=100 için doğrudan hesaplama yöneminin ve ileri 72 değişken yöneminin işlem yükü hesaplanırsa yaklaşık olarak sırasıyla 10 ve 3000 değerleri bulunur. Bu iki büyüklüğü oranladığımızda doğrudan 69 hesaplama yöneminin 10 ka daha fazla işlem gerekirdiği ve ileri değişken yöneminin çok ekili bir yönem olduğu sonucuna varılabilir. S 1 a 1 j S 2 a 2 j S 3 a 3 j S j a Nj S N + 1 α (i) α ( ) S j i + 1 Şekil 2.4. anından +1 anında durumuna olası üm geçişler İleri değişken ile olasılık hesaplama yönemi Şekil 2.5. de verilen kafes yapısına dayalıdır. Bu yapıdaki anahar noka modelde sadece N ade durum olması ve gözlem dizisinin büyüklüğünden bağımsız olarak üm olası durum dizilerinin her hangi bir anda anda bu N ade nokadan birine kavuşmasıdır. =1 anında 1 i N için sadece α () i değerlerini 1 hesaplamamız gerekir. =2,3,,T anlarında ise sadece α ( j), 1 j N değişkenlerini hesaplamamız gerekir. Bu hesaplamalarda sadece α () i nin bir önceki andaki N ade değeri α (), 1 i 1 i N kullanılır. Çünkü anında N ade nokaya sadece -1 anıdaki N ade nokadan geçiş yapılabilir. 19

29 N Durum T Gözlem, Şekil 2.5. İleri değişken yöneminin grafiksel anlaımı İleri değişken yönemine benzer manıkla geri değişken yönemiyle de PO ( λ ) hesaplanabilir. Bunun için öncelikle geri değişken β () i anımlansın. β () i = P( O O O q = S, λ) (2.27) T i S i Bu değişken anında durumunda iken,bu andan sonra kısmi gözlem dizisi O+ 1O+ 2 OT üreilme olasılığıdır. β () i değişkeni özyineli bir yapıda aşağıdaki gibi hesaplanabilir (Eşilik (2.28)-(2.30) ). 1) Başlama β ( ) T 1, 1 i N (2.28) 2) Özyineleme β ( i) = a b ( O ) β ( j), ij j j= 1 = T-1,T-2,...,1 1 i N 3) Sonlandırma N N i= 1 i i 1 (2.29) PO ( λ) = π b( O) β ( i) (2.30) 20

30 Geri değişken ile olasılık hesaplama yöneminde ilk basamaka β T () i geri değişkenleri 1 e eşilenir ve her bir özyinelemede Şekil 2.6. da göserilen üm olası yolların geçiş olasılıkları ve gözlem üreme olasılıkları bu başlangıç değerinden düşülerek bir önceki andaki geri değişken değerleri hesaplanır. a i1 S 1 a i2 S 2 S i a i3 S 3 a in S N + 1 β (i) β ( ) + 1 j Şekil 2.6. Geri değişken hesaplama yöneminin grafiksel göserimi Problem 2 nin çözümü Problem 2 nin problem 1 den farklı olarak am bir çözümü yokur. Çünkü problem bir gözlem dizisi ve model verildiğinde bu gözlem dizisiyle ilgili opimum durum dizisini bulmak olduğundan, problemin değişik opimumluk krierlerine göre farklı çözümleri vardır. Örnek olarak opimumluk krierini, bir gözlem dizisi ve model verildiğinde anında olması en olası durum olarak belirleyelim. Bu durumda Problem 2 in çözümü nedir? Bunun için öncelikle eşilik (2.31) de verilen değişkeni anımlayalım. γ () i = P( q = S O, λ) (2.31) i Bu değişken bir model ve bir gözlem dizisi verildiğinde anında S i durumunda olma olasılığıdır. Bu olasılık değeri Bölüm de incelenen ileri ve geri değişkenler cinsinden eşilik (2.32) deki gibi yazılabilir. 21

31 α() i β() i α() i β() i γ () i = = N PO ( λ) α () i β () i i= 1 (2.32) Bölüm de anlaıldığı gibi α () i öngörülen modelin anında durumunda iken OO O gözlem dizisini oluşurma olasılığıdır. β () i ise anında durumunda iken, bu andan sonra kısmi gözlem S i dizisi O 1O OT nin üreilme olasılığıdır. Bu iki olasılığın çarpımının PO ( λ ) olasılığı ile normalizasyonu ile öngörülen modelin O gözlem dizisini üreirken anında N i= 1 S i durumunda olma olasılığı bulunur. γ () i = 1 (2.33) γ () i değişkenini kullanılarak her hangi bir andaki en olası durum, eşilik (2.34) verilen şekilde bulunabilir. q = arg max[ γ ( i)], 1 T. (2.34) 1 i N S i (2.34) de verilen çözümde her hangi bir anındaki opimum durum bulunurken o anda olabilecek en olası durum seçildi. Bu şekildeki bir kriere göre yapılan çözümün sonucunda bazı problemler oraya çıkabilir. Örnek olarak bazı durum geçiş olasılıklarının sıfır olduğu modellerde, (2.34) de verilen yönemle bulunan durum dizisi, bu sıfır geçiş olasılıklarıyla çelişkili olabilir. Çünkü bu yönem durum dizilerinin oluşma olasılıklarını göz ardı ederek her hangi bir anındaki en olası durumu bulur. Bu problemi çözmenin bir yolu opimumluk krierini değişirmekir. Örnek olarak opimumluk krieri en olası ardışık durum çifleri ( q, q + 1) veya üçlüleri ( q, q+ 1, q+2 ) olabilir yada PQ ( Oλ, ) maksimum olacak şekilde bir durum dizisi de bulunabilir. Bu örnekler içinde en çok kullanılanı en son bahsedilendir. Bu krier sözle şu şekilde ifade edilebilir. Bir model ve bir gözlem dizisi verildiğinde öyle bir durum dizisi kullanılsın ki, bu durum dizisiyle gözlem dizisinin oluşurulma olasılığı maksimum olsun. Bu problemi çözmek için kullanılan, dinamik programlama yönemlerine dayalı ve Vierbi algoriması olarak bilinen bir yönem vardır. Vierbi algorimasına geçilmeden önce δ (i) değişkeni anımlansın. 22

32 δ ( ) = max [..., =,,,..., λ] (2.35) i P q1, q2, q i O1 O1 O q1, q2,..., q 1 δ () i değişkeni anında durumuyla bien ve kısmi gözlem dizisi S i O1, O1,..., O yi en yüksek olasılıkla üreen durum dizisinin olasılığıdır. Bu değişken özyineli bir yapıda aşağıdaki gibi ifade edilebilir (Eşilik (2.37)- (2.42)). δ ( ) [max ( ) ] ( ) + 1 j = δ i aij bj O + 1 (2.36) i δ (i) yardımıyla Vierbi algoriması aşağıdaki gibi çalışır. 1) Başlangıç δ1( i) = π b ( O ), 1 i N ψ 1() i = 0 i i 2) Özyineleme δ( j) = max[ δ 1( i) aij] bj( O), 2 T 1 i N 1 j N ψ ( j) = arg max[ ( i) a ], 2 T δ 1 ij 1 i N 3) Sonlandırma P = max[ δ ( i)] q T 1 i N T T 1 j N (2.37) (2.38) (2.39) (2.40) = arg max[ δ ( i )] (2.41) 1 i N 4) Geri dönüş ve opimum durum dizisinin bulunması q = ψ [ q ], = T-1,T-2,...,1. (2.42) Problem 3 ün çözümü Bu problem şimdiye kadar incelenen problemlerin en zorudur. Gözlem dizileri verildiği zaman, bu dizilerin olasılıkları maksimum olacak şekilde SMM paramerelerinin ayarlanmasıdır. Bu problemin analiik bir çözümü yokur. Faka PO ( λ ) lokal maksimum olacak şekilde λ = ( AB,, π ) paramereleri Baum-Welch ahmin algoriması, EM (expecaionmodificaion) algorimaları (Dempser e al. 1977) veya gradien eknikleri (Levinson e al. 1973) kullanılarak çözülebilir. Bu bölümde Baum-Welch ahmin algorimasına dayalı çözümü göz önüne alınacakır. 23

33 Bu algorimaya geçmeden önce ξ ( i, j) değişkenini anımlayalım. ξ (, i j) = P( q = S, q = S O, λ). (2.43) i + 1 j ξ (, i j) model ve gözlem dizisi verildiğinde anında S ve +1 anıda durumunda olma olasılığıdır. Değişkene ai grafiksel göserim Şekil 2.7. de verilmişir. i S j S i S j a b ( O ) 1 ij j + (i) α β +1 ( j) Şekil 2.7. ξ (, i j) değişkeninin grafiksel göserimi ξ (, i j) değişkenini daha önce incelenen ileri ve geri değişkenler cinsinden eşilik (2.44) deki gibi yazılabilir. α() iab ij j( O+ 1) β+ 1( j) ξ (, i j) = PO ( λ) α() iab ij j( O+ 1) β+ 1( j) = N N α () iab( O ) β ( j) i= 1 j= 1 ij j (2.44) (2.44) eşiliğindeki paydadaki erim PO ( λ ) isenilen olasılık ölçüsünü verir. Bölüm da anlaılan Problem 2 nin çözümünde anımlanan γ () i değişkeni, ξ (, i j) değişkeninin j üzerinden oplanması yolu ile eşilik (2.45) deki gibi elde edilebilir. 24

34 N γ () i = ξ (, i j ) (2.45) j = 1 anında S i durumunda olma olasılığı γ () i üzerinden oplanırsa, S i durumundan geçiş sayısının beklenen değerini elde edilir. Yine benzer manıkla ξ (, i j) değişkeni üzerinden oplanırsa S durumundan S durumunda geçişin beklenen değeri bulunur. T 1 γ ( i) = S i durumundan geçişin beklenen değeri (2.46) = 1 T 1 = 1 ξ ( i, j) = S durumundan S durumuna geçişinin bekleneni (2.47) i j (2.46) ve (2.47) eşiliğinde T anında geçiş söz konusu olmadığından oplamlardan çıkarılmışır. Bu eşilikler kullanılarak SMM paramereleri λ = ( A, B, π ) (2.48)-(2.50) deki gibi yeniden ahmin edilir. i j π = ( = 1) anında S durumunun beklenen frekansı = () (2.48) a i i γ1 i ij Si durumundan Sj durumuna geçişin beklenen değeri = S durumundan geçişin beklenen değeri = T 1 b ( k) = j = = 1 T 1 = 1 i ξ (, i j) T 1 γ () i j durumunda v k gözleminin oluşmasının bekleneni j durumundan geçişin bekleneni = 1 O = vk T 1 = 1 ξ (, i j) γ () i (2.49) (2.50) λ = ( AB,, π ) modelini şu anki model ve (2.48), (2.49) ve (2.50) eşilikleri kullanılarak yeniden ahmin edilen modeli ise λ = ( AB,, π ) olarak anımlayalım. Şu anki model λ = ( AB,, π ) PO ( λ ) olasılığının kriik bir nokasını anımlar ve bu nokada λ = λ dir. Bununla birlike PO ( λ ) PO ( λ) dır (Rabiner 1989). 25

35 (2.48)-(2.50) de verilen algorimaya dayalı olarak, λ = ( AB,, π ) modeli özyinelemeli bir şekilde hesaplanırsa O gözlem dizisinin olasılığı belli bir limi nokasına kadar arırılabilir ve sonuç olarak Problem 3 ün çözümünü elde edilir. Baum-Welch yeniden algoriması Baum un yardımcı fonksiyonu Q( λ, λ ) nın λ üzerinde enbüyüülmesi ile üreilebilir (Rabiner 1989). Q( λ, λ) = P( Q O, λ)log[ P( O, Q λ )] (2.51) Q max[ Q( λ, λ)] P( O λ) P( O λ ) (2.52) λ Bölüm Özei Bölüm 2.2.5, Bölüm ve Bölüm de verilen problemler ve çözümleri öze olarak Çizelge 2.2 de verilmişir. Çizelge 2.2. SMM deki problemler ve çözümleri No: Problem: Bir O = O1, O2,..., OT gözlem dizisi ve 1 λ = { AB,, π} modeli verildiğinde, gözlem dizisinin olasılığı, PO ( λ ) nasıl hesaplanır? 2 3 Problem 2: Bir O = O1, O2,..., OT gözlem dizisi ve λ = { AB,, π} modeli verildiğinde POQ (, λ ) olasılığını maksimum yapan Q = q1, q2,..., qt durum dizisi nasıl hesaplanır? Problem 3: Belli sayıda gözlem dizisi verildiğinde SMM paramereleri, λ = { AB,, π} PO ( λ ) lar maksimum olacak şekilde nasıl hesaplanır? Çözüm: İleri ve geri değişken yönemleri Vierbi algoriması Baum-Welch yeniden ahmin algoriması 26

36 2.3. SMM Çeşileri Şimdiye kadar incelenen SMM lerde her bir duruma diğer durumlardan hiçbir kısılama olmadan geçiş yapılabiliyordu. Şekil 2.8. de de göserilen bu ip modellere am bağlı yada ergodik SMM denir. Bu şekildeki modellerde geçiş kasayılarının ümü poziifir ve geçiş olasılık marisi eşilik (2.54) verilen şekildedir. a > 0, 1 i N ve 1 j N ij (2.53) a11 a12 a13 a14 = a21 a22 a23 a24 A (2.54) a 31 a32 a33 a34 a41 a42 a43 a44 Durum geçişlerine bir akım kısılamalar geirilerek üreilen bazı SMM çeşilerinin sinyalleri ergodik modellerden daha iyi modelleyebildiği görülmüşür. Böyle bir model Şekil 2.9. de verilmişir. Bu ip modellere soldan-sağa model (lef-righ model) yada Bakis model denir. Bakis ipi modellerin özelliği zaman ilerledikçe durum indisinin yerinde sayması veya armasıdır. Bu yüzden Bakis ipi modeller, özellikleri zamanla değişen sinyallerin modellenmesi için isenilen özelliğe sahipir (Rabiner 1986). Soldan-sağa SMM lerin durum geçiş olasılıklarındaki emel kısılama (2.55) eşiliğinde verilmişir. a = 0, j < i (2.55) ij (2.55) den de anlaşıldığı gibi indisi büyük olan durumlardan indisi küçük olan durumlara geçiş olasılığı sıfırdır. Bununla birlike başlangıç durum olasılıklarıda (2.56) eşiliğinde verilen özelliğe sahipir. π { 0, i 1 i = (2.56) 1, i = 1 (2.55) ve (2.56) eşiliklerinde de anlaşıldığı gibi, Bakis ipi modeller her zaman aynı durumla başlar ve aynı durumla bier. Bunlara ek olarak Bakis 27

37 ipi modellere durum indisinin çok fazla değişememesi için (2.57) de verilen kısılama da geirilebilir. a = 0, j > i + (2.57) ij Şekil 2.9. da göserilen soldan-sağa SMM modelinde değeri 2 dir ve bu modele ai durum geçiş marisi eşilik (2.58) ve (2.59) da verilmişir. A a a a11 a12 a a a a = 0 0 a33 a a44 NN Ni = 1 = 0, i < N (2.58) (2.59) Şekil durum ergodik (am bağlı) SMM Şekil durum soldan-sağa (Bakis) SMM ( = 2 ) SMM çeşilerindeki durum geçiş kısılamaları, Bölüm de bahsedilen Baum-Welch yeniden ahmin algorimasında hiçbir değişikliğe yol açmaz. Yeniden ahmin algoriması, başlangıç değerlerinin kısılamalar göz önüne 28

38 alınarak seçilmesi ve özyineleme boyunca korunması yoluyla aynen gerçekleşirilebilir (Rabiner 1986) Sürekli Gözlem Olasılık Yoğunluk Fonksiyonuna Sahip SMM ler Şu ana kadar bahsedilen modellerde gözlemlerin sonlu bir alfabeden alınan ayrık semboller olduğu ve her bir durum için gözlem olasılık dağılımlarının ayrık olduğu düşünüldü. Bazı uygulamalarda (konuşma anıma) gözlemler süreklidir. Bu ip sinyaller kod deferleriyle nicemlenebilir ve bununla birlike nicemlemeden kaynaklanan haalar oraya çıkabilir. Bu ip durumlarda SMM lerde sürekli olasılık yoğunlukları kullanmak avanajlı olabilir. SMM deki durumların gözlem olasılık yoğunluklarında kullanılacak fonksiyonların, paramerelerinin sürekli ve uarlı bir biçimde yeniden ahmin edilmeye uygun bir formda olması gerekir. Yeniden ahmin yönemi, Liporace (1982) arafından, (2.60) eşiliğinde verilen, sonlu karışım halindeki pdf için formulize edilmişir. M b j ( O) = c jmr[ O, µ jm, U jm ], 1 j N (2.60) m= 1 (2.60) da verilen eşilike O gözlem vekörü, j. durumdaki m. karışımın kasayısı ve R, µ oralama değerine ve kovaryans marisine sahip jm log-konkav elipik simerik yoğunluk fonksiyonudur (Liporace 1982). Konuşma anıma uygulamalarında Gausian yoğunluk dağılımları yaygın olarak kullanılır. c (2.61) ve (2.62) eşiliklerindeki isaiksel kısılamayı jm c jm U jm sağlar ve pdf (2.63) eşiliğinde verilen şekilde normalize edilmişir. M c jm m= 1 = 1, 1 j N (2.61) c 0, 1 j N,1 m M (2.62) jm bj ( x) dx = 1, 1 j N. (2.63) Liporace (1982) ve Juang (1986) arafından c jk, µ jk ve U jk için yeniden ahmin formülleri (2.64), (2.65) ve (2.66) eşiliklerinde verilmişir. 29

39 c µ U T = 1 jk = T M jk jk = = = 1 k= 1 T = 1 γ ( jk, ) γ ( jk, ) γ ( jk, ). O = 1 T T = 1 γ ( jk, ) γ ( jk, ).( O µ )( O µ ) jk jk T = 1 γ ( jk, ) T (2.64) (2.65) (2.66) Burada T vekör ranspozu, γ ( jk, ) ise anında j. durumda iken O gözlem vekörünün k. karışımdan üreilme olasılığıdır. α ( ) ( ) (,, ) j β j cjkr O µ jk U jk γ ( jk, ) = N M α( j) β ( j) cjm ( O, µ jm, U jm) R j= 1 m= 1 (2.67) γ ( jk, ) ek bir karışım veya ayrık yoğunluk kullanıldığında (2.45) eşiliğinden verilen γ ( j) ye eşi olduğu görülmekedir. (2.64), (2.65) ve (2.66) eşiliklerinde verilen yeniden ahmin formülleri sözle şu şekilde açıklanabilir. c sisemin j. durumda k. karışımı kullanmasının beklenen jk değerinin j. durumda olmasının beklenen değerine oranıdır. Benzer şekilde µ jk k. karışımın oralama değeri, U jk ise kovaryans marisidir. 30

40 2.4. SMM nin Konuşma Tanıma Uygulamaları Genel halarıyla konuşma anıma sisemi Şekil 2.10 da sürekli konuşma anıma sisemine ai blok diyagram verilmişir. Bu bloklara ai açıklamalar ise aşağıda verilmişir. 1) Öznielik Analizi (Feaure Analysis) Konuşma sinyalinin spekral analizi yapılarak gözlem vekörleri elde edilebilir. Bu konuyla ilgili ayrınılı açıklama ilerleyen bölümlerde verilecekir. 2) Birim Eşleme Sisemi (Uni Maching Sysem) Birim eşleme sisemini asarlamadan önce yapılması gereken ilk işlem eşlemede kullanılacak konuşma anıma biriminin seçilmesidir. Konuşma anıma birimlerine örnek olarak fonem, fonem ikilileri (diphones), fonem üçlüleri (riphones), hece, kelime,kelime öbekleri verilebilir. Konuşmanın en küçük (parçalanamaz, ek) ses birimine fonem (phoneme) denir. İki ade fonemin bir araya gelmesiyle diphone, üç ade fonemin bir araya gelmesiyle ise riphone oluşur. Fonemler konuşma esnasında kendilerinden önce ve sonra gelen fonemlerden ekilenir. Bunun sebebi konuşma sisemindeki arikülaörlerin (dil, dudak, çene vb.) bir pozisyondan diğer pozisyona aninden geçememesidir. Bu olay lieraürde coariculaion effec olarak bilinir. Bu durumdan dolayı birim eşleme sisemlerinde fonemlerden ziyade diphone ve riphone kullanılır. Konuşma anıma birimi karmaşıklaşıkça dildeki sayısı da arar. Örnek olarak İngilizce de yaklaşık olarak foneme karşın yüz binlerce kelime vardır. Konuşma anıma birimi konuşma anıma sieminin özelliklerine ve yapısına uygun olarak seçilir. Örnek olarak geniş sözlük kapasiesine sahip konuşma anıma sisemlerinde (large vocabulary speech recogniion sysems) kelime abanlı birimlerden ziyade fonem abanlı birimler seçmek zorunlu olacakır çünkü kelime abanlı geniş sözlük kapasiesine sahip bu ip sisemlerin (1000 veya daha fazla kelime) eğiimi için yeerli daayı sağlamak ve saklamak zordur. Seçilen konuşma 31

41 anıma biriminden bağımsız olarak bu birimlerin bir envaneri eğiim aşamasında elde edilir. Tipik olarak, bu eğiim daaları kullanılarak her bir birim, daha önce gördüğümüz SMM çeşilerinden biriyle karakerize edilir. Bu SMM lerin paramereleri eğiim daaları kullanılarak hesaplanır. Birim eşleme siseminin görevi, bilinmeyen konuşma sinyaline karşılık gelebilecek, konuşma anıma birimlerinin sıralılarının olasılıklarının hesaplamakır. 3) Sözcüksel Kodlama (Lexical Decoding) Sözcüksel kodlama işlemi, birim eşleme siseminin bulduğu konuşma anıma birimleri sıralılarının sözlüke olup olmadığını konrol ederek bu sıralılar için bir filre eşkil emekir. Burada bahsedilen sözlük (lexicon) konuşma anıma birimleri cinsinden kelime sözlüğüdür. Kelime abanlı konuşma anıma sisemlerinde bu işlemin yapılmasına gerek yokur. 4) Sözdizimsel Analiz (Synacic Analysis) Sözdizimsel analiz (gramer) sözcüksel kodlama gibi birim eşleme siseminin sonucunda elde edilen konuşma anıma birimleri sıralıların, konuşma anıma siseminin kelime gramerine uygun olup olmadığını konrol ederek bir filre görevi yapar. Kelime gramerleri deerminisik sonlu durum ağları (Bu ip gramerlerde kabul edilebilecek üm kelime kombinasyonları sıralanır) veya isaiksel gramer olarak ifade edilebilir. İsaiksel gramerlere örnek olarak n-gram verilebilir. Bazı basi komu ve konrol sisemlerinde sonlu sayıdaki bir sözlüken sadece ek bir kelimenin anınması gerekir. Bu ip konuşma anıma sisemlerine yalıık konuşma anıma sisemleri (isolaed speech recogniion sysems) denir ve bu sisemlerde gramer gereksizdir. Bazı konuşma anıma sisemlerinde ise çok basi gramer kuralları yeerlidir. Örnek olarak bir sürekli rakam anıma siseminde bir rakamdan sonra sadece diğer bir rakam gelebilir. Son olarak gramerin baskın bir fakör olduğu konuşma anıma sisemleri de vardır. Bu ip sisemlere örnek olarak geniş sözlüklü sürekli konuşma anıma sisemleri verilebilir. 32