EZ ONAYI Haydar ANKIŞHAN tarafından hazırlanan Gürültülü Ses Sinyali İyileştirilmesine İili Kalman Filtre Yalaşımı adlı tez çalışması aşağıdai jüri ta

Transkript

1 ANKARA ÜNİVERSİESİ FEN BİLİMLERİ ENSİÜSÜ YÜKSEK LİSANS EZİ GÜRÜLÜLÜ SES SİNYALİ İYİLEŞİRİLMESİNE İKİLİ KALMAN FİLRE YAKLAŞIMI HAYDAR ANKIŞHAN ELEKRONİK MÜHENDİSLİĞİ ANABİLİM DALI ANKARA 2007 i

2 EZ ONAYI Haydar ANKIŞHAN tarafından hazırlanan Gürültülü Ses Sinyali İyileştirilmesine İili Kalman Filtre Yalaşımı adlı tez çalışması aşağıdai jüri tarafından 08/10/2007 tarihinde oy birliği ile Anara Üniversitesi Eletroni Mühendisliği Anabilim dalında YÜKSEK LİSANS EZİ Olara abul edilmiştir. Danışman : Yrd. Doç Dr. Murat EFE Eş Danışman : Yrd. Doç. Dr. Levent ÖZBEK Jüri Üyeleri : Prof. Dr. Firi ÖZÜRK Anara Üniversitesi İstatisti Anabilim Dalı Doç. Dr. H. Göhan İLK Anara Üniversitesi Eletroni Mühendisliği Anabilim Dalı Yrd. Doç. Dr. Ziya ELAAR Anara Üniversitesi Eletroni Mühendisliği Anabilim Dalı Yuarıdai sonucu onaylarım. Prof. Dr. Ülü Mehmetoğlu Enstitü Müdürü ii

3 ÖZE Yüse Lisans ezi GÜRÜLÜLÜ SES SİNYALİ İYİLEŞİRİLMESİNE İKİLİ KALMAN FİLRE YAKLAŞIMI Haydar ANKIŞHAN Anara Üniversitesi Fen Bilimleri Enstitüsü Eletroni Mühendisliği Anabilim Dalı Danışman :Yrd.Doç.Dr. Murat EFE Eş Danışman :Yrd.Doç.Dr. Levent ÖZBEK Ses sinyallerinin iyileştirilmesi gelişen tenolojiyle gidere önemini artırmatadır. Bu çalışmada, Kalman ve LMS tabanlı filtreler ullanılara, gürültülü sinyallerin iyileştirilmesi üzerinde durulmatadır. Çalışmalar hem lineer hem de lineer olmayan sinyaller üzerinden yapılmıştır, sinyallerin iyileştirilmesi esnasında gürültü olara renli ve beyaz gürültü ullanılmıştır. Daha öncei çalışmalardan farlı olara bu çalışmada renli gürültü olara başa bir ses sinyali ullanılmıştır. Bunların yanı sıra deneysel çalışmalar esnasında, sinyallerden bazılarının dinamileri bilinmediği göz önünde bulundurulara, il etapta sinyallerin modelleri oluşturulmuş, ardından oluşturulan modellere bağlı olara sinyallerin model dereceleri belirlenere hesaplamalar yapılmıştır. 2007, 121 Sayfa Anahtar Kelimeler : İili Hesaplama, Birleşi Hesaplama, Genişletilmiş Kalman Filtresi, Unscented Kalman Filtresi, Standart Kalman Filtresi, En Küçü Kareler Ortalaması, Sinyal İşleme. i

4 ABSRAC Master hesis DUAL KALMAN FİLER APPROACH FOR SPEECH ENHANCEMEN FROM NOİSY OBSERVAİONS Haydar ANKIŞHAN Anara University Graduate School of Natural and Applied Sciences Department of Electronic Engineering Supervisor : Asst. Prof. Dr. Murat EFE, Asst. Prof. Dr. Levent ÖZBEK Speech signal enhancing has improved to be important with developing technologies.in this article, the Kalman and LMS based filters are compared for speech enhancement from noisy observations. In the experiments, both linear and non-linear signals used, white and colored noise used in case of speech enhacement. Instead of similar speech enhancement, in this article, the other speech signal was used as colored noise. Furthermore, in view of the fact that without nowing dynamics of signals in case of experimental wors, firstly, modelling signals, depends on this model, then estimated the model gradation. 2007, 121 Pages, Key Words : Dual Estimation, Joint Estimation, Extended Kalman Fitler, Unscented Kalman Fitler, Standart Kalman Fitler, Least Mean Square, Signal Processing ii

5 EŞEKKÜR Çalışmalarımı yönlendiren, araştırmalarımın her aşamasında bilgi, öneri ve yardımlarını esirgemeyere aademi ortamdai beşeri ilişileriyle ve engin fiirleriyle yetişme ve gelişmeme atıda bulunan danışman hocalarım sayın Yrd. Doç. Dr. Murat EFE ve Yrd. Doç. Dr. Levent ÖZBEK e, sabırlı ve ararlı çalışmamda bana maddi ve manevi destelerinin hiç esi etmeyen değerli aileme, beşeri ilişilerimde ve bilimsel çalışmamda desteğini ve yön vericiliğini esirgemeyen Meneşe ablama en derin duygularla teşeürlerimi sunarım. Haydar ANKIŞHAN Anara, Eim 2007 iii

6 İÇİNDEKİLER ÖZE I ABSRAC II EŞEKKÜR...III SİMGELER DİZİNİ VIII ŞEKİLLER DİZİNİ.X ÇİZELGELER DİZİNİ.XII 1. GİRİŞ Model Yapıları Sistem ve Model Sistem Modelleme Stoasti Süreçler ve Modeller Ortalama Ergodi Süreç Modelleme Süreçlerinde eori ve Uygulama AR Modellerde Model Derecesi Belirleme Kriterleri Gürültülü Sinyallerin İyileştirilmesi Standart Kalman filtresi Süreç eşitlileri Ölçüm eşitlileri Standart Kalman eşitlileri Genişletilmiş Kalman filtresi Genişletilmiş Kalman filtresi ile parametre hesaplanması Genişletilmiş Kalman filtresi parametre hesabı Sonuç KALMAN FİLRELERDE İKİLİ (DUAL) HESAPLAMA İili Kalman Filtresi (DKF) erarlı derivasyon hesabı Birleşi (Joint) hesaplama metodu Çözülmüş (de-coupled) hesaplama Masimum olasılı maliyeti...38 iv

7 2.2 Birleşi (Joint) Hesaplama Formu Birleşi (Joint) Kalman Filtresi Birleşi hesaplamada lineer model Birleşi genişletilmiş Kalman filtresi Unscented dönüşüm ve Kalman Filtresi Unscented Kalman Filtresi-Giriş Durum hesabı Unscented Dönüşüm Unscented Kalman filtresi eşitliği İyileştirme Varyasyonları Unscented Kalman Filtresi Parametre Hesaplanması Unscented İili Hesaplama Least Mean Square (LMS) ve Geliştirilmiş Modelleri Normalleştirilmiş En Küçü Ortalamalar Karesi (L-LMS) Yalaşımı Leay en üçü ortalamalar aresi (L-LMS) yalaşımı Leay-normalleştirilmiş en üçü ortalamalar aresi (L-N-LMS) Yalaşımı Sonuç RENKLİ GÜRÜLÜLÜ SİNYALLER Renli Gürültü Kalman Filtrelerinde Renli Gürültülü Sinyallerin Modellenmesi Renli gürültülü aşamada lineer model Renli gürültülü durum-uzay modeli Kalman filtrelerinde lineer olmayan durum-uzay modeli İili Genişletilmiş Kalman Filtresi Renli Gürültülü Eşitlileri Birleşi (Joint) Hesaplama Formu Marjinal hesaplama formu- tahmin hata maliyeti Birleşi Kalman Filtresi Renli Gürültü Aşama Birleşi lineer model Birleşi genişletilmiş Kalman filtresi- renli gürültülü aşama Lineer olmayan modelin renli gürültü aşaması Sonuç.81 v

8 4. SİNYALLERDE MODELLEME SİMULASYON ve AHMİN Lineer sinyallerde İinci Dereceden Sinyal Modellenmesi ve Filtrelerin Karşılaştırılması Filtrelerle Ses Sinyali İyileştirme Lineer Olmayan Sinyallerde Durum Hesaplanması Sinyallerde İili Hesaplama Renli Gürültü ile Gürültülendirilmiş Lineer Sinyallerin İili Filtrelerle İyileştirilmesi Sonuç ARIŞMA ve SONUÇ KAYNAKLAR..117 ÖZGEÇMİŞ vi

9 SİMGELER DİZİNİ ADP AIC AR ARMA ARX AP AZ CA CDUKF DEKF DKF DUKF E[.] EEG EKF FIR FPE IIR JEKF JUKF KF LMS LPC L_LMS L_N_LMS MA MAP MDL Adaptive Line Enhancer Aaie Information Criterion Otoregressif(Autoregressive) Otoregressif ayan Ortalmalı(Autoregressive Moving Average) Otoregressif Harici(Exogenous) Giriş Bütün Kutup(All Pole) Bütün Sıfır(All Zero) Criterion Autoregressive ransfer Central Difference Unscented Kalman Fitler Dual Extended Kalman Filter Dual Kalman Filter Dual Unscented Kalman Filter Belenen Değer Electoencephalography Extended Kalman Filter Sonlu Impuls epi (Finitely Impulse Response) Final Prediction Error Sonsuz Impuls epi (Inifinitely Impulse Response) Birleşi (Joint) Entended Kalman Filter Birleşi (Joint) Unscented Kalman Filter Kalman Filter Least Mean Square Linear Predictive Coding Leay-Least Mean Square Leay-Normalized-Least Mean Square Kayan Ortalamalı (Moving Average) Maximum A Posteriori Minimum Description Length vii

10 MMSE MSE MSP PACF PZ RLS SBC SNR SRUKF UKF U En Küçü Ortalamalı Kareler Hatası (Minimum Mean Square Error) En Küçü Kareler Hatası (Mean Square Error) Matlab Signal Processing oolbox (Matlab Sinyal İşleme Kutusu) Kısmi (Partial) Otoorelasyon Fonsiyonu Kutup-Sıfır (Pole Zero) erarlı En Küçü Kareler (Reqursive Least Square) Shwart s Bayesian Criterion Sinyal Gürültü Oranı (Signal to Noise Ratio) Square Root of Unscented Kalman Filter Unscented Kalman Filter Unscented Dönüşüm (Unscented ransformation) viii

11 ŞEKİLLER DİZİNİ Şeil 1.1 İili Hesaplama Şeil 1.2 Model....3 Şeil 1.3 Model Seçimi Aış Diyagramı.9 Şeil 1.4 Güç Yoğunlu Spetrumu Yule-Waler Grafiği. 10 Şeil 1.5 Lineer, Kesili-Zaman Dinami Sistemler için Blo Diyagramı...13 Şeil 2.1. a. Iteratif yalaşım, b. Sıralı yalaşım 30 Şeil 2.2 İili Hesaplama Paralel Filtre Çalışması...31 Şeil 2.3 Lineer Olmayan Sinyalin Blo Diyagramı. 44 Şeil 2.4. a. Monte-carlo örnelem, b. Genişletilmiş alman filtresi 1. derece lineerizasyon, c. Unscented dönüşüm.. 48 Şeil 3.1 Beyaz Gürültülü Güç Spetrum Yoğunluğu 64 Şeil 3.2 Üçüncü Dereceden Renli Gürültünün Güç Spetrum Yoğunluğu 65 Şeil 4.1 Üçüncü Derece Lineer Sinyal Şeil 4.2 Leay_Normalized_LMS Filtresi ahmin Çıtısı...84 Şeil 4.3 Üçüncü Derece Lineer Sinyal Standart Kalman Filtre Çıtısı Şeil 4.4 Unscented Kalman Filtre ahmin Sonucu Şeil 4.5 Birleşi EKF Filtre ahmin sonucu...87 Şeil 4.6 Birleşi Unscented Kalman Filtresi ahmini sonucu...88 Şeil 4.7 Lineer Sinyalin hata Kareleri Ortalama Sonuçları...89 Şeil 4.8 İinci Derece Lineer Sinyal ahmin Sonuçları. 91 Şeil 4.9 İinci Derece Lineer Sinyalin Hata Sonuçları 92 Şeil 4.10 Lineer Ses Sinyali İyileştirme L_N_LMS Filtresi ahmin Sonuçları.94 Şeil 4.11 Lineer Ses Sinyali İyileştirme UKF ahmin Sonucu.. 95 Şeil 4.12 Lineer Ses Sinyali hata Kareleri Ortalaması Sonuçları..96 Şeil 4.13 EKF Filtresi Lineer olmayan Sinyal ahmin Sonucu 97 Şeil 4.14 Lineer Olmayan Sinyal Filtre ahmin Grafiği...98 Şeil 4.15 Lineer Ses Sinyali DKF ahmin Sonucu Şeil 4.16 Lineer Ses Sinyali DKF Parametre ahmini Sonucu Şeil 4.17 Lineer Ses Sinyali DKF, DUKF, JEKF ve JUKF ahmin ix

12 Sonuçları 103 Şeil 4.18 Lineer Ses Sinyali DKF, DUKF, JEKF ve JUKF ahmin Sonuçları Büyütülmüş Hali Şeil 4.19 İili, eli ve Birleşi Kalman Filtreleri Öğrenme Eğrileri Şeil 4.20 DKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği a Şeil 4.21 DKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği b Şeil 4.22 DKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği ahmin Edilen Parametreleri Şeil 4.23 DUKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği a..109 Şeil 4.24 DUKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği b.110 Şeil 4.25 DUKF Lineer Renli Gürültülü Sinyal İyileştirme Grafiği ahmin Edilen Parametreleri..110 x

13 ÇİZELGELER DİZİNİ Çizelge 1.1 Standart Kalman Filtresi Çizelge 1.2 Genişletilmiş Kalman Filtresi Çizelge 1.3 Standart Kalman Filtresi ile Parametre Hesabı Eşitlileri Çizelge 1.4 EKF ile Parametre ahmin Eşitlileri Çizelge 2.1 İili Standart Kalman Filtresi Çizelge 2.2 İili Genişletilmiş Kalman Filtre Algoritması Çizelge 2.3 Birleşi Genişletilmiş Kalman Filtresi Çizelge 2.4 Unscented Kalman Filtresi Çizelge 2.5 Unscented Kalman Filtre Parametre Hesabı.. 52 Çizelge 2.6 İili Unscented Kalman Filtresi Çizelge 2.7 LMS Filtresi Çizelge 2.8 N_LMS Filtresi Çizelge 2.9 Leay_LMS Filtresi..60 Çizelge 2.10 Leay_Normalized_LMS Filtresi Eşitlileri...61 Çizelge 3.1 Standart Kalman Renli Gürültü Eşitlileri.70 Çizelge 3.2 Genişletilmiş Kalman Lineer Olmayan Eşitliği...71 Çizelge 3.3 İili Renli Gürültülü Kalman Filtresi Çizelge 3.4 Birleşi Maliyet Fonsiyonu Renli Gürültü, Dual EKF ağırlı Filtresi için gözlem hata terimleri...75 Çizelge 3.5 Masimum Olasılı Maliyet Fonsiyonu, Dual EKF ağırlı Filtresi İçin gözlem hata terimleri Çizelge 3.6 Renli Gürültü tahmin hata maliyet fonsiyonu, Dual EKF Ağırlı filtresi için gözlem hata maliyeti Çizelge 3.7 Birleşi genişletilmiş alman filtre Eşitlileri Çizelge 4.1 Üçüncü Derece Lineer Sinyal Hata Kareleri Ortalamaları. 90 Çizelge 4.2 İinci Derece Lineer Sinyal ahmin Sonuçları Çizelge 4.3 Lineer Ses Sinyali ahmini Hata Kareleri Ortalaması.96 Çizelge 4.4 Lineer olmayan Sinyalde Filtrelerin Hata Kareleri Ortalaması 100 xi

14 Çizelge 4.5 İili ve Birleşi Filtreler Hata Kareleri Ortalamaları 105 Çizelge 4.6 İili ve eli Filtreler Hata Kareleri Ortalamaları. 106 Çizelge 4.7 Kalman tabanlı Filtreler Renli Gürültülü Ortamda Hata Kareleri Ortalaması xii

15 1. GİRİŞ Gürültülü sinyallerin iyileştirilmesi gidere önemini artırmatadır. Gelişen iletişim tenolojisiyle birlite farlı türdei gürültülü sinyaller, geliştirilen yöntemlerle daha uygun iyileşme sonuçları vermetedir. Bazı çalışmalar, gürültülü sinyallerin durumunun iyileştirilmesi üzerinde dururen; bazıları da yine bu sinyallerin parametrelerinin iyileştirilmesi üzerinde durmatadır. Bu çalışmada daha öncei çalışmalardan farlı olara, sinyallerin hem durumunun hem de parametrelerinin aynı anda iyileştirilmesi üzerinde durulmuştur. Bu iyileştirme yöntemi literatürde iili (Dual) filtreleme olara bilinmetedir (Wan and Nelson 2001). Çalışma esnasında ii adet filtre ullanılmatadır. Filtreler birbirlerine paralel olara çalışmata; birisi sinyalin durumunda iyileştirme yaparen diğer filtre ise sinyalin parametrelerinde iyileştirme yapmatadır. Böylece iili filtreleme yöntemi sinyallerin iyileştirilmesinde teli filtrelerden daha uygun sonuçlar sağlamatadır. Çünü teli filtreler gürültülü sinyallerin ya sadece durumunda iyileştirme yapmata ya da parametrelerinde iyileştirme yapmatadır. İili çalışmalar on-line ve off-line olara ii farlı yöntemle yapılabilmetedir. Bu çalışmadai hesaplamalar on-line yöntem üzerinden yapılmıştır. İili hesaplama şeil 1.1 dei gibi gösterilir. 1

16 ahmin Durum Hesabı Parametre Hesabı Şeil 1.1 İili Hesaplama Sinyal ve Parametre hesaplanması ii ayrı filtrede iyileştirilere tahmin edilmetedir. İili filtre yönteminin yanı sıra, te filtre yöntemi ullanılara da, hem durum hem de parametre iyileştirilmesi mümündür. Literatürde bu yöntem birleşi (joint) filtre olara bilinmetedir (Wan and Merwe 1999). Lineer far denlemine bağlı olara AR (p) zaman serisiyle modellenen sinyal, teli ullanılan filtrede olduğu gibi tahmin edilebilmetedir. Buradai te far filtrenin geçiş matrisindedir. Geçiş matrisi, hem durum hem de parametreleri apsamatadır. 1.1 Model Yapıları Çalışmalarda ullanılan sinyaller, deneysel çalışmalarda ullanılma üzere LPC (Linear Predictive Coding) ölçütlerine bağlı olara üretilmiş ve lineer far denlemiyle AR (p) zaman serisine bağlı olara modellenmiştir (Knill 1991). Modellenen sinyallerde ullanılan durum denlemleri lineer sinyaller için eşitli 1.1 de ve lineer olmayan sinyaller için eşitli 1.2 de verilmetedir (Nelson 2000), M x = w x + v (1.1) i 1 i= 1 y = x + n 2

17 x = f ( x,..., x, w) + v 1 M y = x + n {1,..., N} (1.2) 1.2 Sistem ve Model enoloji ilerlediçe daha omples yapılı sistemlere ihtiyaç duyulmatadır. Belirli girdileri olan ve bunları işleyere çıtı veren elemanların topluluğu sistemin tanımını vermetedir. Fizisel veya fizisel olmayan, endi aralarında ilişili, etileşen bir veya daha ço amaca yöneli öğeler ümesi de bir sistemi tanımlayabilir. Bazı durumlarda yalnız te bir eleman bir sistemi oluştururen bazı durumlarda ise bir ço alt sistemin oluşturduğu elemanlar topluluğu sistemi ifade edebilir (Öztür and Özbe 2004). Bir olguyu incelemedei amaç, olgunun davranışını öğrenme, var olan ve geçerliliği olan bir modele oturtara daha anlaşılır bir duruma dönüştürme, sistemi denetleme, yenileme veya oruma olabilir. Bazı durumlarda bilinen girdiler için sisteme bağlı olara, çıtıların ne olacağı veya girdi ile çıtılar gözlenere, sistemin endisi haında bilgi edinilmesi istenebilir. Bazı durumlarda ise istenilen çıtıyı elde etme için sisteme denetlenen girdi verme gereebilir. Model şemati olara şeil 1.2 dei gibi gösterilmiştir (Öztür and Özbe 2004). Girdi Çıtı Sistem Şeil 1.2 Model 3

18 Sistemler, gere birimleri arasındai ilişiler, gerese çevre ile ilişileri baımından armaşı yapıda olabilirler. Sistemleri bunlara bağlı olara değişi açıdan sınıflandırma mümündür (Öztür and Özbe 2004); Doğal ve yapay sistemler, Süreli (değişimleri düzgün; sıçramalı olmayan) ve esili sistemler, Adaptif (çevredei değişimlere göre endisini ayarlayabilen) ve adaptif olmayan, Kararlı (dış etenlerden aşırı derecede etilenmeyen, durağan) ve ararsız (girdilerindei üçü değişimlere arşılı çıtılarında büyü değişimler olan) sistemler, Deterministi (sebep sonuç ilişileri esin) ve stoasti (sebep sonuç ilişileri rasgeleliğe dayanan) sistemler, Dinami (sistem durumları bir durumdan diğerine geçişte değişen) ve stati (sistem durumları değişmeyen) sistemler. 1.3 Sistem Modelleme Model, gerçe dünyadai bir olayın veya sistemin ilgili olduğu alanla belirli anun ve urallar çerçevesinde ifade edilmesidir. Model, gerçe dünyadai bir olgunun anlatımıdır. Gerçe dünyanın ço armaşı olması sebebi ile oluşturulan modeller her zaman gerçe olgunun bir esiğidir. Diğer bir deyişle modeller modeli uranın olguyu anladığı şeilde anlatma biçimidir. Modeller birbirinden farlı olmala birlite, bazen belli olgularla ilgili olara birden fazla model oluşturulabilir (Öztür and Özbe 2004). Soyutlama, gerçe dünyadai bir olgunun ayrıntılarından arındırılmış görüntülerinin, insan düşüncesine atarılması olayıdır. Modeli urabilme için, öncelile sistem haında meanisel, fizisel veya hangi alanla ilgili ise çevre ilişilerinin bilinmesi gereir. 4

19 Gerçe dünyadai bir olgunun modellenmesi sırasında, ilgilenilen özelliler ile anlatımdai arşılıları arasındai bağlantılar, ölçmeye dayanır. Ölçme, her alanın endine özgü zorlular içeren ve çözülmesi gereen bir problemidir. Ölçülen özelli rasgeleli içerdiğinde modelde arşılı gelen değişen doğal olara rasgele değişen olacatır. Modeller, farlı biçimlerde sınıflandırılmatadırlar (Öztür and Özbe 2004); Sözlü modeller : Sözcüler yazılı veya sözlü her tür düşüncenin en yaygın anlatım biçimidir. Anca bir binanın sütunundai yü dağılımını sözcülerle anlatma pe de mümün değildir. Şemati modeller : Çizim, resim, harita, aış diyagramı, organizasyon şeması,... gibi anlatım biçimleridir. Matematisel modeller : o Stoasti (rasgele değişen içeren) ve deterministi (rasgeleli içermeyen) matematisel modeller, o Lineer ve lineer olmayan modeller, o Süreli (diferansiyel denlemi) ve esili (far denlemi) modeller. Matematisel modeller, anlatım gücü en fazla ve en geçerli olan modellerdir. Belirli bir sistemin matematisel modelindei girdileri, ölçümler sonucu elde edilen sayısal değerleridir. 5

20 1.4 Stoasti Süreçler ve Modeller Stoasti süreç veya rasgele süreç, olasılı urallarına bağlı olara istatistisel bir olayın zaman içerisindei değişim veya gelişimini tanımlar. Zaman içerisindei değişim veya gelişimden asıt stoasti süreçlerin zamanın bir fonsiyonu olması; yani belirli bir gözlem aralığında olayların tanımlanmasıdır. Stoasti süreçler zamanın te bir fonsiyonu değildir, süreçlerin farlı gerçeleşen sonsuz sayılarıdır. Örneğin, u(n),u(n- 1),,u(n-M) zaman serisini göstermete, n-1,,n-m tane gözlemden oluşmatadır. Stoasti süreçler eğer istatistisel özellileri zamanla değişmiyorsa, durağandır. Kesili zaman, stoasti süreçte tanımlı zaman serisi u(n),u(n-1),,u(n-m) eğer i birleşi olasılı yoğunlu fonsiyonu n,n-1,.,n-m gözlemi içinde aynı ise, durağandır. 1.5 Ortalama Ergodi Süreç Bir stoasti sürecin belenen değeri ve toplam ortalaması, arşıt süreçlerin ortalamasına eşittir. Daha açı olara ifade edildiğinde, uzun dönem örnelem ortalaması ya da zaman ortalaması sürecin ortalamasıdır denilebilir (Maybec 1994). Pratite zaman ortalaması, stoasti modeller oluşturuluren modelin bilinmeyen parametrelerinin hesaplanmasında ullanılır. Ortalama ergodi süreçle bağlantılı olara esi zamanlı, geniş duyarlı durağan (WSS- Wide Sense Stationary) stoasti bir sürece uygun u(n) düşünülürse, µ; sabit olup sürecin ortalamasını, c() ; gecimeli otoovaryansını ifade eder. Ortalama değerin hesaplanması için zaman ortalaması, eşitli 1.3 tei gibi tanımlanır (Kay 1988). 1 ˆ( µ N) = u( n) (1.3) N N 1 n= 0 6

21 7 Burada N hesaplanan örnelemin toplam sayısıdır. Hesaplanan µ (N) endi ortalama ve varyansına sahip rasgele değişendir. Ortalamanın belenen değeri, E[µˆ (N)]= µ bütün N (1.4) olara gösterilir. oplam ortalama are hatası µ ile zamanın ortalama are hatası µ (N) arasındai hata sıfıra yalaşıyorsa N sonsuza gider. Bu durum eşitli 1.5 te gösterilmetedir (Kay 1988), 0. ] ) ˆ( [ lim 2 = N E N µ µ = = ) ( 1 ] ) ˆ( [ N n n u N E N E µ µ µ = = ) ) ( ( 1 N n n u E N µ = = = * 2 ) ) ( )( ) ( ( 1 N n N u n u E N µ µ [ ] = = = * 2 ) ) ( )( ) ( ( 1 N n N u n u E N µ µ = = = ) ( 1 N n N n c N (1.5) Eşitli 1.5 te l=n- dönüşümü yapılırsa sonuç 1.6 dai gibi olur. [ ] + = = ) ( 1 1 ) ˆ( N N l l c N l N N E µ µ (1.6) Bazı durumlarda süreçler, u(n) için ortalama are hatasının hassasiyetini ortalama ergodi süreç gibi tanımlar (Kay 1988) ve

22 1 lim N N N 1 l= N+ 1 l 1 c( l) = 0 N (1.7) denlemi elde edilir. Diğer taraftan sürecin 1.7 eşitliğiyle her hangi bir bağlantısı yo ise sürecin zaman ortalaması µ(n) µ nün ortalamasına yaınsanır. Bu da ortalama ergodi teorem olara tanımlanır ( Kay 1988 ). Ortalama ergodi teorem diğer uygulamalar içinde ullanılabilir. Örneğin geniş duyarlı durağan süreçlerin otoorelasyon fonsiyonu ortalama ergodi sürece bağlı olara eşitli 1.8 dei gibi hesaplanabilir (Kay 1988). 1 r ˆ(, N) = u( n) u( n ), 1 N 1. (1.8) N N 1 n= Modelleme Süreçlerinde eori ve Uygulama Uygun modelin seçilmesi, seçilen modelin model derecesinin belirlenmesi ve belirlenen model derecesine bağlı olara, parametrelerin tahmin edilmesi sinyal modellemedei en önemli başlılardır. Model derece belirleme ölçütleriyle ile ilgili olara, birço riter geliştirilmiştir. Bunlardan bazıları AIC (Aaie Information Criterion), SBC (Shwart z Bayesian Criterion), FPE (Final Prediction Error), vb. gibi sıralanabilir. Model derecesi belirlenen sinyallerde önemli bir onu da parametrelerin tahmin edilmesidir. Çalışmalarda parametre tahminleriyle ilgili olara farlı filtreler ullanılmatadır. Bunlar Yule-Waler, LMS tabanlı filtreler ve Kalman tabanlı filtrelerdir. Çalışmalarda, sinyallerin modellenditen sonrai performansları göz önünde bulundurulduğunda, en uygun modelin AR (Autoregressive) olduğu belirlenmiş (Kay 1988), çalışmalar bu modeller üzerinden yapılmıştır. Sinyaller için uygun model seçiminde şeil 1.3 te gösterildiği gibi bir yol izleme mümündür (Manolais 2000). 8

23 1. Aşama : Model Seçimi Model yapısının ve Derecesinin Seçimi 2. Aşama : Parametre hesabı Model Parametrelerinin Hesaplanması Hayır 3. Aşama : Model Geçerliliği Aday Model Performans Kontrolü Modeli Uygun mu? Modeli Kullan Şeil 1.3 Model Seçimi Aış Diyagramı Şeil 1.3 te görüldüğü gibi, model seçiminde diat edilmesi gereen hususlar üç bölümde incelenebilir (Manolais 2000). Birinci aşamada modelin yapısı seçilmelidir. Model yapısı seçiliren diat edilmesi gereen bir onu modelin performansı ve seçilen modelin derecesidir. Model derecesi seçiliren her zaman en üçü model derecesi seçilere sinyal modellenir. Uygun model derecesi seçimi için AIC, SBC ve FPE riterlerinden yararlanma uygun olur. Seçilen model derecesine bağlı olara modelin parametreleri tahmin edilir. Son olara sinyalin performansı test edilir. Performans testi ile ilgili olara LS (least Square), Spetral Eşleme (Spectral Matching) ve ML (Maximum Lielihood) gibi ölçütler ullanılabilir (Kay 1988). Eğer, seçilen modelin performansı uygun çımazsa, yani çizdirilen grafite güven aralığının (%95 li güven aralığı) dışına taşma varsa model derecesi bir artırılara model terar oluşturulur. 9

24 Model performansı, grafilerde gözlendiği gibi güven aralığının içerisinde olana adar devam eder (Maybec 1994). Diğer taraftan, model derecesi yüse seçildiğinde güç spetrumu grafiğinde Spetral Eşleme metoduyla, model derecesinde hata yapıldığı gözlemlenebilir. Şeil 1.4, gerçete model derecesi seiz olan sinyalin güç spetrum grafiğini göstermetedir. Gerçe sinyalin güç spetrumunda dört adet tepe bulunmatadır. Bu tepeler model derecesi arttıça artmatadır. Şeil 1.4, düşü model derecesi seçildiğinde spetrumda olması gereen tepelerin aybolduğunu, yüse model derecesi seçildiğinde ise sanal tepelerin oluştuğunu göstermetedir. Model performansı istatistisel olara düşü dereceli modelde artmata; faat güven aralığının dışında seyretmetedir. Yüse dereceli modelde ise; performans hem düşmete hem de sanal tepeler oluşmatadır. Guc Spetral Yogunlugu (db/ rad/sample) Yule-Waler Guc Speral Yogunlu Hesabi Gerce 4.derece 12.derece 16.derece Normalize Edilmis Freans ( π rad/sample) Şeil 1.4 Güç Yoğunlu Spetrumu Yule-Waler Grafiği Model derecesi seçimi ile ilgili olara, ullanılan sinyal temiz değilse veya derece belirleme ölçütlerinin en üçü dereceyi belirleyeceği adar yeterli uzunluğa sahip 10

25 değilse, model derece belirleme ölçütleri, uygun model derecesini tahmin edememetedir (ölçütler model derecesini ço yüse olara belirler). Böyle durumlarda olabilece en üçü model derecesinden başlanara modelleme yapılmalı ve performans belirleme riterlerine baılara derece seçimi yapılmalıdır. 1.7 AR Modellerde Model Derecesi Belirleme Kriterleri Sinyalin modeli seçilditen sonra en önemli onulardan birisi, model derecesinin belirlenmesidir. Bununla ilgili değişi riterler geliştirilmiş olsa da AR modeller için en uygun olanları; FPE, AIC ve SBC dir. Kriter eşitlileri aşağıda sırayla bahsedilmetedir (Kay 1988). 1. FPE (Final Prediction Error) riteri eşitli 1.9 da gösterildiği gibidir (Kay 1988), l p N( N np ) FPE( P) = log m ( N+ n ) p (1.9) Burada l p = log det p ve ˆ p = ( N np ) C= R22R22 dir. R 22 matrisleri artıların rossürün (cross_product) matrislerini gösterir. n p ise seçilen modelin derecesini gösterir. 2. SBC (Swart z Bayesian Criterian) Kriterinin algoritması eşitli 1.10 dai gibidir (Kay 1988). lp np SBC( P) = 1 log N m N (1.10) Yine burada ullanılan değerler FPE dei ile aynıdır. 11

26 3. AIC (Aaie Information Criterion) riteri 1.11 eşitliğinde gösterilmiştir (Kay 1988). AIC( P) = N log ˆ σ 2 P + 2P (1.11) 2 Burada N ; örnelem sayısını, P ; seçilmiş olan model derecesini, ˆ σ P ise yuarıdai riterlerle aynı olan ayıp fonsiyonunu (ya da hesaplanan AR (p) modelinin artılarının varyansı) göstermetedir. 1.8 Gürültülü Sinyallerin İyileştirilmesi Sinyallerin iyileştirilmesiyle ile ilgili olara günümüzde farlı yöntemler geliştirilmiştir ve bu yöntemlerden ilerleyen bölümlerde detaylı olara bahsedilecetir. Gürültülü sinyalin iyileştirilere istenilen gerçe sinyale yalaştırılmasıyla ilgili, geliştirilen yöntemlerden biri de Kalman Filtresi dir. Bu yöntemin farlı ilerletilmiş modelleri çalışmada ullanılmatadır Standart Kalman filtresi Durum uzay modeli ile gösterilen bir dinami sistemde, modelin öncei bilgileriyle birlite giriş ve çıış bilgilerinden sistemin durumu tahmin edilebilir. Gözlemleme teorisi, arar verilen bir baış açısı temelinde, sistemin durum tahmini için izlenece bir yoldur. Eğer sistemin stoasti ve rasgele gürültülü olduğu durum hesaba atılırsa minimum varyans tahmini ya da Kalman filtresi uygun olmatadır. Kalman filtresi, gelenesel tahmin yöntemlerinde olduğu gibi filtreleme özelliğine rağmen, sistemin ölçülemeyen durumlarını tahmin etme için ço güçlü ve yetenelidir. Kalman filtresi nde genel amaç ortalama estirim hatasının aresini minimize etmeye yöneli bir hesaplama mantığı ile duruma baar. Kalman filtreleri, ii tip gürültü altında en 12

27 uygun sonucu vermetedir. Bu gürültüler; süreç gürültüsü ve ölçüm gürültüleridir. Sinyallerin durumunun estirilmesinde Kalman filtresi nin ullanılmasının amacı alınmış gürültülü ölçümlerden tahmin yapılara sinyalin gelecetei davranış ve değerlerinin hesaplanmasıdır. Kalman filtresi, lineer esili zaman dinami sistemlerinde uygun sonuçlar üretebilmetedir (Kalman 1977). Kalman filtresi blo diyagramı şeil 1.5 te gösterilmetedir. x +1 Süreç x Ölçüm y w z -1 I H F +1, v Şeil 1.5 Lineer, Kesili-Zaman Dinami Sistemler için Blo Diyagramı Şeil 1.5 tei blo diyagramında durum vetörü x diye gösterilmiştir. Durum vetörüyle sistemin geçmiş zamanda davranışlarından durum aracılığı ile gelece dataların tahmini yürütülür. Genelde x bilinmez. ipi olara x aracılığı ile gözlem vetörü y hesaplanır. Yuarıdai blo diyagramının matematisel denlemi aşağıda açılanmatadır. 13

28 Süreç eşitlileri x = F x + w (1.14) ,, Eşitli 1.14 tei F + 1,, zamanından +1 zamanına geçiştei durumu modelleyen matristir. w ; elenen süreç gürültüsüdür; beyaz, gausiyan ve sıfır ortalamalıdır. Kovaryans matrisi Q n, E[ wnw ] = { 0 n, (1.15) gösterilir (Wan 1993). Buradai ifadenin transpozunu ifade eder Ölçüm eşitlileri y = H x + v, (1.16) y,; zamanındai gözlem matrisini, H ölçüm matrisini temsil etmetedir. v ise yine durumda olduğu gibi beyaz sıfır ortalamalıdır ve ovaryansı R n E[ vnv ] = { 0 n, (1.17) eşitliği ile gösterilmetedir (Wan 1993). Bu elenen gürültüler tamamiyle birbirinden ilişisizdir ve ölçüm uzayının boyutu N olara gösterilir. 14

29 1.8.2 Standart Kalman filtresi eşitlileri Lineer dinami sistemlerin ölçümleri ve aış diyagramları, zamanına dayanılara verilmiştir. Gereli yeni ölçümlerle y dan bilinmeyen durum, x ın hesaplanması için xˆ durumunun geçmiştei tahminine ihtiyaç vardır. zamanında xˆ nın bilindiği varsayılırsa, tahmin edici ile birlite geçmiş hesaplama x ˆ yeni ölçümün bir lineer ombinasyonu gibi gösterilebilir (Wan 1993). xˆ = G xˆ + G y (1.18) eşitliğinden yola çıara durum hata vetörü eşitli 1.19 dai gibi tanımlanır ve x% = x xˆ. (1.19) belenen değeri alınırsa, E[ x% y ] = 0 i= 1,..., 1 (1.20) i eşitliği elde edilir. Eşitliler 1.15, 1.18 ve 1.19, 1.20 de yerine onulduğunda, E[( x G x G H x G w ) y ] = 0 i= 1,..., 1 (1.21) 1 ˆ i eşitliği elde edilir. Süreç gürültüsü w ve ölçüm gürültüsü v birbirinden bağımsızdır. E[ w y ] = 0. i bu ilişiyi ullanara eşitli terar yazılırsa, E[( I G H G ) x y + G ( x x ) y ] = 0. (1.22) (1) (1) ˆ i i 15

30 elde edilir. I burada birim matrisi simgeler. Ortogonalite prensibinden 1.23 eşitliği yazılır (Wan 1993), E[( x xˆ ) y ] = 0. (1.23) i Eşitli 1.23 e bağlı olara, (1) ( I G ) [ H G E x yi ] 0. i 1,..., 1 = = (1.24) durumun ve gözlemin rasgele değerleri için büyülü fatörleri ilişili ise, (1) G ve G birbiri ile I G H G = 0, (1.25) (1) olur in içerisine 1.17 eşitliği yerleştirilirse durumun zamanındai geçmiş hesabı, xˆ = xˆ + G ( y H xˆ ), (1.26) eşitliği gibi olur (Wan 1993). G ( alman gain ) alman azancıdır. Matris ortogonalite özelliğinden, eşitliği, buradan da, E[( x xˆ ) y ] = 0. (1.27) E[( x xˆ ) yˆ ] = 0. (1.28) 16

31 eşitliğine dönüşür (Wan 1993). dayanılara hesaplanan sonucudur. y ˆ ; burada y nin öncei verilen ölçümlere x% = x xˆ. (1.29) 1.29 eşitliği innovasyon sürecini tanımlar. İnnovasyon süreci y da bulunan yeni bilgilerin ölçümlerinin hatasını gösterir ve 1.30 dai gibi türetilir (Wan 1993), y% = y H xˆ = H x + v H xˆ = H x% + v (1.30) 1.28 eşitliğinden 1.27 eşitliği çıarılırsa 1.29 eşitliği 1.31 eşitliğine dönüşür, E[( x xˆ ) y% ] = 0. (1.31) ve durum hata vetörü x xˆ 1.32 dei gibi yazılır, x xˆ = x% G ( H x% + v ) = ( I G H ) x% G v. (1.32) 1.26 ve 1.28 eşitliği 1.31 eşitliğinin içine yerleştirilirse, E[{( I G H ) x% G v }( H x% + v )] = 0. (1.33) eşitliği elde edilir (Wan 1993). Ölçüm gürültüsü v, x dan bağımsız olduğu için x nın hatasından da bağımsızdır. Böylece 1.33 eşitliğinin belenen değeri 1.34 dei gibi azaltılır. 17

32 ( I G H ) E[ x% x% ] H G E[ v v ] = 0. (1.34) eşitliğiyle öncei ovaryans matrisi 1.35 dei gibi tanımlanır (Wan 1993), P = E[( x xˆ )( x xˆ ) ] = E[ x%. x% ] (1.35) 1.35 eşitliğine bağlı olara ovaryans denlemi terar yazılırsa, ( I G H ) P H G R = 0. (1.36) eşitliği elde edilir. G ya bağlı olara eşitli çözülürse istenilen eşitli, G = P H H P H + R (1.37) 1 [ ], olur (Wan 1993) eşitliği ile Kalman Kazanç Matrisi olay bir şeilde hesaplanabilir. Bu eşitli istenilen sonuçtur ve öncei ovaryans matrisi tarafından tanımlanır. erarlı hesaplama tamamlanmadan önce hata ovaryans üretimi üzerinde durulursa, hesaplama hatasının ovaryans matrisindei zamansal olara etisi hata ovaryansını vermetedir. Bu üretim ii şeilde hesaplanır (Wan and Nelson 2004), 1. Öncei ovaryans matrisi P zamanında 1.35 dei gibi tanımlanır. Verilen öncei ovaryansla sonrai ovaryans P hesaplanır. Bu 1.38 eşitliğinde gösterilmetedir. P = E[ x% x% ] = E[( x xˆ )( x xˆ ) ]. (1.38) 18

33 2. Verilen esi ovaryans matrisiyle P 1 yeni öncei ovaryans P hesaplanır ve P güncellenir. Birinci aşama türetilirse, P = ( I G H ) E[ x%. x% ]( I G H ) + G E[ v v ] G = ( I G H ) P ( I G H ) + G R G (1.39) ve eşitli açılırsa, P = ( I G H ) P ( I G H ) P H G + G R G = ( I G H ) P G R G + G R G = ( I G H ) P. (1.40) eşitliğine dönüşür (Wan and Nelson 2004). İinci aşamadan hata ovaryans hesabı için durumun sonrai hesabı esi hesaptan türetilir, xˆ = F xˆ. (1.41), 1 1 durum öncei hesaplama hatası 1.42 dei gibi hesaplanır, x% = x xˆ = ( F x + w ) ( F xˆ ), 1 1 1, 1 1 = F ( x xˆ ) + w, = F x% + w, (1.42) 1.42, 1.37 eşitliğinin içine yerleştirilirse buradai süreç gürültüsü durum hata ovaryansından farlı olur. Öncei ovaryans 1.43 dei gibi tanımlanır, P = F E[ x% x% ] F + E[ w w ], 1 1 1, = F P F + Q, 1 1, 1 1, (1.43) 19

34 Öncei ( priori ) ovaryans matrisi esi ovaryans matrisi P 1 den hesaplanır (Wan and Nelson 2004). Standart Kalman Filtresi eşitlileri özeti çizelge 1.1 de gösterilmetedir. Çizelge 1.1 Standart Kalman filtresi Durum-Uzay Modeli x F x w + 1= + 1, +, y = H x + v, Buradai w ve v birbirinden bağımsız olup sıfır ortalamalı gausiyan Q ve R ovaryans matrislerinin gürültü süreçleridir, Başlangıç değerleri ile başla =0 için, xˆ = E[ x ], 0 0 P = E[( x E[ x ])( x E[ x ]) ] =1, için, Durum Hesabı üretimi, Hata ovaryansı üretimi, Kalman azanç matrisi, xˆ = F xˆ,, 1 1 P F P F Q, =, 1 1, 1+ 1 G P H H P H R 1 = [ + ], Durum hesabı güncellemesi, xˆ ˆ ( ˆ x = + G y H x ), Hata ovaryans güncellemesi, P = ( I G H ) P 20

35 1.8.3 Genişletilmiş Kalman filtresi Lineer olmayan sistemler için genişletilmiş Kalman filtresi (EKF), yalaşı masimum olasılı tahminini sağlayabilmetedir. Ortalama ve ovaryans yine terarlı olara güncelleştirilir. Bununla birlite, dinamilerin birinci derece lineerizasyonunda rasgele değişeni tahmin etme için türev alınması gereir. Böylece lineer olmayan dinamiler bu türevle, yine zamanla değişen lineer dinamilere yalaştırılır ve bu tatirde Standart Kalman eşitlileri uygulanabilir. Genişletilmiş Kalman Filtresi nde ullanılan lineer olmayan durum uzay modeli 1.44 ve 1.45 dei gibi yazılır (Wan 1993), x = 1 f (, x ) + + w, (1.44) y = h(, x ) + v (1.45) Buradai w ve v sıfır ortalamalı beyaz gausiyan süreç gürültülerini gösterir, ovaryans matrisleri R ve Q dir. f(,x ) lineer olmayan sistemin geçiş (transition) matrisini temsil eder. h(, x ) da lineer olmayan ölçüm matrisini temsil eder. Genişletilmiş Kalman Filtresi ndei basit mantı geçiş matrisinin ve hesiyan (ölçüm) matrisinin türevleri alınara gerçe lineer ortama dönüşüm sağlanmasıyla gerçeleşir. Bu ii aşamada gerçeleşir (Wan 1993), [1] Geçiş ve hesiyan matrislerinin modele göre türevi alınır, F f (, x) + 1, = x= xˆ H x h x = x (, ) x= xˆ (1.46) (1.47) 21

36 (2) İl önce durum ve süreç matrisleri F + 1, ve H hesaplanır. Bu birinci derece aylor Serisi açılımına bağlı olara yapılır. Yani lineer olmayan fonsiyonlardai birinci derece aylor Serisi açılımı baz alınara yapılır. Durum ve süreç matrisleri 1.48 ve 1.49 eşitlilerine yalaştırılır (Wan and Nelson 2004), F(, x ) F( x, xˆ ) + F ( x, xˆ ), (1.48) + 1, H (, x ) H ( x, xˆ ) + H ( x, xˆ ) (1.49) + 1, 1.48 ve 1.49 dan yararlanılara lineer olmayan durum-uzay modeli türetilir. Genişletilmiş Kalman Filtresi eşitlileri özeti çizelge 1.2 de gösterilmiştir. 22

37 Çizelge 1.2 Genişletilmiş Kalman filtresi Durum-uzay modeli x = 1 f (, x ) + + w, y = h(, x ) + v w ve v sıfır ortalamalı gausiyan beyaz süreç gürültüsünü göstermetedir ve birbirlerinden bağımsızdır. Q ve R ise bunların ovaryans matrislerini temsil eder. Başlangıç değerleriyle başla =0 için, xˆ = E[ x ], =1,. için, Durum üretimi 0 0 P = E[( x E[ x ])( x E[ x ]) ] Hata ovaryansı üretimi, f (, x) F+ 1, = x= xˆ x h(, x ) H = x= xˆ x xˆ = f (, xˆ ) 1 P F P F Q, =, 1 1, 1+ 1 Kalman azanç matrisi hesabı, G P H H P H R 1 = [ + ], Durum güncelleme, Hata ovaryansı güncelleme, xˆ xˆ = + G y h(, xˆ ), P = ( I G H ) P 23

38 1.8.4 Standart Kalman filtresi ile parametre hesaplanması Lineer sistemler için verilen durum-uzay modeli Kalman Filtresi nde parametre hesabı için ullanıldığında 1.50 dei gibi gösterilebilir ( Wan and Nelson 2004 ). Parametre vetörü rasgele yürüyüş süreci olara abul edilirse eşitli, x F x w + 1= + 1, +, y = H x + v, (1.50) gibi olur. Burada durum vetörü parametre vetörüdür. w, v beyaz gürültü süreçlerini göstermetedir eşitliğinin hata terimlerini ve başlangıç durumlarını sağladığı abul edilirse E[ x v ] = 0, vee[ x w ] = 0 sistem geçiş matrisi birim matris olur. Standart Kalman Filtresi yle parametre tahmini eşitlileri çizelge 1.3 te verilmetedir (Wan and Nelson 2004). 24

39 Çizelge 1.3 Standart Kalman filtresi ile parametre tahmini eşitlileri Durum-uzay modeli x F x w + 1= + 1, +, y = H x + v, Buradai w ve v birbirinden bağımsız olup sıfır ortalamalı gausiyan Q ve R ovaryans matrislerinin gürültü süreçleridir, F matrisi birim matristir, Başlangıç değerleriyle başla =0 için, xˆ = E[ x ], 0 0 P = E[( x E[ x ])( x E[ x ]) ] =1, için, Durum üretimi, Hata ovaryansı üretimi, Kalman azanç matrisi, xˆ = F xˆ,, 1 1 P F P F Q, =, 1 1, 1+ 1 G P H H P H R 1 = [ + ], Durum güncellemesi, xˆ ˆ ( ˆ x = + G y H x ), Hata ovaryans güncellemesi, P = ( I G H ) P Genişletilmiş Kalman filtresi parametre hesabı ( Mehra 1971 ) de amaçlanan ve ( Merwe and Nelson 1999, 2000 ) da geliştirilen EKF temiz veriden lineer olmayan modellerde parametre hesabı için uygun çözüm üretebilmetedir. Yine EKF de parametre filtresi eşitlileri aynıdır. EKF parametre tahmin eşitlileri çizelge 1.4 tei gibi tanımlanabilir (Wan and Nelson 2004). 25

40 Çizelge 1.4 EKF ile Parametre tahmini eşitlileri Durum-uzay modeli x = 1 f (, x ) + + w, y = h(, x ) + v w ve v sıfır ortalamalı gausiyan beyaz süreç gürültüsünü göstermetedir ve birbirlerinden bağımsızdır. Q ve R ise bunların ovaryans matrislerini temsil eder. Parametre filtresi için F birim matristir. H h x = x (, ) x= xˆ Başlangıç değerleriyle başla =0 için, xˆ = E[ x ], 0 0 P = E[( x E[ x ])( x E[ x ]) ] =1,. İçin durum üretimi Hata ovaryansı üretimi, xˆ = f (, xˆ ) 1 P F P F Q, =, 1 1, 1+ 1 Kalman azanç matrisi, G P H H P H R 1 = [ + ], Durum güncellemesi, xˆ ˆ (, ˆ x = + G y h x ), Hata ovaryansı güncellemesi, P = ( I G H ) P 26

41 1.9 Sonuç Çalışmanın bu bölümünde, sinyallerin modellenmesi ve estirimi haında teori bilgiler verilmiştir. Sinyallerin modellenmesi esnasında diat edilmesi gereen yöntemler ve izlenmesi gereen yol gösterilmiştir. Uygun model seçilditen sonra modelin derecesinin belirlenmesiyle ilgili SBC, FPE ve AIC gibi riterler üzerinde durulmuştur. Bu riterler uzun verilere sahip ses sinyallerinde model derecesi seçiminde AIC nin FPE ve SBC ye oranla daha uygun tahmin sonuçları verdiği gözlenmiştir. Bunun sebebi ise ullanmış olduğu algoritma yapısında aynalanmasıdır. Algoritmasında tahmin doğruluğunu diğerlerine oranla uzun sürede aybetmemesidir. Bunun yanı sıra ısa verilere sahip ses sinyallerinin model derece tahminlerinde aynı performansı sergilemişlerdir. Model derecesi belirlenen gürültülü sinyallerin, model performanslarının belirlenmesiyle ilgili spetral eşleme ve en üçü areler yöntemlerinden bahsedilmiştir. Spetral eşlemede modelin performansının daha olay belirlendiği gözlenmetedir. Eldei grafi eğrisine baılara güven aralığında olup olmadığı değerlendirilmiştir, diğer taraftan en üçü areler yöntemi spetral eşlemeye oranla daha armaşı olduğu gözlenmiştir. Çalışmada, estirim ile ilgili ullanılan yöntemlerden; teli, birleşi ve iili çalışma yöntemlerinden bahsedilmiş, daha öncei çalışmalar ve teori bilgiler ışığında performansları haında bilgiler verilmiştir. Bu çalışma yöntemleri teli filtre ullanıldığında lineer olmayan sinyaller için birleşi filtreleme metodunun en uygun olduğu, ii filtre ullanıldığında hem lineer olmayan hem de lineer sinyaller için iili filtreleme yönteminin daha uygun olduğu daha öncei çalışmalardan saptanmıştır. 27

42 Bunların yanı sıra yöntemlerde ullanılan Kalman tabanlı estiricilerden standart ve genişletilmiş Kalman filtrelerinden bahsedilmiş ve bu filtrelerin çalışma alanları (lineer ve lineer olmayan) üzerinde durulmuştur. Yine daha öncei çalışmalara dayanılara standart Kalman filtresinin lineer sinyallerde, lineer olmayan sinyallerde ise genişletilmiş Kalman filtresinin daha uygun tahmin sonuçları verdiği belirlenmiştir. 28

43 2. KALMAN FİLRELERDE İKİLİ ( DUAL ) HESAPLAMA İili Kalman filtresi (DKF) nin ses sinyallerindei iyileştirmeye yöneli ullanılma amacı; genişletilmiş Kalman filtresine bir alternatif olma, genişletilmiş Kalman filtresindei ırasama problemiyle uğraşmama ve lineer olmayan sistemlerde uygun sonuçlar sağlayabilmetir (Labarre and Grivel 2003). İili yalaşımda, EKF dei ırasama problemi göz önünde bulundurulara, lineer olmayan sinyallerde hesaplama yapılmış ve iili hesaplamada EKF ye oranla daha uygun sonuçlar elde edilmiştir (Labarre and Grivel 2003). İili yalaşımdai diğer bir mantı ise model ve parametrelerin iteratif olara aynı anda estirilebilmesidir. İili hesaplamalar genelde on-line çalışmalar üzerinden yapılmatadır (Merwe and Nelson 1999, 2001). Bunun sebebi iteratif olara yapılan çalışmalarda elde bulunan verilerin, bazı durumlarda olumsuz sonuçlar (hafıza problemi ve esi verilerin filtrede tutulmasından, öğrenme eğrilerinde olumsuz sonuçlar oluşması) doğurabilmesidir. Bu nedenle, ullanılaca model ve durumlar belirlenditen sonra, on-line veya off-line hesaplama yöntemleri seçilmelidir (Nelson 1999). 2.1 İili Kalman Filtresi ( DKF ) Lineer olmayan dinami sistemlerde, esili zamanlardai durum tahmini, EKF ullanılara uygun sonuçlar verir. Kullanılan filtre, öncei bölümde filtre eşitlilerinin üretiminde bahsedildiği üzere, ullanılan dinami modele uygun olara gürültülü ölçümlerden dinami sistemin durumlarını estirir ve bunu terarlı bir şeilde devam ettirir. İili Kalman filtresi, durum estiriminde uygun sonuçlar verdiği gibi, parametre estiriminde de bu performansını gösterebilmetedir. Faat temiz sinyallerde, iili 29

44 hesaplama metodunun ullanılmasına gere yotur, çünü parametrelerin iyileştirilmesine gere yotur. Lineer olmayan sistemlerde, EKF sistem dinamilerini doğrusallaştırara, standart Kalman filtresiyle ( KF ) normal terarlı tahmin yapabilmetedir. Faat doğrusallaştırma esnasında, sinyalin ovaryansı ve ortalamasında bazı durumlarda sapma gözlenmetedir. (Labarre and Grivel 2003) çalışmalarında bu probleme iili Kalman filtre yalaşımıyla bamıştır. Belirli bir ses sinyali üzerinden sinyalin paralel olara bir taraftan durumu hesaplanıren, diğer taraftan da sinyalin parametreleri hesaplanara EKF den daha iyi performans elde edilmiştir. Diğer taraftan ırasama problemi de ortadan almıştır. İili filtrede çalışma modeli, sıralı (sequential) olara, yani hesaplamalar notasal olara yapılmatadır. İteratif ve sıralı yalaşım blo diyagramları, şeil 2.1 de gösterilmetedir (Wan and Nelson 2004). Bütün data Bütün Sinyal hesaplanır Sinyal Hesapla ŵ { xˆ } N 1 y ŵ x ˆ Bütün data Bütün Model hesaplanır [a] Model Hesapla [b] Şeil 2.1. a. Iteratif yalaşım, b. Sıralı yalaşım 30

45 DKF de yürüyüş il etapta sistem parametrelerinin tahmin edilmesiyle başlar. Bu aşamada, sistemin modeli belirlenir. Model belirlenditen sonra sistem dinamilerine uygun model derecesi seçilir. İili hesaplama için ullanılaca algoritmalar çizelge 2.1 de gösterilmetedir. İili hesaplamadai filtre çalışması, şeil 2.2 dei gibidir (Wan and Nelson 2004). z. gün. Ef_x xˆ 1 Ölçüm Güncelleme EKF_x x ˆ y ölçüm Zaman günc. EKF_w Ölçüm Güncelleme EKF_w x ˆ wˆ 1 Şeil 2.2 İili Hesaplama Paralel Filtre Çalışması İili hesaplama şeil 2.2 den görüldüğü gibi filtreler birbirlerine paralel ve eşzamanlı olara çalışmatadır. İl filtre durumu tahmin etmete ardından iinci filtre ise parametreleri tahmin edere birinci filtreye hesaplanan parametreleri vermete ve birinci filtrede hesaplamış olduğu durumu parametre filtresine verere devam etmetedir. Çizelge 2.1 de DKF eşitlileri görülmetedir (Labarre and Grivel 2003). 31

46 Çizelge 2.1 İili standart Kalman filtresi Eşitli 1.14 ve 1.16 ya bağlı olara başlangıç değerleriyle başlanırsa, xˆ ˆ 0 = E[ x0 ], wˆ 0 = E[ w] P = E[( x xˆ )( x xˆ ) ], P = E[( w wˆ )( w wˆ ) ] {1,..., } x w , standart alman filtresinin zaman güncelleştirme eşitlileri: wˆ = wˆ 1 P = P + R r w w1 Durum ve hata ovaryansı üretimi, xˆ = F xˆ,, 1 1 P F P F Q, =, 1 1, 1+ 1 Ölçüm güncelleştirme eşitlileri durum için: 1 G = P H [ H P H + R ], xˆ xˆ = + G( y H xˆ ), P = ( I G H ) P Ölçüm güncelleştirme eşitlileri parametre için : K = P ( G ) ( G P ( G ) + R ) w w w w e 1 w x wˆ = wˆ + K ( d G( wˆ, x )) w 1 w w P = ( I K G ) P w w Lineer olmayan dinami sistemlerde, esili zaman durumunun olasılığının hesaplanması için EKF uygun çözümler üretebilmetedir. Filtre dinami modelden uygun sonuç için tahminle gürültüyü birleştirir, terarlı bir şeilde bu işi devam ettirir. Lineer olmayan sinyallerde, daha iyi performans için (Nelson 2001) de iinci derece EKF partiül filtresi ullanılmasına rağmen en popüleri standart EKF olara tespit edilmiştir. Durum için maliyet fonsiyonu 2.1 de verilmetedir (Wan and Nelson 2004). 32

47 n 1 v ( 1 ) = (( t ) ( ) t ( t t ) + ( t t ) ( )( t t )), t= 1 J x y x R y x x x R x x (2.1) Burada xt = F( xt 1, w), R n ve R v ; elenen gürültüdür. EKF eşitlilerinde gösterildiği gibi uygun çözüm için parametre hesaplanmasında maliyet fonsiyonunu minimize eder erarlı derivasyon hesabı İili EKF ( DEKF ) eşitliği, öncei durumla birlite parametre eşitliğini birbirine w x bağlaren ( C = C ), ağırlı filtresine bağlı olara, hesiyan ve geçiş matrislerinin w türevini hesaplar. Sinyal filtresinin parametreleri, ağırlı filtresi tarafından hesaplanır. erarlı döngüde x ˆ, xˆ 1 in bir fonsiyonudur ve her iisi de w nin bir fonsiyonu olara tanımlanır. Çizelge 2.2 de DEKF eşitlileri verilmetedir (Wan and Nelson 2004). 33

48 Çizelge 2.2 İili genişletilmiş Kalman filtresi Eşitli 2.1 dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, {1,..., } xˆ ˆ 0 = E[ x0], wˆ 0 = E[ w] P = E[( x xˆ )( x xˆ ) ], P = E[( w wˆ )( w wˆ ) ] x w , genişletilmiş Kalman filtresinin zaman güncelleştirme eşitlileri: wˆ = wˆ 1 P = P + R r w w1 xˆ = F( xˆ, u, w) 1 P = A P A + R x 1 x1 1 Ölçüm güncelleştirme eşitlileri durum için: x n K = P C ( C P C + R ) 1 x x x xˆ = xˆ + K ( y H ( xˆ, w)) x P = ( I K C ) P x x Ölçüm güncelleştirme eşitlileri parametre için: A 1 K = P ( C ) ( C P ( C ) + R ) w w w w e 1 w x w wˆ = wˆ + K. e w w P = ( I K C ) P w w F( x, wˆ ) xˆ e ( ˆ ) 1 y Cx w e ˆ x =, C = C w= wˆ x w w v xˆ ˆ ˆ ˆ ˆ ˆ + 1 F( x, w) x F( x, w) = +, wˆ xˆ wˆ wˆ (2.2) x xˆ ˆ x x K = ( I K ) ( ˆ C + y Cx ), wˆ wˆ wˆ (2.3) 34

49 Burada F( xˆ, wˆ ) x ˆ ve F( xˆ, wˆ ) w ˆ fonsiyonları w ˆ da hesaplanır ve lineer olmayan fonsiyonların stati fonsiyonlarını oluşturur. 2.3 eşitliğinde hesaba atılmayabilir (Wan and Nelson 2004). x K w, w dan bağımsız ise Birleşi ( Joint ) Hesaplama Metodu Bayes teoreminden, birleşi oşullu olasılı 2.4 eşitliğindei gibi tanımlanır (Wan and Nelson 2004), ρ N N 1 1 x w y = ρ N N. ρ N ρ N N. ρ N. ρ y1 x1 w x1 w y1 x1 w x1 w w ρ = ρ (2.4) N N 1 y1 y N N { y } 1 istatistisel olara { } 1 y ve w ya bağlı olmasına rağmen, öncei ρ işlevsel y N 1 N olara { y } 1 ve w den bağımsızdır. ρ masimize edilmiş pay tarafından N N 1 1 x w y oluşturulur. Parametrelerdei öncei değerler bilinmiyorsa, durumda masimizasyon, ρ w iptal edilebilir. Bu ρ ρ. ρ = (2.5) N N N N N y x w y x w x w olur (Wan and Nelson 2004). 2.5 eşitliğine bağlı olara, v ve n sıfır ortalamalı beyaz gürültülü olara abul edilip, maliyet fonsiyonu türetilirse, 35

50 ρ N N 1 1 N 2 1 ( y Cx ) = exp[ ] 2σ y x w N 2 N (2 π ) ( σ N ) = 1 2 n 1 1 (2 π ) R N v 1 exp[ ( x x )( R ) ( x x )], N v N = 1 2 (2.6) eşitliği gibi olur (Wan and Nelson 2004). Burada 1 x = E[ x { xt} 1, w] = F( x 1, w) dır. Öncei eşitlite tahmin x model F(.,w) ullanılara hesaplanmıştır. Eşitliğin logaritması alınırsa, maliyet fonsiyonu eşitli 2.7 gibi tanımlanır (Wan and Nelson 2004), N ( y Cx ) J = [log(2 πσ ) + + log(2 R ) + ( x x ) ( R ) ( x x )]. (2.7) = v v 1 n π 2 σ n Birinci tarafta gözlem { y } N 1 ile { x } N 1 az bir sınırlamaya sahiptir. Bunun sebebi üçü bir ölçüm gürültü varyansının, daha güçlü bir sınırlama yaratmasındandır. İinci tarafta model yapısıyla birlite durum ve model hesabı orta olara ele alınmıştır. Var olan sınırlama durum için yüse derecede deterministi olduğunda güçlü olmatadır. ( yani v R j N üçü ). J ( x1, w ) hem { x } N 1 hem de w ye bağlı olara ρ N N y1 x1 w ( birleşi yoğunluğu) masimize edilere hesaplanır. Genelde yalaşımlar, dire ya da çözülmüş ( de-coupled ) olara sınıflandırılır. Dire yalaşımda, hem sinyal hem de model ço değişenli optimizasyon problemi gibi birleşi olara hesaplanır. Çözülmüş yalaşımda ise, değişenlerden birinde optimizasyon sağlanıren diğeri sabit alır, işlem alternatif olara arşılılı devam eder. Burada dire eşitli birleşi EKF (JEKF) den oluşur. Birleşi model sinyal ve parametre vetörünün içine sıralı olara maliyeti minimize edere hesaplamaya çalışılır. Çözülmüş (De-coupled) hesaplama da ayrıntılar daha fazladır. 36

51 2.1.3 Çözülmüş (De-coupled) hesaplama Sinyale bağlı olara j N J ( x1, w ), minimize edilir. Maliyet, ŵ nın hesaplama yalaşımından elde edilir. Böylece 2.8 eşitliği basit bir yalaşımla tahmine uyarlanır (Wan and Nelson 2004), ( y Cx ) J ( x, w) [ ( x x ) ( R ) ( x x )]. (2.8) N 2 j N v 1 ˆ ˆ 1 = + 2 = 1 σ n Bu maliyet fonsiyonu { x } N 1 e bağlı olara minimize edilir. j N J ( x1, w ) geçerli sinyal { ˆ } N x 1 ve terarlı tahmin 1 xˆ F( xˆ, w) den elde edilir. Maliyet fonsiyonu, ( y Cxˆ ) J ( x, w) [ ( x x ) ( R ) ( x x )]. (2.9) N 2 j N v 1 ˆ ˆ ˆ ˆ ˆ 1 = + 2 = 1 σ n gibidir (Wan and Nelson 2004). Alternatif olara birleşi maliyet fonsiyonu xˆ, yalnız ağırlığın bir fonsiyonu olara tanımlanabilir, N j N v 1 ˆ ˆ ˆ ˆ ˆ ˆ 1 = = 1 J ( x, w) ( x x ) ( R ) ( x x ) (2.10) 2.10 eşitliği tahmin hatasının maliyetinin bir modelidir. Bu model, hesaplanan durumu N N tahmin etmede ullanılır. Metod hesaplanan x ˆ 1 = x1 değerinde ρ yı masimize N x1 w eder. Bu yalaşımda asıl data { y } N 1, sınırlandırılamadığından problem oluşmatadır. Birleşi hesaplamanın çözülmüş yalaşımında problem, her bir maliyet onun argümanına bağlı olara, bir nebze aldırılmıştır. 37

52 2.1.4 Masimum olasılı maliyeti Ağırlı hesabı için bir maliyet fonsiyonu üretilirse, marjinal yoğunlu eşitli 2.11 dei gibi olur (Wan and Nelson 2004). ρ N w y1 ρ N. ρ y1 w w = (2.11) ρ N y1 Eğer w nın öncei değeri bilinmiyorsa, sonrai yoğunlu masimize edilen olasılı fonsiyonu ρ ya eşitlenere masimize edilir. Buradai istatisti gausiyan ise, N y1 w oşullu olasılı, zincir uralındai gibi eşitli 2.12 gibi ifade edilir (Wan 1999, Nelson 2001), ρ N 2 1 ( y ˆ y 1) = exp, 2 (2.12) 2σε N y1 w 2 = 1 2πσε Burada y E y y w oşullu ortalamadır ( optimal tahmin ) ve 1 1 [ { } 1, ] 2 σ ε tahmin hata varyansıdır. Masimum olasılı maliyetinin logaritması alınırsa, N 2 ( y 2 y 1) ml J ( w) = log(2 πσε ) + 2 (2.13) = 1 σε elde edilir (Wan and Nelson 2004). Bu ifade ölçüm gürültüsü ne olursa olsun geçerlidir. 38

53 2.2 Birleşi ( Joint ) Hesaplama Formu Birleşi hesaplamayla ilgili parametre maliyet fonsiyonu ve hata terimleri eşitli 2.14 de verilmiştir. Bu parametre filtresinin özel iili-gözlem formunu gösterir (Wan 1993, Merwe 1999). xˆ = f ( xˆ, w), e ( y xˆ ), xˆ % ( xˆ xˆ ), (2.14) t t1 Eşitliler, DEKF nin çözülmüş birleşi uygun sonuca yalaşımını gösterir. Yani belirli bir zamanda DEKF dönüşümlü olara bir argümanı ullanara, bütün birleşi maliyet fonsiyonunu minimize eder. DEKF parametre filtresi için gözlemlenen birleşi maliyet fonsiyonu, eşitli 2.15 ve 2.16 da verilmetedir (Wan 1993, Merwe 1999), j ( y ˆ ) ( ˆ ˆ t xt xt x ) t J ( xˆ 1, w) = +, 2 2 t= 1 σ n σ (2.15) v e 1 σ n e σ 1 ˆ v x% ile, C w 1 σ n we = 1 σ ˆ v wx% (2.16) Belirli bir zamanda DEKF, birleşi maliyet fonsiyonunu alternatif olara filtrelerinde ullanır ve uygun sonuç için maliyet fonsiyonunu minimize etmeye çalışır. 2.3 Birleşi ( Joint ) Kalman Filtresi ( JEKF ) Öncei bölümde DEKF, birleşi maliyet fonsiyonunun indirgenmesi için terar türetilmiştir. Buradai iyileştirme bir ayrıştırma yalaşımını gösterir ve x ve w 39

54 hesaplamalarında ullanılan durum uzay gösterimlerini farlı ılar. Alternatif olara bir JEKF modeli gösterilmesini zorunlu ılar ve eş zamanlı bir MAP hesabı x ve w değerlerini üretir. Bu da yeni bir durum uzay modeli gösterimi yaratır. Birleşi model eşitli 2.17 dei gibi gösterilir (Wan and Nelson 2004), z x dir. (2.17) = w Burada masimize edilmiş yoğunlu ρ, masimize edilmiş 1 z y ρ 1 x w y ya eşitlenir. z nin MAP uygun hesabı x ve w nin minimize edilmiş toplam maliyeti J ( x1, w ) yi içerir. Yalnız çalışan EKF durum vetörüyle birlite sıralı bir hesaplama eşitliği sağlar. JEKF, literatürde il önce lineer sistemlerin hesaplanması için ullanılmıştır. f(z) nin gradyantı w ya bağlı olduğundan x ˆ, sabit tutulur. Böylece x ˆ w ye bağlı türev içermez. (Merwe 1998) de JEKF için ırasama problemine bir çözüm olara gösterilmiştir. Elenen sonuçlar ve düzeltmeler (Wan and Nelson 2004) de gösterilmetedir. erarlı derivasyon esiliğinden, çiftli sistemlerde lineerizasyon esnasında yaınsama problemi olmasına rağmen ( bu bölümün deneysel ısmının hazırlanması esnasında ırasama problemiyle arşılaşılmamıştır ) terarlı türevin ullanılması (Asano and Fah 2000) da tartışılmıştır. Faat, teori bir geçerliliği yotur. JEKF maliyet fonsiyonunun sıralı minimizasyonu için alternatif bir yalaşım sağlayabilmiştir (Merwe 1999) Birleşi hesaplamada lineer model M x = w x + v (2.18) i i i= 1 y = x + n 40

55 Lineer modeller, daha öncei bölümlerde gösterilmiştir Eşitliğe bağlı olara birleşi modelde parametre sabit stoasti bir süreç gibi modellenir (Wan 1993), w = w + u (2.19) 1 Birleşi durum-uzay modeli, z = F( z ) + B( v, u ) 1 x A 1 0 x 1.. B v w = + 0 I w u 1 (2.20) y = C. z + n x y = [ C ]. + n w (2.21) olara tanımlanır (Wan and Nelson 2004). Öncei bölümde gösterildiği gibi, A w I 0. Yuarıdai sistem lineer olara modellenmesine rağmen A 1. x 1 çarpımı, birleşi durum z 1 nın bir lineer olmayan ( ya da bi-lineer ) fonsiyonunu gösterir. Modelin formu lineer olara abul edilse bile, durum KF nin ullanılmasının önüne geçer. Bununla birlite EKF, sinyal ve parametrelerinin yalaşı MAP hesabını üretir. 41

56 2.3.2 Birleşi genişletilmiş Kalman filtresi EKF sisteme uygulanıp, F( z ) birleşi durum z ile ilgili olara doğrusallaştırılırsa, A xˆ ˆ ˆ w x F( z) A = 0 0 I z = (2.22) 0 I 0 I z= zˆ birleşi gürültü ovaryansı, 2 Bv Bσ v B 0 V Cov u = (2.23) 0 U olara belirlenir (Wan and Nelson 2004). JEKF algoritması çizelge 2.3 te gösterilmetedir (Wan and Nelson 2004). Çizelge 2.3 Birleşi genişletilmiş Kalman filtresi dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, zˆ = E[ z ] 0 0 P = E[( z zˆ )( z zˆ ) ] {1,..., } değerlerinde zaman güncelleme eşitlileri, zˆ = F( zˆ ) 1 P = A P A + V Ölçüm güncelleştirmeleri, K = P C ( CP C + σ ) 2 1 n zˆ = zˆ + K ( y Czˆ ) P = ( I K C) P 42

57 2.4 Unscented Dönüşüm ve Kalman Filtresi EKF, lineer olmayan ortamlarda dönüşüm esnasında, bazı sistemlerde ovaryans ve ortalama sapmasına yol açmatadır. Bu bilgiler ışığında Unscented tabanlı alman filtreleri (UKF) geliştirilmiştir. EKF ve UKF arasındai basit far, gausiyan rasgele değişenlerin sistem dinamilerinde doğrusallaştırma olmayıp, rasgele sigma notaları seçilere dönüşüm yapılmasıdır. EKF de durum dağılımı, bir gausiyan rasgele değişen tarafından yaınsatılır. Böylece lineer olmayan sistemin birinci derece doğrusallaştırması için analiti çözüm üretilir (yani EKF de durum hesabı gausiyan rasgele değişen tarafından analiti olara lineer olmayan sistemlerin birinci derece doğrusallaşrılmasıyla sağlanır). Bu durum, filtrede ırasama yaratır ve doğru sonrai ortalamada ve gausiyan rasgele değişenlerde dönüştürülen ovaryansta, büyü hataya yol açar. Böylece filtre sub-optimal bir performans sağlar. Aynı olay UKF de deterministi bir örnelem yalaşımıyla gösterilir. Burada durum hesabı, bir gausiyan rasgele değişen tarafından hesaplanır ve örnelem notaları seçilere gösterilir. Bu örnelem notaları, doğru ortalamayı ve gausiyan rasgele değişenin ovaryansını doğru bir şeilde yaalar ve doğru lineer olmayan sistemde iinci dereceden sonrai ortalama ve ovaryansı yaalar. Bu EKF de birinci dereceden bir doğrulu yaratır. Bunun yanında UKF de hesiyan ve jaobiyan hesaplamasına gere yotur. Hesaplama omplesliği de EKF adar arışıtır. 2.5 Unscented Kalman Filtresi - Giriş UKF, EKF nin türevi olmayan alternatif modelidir ve lineer olmayan alanlardai uygulamalarının hepsinde uygulanabilir. Uygulama alanı diğer alman tabanlı filtrelerde olduğu gibi iiye ayrılır. Birincisi durum; iincisi parametre hesabıdır. 43

58 2.5.1 Durum hesabı EKF, esili zaman lineer olmayan dinami sistemlerdei hesaplamayı içerir. Durum uzay modeli eşitli 2.1 dei gibidir. Lineer olmayan bir dinami sistemin blo diyagramı, şeil 2.3 te gösterilmetedir (Wan and Nelson 2004). Giriş u Süreç Gürültüsü v x +1 x Ölçüm Gürültüsü n F H Çıış y Şeil 2.3 Lineer Olmayan Sinyalin Blo Diyagramı Şeil 2.3 te sistem dinamileri F ve H biliniyor abul edilmetedir (Wan and Nelson 2004). Parametre hesaplanması, sistem tanımlama ya da sinyal tanımlama anlamına gelen, lineer olmayan durumda aşağıdai formülde tanımlanır, y = G( x, w). (2.24) x giriş, y çıış lineer olmayan MAP te G(.) vetör w tarafından oluşturulara dönüştürülür. Lineer olmayan MAP örneği bağlaşımlı uygulamalarda dinami modellemelerde bir geribesleme veya terarlı bir sinirsel şebee olabilir. ipi olara 44

59 {x, d } nın sinyal hatası e =d -G{x,w} olara bilinir. Uygun bir değer oluşuren ( yani gradyant alçalması geri üretimi (bac-propagation) ullanılıren) EKF yeni yazılan durum-uzay gösterimi tarafından hesaplanabilir (Wan 1993). w w r = + + 1, d = G( x, w ) + e (2.25) Burada w ; birim geçiş matrisiyle bir durağan süreçle ilgilidir ve süreç gürültüsü r ile tanımlanır (Buradai varyans seçimi yaınsamayı sağlar). Çıış d, lineer olmayan ölçümde w ile bağlantılıdır. EKF, parametreleri tahmin etme için dire olara uygulanan etili iinci derece lineerizasyon sağlayan bir teni gibidir. Giriş x gözlenemediğinde, tahmin, hem parametre hem de durum hesaplanması geretirir. Bu iili hesaplama tahmini için, yine bir esili zaman dinami sistemi gereir (Wan 1993), x = + 1 F( x, u, v, w), y = H ( x, n, w) (2.26) Burada hem model durumu hem de parametreleri, dinami sistem için yalnızca gürültülü sinyal y dan aynı anda hesaplanma zorundadırlar. Örne uygulama, adaptif lineer olmayan ontrol sistemlerinde görülür ( Kay 1988, Wan 1993). 45

60 2.6 Unscented dönüşüm Unscented dönüşüm lineer olmayan transformasyona maruz alan bir rasgele değişenin istatistiğini hesaplama için geliştirilen bir metoddur ( Wu and Hu 2005 ). Lineer olmayan bir fonsiyonun içerisine y=f(x), rasgele bir x değişeni ( L boyutlu ) üretilirse x in ortalaması x ve ovaryansı P x abul edilir. y nin istatistiği hesaplanıren 2L+1 boyutlu sigma vetörleri χ i taip eden eşitlilere bağlı olara bir matris χ oluşturur (Wan and Nelson 2004), χ 0 = x, χ = x+ ( ( L+ λ) P ), = 1,..., L, x χ = x ( ( L+ λ ) Px ) = L, = L,...,2 L, (2.27) Burada λ= α 2 ( L+ κ) L bir hesap ( yüseltme ) parametresidir, α sigma notasının x etrafındai sapmasını gösterir ve çoğunlula üçü bir pozitif değişen olara alınır (örneğin 1 α 1e 4 ). Diğer sabit κ dır ve iinci yüseltme parametresidir, çoğunlula 3-L olara alınır (detay ( Wan and Nelson 2004, Merwe 2001) ) ve β da x dağılımının öncei bilgisiyle ilişilendirilir ( gausiyan dağılımlar için β =2 dir ). ( L+ λ) P x matrisin araöünün inci sütunudur (alt üçgen çolesi fatörü). Bu sigma notaları lineer olmayan fonsiyonun içerisine yerleştirilir. У =f( χ ) =0,...,2L, (2.28) У için ortalama ve ovaryans, sonrai sigma notalarının ağırlılı örnelem ortalaması ve ovaryansı ullanılara bulunur, 46

61 y 2L ( m) W У, (2.29) = 0 P y 2L c W ( У y)( = 0 У y), (2.30) Ağırlı W i eşitli 2.31 dei gibi verilir (Wan and Nelson 2004), W ( m) 0 λ =, ( L+ λ) ( c) λ 2 W0 = + 1 α + β L+ λ ( m) ( c) 1 W = W =, = 1,...,2 L. 2( L+ λ) (2.31) Bu metod, gerçete bir genel Monte-Carlo örnelem metodundan farlıdır. Durumun doğru bir dağılımının üretilmesinde, daha fazla örnelem notasının büyülüğünün derecesine ihtiyaç vardır. Bütün lineer olmayan gausiyan girişler için, unscented dönüşümle ((U) le) birlite üçüncü derece doğru sonuçlar elde edilebilmetedir. Gausiyan olmayan girişler için, en az iinci dereceden dönüşümle doğrulanmatadır ( Nelson 1999, Gordon and Salmond -- ). Seçilen α veβ lara bağlı olara üçüncü ve dördüncü dereceden olabilmetedir. Unscented dönüşümün önemli bir yalaşımı integrallerin hesaplanmasında gaussian quadratic diye adlandırılan bir numeri tenile bağlantılandırılmasıdır (Mahoul 1975). Benzer yalaşım şeil 2.4 te gösterilmetedir (Wan and Nelson 2004). Şeil 2-D boyutlu bir sistemi göstermetedir. Soldai çizim monte-carlo örnelemi ullanılara oluşturulan doğru ortalama ve ovaryansı göstermetedir. Ortadai çizim EKF de lineerize edilere yapılan doğru ortalama ve ovaryansı, sağdai ise unscented dönüşümün 5 tane sigma notası ullanılara elde edilen ortalama ve ovaryansı göstermetedir. 47

62 Şeil 2.4. a. Monte-carlo örnelem, b. Genişletilmiş alman filtresi 1. derece lineerizasyon, c. Unscented dönüşüm Unscented Kalman filtresi eşitliği Unscented Kalman filtresi eşitli 2.31 dei U nin terarlı hesaplamalarını dire alır. Burada gürültülü rasgele değişenler ile birlite ve orijinal durumun birleşmesiyle terar tanımlanır (Wan and Nelson 2004). x [ x v n ] = (2.32) a 48

63 Unscented dönüşümdei sigma nota seçimi bu iyileştirilen durum rasgele değişenine uygulanır. UKF eşitlileri çizelge 2.4 te gösterilmetedir (Wan and Nelson 2004). Çizelge 2.4 Unscented Kalman Filtresi Eşitli 2.1 dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa; xˆ = E[ x ], 0 0 P = E[( x xˆ )( x xˆ ) ], xˆ = E[ x ] = [ xˆ 0 0], a a 0 0 P0 0 0 a a a a a v P ˆ ˆ 0 = E[( x0 x0 )( x0 x0 ) ] = 0 R 0. n 0 0 R {1,..., }, sigma notalarının hesabı, χ = [ xˆ xˆ + γ P xˆ γ P ]. a a a a a a Zaman güncelleştirme eşitlileri, x χ x = F( χ, u v, χ ), L ( m) x xˆ = Wi χi, 1, i= 0 P = H ( χ, χ ), x n 1 1 yˆ Ölçüm güncelleştirmeleri eşitlileri, P 2L ( m) = Wi У i, 1, i= 0 2L ( c) y% ( y% = Wi У, 1 i= 0 2L ( c) ˆ x y = i χi, 1 i= 0 κ 1 = Px, y P y% y% i yˆ )( У i, 1 yˆ ), P W ( x )( У i, 1 yˆ ), xˆ = xˆ + κ ( y yˆ ), P = P κ P κ, y% y% Burada, a a x v n x = [ x v n ], χ = [( χ ) ( χ ) ( χ ) ], γ = L+ λ, λ ; birleşi ölçüm parametresi, L; durumun boyutu,r v; süreç gürültü ovaryansı, R n ;ölçüm gürültü ovaryansı, W i; sigma notalarınının hesaplanan ağırlığı. 49

64 2.7 İyileştirme Varyasyonları Süreç gürültüsünün ve ölçüm gürültüsünün dire olara elenebilir olduğu durumlarda, UKF nin hesaplanma omplesliği azaltılır. Bu aşamada sistem durumu gürültülü rasgele değişenlerle iyileştirmeye ihtiyaç duymaz. Bu da toplam ullanılan sigma notalarının ullanımında bu notaların boyutunu azaltır. Gürültü aynağının ovaryansı o zaman bir basit elenen yöntem ullanılara durum ovaryansının içine iliştirilir. Numeri amaçlar için değişenlerin sayısı belli olabilir. Örneğin matrisin areöü bir çolesi fatör ullanılara iyileştirilebilir. Genelde L 3 /6 dereceli olara alınır. Bununla birlite ovaryans matrisi terarlı bir şeilde tanımlanır ve areö sadece MxL 2 (M çıtı y nın boyutu) de bir terarlı güncelleştirme performansı tarafından çolesi fatörüyle hesaplanır. 2.8 Unscented Kalman Filtresi Parametre Hesaplanması Parametre hesabı, yine durumda olduğu gibi lineer olmayan dönüşümlü gözlem denlemi ullanılara yapılır. y = G( x, w) burada w bilinmeyen parametreleri oluşturur. G(.) beli sinirsel bir şebee ya da diğer oluşturulan fonsiyonlar için ullanılabilir. EKF de parametre hesabı için yeni bir durum uzay modeli eşitli 2.40 dai gibi yazılır (Wan and Nelson 2004), w w r = + + 1, d = G( x, w ) + e, (2.33) w ; durum geçiş matrisiyle ilgili olara sabit bir süreci gösterir. r ; süreç gürültüsüdür. İstenilen çıtı d ; lineer olmayan ortamda gözlemlenen w ya bağlı çıtıdır. Lineer aşamada KF ve RLS arasındai ilişi ( Morgan and Craig 1976 ) te verilmiştir. Optimizasyon açısından baıldığında tahmin hata maliyeti minimize edilirse, 50

65 e 1 ( ) = [ t ( t )] ( ) [ t ( t, )]. t= 1 J w d G x w R d G x w (2.34) elde edilir (Wan and Nelson 2004). Öncei bölümlerde bahsedildiği gibi gürültü ovaryansı R e sabit diagonal tutulursa eşitliten iptal edilebilir ( örn. R e =.5I ). Alternatif olara aşağıdai seçeneler uygun sonuçlar için uygulanabilir. İnnovasyon ovaryansı E[ r r ] = R diğer taraftan ovaryans oranını ve izleme performansını etiler. Daha büyü ovaryans daha hızlı esi verilerin silinmesini sağlar. r R seçimi ile ilgili olara biraç alternatif sunulmuştur (Wan and Nelson 2004). UKF parametre hesaplama eşitlileri çizelge 2.5 te verilmetedir (Wan and Nelson 2004). 51

66 Çizelge 2.5 Unscented Kalman filtre parametre hesabı Eşitli 2.33 dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, wˆ = E[ w], 0 P = E[( w wˆ )( w wˆ ) ]. w0 0 0 {1,..., } değerleri için sigma nota hesabı ve zaman güncellemeleri, wˆ = wˆ, 1 P = P + R r w w1 1 1 w w 1 1, ω = [ wˆ wˆ + γ P wˆ γ P ], D = G( x, ω ), 1 : 2L ˆ ( m) = i i, 1, i= 0 opsiyon d W D ˆ opsiyon2 : d (, ˆ = G x w ). Ölçüm güncellemeleri, 2L P = W ( D dˆ )( D dˆ ) + R, d% d % i= 0 ( c) e i i, 1 i, 1 2L ( c) ˆ ˆ w d = i ωi, 1 i, 1 i= 0 P W ( w )( D d ), κ = P P 1 w d d% d% wˆ = wˆ + κ ( d dˆ ), P = P κ P, κ, w w d% d % Burada γ = L+ λ, λ ; birleşi sale fatoru, L; durumun boyutu, R r ;süreç gürültü ovaryansı, R e ;ölçüm gürültüsü ovaryansı ve W i ;sigma notalarının ağırlığıdır. Durum uzay modelinde parametre ovaryansı P w sıfıra yalaşırsa parametre filtresinde ırasama olur ( Kalman filtresi, azancı sıfıra zorladığından ). Bu notada çıtı her bir opsiyon için 1 olur. Bununla birlite, fonsiyonun çıtısında sonlu sayıda ovaryans ortalamasının oluşmasını sağlar. Bu diğer taraftan hatanın minimuma gitmesinden parametreleri engeller. Bu yüzden bu metod loal minimumdan açınır, ısa ve gürültülü datalarda düzen oluşumunu sağlar. 52

67 2.9 Unscented İili Hesaplama Eşitliler, EKF de olduğu gibi ii UKF filtresinden oluşmata ve hesaplama filtrelerin birbirine paralel çalışara devam etmesinden oluşmatadır. Çizelge 2.6 dai gibidir (Wan and Nelson 2004). Çizelge 2.6 İili unscented Kalman filtresi 2.1 dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, xˆ = E[ x ], wˆ = E[ w], P = E[( x xˆ )( x xˆ ) ], P = E[( w wˆ )( w wˆ ) ] w0 0 0 xˆ = E[ x ] = [ xˆ 0 0], a a 0 0 P0 0 0 a a a a a v P ˆ ˆ 0 = E[( x0 x0 )( x0 x0 ) ] = 0 R 0. n 0 0 R {1,..., } değerleri için sigma nota hesabı ve zaman güncellemeleri, Parametre için, wˆ = wˆ, 1 P = P + R r w w1 1 1 w w 1 1, ω = [ wˆ wˆ + γ P wˆ γ P ], D = G( x, ω ), 1 : 2L ˆ ( m) = i i, 1, i= 0 opsiyon d W D ˆ opsiyon2 : d = G( x, wˆ ). 53

68 Çizelge 2.6 İili unscented Kalman filtresi devamı Durum için, χ = [ xˆ xˆ + γ P xˆ γ P ]. a a a a a a Zaman güncelleştirme eşitlileri, x χ x = F( χ, u v, χ ), Ölçüm güncelleştirmeleri eşitlileri, Durum için, Parametre için, P L ( m) x xˆ = Wi χi, 1, i= 0 P = H ( χ, χ ), x n 1 1 yˆ 2L ( m) = Wi У i, 1, i= 0 2L ( c) y% ( y% = Wi У, 1 i= 0 2L ( c) ˆ x y = i χi, 1 i= 0 κ 1 = Px, y P y% y% i yˆ )( У i, 1 yˆ ), P W ( x )( У i, 1 yˆ ), 2L i= 0 xˆ = xˆ + κ ( y yˆ ), P = P κ P κ, y% y% P = W ( D dˆ )( D dˆ ) + R, d% d % ( c) e i i, 1 i, 1 2L ( c) ˆ ˆ w d = i ωi, 1 i, 1 i= 0 P W ( w )( D d ), κ = P P 1 w d d% d% wˆ = wˆ + κ ( d dˆ ), P = P κ P, κ, w w d% d % 54

69 2.10 Least Mean Square ( LMS ) ve Geliştirilmiş Modelleri Least Mean Square (LMS) metodu, eşitlilerindei yazım pratiliği, çalışmalardai olaylığı ve estirim doğruluğunun yüseliği sayesinde popüler sayılaca adar verimli bir metoddur. Bu metod adından da anlaşılacağı gibi hata aresinin belenen değerinin minimize etmeyi önerir ve bunu dener. Metod parametre ve durum vetörü için bazı eyfi başlangıç değerlerinden başlar ve iterasyon numaralarının artmasıyla devam eder. Ne adar fazla iterasyon yapılırsa, filtre iyileştirmede o adar başarılı olma olasılığına sahiptir. LMS metodu ile hem sinyallerde parametre tahmininde, hem de durumun iyileştirmesinde ullanılır. LMS te parametre vetörü, ortalama en son değer olara hesaplanır. Parametre ve durum vetörünün güncellenmesi ve tahmin hatasının hesaplanması için gereli olan eşitliler aşağıdailer gibidir (Larsen 2003). = 2P+ 2 Rw( ) (2.35) Verilmiş olan gradyant ifadesi açılım olara, =,,..., ω0 ω1 ωm 1 (2.36) şelinde gösterilir. Bu gradyant eşitliğine bağlı olara hatalar aresi belirlenirse 1 w( p+ 1) = w( p ) µ P (2.37) 2 55

70 elde edilir (Larsen 2003) eşitliği parametre ( p nci iterasyondai ) hesabında ullanılır ve 37 eşitlilerinden yararlanılara LMS metodu yazılırsa, ˆ( ) ( ) R = ϕ ϕ ( ) (2.38) 2.38 eşitliğindei φ() modeldei dereceye göre oluşturulan vetördür. Yani sinyal verilerinin tahmin edilen değerlerinin durum uzay modelinde hesaplanma esnasındai F ( transition matrix ) matrisi ile çarpılan vetörüdür. P ˆ( ) = ϕ( ) y( ) (2.39) 2.39 eşitliği gradyant eşitliğine yerleştirilirse, = 2P+ 2 Rw( ) = 2 ϕ( ) y( ) + 2 ϕ( ) ϕ ( ) w( ) (2.40) sonucu elde edilir (Larsen 2003, orun 2005). Bu eşitli parametre vetöründe yerine onulursa, wˆ ( ) = wˆ ( 1) + µϕ( )( y( ) ϕ ( ) wˆ ( )) = wˆ( 1) + µϕ( ) e( ) (2.41) sonucu bulunur ve LMS eşitliği olara bilinir. Daha önce de belirtildiği gibi µ parametresi durağanlığı ve yaınsa oranını düzenleyen bir sabittir eşitliğine göre LMS metodunun uygulanması olduça olaydır. Çünü are, ortalama veya türev 56

71 almayı içermez. Filtre eşitlileri çizelge 2.7 dei gibi gösterilir (Larsen 2003, orun 2005). Çizelge 2.7 LMS filtresi Başlangıç değerlerinin seçilmesi, Filtre çıtısının hesaplanması, yˆ( ) = ϕ ( ) w( 1), Belenen hatanın hesaplanması; e( ) = y( ) yˆ ( ), Parametre vetörünün güncellenmesi; wˆ ( ) = wˆ ( 1) + µϕ( ) e( ), = 1,2,..., N Klasi olara LMS filtre eşitlileri çizelge 2.8 dei gibi tanımlanır. Bu eşitlilere bağlı olara deneysel hesaplamalarda daha da iyi sonuçlar veren ( yani filtre ırasaması ve ısıtlı optimizasyon problemlerinde (orun 2005) hesaplama esnasındai adaptasyonun hızlılığı ve doğruluğu ) ilerletilmiş metodları ullanılmıştır Normalleştirilmiş en üçü ortalamalar aresi (N-LMS) yalaşımı N-LMS eşitlileri, LMS eşitlilerine oranla biraz daha armaşı sayılabilir. Burada ullanılan step-boyutu µ sinyalin boyutuna bağlı olara gerçe sistemlerde uygulanır. LMS eşitlilerini oluşturma olay olmala birlite giriş sinyalinin özdeğer değişimi hızlı olduğunda ötü bir yaınsama oluşmatadır. Bu metodun normalize edilmiş LMS ten armaşılığı göze çarpmatadır. N-LMS metodundai adım büyülüğü giriş gücü ile normalize edildiğinden dolayı yaınsamanın giriş sinyaline olan bağımlılığı ortadan alar. N-LMS metodu, ısıtlı optimizasyon problemi çözümü olara düşünülebilir. φ() girdi vetörü ve istenen cevap y() verildiğinde ŵ () değerine bağlı olara 57

72 ŵ (+1) parametre vetöründei değişiminin aresel ölid normunu minimize etme için parametre vetörü ŵ (+1), δ ŵ (+1)= ŵ (+1)- ŵ () (2.42) eşitliği ile hesaplanır (Larsen 2003). Buradai sınırlamaya bağlı olara, ŵ (+1)φ()=y() (2.43) ısıtlı optimizasyon probleminin çözümü için, lagrange çarpanları metodu ullanılabilir. ŵ (+1) parametre vetöründei δ ŵ (+1), değişim aresel normu ile birlite yuarıdai formülde bazı değişililer yapılara aşağıdai N-LMS eşitlileri elde edilir, µ wˆ ( + 1) = wˆ ( + 1) + ( ) e( ) 2 ϕ (2.44) ϕ yazılır (Larsen 2003). φ(-1) girdi vetörünün üçü olmasından dolayı aynalanan sorunu çözme için a sabiti ullanır. Böylece eşitli, µ wˆ ( + 1) = wˆ ( + 1) + ϕ( ) e( ) (2.45) 2 a + ϕ şelinde yeniden yazılır. Buradai sabitler a>0 ve 0<µ<2 dir. N-LMS metodu eşitlileri çizelge 2.8 de gösterilmetedir (Larsen 2003, orun 2005) 58

73 Çizelge 2.8 N_LMS filtresi Başlangıç değerlerinin seçilmesi, Filtre çıtısının hesaplanması; yˆ ˆ = ϕ w 1, Belenen hatanın hesaplanması; e ˆ = y y Parametre vetörünün güncellenmesi; Kullanılaca olan a ve µ değerlerinin sinyale göre belirlenmesi, µ wˆ ( + 1) = wˆ ( + 1) + ϕ( ) e( ) 2 a + ϕ Leay en üçü ortalamalar aresi (L-LMS) yalaşımı Diğer bir yalaşım ise Leay-LMS metodudur. Bu metod, unutma fatörü v olara bilinen bir yalaşımı göstermetedir. Bu unutma fatörü sayesinde filtre Standart LMS ve N-LMS algoritmalarına oranla deneysel olara yapılan çalışmalarda daha uygun sonuçlar verdiği gözlenmiştir. Seçilen bu unutma fatörü v 0 ve 1 değerleri arasında pozitif bir değer olara ullanılır. Genelde deneysel çalışmalarda 1 e yaın bir değer olara ( 0.99 gibi ) alınır (Zheng 1976, Morgan and Craig 1999). Faat bu unutma fatörü uzun dönem geçerli olan filtre atsayıları için geçerlidir. Eğer, sistem dinamileri süreli değişiyorsa, unutma fatörü sistemde uyumsuzlu yaratabilir. Dolayısı ile ullanılaca sistemin dinamileri iyi bilinmelidir. Metod eşitlileri çizelge 2.9 da verilmetedir (Larsen 2003). 59

74 Çizelge 2.9 Leay_LMS filtresi Başlangıç değerlerinin seçilmesi, Filtre çıtısının hesaplanması, yˆ ˆ = ϕ w 1, Belenen hatanın hesaplanması, e = y yˆ Parametre vetörünün güncellenmesi, Kullanılaca olan a ve µ değerlerinin sinyale göre belirlenmesi. wˆ ( + 1) = vwˆ ( + 1) + ϕ( ) e( ) leay-normalleştirilmiş en üçü ortalamalar aresi (L-N-LMS) yalaşımı Diğer bir yalaşım da yuarıdai bahsedilen metodların iisinin birlite ullanıldığı Leay-Normalized-LMS metodudur. Bu ii metod birleştiriliren her hangi bir bağlantı olmadığından pratite bir problem çımamatadır. üretilmiş metod çizelge 2.10 da verilmetedir (Larsen 2003). 60

75 Çizelge 2.10 Leay_Normalized_LMS filtresi eşitlileri Başlangıç değerlerinin seçilmesi, Filtre çıtısının hesaplanması, yˆ = wˆ, ϕ 1 Belenen hatanın hesaplanması, e = y yˆ Parametre vetörünün güncellenmesi, Kullanılaca olan a, v ve µ değerlerinin sinyale göre belirlenmesi, µ wˆ ( + 1) = vwˆ ( + 1) + ϕ( ) e( ) 2 a + ϕ 61

76 2.11 Sonuç Çalışmanın bu bölümünde gürültülü sinyallerin iyileştirilmesi esnasında ullanılan filtreleme yöntemleri ve filtrelerden bahsedilmiştir. Lineer olmayan sinyallerin iyileştirilmesiyle ilgili olara Kalman tabanlı filtrelerden teli, birleşi ve iili Kalman filtrelerinden ve bu filtrelerin algoritmalarına değinilmiştir. Daha öncei çalışmalar ve teori bilgilerin ışığında lineer olmayan sinyallerin iyileştirilmesinde iili filtreleme yöntemi diğer yöntemlerden daha uygun tahmin sonuçları sağlayabilmetedir. Çünü bu filtreleme yönteminde hem durum iyileştirilmesi hem de parametre iyileştirilmesi yapılmatadır. Birleşi filtreler de teli filtrelerden daha uygun tahmin sonuçları vermetedir. Yine burada da hem durum hem de parametreler iyileştirilebilmetedir. Lineer sinyallerde birleşi filtreleme yöntemi geçiş matrisinde bi-lineer bir çözüm ürettiğinden pe tercih edilmemetedir. Buradai bi-lineer durum gürültülü sinyalin tahmin doğruluğunu düşürmetedir. eli filtreler lineer sinyallerde tahmin doğruluğu yüse olsa da iili filtrelerin (DKF) aynı zamanda parametre iyileştirmesinden tahmin doğruluğu iili filtreleri yaalayamamatadır. Kalman tabanlı filtrelerin yanı sıra LMS filtresi ve geliştirilmiş metodlarından da bahsedilmiştir. Bu filtreler daha öncei çalışmalara dayanılara lineer ses sinyallerinin iyileştirilmesinde geliştirilmiş metodlarıyla yeterli düzeyde tahmin sonuçları verdiği saptanmıştır. 62

77 3. RENKLİ GÜRÜLÜLÜ SİNYALLER Günümüzde iletilen sinyaller bazı durumlarda renli gürültülere maruz alabilmetedir. Bu gürültüler bazen bir heliopter sesi, araba veya bir insan sesi olabilmetedir. Gürültü renli olduğunda sinyallerde iyileştirme beyaz gürültülü durumdan daha zor olmatadır. Çünü sinyalin parametreleri ve utupları daha fazla bozulmatadır. Dolayısı ile iyileştirme için farlı yöntemler ullanılmatadır. Renli gürültülü sinyallerin iyileştirilmesinde filtrelerin tahmin doğruluğunu artırma için durum-uzay modelinde bazı değişililer yapılmıştır (Gibson 1991, Wan and Nelson 2004). Böylece ses sinyali ve gürültü sinyalinin parametreleri birbirinden ayrılmış, sinyal parametreleri geçiş matrisinde olaylıla tahmin edilebilmiş, durumu da daha iyi estirilebilmiştir. 3.1 Renli Gürültü Gürültü rasgele bir sinyal olmasına rağmen arateristileri istatistii özellilere sahiptir. Bu özelli güç spetrum yoğunluğuyla belirlenebilir. Güç spetrum yoğunluğundai bu sınıflandırma renli gürültünün tanımını vermetedir. Renli gürültü, ii farlı uzayda verilerin birbiriyle iletişimli olmasıyla oluşmatadır. Bu gürültülerde güç spetrum yoğunluğu (Power Spetral Density) beyaz gürültülerden farlıdır. Hangi özellite gürültü ise yoğunlu grafiğinde o freans değerlerinde tepeler oluşur. Beyaz gürültü, bütün freans değerlerini apsadığı için güç spetrum yoğunluğu bütün freanslarda tepe oluşturur; her freansta eşit yüseliğe sahip olur, böylece düz bir yoğunlu grafiği oluşur. Şeil 3.1 de beyaz gürültünün güç yoğunlu grafiği gösterilmiştir. 63

78 Şeil 3.1 Beyaz Gürültü Güç Spetrum Yoğunluğu Şeil 3.1, 8000 Hz freans ullanılara elde edilmiştir. Freans aralığı genişletildiçe şeildei mavi çııntılar yoğunlaşmata ve daha düz bir hal almatadır. Renli gürültülerde ise yoğunlu grafiği biraz daha farlıdır. Beyaz gürültüdei gibi düz değildir. Üretilen veya var olan gürültünün freansının var olduğu bölgelerde tepeler oluşmatadır. Renli gürültüler ço farlı özellilere sahip olmatadırlar. Dolayısı ile güç spetrum yoğunluları da farlı olmatadır. Mavi bir gürültünün yoğunluğu pembe bir gürültünün yoğunluğundan farlıdır. Freans aralığı bazen rengine göre bazen de gürültünün yapısına göre değişmetedir. Bir araba ornası, uça sesi, insan sesi veya bir hayvan sesi farlı yoğunlu grafilerine sahip olmata ve grafite birden fazla tepelerden 64

79 oluşabilmetedir. Şeil 3.2 de üçüncü mertebeden üretilmiş bir renli gürültü gösterilmiştir. Şeil 3.2 Üçüncü Mertebeden Renli Gürültünün Güç Spetrum Yoğunluğu Renli gürültülü sinyallerin iyileştirilmesinde (Gibson 1991) ve (Gordon 1993) durumuzay modeline renli gürültü durumunu da eleyere iyileştirmelerde standart Kalman filtresini ullanmışlardır. Sonuçlarında var olan ses sinyalinden renli gürültüyü ayırara uygun sonuç elde edebilmişlerdir. Bu çalışmada öncei çalışmalardan farlı olara bir başa insan sesi renli gürültü olara abul edilmiştir. Yani ii insanın aynı anda onuştuğu düşünülere birinci sinyal tahmin edilmeye çalışılmıştır. Durum-uzay modeli yine (Gibson 1991) ve (Wan and Nelson 2004) dei model ullanılara hesaplama yapılmıştır. Sinyal tahmini için iili, birleşi ve teli Kalman filtreleri ullanılmıştır. 65

80 3.2 Kalman Filtrelerinde Renli Gürültülü Sinyallerin Modellenmesi Kalman filtre eşitlileri, gürültü renli olduğunda değişmetedir. Durum-geçiş matrisine gürültünün durumunun da elenmesi gereir (Gibson 1991, Wan and Nelson 2004). Böylece tahmin esnasında sinyalin durumu hesaplanıren hem de gürültünün durumu da hesaplanabilmetedir. Durum-uzay modelinde sinyal lineer olmayabilir, faat gürültü her zaman lineer AR (p) zaman süreciyle modellenir. Durum-uzay modelinden renli gürültü, sinyalle birlite tahmin edilebilir. Renli gürültülü durumlarda yüse iterasyon, Kalman filtresinin tahmin doğruluğunu artırmatadır (Gibson 1991). Kalman filtrelerinde durum-uzay modelleri lineer durumlar için 3.7 ve 8 de, lineer olmayan durumlar için 3.12 ve 13 te gösterilmetedir. Maximum A Posteriori (MAP) hesaplanmasında, ( xˆ, nˆ ) = arg maxρ (3.1) x, n x n y 1 w olara tanımlanır ve birleşi olasılı eşitli 3.2 gibi genişletilebilir (Wan and Nelson 2004), ρ x n y1 w ρ 1. ρ 1. ρ 1 y y1 xn w xn y1 w y1 w = (3.2) ρ y1 w y = x + n eşitliğine bağlı olara, ρ 1 dirac_delta fonsiyonu olara tanımlanır. y y1 xn w ρ ve 1 y1 w ρ ( Yoğunlular ) fonsiyonel olara y1 w x ve n den bağımsızdır. 66

81 Masimizasyon ρ ve ρ yle bağlantılı olduğundan y 1 = x + n birbirine x n y1 w x n y1 w eşittir. Bununla birlite ρ 1, 3.3 tei gibi yazılabilir (Wan and Nelson 2004), x n y1 w ρ = ρ. ρ (3.3) x n y1 w x y1 w n y1 w 3.1,2 ve 3 tei varsayımlar altında sinyal ve gürültü, istatistisel olara bağımsız abul edilir. Eğer v ve v n,, sıfır ortalamalı gausiyan ve beyaz gürültülü ise; ρ 1 x n y1 w ρ ( x xˆ ) 1 ( n nˆ ) = 2π x0 exp. exp 2 p p 2 p π pn, n, (3.4) olara yazılır (Wan 1993). Burada 1 nˆ E[ n { yt} 1, w] = ve p = E[( n nˆ ) { y }, w] dir. Bu eşitlilerin negatif logaritmaları alınırsa, ilgili 2 1 n, t 1 maliyet fonsiyonu 3.5 tei gibi olur, 2 2 ( x ˆ ) ( ˆ x n n ) J ( x, n ) = + (3.5) p p n, Beyaz gürültülü aşamada, x ˆ ve n ˆ nin istenilen MAP ları üretilir. Birincil olara geçmiş hesaplama istatistileri x ˆ ve 2004). p ; nˆ ve p n, den hesaplanır (Wan and Nelson 67

82 3.2.1 Renli gürültülü aşamada lineer model Renli aşamadai AR (p ) lineer far denlemi 3.6 dai gibi gösterilir, M x = w x + v (3.6) i i i= 1 y = x + n Ölçüm gürültüsü, benzer şeilde AR(p) zaman serisine bağlı olara modellenir. Vetörler, x 1 [ 1,..., ] = x xm ve n 1 [ 1,..., ] = n nm dır. Öncei ortalama ve varyans, eşitli 3.7 dei gibi hesaplanır (Wan and Nelson 2004), xˆ nˆ = w xˆ = w nˆ 1 n 1 p = w P 1w p = w P w n, n n, 1 n (3.7) Hesaplanan x ˆ (sinyal durumu) ve P (ovaryansı) nin yanında bu modelde n ˆ ( gürültü durumu) ve P n, ( ovaryansı) de hesaplanır. Bu eşitliler doğrultusunda durum- uzay modeli terar oluşturulur Renli gürültülü durum-uzay modeli y = x + n eşitliği, bazı özel durumlar içerir. Hesabın toplamında x ˆ ve n ˆ, oluşturmatadır ve varyansta aynı şeilde hesaplanmatadır. Durum uzay modeli, y yi ξ = A. + B. v cξ 1 c c, x A 0 x 1 0 v B.. n = 0 A n n B v n n, (3.8) 68

83 y = C. ξ c x y = [ C Cn]. n (3.9) gibi tanımlanmatadır. Burada, A n w w L w O 0 M (1) (2) ( M n ) n n n, Cn = Bn = [ ] (3.10) olara tanımlanır (Wan and Nelson 2004). Eti eden ölçüm gürültüsü ve süreç gürültüsü, sıfır ortalamalı beyaz gürültüdür ve ovaryansı, V c 2 σ 0 v = 2 dır. (3.11) 0 σ vn Renli gürültü için Kalman filtresi eşitliği, çizelge 3.1 dei gibidir (Wan and Nelson 2004). Bu aşamada ölçüm gürültüsü sıfır etili seçildiğinde, sistemin durağanlığında problem oluşmatadır. Dolayısı ile ço üçü pozitif bir değer seçilir. Bu durum renli filtre eşitlilerinde gösterilmiştir. 69

84 Çizelge 3.1 Standart Kalman renli gürültü eşitlileri Durum Uzay Modeline bağlı olara, x A 0 x 1 0 v B.. n = 0 A n n B v n n, x y = [ C Cn]. n Başlangıç değerleriyle başla, ˆ ξ0 = E[ ξ0] ˆ ˆ P0 = E[( ξ0ξ0)( ξ0ξ0) ] {1,..., } değerleri için alman filtre zaman güncelleştirmeleri, Ve ölçüm güncelleştirmeleri, ˆ ξ = A ˆ ξ c 1 P = A P A + B V B c 1 c c c c K = P C ( C P C + 0) 1 c c c ˆ ˆ ξ ξ K ( y C ˆ = + ξ ) c P = ( I K C ) P c Kalman filtrelerinde lineer olmayan durum-uzay modeli Beyaz gürültülü aşamadai gibi, model lineer değilse, sinyalin istatistiği pe uzun süre gausiyan almamatadır. Burada yeni bir çözüm gerelidir. EKF bunun için yeni bir yalaşım ullanır. Renli gürültü için durum-uzay modeli 3.12 ve 3.13 dei gibidir (Wan and Nelson 2004), 70

85 ξ = F (, w, w ) + B. v c ξ 1 n c c, x F( x 1, w) B 0. n = An. n B v n n, v (3.12) y = C. ξ c x y = [ C Cn] n (3.13) Genişletilmiş Kalman filtresinde gürültünün lineer olmayan AR(p) serisinden üretildiği abul edilir. Sinyal algoritmaları için benzer yalaşım, beyaz gürültüde olduğu gibi burada da uygulanır. A F( x, w) x= xˆ (3.14) w Durum geçiş matrisi birleştirilirse, A c, A 0 0 A (3.15) n değerini alır (Wan and Nelson 2004). Zaman güncelleştirmeleri dışında eşitliler aynıdır. Zaman güncelleştirmeleri terar türetilere çizelge 3.2 dei gibi verilmetedir (Wan and Nelson 2004). Çizelge 3.2 Genişletilmiş Kalman lineer olmayan eşitliği 3.12 ve 3.13 dei durum uzay modeline bağlı olara, ˆ ξ = F ( ˆ ξ, w, w ) c 1 n P = A P A + B V B c, 1 1 c, 1 c c c 71

86 3.3 İili Genişletilmiş Kalman Filtresi Renli Gürültülü Eşitlileri İili genişletilmiş Kalman filtresinin renli gürültü AR (p) modeli 3.16 dai gibi verilmetedir, M n ( i) = n i+ n, i= 1 n a n v, (3.16) Burada ( i ) a n bilinmeyen parametreleri, v n, da 2 σ v n varyansına sahip beyaz gausiyan bir süreci gösterir. Ürün y = x + n, x ˆ ve n ˆ nin toplamından y ii sinyalin durumuzay modeli gibi değiştirilir (Wan and Nelson 2004). ξ = F (, w, w ) + B v, (3.17) c ξ 1 n c c, x F( x 1, ) 0 v w B, n = An. n B v n n, (3.18) y = Cξ, (3.19) c Burada, x = [ ], y C Cn n (3.20) A n a a K a O 0 M (1) 2 ( M n ) n n n, C n [ ] = B = 1 0 K 0. (3.21) n olara gösterilir (Wan and Nelson 2004). Etili ölçüm gürültüsü sıfırdır ve süreç gürültüsü v c, beyaz ve ovaryansı, 72

87 V c 2 σ 0 v = 2. 0 σ vn (3.22) matrisini oluşturur (Wan and Nelson 2004). n ˆ, iinci sinyal gibi göründüğünden, eşit zamanlı olara x ile birlite hesaplanır. Buradan da ρ N N x1 w y1 nın yerine ρ N N N x1 n1 w y1 masimize edilirse; ρ N N N x1 n1 w y1 ρ N N N ρ y1 x1 n1 w w = (3.23) ρ N y1 olur, ( w haındai öncei bilginin yoluğundan ) ρ olara masimize edilir. N N N x1 n1 w y1 Maliyet fonsiyonları, bu yalaşımdan yola çıılara bir birleşi ya da marjinal maliyet gibi atagorize edilir ve türevleri beyaz gürültülü aşama gibi olur. Renli gürültü için iili genişletilmiş Kalman filtre (DEKF) eşitlileri çizelge 3.3 te verilmetedir (Wan and Nelson 2004). 3.4 Birleşi ( Joint ) Hesaplama Formu İlgili ağırlı maliyet fonsiyonu ve hata terimi, çözülmüş yalaşım için çizelge 3.4 te verilmiştir (Wan and Nelson 2004). 73

88 Çizelge 3.3 İili Renli gürültülü genişletilmiş Kalman filtresi 3.12 ve 3.13 dei durum-uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, {1,..., } wˆ = E[ w], P = E[( w wˆ )( w wˆ ) ], 0 ˆ ξ = E[ ξ ], P 0 0 w0 0 0 [( ˆ )( ˆ = E ξ ξ ξ ξ ) ], ξ , değerleri için zaman güncelleştirme eşitlileri parametre filtresi için Sinyal filtresi için, wˆ = wˆ 1 P = P + R r w w1 1 ˆ ξ = F( ˆ ξ, wˆ ), 1 P = A P A + B R B Ölçüm güncelleme eşitlileri sinyal filtresi için, ξ v 1 ξ 1 1 c c c K = P C ( C P C ), ξ 1 ξ c c ξ c ˆ ˆ ξ ξ K ξ ( y C ˆ = + ξ ), c ξ P = ( I K C) P, ξ ξ Parametre filtresi için ölçüm güncelleştirme eşitlileri, K = P ( C ) [ C P ( C ) + R ], w w w w e 1 w w w wˆ ˆ = w + K e, w w P = ( I K C ) P, w w Burada, A 1 F( ξ, wˆ, an) ˆ ˆ, e ˆ ξ y Cξ w e ξ = c, C = Cc 1 w= wˆ ξ w w w e ve C nın tanımları ağırlı hesabı için ullanılan maliyet fonsiyonuna bağlıdır. 3.5 Marjinal Hesaplama Masimum Olasılı Maliyeti İlgili parametre maliyet fonsiyonu ve hata terimleri, çizelge 3.4 ve 3.5 te gösterilmetedir (Wan and Nelson 2004). Burada, 74

89 ε y ( xˆ + nˆ ), 2 ε, ε, = 2 2 3ε 2σε, l σ dir. (3.24) Çizelge 3.4 Birleşi maliyet fonsiyonu renli gürültü, DEKF parametre filtresi için gözlem hata terimleri ( xˆ xˆ ) ( nˆ nˆ ) 2 2 t t t t ˆ t= 1 σ v σ vn J ( xˆ, n, w), ya da J xˆ nˆ = % + % t= 1 σ v σ vn, e 1 σ ˆ v x%, 2 σ ˆ v n% n C w 1 σ ˆ v wx% = 1 σ ˆ v n wn % Çizelge3.5 Masimum olasılı maliyet fonsiyonu, DEKF parametre filtresi için gözlem hata terimleri e N 2 ml 2 ( y ˆ ˆ x n ) Jc ( w) = log(2 πσε ) + 2, = 1 σε 1/ 2 1 ( l, ) ε 2 1/ 2 2 w( σε ) ( lε, ) 2 σ w ε 1 σε ε, C = 1 ε 2 wε + ( ) 2 3/ 2 w σ ε 2 2( σε ) Marjinal hesaplama formu tahmin hata maliyeti Eğer 2 σ ε, w dan bağımsız abul edilirse, tahmin hata maliyeti çizelge 3.6 dai gibi olur (Wan and Nelson 2004). 75

90 Çizelge 3.6 Renli Gürültü tahmin hata maliyet fonsiyonu, DEKF parametre filtresi için gözlem hata maliyeti N N pe 2 2 ( ) ( ˆ ˆ c = ε = ) = 1 = 1 e ˆ ˆ y n x w, C ˆ = wx, J w y x n 3.5 Birleşi Kalman Filtresi Renli Gürültülü Aşama Eğer gürültü renli ise, model için birleşi maliyet fonsiyonu, ( x x ) ( n n ) (3.25) N 2 2 N N 1 1 = + 2 = 1 σ v σ 2v n J ( x, n, w) olara tanımlanır (Wan and Nelson 2004). { y } N 1 { } N 1 { } N = x + n 1 yapısı minimize edildiğinde, sinyal, gürültü ve parametre eldei verilerden, olasılığa bağlı olara hesaplanabilir. Bununla birlite sıralı hesaplama aış hesabı için xˆ dai gibi bulunur (Wan and Nelson 2004),, n ˆ ve w ˆ 3.26 ( xˆ, nˆ, wˆ ) = arg max ρ (3.26) x,,,, n x n w y w 1 Bu hesaplama, maliyet fonsiyonuna bağlı olara ( J x1, n1, w ) ; verilerin zamanına adar en uygundur. Beyaz gürültülü aşamada durum-uzay modeli, sıralı eşitlilerinin gelişimine olana sağlar. Bu zamandai birleşi durum vetörü, 76

91 ζ x ξ (3.27) n = w w olara tanımlanır (Wan and Nelson 2004). Yoğunlu ρ, ζ değerine bağlı olara 1 ζ y masimize edilir ve istenilen xˆ, ˆ n ve w ˆ değerleri elde edilir. Böylece maliyet fonsiyonunu ( J x1, n1, w ) minimize eder Birleşi lineer model Lineer model eşitliği yine iinci bölümde tanımlanmış olan lineer durum-uzay modeline bağlı olara tanımlanır. Ölçüm gürültülerinin AR(p) serisinden modellendiği abul edilir. ζ nin hesabı, genişletilmiş Kalman filtresi ile birlite birleşi hesaplama için durum uzay modeli 3.28 dei gibi tanımlanır (Wan and Nelson 2004), ζ = F ( ζ ) + B( v, v, u ) c 1 n, ξ Ac, 1 0 Bc. vc, w = + 0 I u (3.28) y = = C. ζ [ ] y C C n ξ w (3.29) 77

92 A 0 Öncei tanımlandığı gibi, Ac, 0 A dır (Wan and Nelson 2004). Beyaz n gürültülü aşamaya bağlı olara A 1. x 1 çarpımı bi-lineer bir fonsiyon üretir. Bundan dolayı durum eşitliği lineer değildir ve EKF uygulanır Birleşi genişletilmiş Kalman filtresi renli gürültülü aşama Birleşi durum ζ ile ilgili olara F ( ζ ) EKF dei lineerizasyonla, ullanılan tanım 3.30 dai gibi olur, c A c, xˆ Fc ( ζ ) Ac, ζ= ζ = 0 0 ζ (3.30) 0 I Birleşi gürültü ovaryansı, 2 Bσ v B 0 0 Bcvc, 2 Vc, Cov 0 Bnσ v 0 n u = (3.31) 0 0 U olara verilir (Wan and Nelson 2004). Renli gürültü için birleşi genişletilmiş alman filtresi (JEKF) eşitlileri çizelge 3.7 de verilmetedir (Wan and Nelson 2004). 78

93 Çizelge 3.7 Birleşi genişletilmiş Kalman filtre eşitlileri 3.27 ve 3.28 dei durum uzay modeline bağlı olara başlangıç değerleriyle başlanırsa, ˆ ζ = E[ ζ ] 0 0 ˆ ˆ P0 = E[( ζ 0ζ 0)( ζ 0ζ 0) ] {1,..., } değerleri için alman filtre zaman güncelleştirme eşitlileri ˆ ζ = F ( ˆ ζ ) c 1 P = A P A + V Ölçüm güncelleştirme eşitlileri, c, 1 1 c, 1 c, K = P C ( C P C + 0) 1 c c c ˆ ˆ ζ ζ K ( y C ˆ = + ζ ) c P = ( I K C ) P c Lineer olmayan modelin renli gürültü aşaması Zaman serileri, lineer olmayan AR (p) modeline bağlı olara üretilirse, sadece bu bölümde değişili Fc ( ζ 1) için terar tanımlanır. F ( ζ ) c 1 F ( x, w ) I. w 1 c 1 1 (3.32) ve paralel olara, 79

94 A c, 0 f ( xˆ, w) H A c ( ) A F ζ c, w ˆ 0 0 A = ζ= ζ n, ζ =. (3.33) I 0 I Bu ii tanım lineer modelle birlite geçerlidir. 80

95 3.6 Sonuç Bu bölümde öncei bölümlerden farlı olara sinyallerin renli gürültülü durumda algoritmaları ve daha önce yapılmış olan çalışmalarından bahsedilmiştir. Beyaz gürültülü aşamada durum-uzay modelinin durum matrisine gürültü atılmamıştı. Faat renli gürültülü aşamada renli gürültünün modellenere durum-uzay modeline dahil edilmesi geremiştir (Gibson 1991). Böylece durum matrisinin boyutuna renli gürültünün model derecesi ilave olara boyutu büyümüştür. Çünü modellenme esnasında renli gürültünün de modeline ihtiyaç duyulmatadır (Gibson 1991, Wan and Nelson 2004). Filtreleme esnasında birleşi modelde de aynı işlem yapılara model durum matrisinin boyutu gürültünün model derecesi de atılara artırılmıştır. Hesaplamalar bu durumuzay modeli üzerinden yapılmıştır. Beyaz gürültülü sinyalin hesabında olduğu gibi renli gürültülü aşamada da bi-lineer bir durum oluştuğu için standart Kalman filtresi ullanılamamıştır, hesaplamalar EKF ve UKF üzerinden yapılmıştır (Wan and Nelson 2004). Bu çalışmada daha önceilerden farlı olara renli gürültü başa bir insan sesi olara seçilmiş, model ii ayrı sesle birlite modellenmiştir. eori olara renli gürültüde olduğu gibi yalnızca durum matrisinde büyüme olmuştur. 81

96 4. SİNYALLERDE MODELLEME, SİMULASYON ve AHMİN Öncei bölümlerdei eşitliler ve varsayımlara dayanılara, bu bölümde farlı dinamilere ve farlı model derecelerine sahip olan sinyallerin Kalman tabanlı ve LMS tabanlı filtrelerle durum ve parametre tahminleri yapılmıştır. Sinyallerde gürültü; beyaz gürültüler, SNR değerine bağlı beyaz gürültüler veya renli gürültüler elenere yapılmıştır. SNR n= 1 10log 10 ( db) L 1 2 L n= 1 1 L L 2 x ( n) { x( n) x% ( n)} (4.1) Burada x ve x% sırasıyla, temiz sinyal ve ölçümü temsil etmetedir. L ise veri uzunluğudur. İl çalışmada lineer dinamilere sahip AR( 3 ) zaman serisine bağlı olara modellenen sinyal, farlı filtrelerle beyaz gürültülü ortamda iyileştirilmeye çalışılmıştır. Kullanılan sinyal şeil 4.1 de gösterilmetedir. Sinyalin model parametreleri Yule Waler metoduyla hesaplanmış, filtreleme esnasında ullanılaca il değerleri p 1,2,3 = olara belirlenmiştir. Sinyaldei durum iyileştirmesi bu parametrelere bağlı olara yapılmıştır. 82

97 Şeil 4.1 Üçüncü Derece Lineer Sinyal Şeil 4.1 dei gürültülü sinyalin Kalman tabanlı ve LMS tabanlı filtrelerde vermiş olduğu iyileştirme sonuçları aşağıdai grafilerde gösterilmetedir. 83

98 Şeil 4.2 Leay_Normalized_LMS Filtresi ahmin Çıtısı Şeil 4.2 de, lineer sinyalin L_N_LMS filtresiyle yapılan iyileştirilmesi gösterilmetedir. Filtre sinyalin tahmininde, iniş-çıışların yüse olduğu yerlerde estirim performansını düşürmete, düz olduğu yerlerde yüseltmetedir. Sinyalin inişçıışlarında yeterli performansı yaalayamamıştır. Sebebi ise filtre yeteri düzeyde ortalama are hatasını minimize edememiştir. Çünü filtrenin çalışma mantığı itibariyle daha fazla iterasyona ihtiyaç duymasındandır. Bunun yanı sıra, L_N_LMS filtresi LMS tabanlı filtrelerle arşılaştırıldığında sinyallerin iyileştirilmesi en üçü ortalama are hatası vermetedir (Larsen --). Kestirim doğruluğu, bu sinyal için diğer LMS filtrelerinden (LMS, L_LMS (Leay Least Mean Square), N_LMS (Normalized_Least_Mean_Square)) daha uygundur. 84

99 Şeil 4.3 Üçüncü Derece Lineer Sinyal Standart Kalman Filtre Çıtısı Şeil 4.3 standart Kalman filtresinin aynı sinyal üzerinde vermiş olduğu tahmin sonucunu göstermetedir. Görüldüğü üzere Kalman filtresi L_N_LMS filtresine oranla tahmin doğruluğu daha yüsetir. Bu sinyalin tahmininde ortalama are hatasını LMS tabanlı filtrelerden daha iyi minimize edere istenilen estirim sonucunu vermiştir. Çünü lineer sinyallerin tahmininde standart Kalman filtresi beyaz gürültülü ortamda, gausiyan süreç ve gözlem gürültüleriyle istenilen performansı sağlayabilmetedir. Hata are ortalamasının indirgenmesinde LMS filtrelerinden daha uygun sonuçlar vermetedir. Çünü LMS filtrelerinde olduğu gibi yüse düzeyde terara ihtiyaç duymamatadır. Durum ve ovaryans güncellemesi, Kalman filtresinin çalışmasında lineer sinyaller için istenilen tahmin sonuçlarını sağlamatadır. 30 ez çalıştırılan filtreler için monte-carlo simulasyonunda da Kalman filtresinin L_N_LMS filtresinden daha uygun bir estirici olduğu gözlenmetedir. Simulasyon eğrisi şeil 4.7 de gösterilmiştir. 85

100 Aynı sinyal unscented Kalman filtresiyle tahmin edildiğinde şeil 4.4 te görüldüğü gibi bir sonuç ortaya çımatadır. Şeil 4.4 Unscented Kalman Filtre ahmin Sonucu Bu filtre, genelde lineer olmayan ortamdai sinyallerde ve sistemlerde uygun sonuçlar sağlamatadır (Wan and Nelson 2004). Şeil 4.4 incelendiğinde filtre özellile sinyalin iniş-çıış yaptığı bölgelerde estirim aybına uğramamıştır. Bunun yanında lineer sinyallerde de vermiş olduğu sonuçlar yine LMS tabanlı filtrelerle arşılaştırıldığında daha iyi olduğu gözlenmetedir. Çünü standart Kalman filtresinde olduğu gibi unscented Kalman filtresi de gausiyan süreç ve gözlem gürültüsüyle istenilen tahmin sonucunu sağlayabilmetedir. LMS tabanlı filtreler ne adar ço terar yapılırsa lineer sinyallerde o adar başarılı olabilmetedir. Sinyal tahmininde bu durumunda performansa etisi vardır. 86

101 Diğer taraftan metodun eşitlilerinin armaşılığı göz önünde bulundurulduğunda standart Kalman filtresine oranla daha zayıf almata, filtreleme esnasındai çalışma hızı ise standart Kalman filtresi ve LMS tabanlı filtrelere oranla daha yavaş olmatadır. Yine de unscented Kalman filtresi, LMS tabanlı filtrelere lineer sinyaller için alternatif olabilmiştir. Şeil 4.5 Birleşi EKF Filtre ahmin sonucu Şeil 4.5 Birleşi genişletilmiş Kalman filtresinin (JEKF) aynı sinyal üzerinde vermiş olduğu iyileştirme sonuçlarını göstermetedir. JEKF estirim esnasında özellile sinyalin iniş-çıış yaptığı bölgelerde büyü ayıplara uğramıştır. Filtre tahmin doğruluğunu büyü oranda açırmıştır. Hata aresi ortalamasına baıldığında; standart unscented ve L_N_LMS filtresinden daha yüse hatalı sonuç verdiği, bu sinyal için uygun bir estirici olmadığı gözlenmetedir. Bunun sebebi iinci ünitede bahsedildiği üzere durum matrisinde parametrelerin terar estirilme geresiniminden aynalanmatadır. Bu durum bi-lineer bir hesaplama geretirmiştir. Bu da sinyalin, 87

102 lineer olara ullanılmasının önüne geçmiş ve lineer olmayan bir tahmin gereliliği doğurmuştur. Dolayısıyla lineer sinyalde estiricinin tahmin doğruluğu lineer olmayan bir hesaplama gereliliğinden filtrenin performansında azalma sağlamıştır. Böylece estiricinin bu sinyal için uygun bir estirici olmadığı gözlenmiştir. Diğer bir tahmin edici ise JUKF ( Birleşi Unscented Kalman Filtresi ) dir. Bu Filtre daha ço genişletilmiş Kalman filtresinin lineer olmayan ortamlarda tahmin esnasında filtrenin ırasama problemine arşı türetilmiş bir versiyonu olduğu için, lineer olmayan sinyallerde daha uygun sonuçlar sağlayabilmetedir (Wan and Nelson 2004). ahmin doğruluğuna baıldığında standart Kalman filtresine lineer ortamlarda alternatif olmasa da LMS tabanlı filtrelerden daha başarılı bir filtredir. Şeil 4.6 Birleşi Unscented Kalman Filtresi ahmini sonucu Bu filtrede de aynı bi-lineer durum söz onusu olmasına rağmen estirim doğruluğu 88

103 JEKF den daha iyi çımıştır. Çünü unscented Kalman filtresi dönüşüm esnasında doğrusallaştırmadai türevle uğraşmamıştır. Belirli seçilen sigma notaları üzerinden dönüşüm sağlandığı için JEKF adar bir ayıp söz onusu olmamıştır. Aynı zamanda filtrede doğrusallaştırmaya bağlı olara ortalama ve ovaryans sapması da söz onusu değildir. Gözlemlere ve teori bilgilere dayanılara, standart Kalman filtresi, diğer sinyallere oranla daha uygun sonuçlar vermiştir. Monte-carlo simulasyon sonucuna baıldığında başlangıçtan tearın sonuna adar standart Kalman filtresi hata oranı belirli aralılarda seyretmetedir. Filtrenin performansı, sinyal için istenilen düzeydedir. Standart Kalman filtresinin yanı sıra JUKF ve UKF filtresinin tahmin doğruluğu da diğer filtrelerden uygun çımıştır. Faat bu ii filtrenin dezavantajları, filtrelerin çalışma zamanı ve algoritma armaşılığıdır. Genel itibariyle standart Kalman filtresi ullanılan sinyal için en uygun sonucu vermiştir. Filtrelerin hata areleri ortalamaları çizelge 4.1 de verilmiştir. Şeil 4.7 Lineer Sinyalin Hata Kareleri Ortalama Sonuçları 89

104 Çizelge 4.1 Üçüncü Derece Lineer Sinyal Hata Kareleri Ortalamaları HAA FİLRE DEGER MSE LNLMS MSE KF MSE UKF MSE JEKF MSE JUKF Lineer Sinyallerde İinci Dereceden Sinyal Modellenmesi ve Filtrelerin Karşılaştırılması Bir öncei sinyalde üçüncü derece olara AR(3) zaman serisiyle modellenen bir sinyalin Kalman tabanlı ve L-N-LMS filtresiyle iyileştirilme sonuçları arşılaştırılmıştır. Bu bölümde ullanılan sinyal AR(2) zaman serisiyle modellenmiş, Kalman tabanlı ve LMS tabanlı filtrelerle tahmin edilere beyaz gürültülü ortamda iyileştirilmeleri arşılaştırılmıştır. Oluşturulan iinci derece sinyalin filtreler için başlangıç parametreleri Yule-Waler metoduyla p 1,2 = olara belirlenmiş ve hesaplamalar bu parametreler üzerinden yapılmıştır. Gürültülendirilmiş sinyalin, filtrelerle iyileştirilmesi sırasında elde edilen veriler şeil 4.8 de gösterilmetedir. 90

105 Iinci Mertebeden Lineer Sinyal Filtre ahmin Sonuçlari temiz gürültülü f uf lnlms jef juf degerler zaman Şeil 4.8 İinci Derece Lineer Sinyal ahmin Sonuçları Grafi incelendiğinde filtre tahminlerinin en uygun olanı yine bir öncei lineer sinyalde olduğu gibi standart Kalman filtresidir. Hata aresi ortalamasını minimize etmeyi en iyi değerlere başaran filtredir. Özellile sinyalin iniş-çıışlarının yüse olduğu bölgelerde filtre performansı diğer filtrelere oranla daha uygun sonuçlar vermiştir. Bunun yanı sıra JUKF filtresinin il filtrelemede tahmin doğruluğu düşü çımasına rağmen, daha sonrai terarlamalarda bu hata oranı UKF ye yalaşmatadır. Şeil 4.9 da bu durum daha iyi olara gözlenmetedir. Bunun yanı sıra birleşi tabanlı filtreler bi-lineer bir çözüme yol açtılarından yine standart ve teli unscented Kalman filtresi tahmin sonuçlarını yaalayamamıştır. L-N-LMS filtresinin gözlem sonuçlarına ve hata areleri ortalamalarına baıldığında yine Kalman filtrelerinden daha zayıf sonuç vermetedir. Özellile sinyalin tepe ve vadilerdei dönüş esnasında filtrelerin hata oranlarında yüse derecede bir artış gözlenmete, inci veriler arasında bu net olara gözlenmetedir. 91

106 Şeil 4.9 İinci Derece Lineer Sinyalin Hata Sonuçları Bir öncei lineer sinyalde olduğu gibi bu sinyal içinde JEKF doğrusallaştırmadai türev alma esnasında büyü ayıplara uğrayara filtrenin performansını düşürmüştür. Dolayısıyla iyi tahmin sonuçları sağlayamamıştır. L_N_LMS filtresinin tahmin sonuçları JUKF ile yalaşı olara aynı değerlerde seyretmetedir. Bu filtrenin performansı bir öncei sinyale göre biraz daha yüse çımıştır. Sebebi ise sinyalin ana yapısından aynalanmatadır. Bu filtrelerin ortalama are hatası sonuçları çizelge 4.2 de görülmetedir. 92

107 Çizelge 4.2 İinci Derece Lineer Sinyal ahmin Sonuçları HAA FİLRE DEGER MSE KF 0.51 MSE LNLMS 0.78 MSE UKF 0.74 MSE JEKF 0.88 MSE JUKF Filtrelerle Ses Sinyali İyileştirme Lineer ses sinyallerinin iyileştirilmesiyle ilgili olara daha öncei yapılan çalışmalarda teli Kalman filtreleri ullanılmıştır. Bu ses sinyalleri hem beyaz gürültülü ortamlarda hem de renli gürültülü ortamda ullanılmıştır. Öncei çalışmalardan farlı olara, bu çalışmada hem beyaz hem de renli gürültülü sinyallerin iyileştirilmesinde iili ve birleşi tabanlı Kalman filtreleri ullanılmıştır. LPC odlama teniği ile üretilen ses sinyali, model derece belirleme riterlerine (SBC, FPE, AIC) bağlı olara, AR(p) zaman serisiyle modellenmiştir. Model derecesi 8 olara belirlenen sinyal 5 db SNR oranıyla gürültülendirilmiştir. Gürültülü sinyalin model parametreleri filtreleme işlemi için Yule-Waler metoduyla p 1,2,3,8 = olara hesaplanmıştır. İyileştirilen sinyalin L_N_LMS filtresiyle estirim sonucu şeil 4.10 da görülmetedir. 93

108 Şeil 4.10 Lineer Ses Sinyali İyileştirme L_N_LMS Filtresi ahmin sonuçları L_N_LMS filtresinin estirim performansı yine öncei sinyallerde olduğu gibi inişçıışlarda biraz düşü çımış, sinyalin düz olduğu bölgelerde ise daha iyi çımıştır. Lineer ses sinyali için L_N_LMS filtresinin estirim doğruluğu, diğer LMS filtrelerine oranla daha yüse çımıştır. Filtre, sinyalin verilerinin iniş ve çıışlarında istenilen performansı yaalayamamıştır. Faat terarlama artırıldığında iyileştirmede düzelme olmatadır. Yine aynı sinyalin iyileştirilmesi unscented Kalman filtresiyle yapıldığında şeil 4.11 dei gibi bir sonuç vermetedir. 94

109 Şeil 4.11 Lineer Ses Sinyali İyileştirme UKF ahmin Sonucu Şeil 4.11 sonucu hata areleri ortalaması L_N_LMS filtre sonuçlarına oranla biraz daha iyidir. Unscented Kalman filtresi sinyalin iniş-çıış yaptığı bölgelerde L_N_LMS filtresine oranla daha uygun tahmin sonuçları sağlamıştır. Standart Kalman filtresi hariç bu ses sinyali için en iyi performans bu filtreyle elde edilmiştir. Kalman tabanlı filtreler ses sinyallerinde istenilen performansı sağlayabilmiş, ortalama hata aresini yine LMS tabanlı filtrelerden daha uygun değerlerle sinyalde iyileştirmeyi başarmıştır. Yine öncei lineer sinyallerin tahmininde olduğu gibi UKF nin dezavantajı, çalışma zamanı ve algoritma armaşılığıdır. Şeil 4.12 de filtrelerin hata areleri ortalamalarının 25 ez çalıştırılan sistemin monte-carlo simulasyon eğrileri gösterilmetedir. 95