Doğrusal Olmayan Ölçümlü Durum Uzay Modelleri için Kalman Filtresi Kestirimi Yaklaşımlarının Karşılaştırılması

Transkript

1 Doğrusal Olmayan Ölçümlü Durum Uzay Modelleri için Kalman Filtresi Kestirimi Yalaşımlarının Karşılaştırılması Fredri Orderud Sem Sælands vei 7 9, NO 7491 Trondheim Türçeye çeviren: M.Mehmet NEFES, Anara Üniversitesi Özet Genişletilmiş Kalman Filtresi (GKF), esasen basit, sağlam ve gerçe zamanlı uygulamalara uygun olmasından dolayı doğrusal olmayan durum uzay modelleri estirimi için fiili olara uygulanan bir standart haline gelmiştir [11]. Bununla birlite, son yıllarda Unscented Kalman Filtresi (UKF) olara adlandırılan alternatif bir yalaşım da ortaya çımıştır. Bu filtre, doğrusal olmayan modeller için daha yüse doğrulu ve sağlamlılı sağlamayı amaçlamatadır. UKF nin doğruluğunu doğrusal olmayan süreç modelleri için araştıran bir aç maale olmasına arşın bunların hiç biri özellile doğrusal olmayan ölçüm modellerinin doğruluğuna hitap etmemetedir. Bu maale, doğrusal olmayan ölçümlere sahip ii taip modeli için GKF ve UKF performanslarını arşılaştırara bu boşluğu doldurmayı amaçlamatadır. 1 Giriş Durum estirimi problemi, sadece gürültülü ve/veya doğru olmayan ölçümlerine erişilebilen bir sürecin durum estirimi ile ilgilenir. Bu problem ortamına fen ve mühendisli dallarındai hemen hemen her disiplinde çoğu zaman rastlanır. En yaygın ullanılan durum estiricisi Kalman filtresidir. Kalman filtresi doğrusal sistemler için optimal bir estiricidir, anca gerçe dünyada ço az sayıda doğrusal sistem vardır. Bu problemin üstesinden gelmenin yaygın bir yalaşımı, Kalman filtresini ullanmadan önce sistemi doğrusal hale getirmetir ve bu yalaşım genişletilmiş Kalman filtresini niteler. Bununla birlite, doğrusallaştırma ararsız estirimler gibi bazı problemler ortaya çıarabilir [8]. Doğrusal olmayan sistemler için daha iyi estirici algoritmaların geliştirilmesi çabaları, ortaya çıaca yenilililerin mühendisli alanlarında geniş bir yelpazede büyü yanı bulmasının açınılmaz olacağından bilim dünyasınca büyü ilgi görmetedir. Notasyon Cebirsel gösterimler görünüşlerine göre farlılı göstermetedir. Normal gösterimler (a) salar büyülüleri, alın gösterimler (a) vetörleri ve büyü harfli gösterimler (A) ise matrisleri simgelemetedir. Alt simgeler (X a ) esili zamanı simgeler. Koşullu alt simgeler (X a b ), verilmiş olan b anına adar alan olan ölçümler ile a anındai durumunu simgeler. ^ üst simgesi ( â ) estirilen (tahmini) değeri simgeler. 2 Genel Bilgi Durum uzay modeli, durumunun () sayısal bir vetör ile ifade edildiği bir sürecin matematisel modelidir. Durum uzay modelleri ii ayrı model içerirler. Bu modeller; girdi ve gürültü gibi dış etenler ile durumun zaman içerisinde nasıl ilerlediğini anlatan süreç modeli ve süreçten ölçümlerin nasıl alınacağını ifade eden genellile de gürültülü ve/veya doğru olmayan ölçümleri ullanan ölçüm modelidir.

2 2.1 Genel Durum Uzay Modeli Durum uzay modellerinin en genel biçimi doğrusal olmayan modeldir. Bu model tipi olara ii fonsiyonu (f ve h) içerir. f ve h fonsiyonları sırasıyla durumu ve ölçümleri (gözlemleri) belirleyen fonsiyonlardır. u süreç girdisini, w ve v sırasıyla durum ve ölçüm (gözlem) gürültü vetörlerini ve ise esili zamanı ifade eder. Durum uzay modelleri hemen hemen her çesit sürecin modellenmesinde olduça ullanılır. f ve h fonsiyonları sürecin dinamiğini ve gözlemlerini belirten esili hale getirilmiş diferansiyel denlemler üzerine urulmuş fonsiyonlardır. Şeil 2: Doğrusal Durum Uzay Modeli Bu doğrusal modelde hesaplama ve analiz olaydır. Kullanıcıya denetlenebilirli, gözlenebilirli, freans yanıtı gibi özellileri irdeleme imânı sunar. Doğrusal durum modelleri ya gerçe doğrusal süreçler, ya da doğrusal olmayan süreçlerin basit bir şeilde birinci derece Taylor yalaşımı aracılığı ile doğrusal hale getirilmiş biçimleri üzerine urulmuş modellerdir. 3 Durum Kestirimi Şeil 1: Genel Durum Uzay Modeli. Z 1 : Birim gecime fonsiyonu (Sayısal sinyal işlemede ullanılan Z dönüşümü) 2.2 Doğrusal Durum Uzay Modeli Doğrusal durum uzay modeli, f ve h fonsiyonlarının durum ve girdide doğrusal olduğu modeldir. Doğrusal olan bu fonsiyonlar, hesaplamaları doğrusal cebire indirgeyen F, B ve H matrisleri ile ifade edilebilir. Bu şeildei durum uzay modeli şu şeilde gösterilir: Durum estirimi, durumu doğrudan gözlenemeyen bir sürecin olasılı yoğunlu fonsiyonunu (oyf) tahmin etme (estirme) problemi ile ilgilenir. Bu olgu, hem günceli ullanara bir sonrai durumu tahmin etmeyi hem de yapılan bu tahmini, alınan gürültülü ölçümleri ullanara güncellemeyi/düzeltmeyi apsar. 3.1 İndirgemeli Bayes Kestirimi 1 Durum estirimi için bilinen en genel biçim indirgemeli Bayes estirimidir [1]. Bu biçim, sistemi ve ölçüm modeli verilen bir sürecin durumunun olasılı yoğunlu fonsiyonunu tahmin etmede en uygun yoldur. Bu bölümde, indirgemeli olara her bir zaman adımında bir öncei zaman adımında elde edilen estirimi ve yeni ölçümleri baz alara yeni bir estirim yapan bu estiriciyi irdeleyeceğiz. 1 ing.: Recursive Bayesian Estimation

3 İndirgemeli Bayes estirimi, süreci simule etme ve elde edilen bu süreci gerçe süreçten elde edilen yeni ölçümleri (z) hesaba atara simulasyon süreci ile aynı anda düzeltme prensibi ile çalışır. Hesaplamalar ii aşamalı bir işlem ile indirgemeli olara yapılır. İl olara bir sonrai durum, f fonsiyonundan elde edilen durum ilerleme anısı 2 p ( 1 ) ullanılara mevcut durumun bir sonrai durum üzerine dış değerlemesi ile tahmin edilir. İinci aşamada, yeni ölçümler göz önünde bulundurulara h fonsiyonundan elde edilen ölçüm olabilirliği 3 p (z ) ullanılara yapılan bu tahmin düzeltilir/güncellenir. İl olara, durumunun bir öncei zaman dilimine ait olasılı yoğunlu fonsiyonunu 1 anına adar olan ölçümler baz alınara hesaplama için Chapman Kolmogorov eşitliği ullanılır: Daha sonra, anına adar olan ölçümler alındıtan sonra bu ölçümler diate alınara durumunun güncellenmiş olasılı yoğunlu fonsiyonunu elde etme için Bayes uralı ullanılır: Bu metotun prati uygulaması çoğunlula ço boyutlu durum vetörleri için büyü durum uzayları sebebiyle olduça güçtür. Bu tarz bir durum uzayında her bir notada bir öncei olasılığın hesaplanması, durum uzayı büyüdüçe çözümü gittiçe zorlaşan ço boyutlu bir integral içerir. Bilgisayarlar da durum uzayının esili zamanda olasılı yoğunlu fonsiyonu hesaplamada sınırlı almatadır. Ayrıca bu hesaplamanın yapılabilmesi için durum uzayınının esili hale getirilmesi geremetedir. Bu yüzden genelde bu yöntem durum estirimin teori temeli olara abul edilir. Bilgisayar vasıtasıyla Bayes estirimi ya durum uzayının esili hale getirilebildiği ya da modele belli ısıtlamaların uygulandığı durumlarda mümün olmatadır. 3.2 Kalman Filtresi Durum estirim problemi, süreç modeli üzerinde belirli zorlama ve ısıtlamalar uygulandığında olay işlenir hale gelir. Bu zorlama ve ısıtlamalar; f ve h fonsiyonlarının doğrusal olması, ve gürültü terimleri w ve v nin birbirleriyle ilişisiz, Gauss dağılımlı, sıfır ortalamalı beyaz gürültü olmalarıdır. Yuarıda ifade edilenleri matematisel olara şu şeilde gösterebiliriz: Burada Q ve R sırasıyla durumun ve ölçüm gürültüsünün iinci derece özellilerini belirten ovaryans matrisleridir. Yuarıda tanımlananlar durum modelini aşağıdai biçime indirger: Şeil 3: İndirgemeli Bayes Kestiricisi döngüsü 2 ing.: State Propagation Belief 3 ing.: Measurement Lielihood Burada F, B ve H zamana bağlı matrislerdir. Doğrusal bir modele Gauss dağılımlı bir girdi verildiğinde modelin durum ve çıtısı da Gauss dağılımlı olur [12]. Bu yüzden, durum ve çıtı olasılı yoğunlu fonsiyonu daima ortalama

4 ve ovaryansın yeterli istatistite olduğu normal dağılıma sahiptir. Bu da gösterir i, bu durumda bütün durum olasılı yoğunlu fonsiyonun hesaplamaya gere yotur. ˆ ortalama vetörünü ve durum için P ovaryans matrisini hesaplama yeterli olacatır. Şeil 4: Kalman filtresi döngüsü filtresinin iinci derecen hata metriğine sahip süreç durumları için optimal bir estirici olduğu anıtlanabilir [2]. 3.3 Genişletilmiş Kalman Filtresi Gerçe dünyadai çoğu süreç maalesef doğrusal değildir; dolayısıyla Kalman filtresi vasıtası ile tahmin edilebilmeleri için doğrusal hale getirilmelidir. Genişletilmiş Kalman Filtresi (GKF) bu problemi, f ve h fonsiyonlarının tahmini durum etrafında Jacobian matrisini hesaplayara çözer. Bu matris durumun etrafına merezlenen model fonsiyonunun eğrisini verir. Jacobian matrisi bir vetörün bütün ısmi türevlerini içermetedir. İndirgemeli Bayes estirimi yöntemi F, B ve H matrislerinin f ve h fonsiyonlarının yerini aldığı Kalman filtresine dönüşür. Kalman filtresi ii aşamadan oluşan Bayes estiricisidir. Bu ii aşama, tahmin etme ve güncelleme aşamalarıdır. Gereli hesaplamalar aşağıda sırasıyla gösterilmiştir: Ölçümler alınmadan önce bir sonrai durumu tahmin etme: Ölçümler alındıtan sonra durumu güncelleme: Şeil 5: GKF nin doğrusal olmayan bir fonsiyonu Gauss dağılımının ortalaması etrafında doğrusal hale getirmesi ve sonra doğrusal hale getirilmiş bu model vasıtası ile ortalama ve ovaryansı yayması. Burada K Kalman azancı matrisi ve P ise estirimin hassasiyeti ile ilgili bilgiyi içinde barındıran durum estirim ovaryans matrisidir. Bu filtre ile daha fazla bilgi ve detaylar [2] no lu maaleden elde edilebilir. Kalman filtresi çoğunlula doğrusal bir yapıya sahip olduğu için matris ters alma işlemleri hariç olay hesaplamalar içerir. Ayrıca Kalman Genişletilmiş Kalman filtresi tahmini duruma dayalı olara zamanla değişili gösteren (zamana bağlı) F ve H dışında normal bir Kalman filtresi gibi çalışır. Gereli hesaplamalar aşağıda sırasıyla gösterilmiştir:

5 Ölçümler alınmadan önce bir sonrai durumu tahmin etme: Ölçümler alındıtan sonra durumu güncelleme: Burada K Kalman azancı matrisi ve P ise estirimin hassasiyeti ile ilgili bilgiyi içinde barındıran durum estirim ovaryans matrisidir. 3.4 Unscented Kalman Filtresi Giriş Rastgele Gauss değişenlerinin doğrusal olmayan bir fonsiyon üzerinde ilerletilmesi problemi unscented dönüşüm olara adlandırılan başa bir yöntemle ele alınabilir. Bu dönüşüm, fonsiyonları doğrusal hale getirme yerine belirli bir notalar ümesini ullanır ve bu notaları doğrusal olmayan fonsiyon üzerinde ilerletir. Bu notalar, ortalaması, ovaryansı ve muhtemelen yüse dereceli momentleri rastgele Gauss değişeni ile eşleşece şeilde seçilir. Ortalama ve ovaryans, fonsiyon üzerindei bu notalardan lasi fonsiyon doğrusallaştırma yöntemine göre daha doğru sonuç verece şeilde yeniden hesaplanabilir. Bu yöntemdei temel fiir; fonsiyonun endisinin yerine olasılı dağılımına yalaşım sağlamatır. Bu strateji genel olara hem hesaplama armaşılığını azaltır hem de daha doğru ve hızlı sonuçlar ortaya çıarara estirim doğruluğunu artırır Genel Bilgi Unscented dönüşümün temelini teşil eden metod il olara Julier, Uhlmann ve Durrant Wyte tarafından [10] ve [11] no lu maalelerde ortaya onmuştur. Julier, Uhlmann ve Durrant Wyte bu metotta N boyutlu rastgele bir Gauss değişenin sigma notaları olara adlandırılınan 2N+1 adet örne ile nasıl ifade edilebildiğinin tasla olara ortaya oymuşlardır. Yalaşım sağladıları Gauss dağılımı ile aynı ovaryansa olaca şeilde üç notayı seçebilme için areö matrisi ve ovaryans tanımlanndan faydalanmışlardır. Bu notalar simetri olaca şeilde seçilere çarpılı önlenir. Bu yöntem ile yalaştırım hatası düşü olur ve anca dördüncü ve daha yüse momentlerden aynalanır. Unscented dönüşümün Kalman filtrelemede ullanımı daha sonra Julier ve Uhlmann tarafından Unscented Kalman Filtresi formunda [8] no lu maalede ortaya oyulmuştur. Unscented Kalman Filtresi bir sonrai durumu sigma notaları ullanara tahmin etmetedir. Bu filtre, [16] no lu maalede daha detaylı olara analiz edilmiştir. Unscented Kalman Filtresi ile ilgili ısıtlama; bu filtrenin durum uzayındai notalar arasındai uzalığı ifade eden sigma notalarının güvenli yayılımının daha düşü bir limite sahip olmasıdır. Sigma notası yayılımlarının bu limitin altında olması pozitif yarı tanımlı orelasyon matrisler elde etmeyi garanti altına almaz. Ayrıca bu uzalı durum uzayının boyutuna bağlı olara artar ve bu şeilde ortaya çıan yüse sigma yayılımı loal olmayan özellilerin örnelemesine yol açabileceğinden yüse derecede doğrusal olmayan modellerde çeşitli problemler meydana getirebilir. Bu yüzden burada ortaya onan yöntem, asıl unscented dönüşümden farlı olara e bir ayarlama parametresi,α, içeren ölçeli unscented dönüşüm [6] üzerine yapılanmıştır. Bu parametre, sigma notalarının yayılımını pozitif yarı tanımlı orelasyon matrisler sağlamayı garanti altına alara ontrol etmede ullanılır. Bu sayede yüse boyutlu modeller için bile dar bir sigma notası yayılımı ile loal olmayan etilerden açınılabilir.

6 Şeil 6: UKF nin Gauss dağılımlı sigma notalarının doğrusal olmayan bir fonsiyon üzerinde ilerletilmesi,ve sonuçların ortalama ve ovaryanslarını hesaplayara yeniden bir Gauss dağılım oluşturulması Bir sonrai aşama genişletilen (eli) durumun ortalama ve ovaryansını yaalayan 2L+1 sigma notasının oluşturulmasını içermetedir. χ a matrisi bu notaları içerece şeilde seçilir ve sutünları şu şeilde hesaplanır : Taviyeli Durum (Augmented State) Gauss olmayan ya da aditif olmayan gürültüleri oluşturma için gürültünün doğrusal olmayan bir usul ile ele alınabilir olması unscented dönüşüm yalaşımının bir başa avantajıdır. Bu stratejidei işlem gürültünün fonsiyonlar üzerinde ilerletilmesini içerir. İl olara durum vetörü, gürültü aynalarını hesaba atma masadıyla genişletilir, bir başa deyişle taviye edilr. Bu yöntem il olara Julier tarafından [7] no lu maalede ortaya oyulmuştur, daha sonra ise Merwe tarafından [16] no lu maalede daha detaylı olara incelenmiştir. Bir sonrai aşamada ise gürültü değerlerini de içeren bu taviyeli durumdan ( a ) sigma notası örneleri seçilir. Bu işlemin net sonucu ; süreç ve ölçüm gürültülerinin doğrusal olmayan etilerinin durumun geri alanı ile aynı doğrulula elde edilmesi, ve dolayısıyla aditif olmayan gürültü aynaları için doğruluğu artırılmasıdır Filtre Formülasyonu Filtre, durum vetörünün L boyutuna adar genişletilmesi, taviye edilmesi ile başlar. Burada L orijinal durum vetörü, model gürültüsü ve ölçüm gürültü boyutlarının toplamıdır. Benzer şeilde ovaryans matrisi de L 2 boyutunda bir matris olaca şeilde genişletilir. Bu biçimde taviye edilen durum tahmin vetörü a ve ovaryans matrisi P a şu şeilde ifade edilir : i alt simgesi ovaryans matrisinin areöünün 4 i nci sutünuna arşılı gelmetedir. 0<α 1 aralığında olan α parametresi sigma notası yayılımını belirler. Bu parametre loal olmayan etilerden saınma için genelde ço üçü seçilir ve tipi değeri civarındadır. a Elde edilen χ 1 matrisi bu halde durumu içeren χ, örnelenmiş süreç gürültüsünü 1 içeren w χ 1 ve örnelenmiş ölçüm gürültüsünü içeren v χ sütunlarına ayrıştırılabilir. 1 Her bir sigma notası bir bağıl değere atanır. Bu bağıl değerler, sigma notaları momentlerinin Gauss dağılımı varsayımı altında modellerin Taylor serisi açılımı ile arşılaştırılara [9] no lu maalede de belirtildiği gibi elde edilir. Elde edilen bağıl değerler, ortalama (m) ve ovaryans (c) tahminlerinde şu şeilde ullanılır : 4 Simetri bir matrisin areöü tipi olara düşü olan üçgen Cholesy dağılımı vasıtası ile hesaplanır. P matrisinin areö matrisi A ise P=AA T formundadır.

7 Daha sonra filtre, sigma notalarını durum ve ölçüm (gözlem) modelleri üzerinde ilerletere ve elde edilen sonuçların ağırlılı ortalama ve ovaryans matrislerini hesaplayara bir sonrai durumu tahmin eder : problemin çözümünde ullanılabilir ; faat, sadece ovaryans matrisi areölerinin yayılımını apsayan doğrudan areö yalaşımı hesaplama açısından daha etin bir çözüm sunar. [15] no lu maalede Merwe bu şeilde bir yalaşım ortaya oymatadır. 3.5 Diğer Yalaşımlar Tahminler gelen yeni ölçümlerle güncellenir. Güncelleme işleminde il olara ölçüm ovaryans ve durum ölçüm çapraz orelasyon matrisleri hesaplanır daha sonra bu matrisler Kalman azancını belirlemede ullanılır : Deneysel sonuçlar Unscented Kalman filtrelerinin durum modelinin üçüncü derecede Taylor serisi açılımına yaın sonuçlar verdiğini ;buna arşın, genişletilmiş Kalman filtrelerinin sadece birinci derece doğrusallaştırma seviyesinde bir doğruluğa sahip olduğunu göstermetedir[16]. [14] no lu maalede bu ii tip filtrenin doğrulu performansları arşılaştırılmıştır. Unscented Kalman filtresinde hesaplama açısından en ço diat geretiren ısım sigma notalarının hesaplamasında ullanılan matris areö alma ısmıdır. Kovaryans matrisinin Cholesy çarpanlarına ayrılması ya da matris öşegenleştirme işleminin yapılması bu Merezi Far Kalman Filtresi (MFKF), [4] no lu maalede Gauss dağılıma sahip olasılı yoğunlu fonsiyonlarının doğrusal olmayan fonsiyonlar üzerinde ilerletilmesinde ullanılabilece alternatif bir Kalman formülasyonu olara önerilmiştir. [13] no lu maalede bu formülasyonun esasen farlı bir yapısı olmasına rağmen, yapılan testlerde elde edilen sonuçların UKF sonuçları ile ayırt edilemez bir şeilde benzerli taşıdığı ifade edilmetedir. Bu yüzden Merezi Far Kalman Filtresi (MFKF) bu maalede apsam dışı tutulmuştur. Taneci (Partiül) filtreleri [1]: Çeşitli türldei Kalman filtreleri çoğunlula yüse doğruluğa sahip estirimler sağlamasına arşın bazı estirim problemlerine uygun olmadığı durumlar da olabilir. Bu durum, Kalman filtrelerinin sadece Gauss olasılılarını modelleyebilmesinden ve dolayısıyla çarpı ya da farlı formlardai dağılımlar için uygun olmamasından aynalanır. Bu yüzden Gauss olmayan dağılımları da apsama için daha genel bir yalaşıma ihtiyaç vardır. Önem örnelemesini ullanan ardışı Monte Carlo simulasyonlarına dayalı taneci (partiül) filtreleri bu durumlarda sılıla ullanılan iyi bir alternatif yalaşımdır. Bu maalede sürecin olasılı yoğunlu fonsiyonun tamamına değil, sadece en olası durumunun estirimine odalanılmıştır ; bu nedenle taneci (partiül) filtresi yalaşımının burada ele alınmasına gere yotur. Ayrıca, taneci (partiül) filtreleri Kalman filtrelerine göre çoğunlula daha armaşı hesaplamalar içermesinden dolayı bu tip filtrelerin gerçe zamanlı düzenelerde ullanılması olduça güçtür.

8 4 Deneyler Bu ısımda ele alınan deneyler, doğrusal süreç modellerine ve doğrusal olmayan ölçüm modellerine sahip prati taip uygulamaları için GKF ve UKF performanslarının arasındai farlılıları ortaya çıarmayı amaçlamatadır. 4.1 Süreç Modeli Bu modelde radarın (0,0) oornidat notasında onuşlandığı ve n 1, n 2 ölçüm gürültüleri varyanslarının sırasıyla 200 ve olduğu varsayılmıştır. Doğrusal olara modellenmiş ve beyaz gürültülü ivmeye sahip bir uça bu ısımda ele alınaca deneyin temelini oluşturmatadır. Doğrusal model, onum ve hız için iili Wiener 5 süreci biçiminde oluşturulmuştur. p & = v, p& = v, v = a ve v & = modeli y y aşağıdai T s =1 zaman aralılı esili zaman süreç modelini ortaya çıarır : y a Şeil 7: Radarla uça taibi 4.3 Üçgenleme Metodu ile Taip 6 Buradai a ve a y ivmeleri 0.5 varyanslı ilşisiz beyaz gürültülü olara modellenmiştir. Sürecin, aşağıdai durumda başladığı varsayılmıştır: Üçgenleme ya da nirengi metodu ile taip; ii gözlem evi tarafından hedefin endilerine olan uzalıları (d 1 ve d 2 ) gözlemleyen doğrusal olmayan bir ölçüm modeli ile modellenebilir : Kestirim doğruluğu için aresel hata metriği ise; Bu modelde gözlem evlerinin sırasıyla ( 300,0) ve (300,0) oornidat notalarında onuşlandığı ve n 1, n 2 ölçüm gürültüleri varyanslarının her iisinin de 200 olduğu varsayılmıştır. olara tanımlanmıştır. 4.2 Radarla Taip Radarla taip ya da radarla izleme hedefin uzalığını (d) ve açısını (θ) gözlemleyen doğrusal olmayan bir ölçüm/gözlem modeli ile modellenebilir: 5 Wiener süreçleri beyaz gürültü ile entegre süreçlerdir. Şeil 8: Üçgenleme metodu ile uça taibi 6 ing.: Tracing by Triangulation

9 Bu tarz bir yapılanış, belirli bir onumdan gelen ölçümlerin tamamının her seferinde eseni üzerinde aynı onuma arşılı geleceğinden bir belirsizli problemi ortaya çıarır. Faat süreç model tahmininin bu belirsizli problemini çözmeye yardımcı olması yüse ihtimalle bu durumu büyü bir sorun olmatan çıaracatır. Şeil 10: Kestirim Doğrulu Dağılımları Şeil 9: Hedefin izlediği rota için UKF ullanılara yapılan deneylerde elde edilen gözlemler, gerçe rota ve estirilen rota Ortalama Karesel Hata (OKH) estirim varyansı merezi limit teoreminin geçerliliği varsayımı altında deneysel hata dağılımı ullanılara hesaplanmıştır: VAR(OKH) = VAR(hata) / N 4.4 Sonuçlar İili simulasyon/estirim deneyi ere gerçeleştirilmiştir. Her seferinde simule edilen uçağın izlediği rota 80 zaman adımında hem GKF hem de UKF gözlem modelleri ullanılara estirilmiştir. Kestirim doğruluğu sonuçları Tablo 1 de, doğrulu dağılım grafileri ise Şeil 10 da gösterilmiştir. Yüse derecede doğrusal olmayan arustanjant içeren ölçümlere sahip radar modeli sadece Pythagoras ölçümlere sahip üçgenleme modeline göre GKF ve UKF estirim doğruluları arasında daha büyü farlılı göstermetedir. Bu durum, her ii modelde de hatanın 1000 in üzerinde olduğu biraç estirim için UKF nin daha gürbüz bir yapı sergilediğini gösterir. Model GKF Ortalama Karesel Hata (OKH) UKF Ortalama Karesel Hata (OKH) Radar (5.00) (0.363) Üçgenleme (3.15) (2.81) Tablo 1: Kestirimler için ortalama aresel hata değerleri (1000 simulasyon sonrası doygunluğa ulaşan hata değerleri). Doğrulu varyansları da parantez içinde verilmiştir.

10 5 Sonuç Unscented Kalman filtresinin (UKF) doğruluğunu doğrusal olmayan süreç modelleri için araştıran bir aç maale [16],[5], olmasına arşın, bunların hiç biri özellile doğrusal olmayan ölçüm modellerinin doğruluğuna hitap etmemetedir. Bu nedenle bu maalede doğrusal olmayan ölçümlere sahip doğrusal durum uzay modelleri için UKF estirim doğrulu performansı GKF ye göre göreceli olara arşılaştırılmıştır. Deneysel sonuçlar radar ile taip modeli için UKF ve GKF performansları arasında ciddi bir far olduğunu, buna arşın üçgenleme metodu ile taip modeli için önemli bir far olmadığını göstermetedir. Bu durum ii model arasındai doğrusallı derecesi farından aynalanmatadır; üçgenleme metodu ile taip modeli radar modeline göre daha doğrusal bir yapıya sahiptir. Bu yüzden, doğrusallı derecesi olduça düşü doğrusal olmayan ölçüm modelleri için UKF ullanımını GKF ye göre daha avantajlıdır. Bu çıarım [16] no lu maalede sunulan UKF ullanımı ile ilgili argümanlarla örtüşmetedir. Kestirim doğrulu dağılım grafileri, ii estiricinin her ii model için de büyü hatalara sahip estirimler hariç benzer sonuçlar verdiğini ortaya oymatadır. Buna göre UKF nin GKF ye göre daha gürbüz 7 (sağlam) bir estirici olduğu söylenebilir. Kaynaça [1] S. Arulampalam, S. Masell, N. Gordon, and T. Clapp. A tutorial on particle filters for on line non linear/nongaussian bayesian tracing. IEEE Transactions on Signal Processing, 50(2): , February [2] Robert Grover Brown and Patric Y. C. Hwang. Introduction to Random Signals and Applied Kalman Filtering, 3rd Edition. Prentice Hall,1996. [3] Chi Tsong Chen. Linear System Theory and Design, third edition. Oford University Press,1999. [4] K. Ito and K. Xiong. Gaussian filters for nonlinear filtering problems. Kazufumi Ito and Kaiqi Xiong, Gaussian Filters for Nonlinear Filtering Problems, IEEE Transactions on Automatic Control, vol. 45, no. 5, pp , May [5] Joseph J. and LaViola Jr. A comparison of unscented and etended alman filtering for estimating quaternion motion. Proceedings of the 2004 American Control Conference, IEEE Press, , June [6] Simon Julier. The scaled unscented transform. Proceedings of the 2002 American Control Conference,IEEE Press, May [7] Simon Julier and Jeffrey Uhlmann. A general method for approimating nonlinear transformations of probability distributions. University of Oford, November [8] Simon Julier and Jeffrey Uhlmann. A new etension of the alman filter to nonlinear systems. Int. Symp. Aerospace/Defense Sensing, Simul. And Controls, Orlando, FL, [9] Simon Julier and Jeffrey Uhlmann. Unscented filtering and nonlinear estimation. Proceedings of the IEEE, March [10] Simon Julier, Jeffrey Uhlmann, and Hugh Durrant Whyte. A new approach for filtering nonlinear systems. Proceedings of the 1995 American Control Conference, IEEE Press, June [11] Ben Quine, Jeffrey Uhlmann, and Hugh Durrant Whyte. Implicit jacobians for linearised state estimation in nonlinear systems. Proceedings of the 1995 American Control Conference, IEEE Press, June [12] Charles W. Therrien. Discrete Random Signals and Statistical Signal Processing. Prentice Hall, [13] Rudolph van der Merwe. Sigma point alman filters for probabilistic inference in dynamic statespace models. Worshop on Advances in Machine Learning, Montreal., June [14] Rudolph van der Merwe and Eric Wan. Sigmapoint alman filters for integrated navigation. [15] Rudolph van der Merwe and Eric Wan. The squareroot unscented alman filter for state and parameterestimation. Proceedings of the International Conference on Acoustics, Speech, and Signal Processing (ICASSP), Salt Lae City, Utah, May [16] Eric Wan and Rudolph van der Merwe. The unscented alman filter for nonlinear estimation.proc. of IEEE Symposium 2000 (AS SPCC), Lae Louise, Alberta, Canada, October ing.: robust

11 Comparison of Kalman Filter Estimation Approaches for State Space Models with Nonlinear Measurements Fredri Orderud Sem Sælands vei 7-9, NO-7491 Trondheim Abstract The Etended Kalman Filter (EKF) has long been the de-facto standard for nonlinear state space estimation [11], primarily due to its simplicity, robustness and suitability for realtime implementations. However, an alternative approach has emerged over the last few years, namely the unscented Kalman filter (UKF). This filter claims both higher accuracy and robustness for nonlinear models. Several papers have investigated the accuracy of UKF for nonlinear process models, but none has addresses the accuracy for nonlinear measurement models in particular. This paper claims to bridge this gap by comparing the performance of EKF to UKF for two tracing models having nonlinear measurements. 1 Introduction The problem of state estimation concerns the tas of estimating the state of a process while only having access to noisy and/or inaccurate measurements from that process. It is a very ubiquitous problem setting, encountered in almost every discipline within science and engineering. The most commonly used type of state estimator is the Kalman filter. It is an optimal estimator for linear systems, but unfortunately very few systems in real world are linear. A common approach to overcome this problem is to linearize the system first before using the Kalman filter, resulting in an etended Kalman filter. This linearization does however pose some problems, e.g. it can result in nonstable estimates [8]. The development of better estimator algorithms for nonlinear systems has therefore attracted a great deal of interest in the scientific community, because improvements here will undoubtedly have great impact in a wide range of engineering fields. Notation Algebraic letters are distinguished based on their appearance: Normal (a) denotes scalars, bold (a) denotes vectors and uppercase (A) denotes matrices. Subscripts ( a ) denote discrete time. Conditional subscripts ( a b ) denote state in time a, given measurements up to time b. A hat superscript (â) denotes an estimated value, nown only with a certain belief. 2 Bacground A state space model is a mathematical model of a process, where the process state is represented by a numerical vector. State-space models actually consists of two separate models: the process model, which describes how the state propagates in time based on eternal influences, such as input and noise; and the measurement model, which describe how measurements z are taen from the process, typically simulating noisy and/or inaccurate measurements. 2.1 General State Space Model The most general form of state-space models is the nonlinear model. This model does typically consist of two functions, f and h: +1 = f (,u,w ) z = h(,v ) which govern state propagation and measurements, respectively. u is process input, and w and v are state and measurement noise vectors, respectively while is the discrete time. State-space models are remarably usable for modelling almost all sorts of processes. f and h are usually based upon a set of discretized differential equations, governing the dynamics of and observations from the process.

12 u w f(,u,w) +1 z -1 v h(,v) Figure 1: A general state-space model. z 1 is the unit delay function nown from the Z-transform in digital signal processing. 2.2 Linear State Space Model A linear state-space model is a model where the functions f and h are linear in both state and input. The functions can then be epressed by using the matrices F, B and H, reducing state propagation calculations to linear algebra. Overall this results in the following state-space model: u B +1 = F + B u + w w z = H + v v +1 + z -1 H + F Figure 2: A linear state-space model This linear model is easier both to calculate and analyze. Enabling modellers to investigate properties such as controllability, observability and frequency response [3]. Linear state models are either based on inherently linear processes, or simply a linearized versions of a nonlinear process by means of a first order Taylor approimation. 3 State Estimation State estimation concerns the problem of estimating the probability density function (pdf ) for the state of a process which is not directly observable. This involves both predicting the net state based on the current, and updating/correcting this prediction based on noisy measurements taen. 3.1 Recursive Bayesian Estimation z z The most general form for state estimation is nown as recursive Bayesian estimation [1]. This is the optimal way of predicting a state pdf for any process, given a system and a measurement model. In this section we will discuss this estimator, which recursively calculates a new estimate for each time-step, based on the estimate for the previous timestep and new measurements. Recursive Bayesian estimation wors by simulating the process, while at the same time adjusting it to account for new measurements z, taen from the real process. The calculations are performed recursively in a two step procedure. First, the net state is predicted, by etrapolating the current state onto net time step using state propagation belief p( 1 ) obtained from function f. Secondly, this prediction is corrected using measurement lielihood p(z ) obtained from function h, taing new measurements into account. The Chapman-Kolmogorov equation is first used to calculate a prior pdf for state, based on measurements up to time 1: p( z 1 ) = Z p( 1 )p( 1 z 1 )d 1 Bayes rule is then used to calculate the updated pdf for state, after taing measurements up to time into account: p( z ) = p(z )p( z 1 ) R p(z )p( z 1 )d predict p( z -1) p( z ) z update Figure 3: Recursive Bayesian estimator loop Unfortunately, this method does not scale very well in practice, mainly due to the large state space for multidimensional state vectors. Calculating the prior probability of each point in this state space involves a multidimensional integral, which quicly becomes intractable as the state space grows. Computers are also limited to calculation of the pdf in discrete point in state space, requiring a discretization of the state space. This technique is therefore mainly considered as a theoretic foundation for state estimation in general. Bayesian estimation by means of computers is only possible if either the state space can be discretized, or if certain limitations apply for the model.

13 3.2 Kalman Filter The problem of state estimation can be made tractable if we put certain constrains on the process model, by requiring both f and h to be linear functions, and the noise terms w and v to be uncorrelated, Gaussian and white with zero mean. Put in mathematical notation, we then have the following constraints: f (,u,w ) = F + B u + w h(,v ) = H + v w N(0,Q ) v N(0,R ) E(w i w T j ) = Q i δ(i j) E(v i v T j ) = R i δ(i j) E(w v T ) = 0 where Q and R are covariance matrices, describing the second-order properties of the state- and measurement noise. The constraints described above reduces the state model to: +1 = F + B u + w z = H + v where F, B and H are matrices, possible time dependent. As the model is linear and input is Gaussian, we now that the state and output will also be Gaussian [12]. The state and output pdf will therefore always be normally distributed, where mean and covariance are sufficient statistics. This implies that it is not necessary to calculate a full state pdf any more, a mean vector ˆ and covariance matri P for the state will suffice. Update state, after measurements are taen: K = P 1 H T (H P 1 H T + R ) 1 ˆ = ˆ 1 + K (z H ˆ 1 ) P = (I K H )P 1 where K is the Kalman gain matri, used in the update observer, and P is the covariance matri for the state estimate, containing information about the accuracy of the estimate. More details and bacground for this filter can be found in [2]. The Kalman filter is quite easy to calculate, due to the fact that it is mostly linear, ecept for a matri inversion. It can also be proved that the Kalman filter is an optimal estimator of process state, given a quadratic error metric [2]. 3.3 Etended Kalman Filter Most processes in real life are unfortunately not linear, and therefore needs to be linearized before they can be estimated by means of a Kalman filter. The etended Kalman filter (EKF) solves this problem by calculating the Jacobian 1 of f and h around the estimated state, which in turn yields a trajectory of the model function centered around this state. y y=f() -1 P -1 z predict P update Figure 4: Kalman filter loop The recursive Bayesian estimation technique is then reduced to the Kalman filter, where f and h is replaced by the matrices F, B and H. The Kalman filter is, just as the Bayesian estimator, decomposed into two steps: predict and update. The actual calculations required are: Predict net state, before measurements are taen: ˆ 1 = F ˆ B u P 1 = F P 1 1 F T + Q Figure 5: Illustration of how the Etended Kalman filter linearizes a nonlinear function around the mean of a Gaussian distribution, and thereafter propagates the mean and covariance through this linearized model F = f (,u,w) H = h(,v) ˆ,u,0 ˆ 1,0 1 The Jacobian is the matri of all partial derivatives of a vector

14 The etended Kalman filter wors almost lie a regular Kalman filter, ecept for F and H, which vary in time based on the estimated state ˆ. The actual calculations required are: Predict net state, before measurements are taen: ˆ 1 = f (ˆ 1 1,u,0) P 1 = F P 1 1 F T + Q Update state, after measurements are taen: K = P 1 H T (H P 1 H T + R ) 1 ˆ = ˆ 1 + K (z h(ˆ 1,0)) P = (I K H )P 1 where K is the Kalman gain matri, used in the update observer, and P is the covariance matri for the state estimate, containing information about the accuracy of the estimate. 3.4 Unscented Kalman Filter Introduction The problem of propagating Gaussian random variables through a nonlinear function can also be approached using another technique, namely the unscented transform. Instead of linearizing the functions, this transform uses a set of points, and propagates them through the actual nonlinear function, eliminating linearization altogether. The points are chosed such that their mean, covariance, and possibly also higher order moments, match the Gaussian random variable. Mean and covariance can be recalculated from the propagated points, yielding more accurate results compared to ordinary function linearizaton. The underlying idea is also to approimate the probability distribution instead of the function. This strategy typically does both decrease the computational compleity, while at the same time increasing estimate accuracy, yielding faster, more accurate results Bacground The underlying method of unscented transform was first proposed by Uhlmann et al. in [11] and [10], where they laid out the framewor for representing a Gaussian random variable in N dimensions using 2N + 1 samples, called sigma points. They utilized the matri square root and covariance definitions to select these points in such a way that they had the same covariance as the Gaussian they approimated. Sewness was avoided by selecting the points in a symmetric way, such that any approimation error would only originate from the fourth and higher moments. Usage of the unscented transform in Kalman filtering was then presented by Julier in [8], where he introduced the Unscented Kalman filter (UKF), which approimates the state estimate using sigma points. Later, it was analyzed more in depth in [16]. A limitation associated with the unscented Kalman filter is that it has a lower bound on the safe spread of the sigma points, meaning the distance between the points in state space. Sigma point spreads below this bond are not guaranteed to yield positive semidefinite correlation matrices. This distance also increases with the dimension of the state space, a limitation that may cause problems in highly nonlinear models, since high sigma point spread may result in sampling of non-local features. The technique presented here is therefore based on the scaled unscented transform [6], which provides an additional tuning parmeter, α, compared to the original unscented transform. This parameter is used to arbitrary control the spread of the sigma-points, while at the same time guaranteeing positive semidefinite covariance matrices. Even models of high dimensonality can then eep a tight sigma point spread to avoid nonlocal effects Augmented state The unscented transform approach also has another advantage, namely that noise can be treated in a nonlinear fashion to account for non-gaussian or nonadditive noises. The strategy for doing so involves propagation of noise through the functions by first augmenting the state vector to also include noise sources, a technique first introduced by Julier in [7], and later refined more in depth by Merwe in [16]. Sigma point samples are then selected from the augmented state, a, which also includes noise values. The net result is that any nonlinear effects of process and measurement noise are captured with the same accuracy as the rest of the state, which in turn increases accuracy for non-additive noise sources Filter Formulation The filter starts by augmenting the state vector to L dimensions, where L is the sum of dimensions in the original state-vector, model noise and measurement noise. The covariance matri is similarly augmented

15 y y=f() and the χ v 1 rows, which contains sampled measurement noise. Each sigma-point is also assigned a weight. These weight are derived by comparing the moments of the sigma-points with a Taylor series epansion of the models while assuming a Gaussian distribution, as derived in [9]. The resulting weights for mean (m) and covariance (c) estimates then becomes: Figure 6: Illustration of how the unscented Kalman filter propagates sigma-points from a Gaussian distribution through a nonlinear function, and recreates a Gaussian distribution, by calculating the mean and covariance of the results to a L 2 matri. Together this forms the augmented state estimate vector a and covariance matri P a : a 1 = 1 0 w 0 v P 1 a = E{(a 1 ˆa 1 )(a 1 ˆa 1 )T } P = 0 Q R 1 The net step consists of creating 2L + 1 sigma-points in such a way that they together captures the full mean and covariance of the augmented state. The χ a matri is chosen to contain these points, and its columns are calculated as follows: χ a 0, 1 = a 1 i = 0 χ a i, 1 = a 1 + (α LP a 1 ) i, i = 1...,L χ a i, 1 = a 1 (α LP a 1 ) i L, i = L ,2L where subscript i means the i-th column of the square root of the covariance matri 2. The α parameter, in the interval 0 < α 1, determines sigma-point spread. This parameter is typically quite low, often around 0.001, to avoid non-local effects. The resulting χ a 1 matri can now be decomposed vertically into the χ 1 rows, which contains the state; the χ w 1 rows, which contains sampled process noise 2 The square root of a symmetric matri is typically calculated by means of a lower triangular Cholesy decomposition. The square root A of matri P is then on the form P = AA T. w (m) 0 = 1 1 α 2 i = 0 w (c) 0 = 4 1 α 2 α2 i = 0 w (m) i = w (c) i = 1 2α 2 L i = 1...,2L The filter then predicts net state by propagating the sigma-points through the state and measurement models, and then calculating weighted averages and covariance matrices of the results: χ 1 = f (χ 1,u,χ w 1 ) ˆ 1 = P 1 = 2L i=0 2L i=0 w (m) i χ 1 Z 1 = h(χ 1,χv 1 ) ẑ 1 = 2L i=0 w (c) i [χ 1 ˆ 1][χ 1 ˆ 1] T w (m) i Z i, 1 The predictions are then updated with new measurements by first calculating the measurement covariance and state-measurement cross correlation matrices, which are then used to determine the Kalman gain: P zz = P z = 2L i=0 2L i=0 w (c) i [Z i, 1 ẑ 1 ][Z i, 1 ẑ 1 ] T w (c) i [χ i, 1 ˆ 1][Z i, 1 ẑ 1 ] T K = P z P 1 zz ˆ = ˆ 1 + K (z ẑ 1 ) P = P 1 K P yy K T Eperimental results indicate [16] that Unscented Kalman filters yield results comparable to a third order Taylor series epansion of the state-model, while Etended Kalman filters of course only are accurate to a first order linearization. Consult [14] for a comparison of accuracy between the two inds of filters.

16 The most computationally demanding part of the Unscented Kalman filter is the matri square-root used to calculate sigma points. Matri diagonalization or Cholesy factorization of the covariance matri can be used to solve this problem, but a more direct square root approach, propagating only the square-roots of the covariance matrices, offers higher computationally efficiency. Merwe et al. proposes a approach for doing this in [15]. 3.5 Other Approaches Central difference Kalman filter (CDKF) proposed in [4] offers an alternative Kalman formulation for propagating Gaussian pdf s through nonlinear functions. This formulation, although it is different, remains very much lie UKF and is reported to perform indistinguishable from UKF in all tests performed [13]. The CDKF is therefore not addressed by this paper. Particle filters [1]: While the various types of Kalman filters often offers superb estimation accuracy, there are situations where they are not suited for the tas. This problem relates to the fact that all Kalman filters are constrained to only model Gaussian probabilities, and are therefore incapable of handling sewed or multimodal distributions. A more general approach is therefore needed when trying to estimate non-gaussian distributions. Particle filters, which are based on sequential Monte-Carlo simulations using importance sampling, can then often be a good alternative. Particle filters are not addressed here, since this paper focuses on estimating only the most probable state of a process, and not the entire process pdf, thus rendering particle filters superfluous. Particle filters are also much more computationally demanding than Kalman filters, often maing them intractable for usage in real-time settings. 4 Eperiments The eperiments described here aims at determining whether there are any difference between EKF and UKF for practical tracing applications, having linear process models and nonlinear measurement models. 4.1 Process Model The basis for the eperiment is an aeroplane, modelled linearly as a dual Wiener process 3 for position and velocity respectively, driven by white noise acceleration. 3 Wiener processes are integrated white noise The model ṗ = v, ṗ y = v y, v = a and v y = a y yields the following discrete time process model when assuming zero order hold with timestep T s = 1. p p y v v y +1 = p p y v v y a a y where the accelerations a and a y are modelled as uncorrelated white noise with a variance of 0.5. The process is assumed to start in the following state: 0 = [ ] T with the squared error metric ( ˆ) T ( ˆ) for estimation accuracy. 4.2 Tracing by Radar Radar tracing can be modelled with a measurement model observing distance and angle to the target: [ ] [ ] [ ] d p = 2 + p 2 y n1 + Θ atan(p y /p ) n 2 where the measurement model is clearly nonlinear. The radar is assumed to be positioned in the coordinates (0,0) with measurement noises n 1 and n 1, having a variance of 200 and 0.003, respectively. d Figure 7: Tracing of plane motion by means of a radar 4.3 Tracing by Triangulation Tracing by triangulation can similarly be modelled with a measurement model observing distances to the target from two observators: [ d1 d 2 ] [ ] [ (p p = 1 ) 2 + (p y p 1y ) 2 n1 (p p 2 ) 2 + (p y p 2y ) 2 + n 2 where the measurement model is also clearly nonlinear. The observators are assumed to be positioned in ]

17 Model EKF MSE UKF MSE Radar (5.00) (0.363) Triangulation (3.15) (2.81) d 1 d 2 Table 1: Mean squared error (MSE) for the estimations, saturating errors above Accuracy variance is given in parenthesis. Figure 8: Tracing of plane motion by means of triangulation Error distribution for radar tracing ef uf the coordinates ( 300,0) and (300,0), with measurement noises n 1 and n 2, both having a variance of 200. This configuration also poses an ambiguity problem, since measurements coming from a given position will be equal to the same position flipped about the -ais. This will probably not be a big problem, since the process model prediction will help resolving this ambiguity Observed, true and estimated trajectory observations true trajectory estimated trajectory Figure 9: Eample illustration of observations, true trajectory and estimated trajectory for the eperiments using the UKF 4.4 Results A dual simulation/estimation eperiment was run times. Each time, a simulated plane trajectory were estimated over 80 time steps, by both EKF and UKF for both of the observation models. The estimation accuracy results are shown in the table below, with accuracy distribution plots in the accompanying figure. The MSE estimate variance is calculated from the empirical error distribution, using VAR(MSE) = VAR(error)/N Error distribution for triangulation tracing ef uf Figure 10: Estimation accuracy distributions assuming validity of the central limit theorem. The radar model, having measurements involving the highly nonlinear arcus-tangent, shows a wider difference in the estimation accuracy between EKF and UKF, compared to the triangulation model which only has Pythagoras measurements, being significantly more linear. It can further be seen that UKF seems to show a higher degree of robustness, having fewer estimates with errors above 1000 for both of the models. 5 Conclusion Several papers have investigated the accuracy of UKF for nonlinear process models [16], [5], but none has addresses the accuracy for nonlinear measurement models in particular. This paper did therefore compare the relative estimation accuracy of UKF compared to EKF for linear state space models with nonlinear measurements. The empirical results shows a significant difference for the radar model, but not for the tracing model. This is believed to be caused by the difference in nonlinearity between the two models, having a highly nonlinear radar model and a relatively more linear tracing model. The relative advantage of using UKF does therefore seem to increase with the degree of nonlinearity in the measurement model. This finding is con-

18 sistent with the arguments for using the UKF presented in [16]. The estimation error distribution plots show that the two estimators yield quite similar results for both models, with the most significant eception being the amount of estimates having severely large errors. This leads us to the conclusion of UKF being a more robust estimator than EKF. Statement of reproducibility: All program code required to reproduce the results shown in this paper are freely available upon request by contacting the author. References [1] S. Arulampalam, S. Masell, N. Gordon, and T. Clapp. A tutorial on particle filters for on-line non-linear/non-gaussian bayesian tracing. IEEE Transactions on Signal Processing, 50(2): , February [2] Robert Grover Brown and Patric Y. C. Hwang. Introduction to Random Signals and Applied Kalman Filtering, 3rd Edition. Prentice Hall, [3] Chi-Tsong Chen. Linear System Theory and Design, third edition. Oford University Press, [4] K. Ito and K. Xiong. Gaussian filters for nonlinear filtering problems. Kazufumi Ito and Kaiqi Xiong, Gaussian Filters for Nonlinear Filtering Problems, IEEE Transactions on Automatic Control, vol. 45, no. 5, pp , May [5] Joseph J. and LaViola Jr. A comparison of unscented and etended alman filtering for estimating quaternion motion. Proceedings of the 2004 American Control Conference, IEEE Press, , June [9] Simon Julier and Jeffrey Uhlmann. Unscented filtering and nonlinear estimation. Proceedings of the IEEE, March [10] Simon Julier, Jeffrey Uhlmann, and Hugh Durrant-Whyte. A new approach for filtering nonlinear systems. Proceedings of the 1995 American Control Conference, IEEE Press, June [11] Ben Quine, Jeffrey Uhlmann, and Hugh Durrant- Whyte. Implicit jacobians for linearised state estimation in nonlinear systems. Proceedings of the 1995 American Control Conference, IEEE Press, June [12] Charles W. Therrien. Discrete Random Signals and Statistical Signal Processing. Prentice Hall, [13] Rudolph van der Merwe. Sigma-point alman filters for probabilistic inference in dynamic statespace models. Worshop on Advances in Machine Learning, Montreal., June [14] Rudolph van der Merwe and Eric Wan. Sigmapoint alman filters for integrated navigation. [15] Rudolph van der Merwe and Eric Wan. The square-root unscented alman filter for state and parameter-estimation. Proceedings of the International Conference on Acoustics, Speech, and Signal Processing (ICASSP), Salt Lae City, Utah, May [16] Eric Wan and Rudolph van der Merwe. The unscented alman filter for nonlinear estimation. Proc. of IEEE Symposium 2000 (AS-SPCC), Lae Louise, Alberta, Canada, October [6] Simon Julier. The scaled unscented transform. Proceedings of the 2002 American Control Conference, IEEE Press, May [7] Simon Julier and Jeffrey Uhlmann. A general method for approimating nonlinear transformations of probability distributions. University of Oford, November [8] Simon Julier and Jeffrey Uhlmann. A new etension of the alman filter to nonlinear systems. Int. Symp. Aerospace/Defense Sensing, Simul. and Controls, Orlando, FL, 1997.