Eleco Eletri Eletroni Bilgisayar ve Biyomedial Mühendisliği Sempozyumu, 9 Kasım, Bursa Wiener Kullanara Sistem Kimlilendirme System Identi flication Using Wiener Şaban Özer, asan Zorlu, Selçu Mete Eletri ve Eletroni Mühendisliği Bölümü Erciyes Üniversitesi sozer@erciyes.edu.tr,hzorlu@erciyes.edu.tr Tür Teleom A.Ş. Kayseri Bölge Müdürlüğü selcu.metes@gmail.com Özet Sistem imlilendirmede amaç, bilinmeyen bir sistemin transfer fonsiyonu yani iç yapısının belirlenmesidir. Literatürde sistemlerin imlilendirilmesi için birço doğrusal ve doğrusal olmayan model yapısı bulunmatadır. Sistemin giriş-çıış ilişisinin doğrusal eşitlilerle ifade edildiği durumlarda Sonlu Darbe Cevaplı (Finite Impulse Response- FIR), Sonsuz Darbe Cevaplı (Infinite Impulse Response-IIR) ve Özbağlanımlı (Autoregressive-AR) model gibi doğrusal modeller ullanılır. Anca gerçe hayattai birço sistemin doğrusal olmayan yapıya sahip olması nedeniyle doğrusal olmayan modeller geliştirilmiştir. Doğrusal olmayan model yapılarına örne olara Volterra, Bilineer ve Polinomsal Özbağlanım (PAR) gibi modeller verilebilir. Literatürde doğrusal ve doğrusal olmayan modellerin asat bağlanara elde edildiği Wiener, ammerstein, Wiener-ammerstein gibi blo odalı modeller de bulunmatadır. Bu modeller uygulamalardai ullanışlılığın yanı sıra, geniş bir doğrusal olmayan süreci tahmin etmede de etili olduları için tercih edilmetedir. Bu çalışmada, doğrusal FIR model ile doğrusal olmayan Volterra modelin birbirine asat bağlanması ile elde edilen Wiener modelin sistem imlilendirme alanına uygulamaları yapılmıştır. Elde edilen Wiener model parametrelerinin tespiti için en üçü ortalama areler (Least Mean Squares - LMS) ve özyineli en üçü areler (Recursive Least Squares -) uyarlanır algoritmaları ullanılmıştır. Ayrıca Wiener model başarımının tespiti için elde edilen sonuçlar, FIR model ve Volterra modellere ait sonuçlarla arşılaştırılmıştır. Abstract The aim of the system identification is to determine the transfer function, the internal structure of an unnown system. In literature, various linear and nonlinear model structures are defined to identify the systems. Linear models such as Finite Impulse Response (FIR), Infinite Impulse Response (IIR) and Autoregressive (AR) are used in the situations that the input-output relation is signified through linear equivalence. owever because of the nonlinear structure of the systems in real life, nonlinear models are developed. Volterra, Bilinear and polynomial autoregressive (PAR) are the examples of nonlinear models. In literature, there are also bloc oriented models to cascade the linear and nonlinear systems such as Wiener, ammerstein and Wiener- ammerstein. These models are preferred because of practical use and effective prediction of wide nonlinear process. In this study, system identification applications of Wiener model that is cascade of linear FIR model and nonlinear Volterra model. Least mean Square (LMS) and Recursive Least Square () algorithms are used to identify the Wiener model parameters. Furthermore, The results are compared with the FIR model and Volterra model results to identify the success of Wiener model.. Giriş Sistemin etin bir şeilde ontrol edilebilmes çıış değeri haında her zaman bilgi sahibi olunabilmesi ve geliştirilebilmesi açısından sistem modelinin ve tahmin edilen parametre değerlerinin mümün olan en az hata ile belirlenmesi gereir []. Sistem imlilendirme işlem sistemin doğrusallı durumuna göre doğrusal ve doğrusal olmayan modeller ile yapılmatadır [-8]. Sistemin giriş-çıış ilişisinin doğrusal eşitlilerle ifade edildiği doğrusal modelleme, teori altyapısının gelişmiş olmasından dolayı yaygın bir şeilde ullanılmatadır [,]. âlbui gerçe hayatta arşılaşılan birço sistem doğrusal olmayan davranışlara sahiptir. Bu tür sistemlerin imlilendirilmesinde doğrusal modelleme yöntemleri yetersiz almata ve doğrusal olmayan modelleme yöntemlerinin ullanılması geremetedir [,,-8]. Doğrusal olmayan modellemede, sistemin giriş-çıış ilişis diferansiyel denlemler, üstel ve logaritmi fonsiyonlar gibi doğrusal olmayan matematisel ifadelerlerle sağlanır [9]. Literatürde yapılan çalışmalar analiz edildiğinde, doğrusal modellerin imlilendirilmesi için çoğunlula AR, Kayan Ortalamalı (Moving Average-MA), Özbağlanmlı Kayan Ortalamalı (Autoregressive Moving Average-ARMA) veya bunların türevleri olan FIR, IIR model yapıları tercih
Eleco Eletri Eletroni Bilgisayar ve Biyomedial Mühendisliği Sempozyumu, 9 Kasım, Bursa ediliren, doğrusal olmayan sistemlerin imlilendirilmesinde ise genellile Volterra, Bilineer, PAR gibi model tiplerinin ullanıldığı tespit edilmiştir [8-]. Ayrıca son zamanlarda Wiener, Wiener-ammerstein, ammerstein- Wiener gibi doğrusal ve doğrusal olmayan modellerin asat bağlanara elde edildiği blo odalı modellere ilginin de arttığı görülmetedir []. Bunun sebebi ise, bu modellerin basit ve etili ontrol sistemlerinde ullanışlı olmasıdır. Uygulamalarda ullanışlılığın yanı sıra, geniş bir doğrusal olmayan süreci tahmin etmede de etili olduları için tercih edilmetedirler [-]. Bu modellerden Wiener model il defa 9 yılında arendra ve Gallman tarafından önerilmiş ve günümüze adar modeli geliştirme için Parçacı Sürü Optimizasyon[], Geneti[8], Bateriyel Besin Arama[9], Diferansiyel Gelişim[] ve Yapay Sinir Ağları[] gibi bir ço metod denenmiştir. Bu çalışmada, doğrusal FIR model ile doğrusal olmayan Volterra modelin birbirine asat bağlanması ile elde edilen Wiener modelin sistem imlilendirme alanına uygulamaları üzerinde durulmuştur. Sunulan Wiener modelin başarımı ve parametre tahmini için LMS ve uyarlanır algoritmaları ullanılmıştır. Ayrıca Wiener modelin başarımının tespiti için elde edilen sonuçlar, doğrusal FIR model ve doğrusal olmayan Volterra modellere ait sonuçlarla arşılaştırılmıştır... Doğrusal FIR. Yapıları FIR model yapısı; birim gecitirme elemanı, çarpıcı ve toplayıcı olma üzere üç temel elemandan oluşmatadır []. FIR modelin giriş çıış ilişis y( a n ) şelindedir. Burada giriş işaretin y( ise model çıışını temsil etmetedir. FIR modelin atsayılarını temsil eden w ağırlı vetörü ise, w = [a a. a - ] T () şelinde tanımlanmatadır[]... Doğrusal Olmayan Volterra Doğrusal olmayan sistemlerin imlilendirilmesinde en ço ullanılan yöntem, Volterra yapısıdır[,]. Volterra serileri; y n i i h x i ni i q x x ni n () q x x x... (), ni n n şelindedir. Burada y n çıış, x n giriş dizisin h i doğrusal ısma ait, q ise doğrusal olmayan ısma ait uadrati parametreleri göstermetedir. Literatürde genelde sadece h i ve q değerlerinin göz önüne alındığı iinci dereceden Volterra yapılar sistem imlilendirmede ullanılır [,]. Çünü bundan büyü yapılar ço fazla işlem geretirmetedir. Birço araştırmacı Volterra modellerin blo ve uyarlanır uygulamaları üzerine çalışmıştır. Volterra modeller anal denleştirme, yanı bastırımı ve uyarlanır gürültü bastırımı gibi gerçe hayat problemlerini çözmede ullanılmatadır [,8,]... Wiener Birço sistem, doğrusal ve doğrusal olmayan yapılardan oluşan modellerle temsil edilebilir []. Şeil de gösterilen Wiener model yapısı, doğrusal model ile doğrusal olmayan modelin asat bağlanması ile elde edilir[,]. Şeil : Wiener model yapısı Wiener model bir ço önemli uygulamada ullanılmıştır; P ontrolu, aış ontrolü, biyoloi sistemlerin tanımlanması, doğrusal olmayan sensörler ile doğrusal sistemleri tanımlama vb.[] Şeil 'de gösterilen Wiener model yapısında, doğrusal blo giriş u( doğrusal olmayan blo girişi ve y( ise sistem çıışıdır. Yapılan bu çalışmada doğrusal olmayan blo olara iinci derece Volterra model ve doğrusal model olara ise FIR model yapısı ullanılmıştır. Doğrusal FIR model çıışı; u ( a n ) () şelinde ifade edilmete olup, doğrusal olmayan derece Volterra model çıışı; y( i i Doğrusal h u( n i) u( q Doğrusal Olmayan u( n i) u( n ) iinci i () şelinde ifade edilmetedir. y( aynı zamanda sistem çıışıdır. Bu çalışmada önerilmiş olan Wiener modelin dezavantaı asat yapıya sahip olması sebebi ile diğer model tipleri olan FIR ve Volterra modellerden daha armaşı bir matematisel altyapı ile oluşturulabilmesidir.. Uyarlanır Algoritmalar y(.. En Küçü Kareler (Least Mean Square-LMS) Algoritması Türeve dayalı bu yöntemde parametreler her iterasyonda hatayı en aza indirece şeilde değişmete olup hesaplama olaylığı ve basit yapısından dolayı sılıla ullanılmatadır. Sistem imlilendirme yapılarında hata, bilinmeyen sistem çıışı ile model çıışı arasındai far, e( y( ym ( () şelinde tanımlanmatadır. Burada y( bilinmeyen sistem çıışı, y m ( ise model çıışıdır. Optimum sistem parametrelerini bulma için LMS algoritması, w w e x () şelinde ifade edilebilir. Burada w model parametres μ adım büyülüğü, x ise giriş verisidir []... Özyineli En Küçü Kareler (Recursive Least Square- ) Algoritması Bu yöntemde de parametreler her iterasyonda hatayı en aza indirece şeilde değişmetedir. algoritmasının en önemli özelliğ algoritmanın başlangıç anına adar olan giriş
Eleco Eletri Eletroni Bilgisayar ve Biyomedial Mühendisliği Sempozyumu, 9 Kasım, Bursa verisindei tüm bilgiyi ullanmasıdır. Burada e hata değer d gerçe sistem çıışının, x giriş işareti ve w model parametre vetörünün çarpımı sonucunda elde edilen model çıışından çıarılması ile elde edilir, e( d( w ( n ) (8) ardından azanç vetörü, n ) ( x ( n ) w yeni sistem parametreler w( w( n ) ( e( () P güncel ovaryans matris n ) ( x ( n ) () hesaplanmatadır. Bu yöntemde, uyarlanır azanç, ovaryans matrisi yardımıyla her iterasyon için ayarlanır. Çoğunlula yöntem LMS yöntemlerine göre daha hızlı yaınsar. Faat başlangıç değerleri ve yuvarlatma hataları açısından LMS den daha hassastır [].. Benzetim Çalışmaları Bu çalışmada, Şeil de blo yapısı verilen Wiener uyarlanır sistem imlilendirme yapısı üzerinde durulmuştur. Kimlilendirme işleminde, uyarlanır algoritmalar ile sistem çıışı ve model çıışı arasındai hata değeri bir amaç fonsiyonu yardımıyla minimize edilere model parametreleri belirlenmiştir. FIR Bilinmeyen Sistem u( y( Volterra + - y m( Uyarlama Algoritması e( (9).. Örne Problem : Yapılan bu örne çalışmada Şeil de verilen blo yapı göz önüne alındığında bilinmeyen sistem olara denlem () de verilen doğrusal ARMA sistem seçilmiş[], model olara ise denlem () tei gibi bir Wiener model ullanılmıştır. y( =..n-).n) +.y(n-).y(n) +.y(n-) () y m (=h a + h a n-) + h a n-) + h a n) + q a x ( + q a a n-) + q a a n-) + q a x (n-) + q a n-) + q a a n) + q a a x (n-) + q a n-)n) +q a n-)+ q a a x (n-) + q a a n) +q a n)n-) +q a x (n-) + q a a n-)n) + q a a n)n-) + q a x (n) () Benzetim çalışmalarında giriş verisi, hem sistem hem de model girişi olara ullanılmıştır. Giriş dizisi veriden oluşan Gaussian dağılımlı beyaz gürültüdür. Bu çalışmada Wiener model parametreler model çıışı ile sistem çıışı arasındai hata (MSE) minimize edilinceye adar ve LMS algoritmaları tarafından optimize edilmiştir. Sistem çıışı ile Wiener model çıışı arasındai farın MSE değerleri ise LMS ve algoritmaları için sırasıyla. ve.8 şelinde tespit edilmiştir. Ayrıca Wiener modelin başarımı, ve LMS algoritmaları ile ayrı ayrı eğitilen FIR model ve iinci derece Volterra modellerle arşılaştırılmış ve elde edilen hata (MSE) değerleri Tablo de verilmiştir. Tablo : Örne için modellere ait MSE değerleri Tipi LMS (s (s Wiener..9.8.8 Volterra..9.. FIR.98.8.9.9 Ayrıca Şeil te algoritması ile eğitilen her üç modele ait problem başarımları görsel olara sunulmuştur. Şeil : Wiener uyarlanır sistem imlilendirme. Wiener Wiener model doğrusal ve doğrusal olmayan yapılardan oluştuğu için benzetim çalışmalarında bilinmeyen sistem olara doğrusal ARMA ve doğrusal olmayan Volterra, Bilineer sistemler tercih edilmiştir. Bu sistemleri imlilendirme amacıyla seçilen Wiener model yapısı denlem () te = = seçilere elde edilmiştir. Seçilen Wiener model, farlı üç bilinmeyen sisteme uygulanmış ve model başarımı MSE (En Küçü Kareler-Mean Square Error) amaç fonsiyonu ullanılara değerlendirilmiştir. başarımı ve parametre tespiti için uyarlanır algoritma olara LMS ve algoritmaları tercih edilmiştir. Ayrıca Wiener model başarımı, sadece doğrusal FIR model ve sadece doğrusal olmayan iinci derece Volterra model başarımıyla da arşılaştırılmıştır. Bu amaçla ullanılan FIR model yapısı denlem () de = ve iinci derece Volterra model yapısı ise denlem () de = seçilere elde edilmiştir.. -. - -. WIEER MODEL SOUÇLARI.. -. - -. Volterra VOLTERRA MODEL SOUÇLARI
Eleco Eletri Eletroni Bilgisayar ve Biyomedial Mühendisliği Sempozyumu, 9 Kasım, Bursa. FIR FIR FIR MODEL SOUÇLARI. -. - -. FIR MODEL SOUÇLARI Şeil : Problem için ile eğitilen model çıışları.. Örne Problem : Bu örne çalışmada ise Şeil de verilen blo yapı göz önüne alındığında bilinmeyen sistem olara denlem () te verilen doğrusal olmayan Volterra sistem seçilmiş[], model olara ise denlem () tei gibi bir Wiener model ullanılmıştır. y( = -. + n) +.9x ( + x (n-) () Sistem çıışı ile Wiener model çıışı arasındai farın MSE değerleri ise LMS ve algoritmaları için sırasıyla.8 ve.x - şelinde tespit edilmiştir. Ayrıca Wiener modelin başarımı, ayrı ayrı eğitilen FIR model ve iinci derece Volterra model sonuçları ile arşılaştırılmış ve elde edilen hata (MSE) değerleri Tablo de verilmiştir. Tablo : Örne için modellere ait MSE değerleri Tipi LMS (s (s Wiener.8..x -.8 Volterra.89..88. FIR..9.89. Sonuçların görsel olara daha iyi anlaşılabilmesi için Şeil te algoritması ile eğitilen her üç modele ait sonuçlar incelendiğinde Wiener modelin üstünlüğü görülmetedir. - Şeil : Problem için ile eğitilen model çıışları.. Örne Problem : Bu çalışmada Şeil de verilen blo yapı göz önüne alındığında bilinmeyen sistem olara denlem () te verilen doğrusal olmayan Bilineer sistem seçilmiş, model olara ise denlem () tei gibi bir Wiener model ullanılmıştır. y(=.y(n-) -.y(n-) +.y(n-)n-) -.+.n-) () Sistem çıışı ile Wiener model çıışı arasındai farın MSE değerleri ise LMS ve algoritmaları için sırasıyla. ve. şelinde tespit edilmiştir. Ayrıca Wiener modelin başarımı, ayrı ayrı eğitilen FIR model ve iinci derece Volterra model sonuçları ile arşılaştırılmış ve elde edilen hata (MSE) değerleri Tablo te verilmiştir. Tablo : Örne için modellere ait MSE değerleri (s Tipi LMS (s Wiener..8..8 Volterra.9... FIR.8... Wiener WIEER MODEL SOUÇLARI Ayrıca Şeil te algoritması ile eğitilen her üç modele ait sonuçlar görsel olara sunulmuştur.. Wiener. -. - - -. 8 Volterra VOLTERRA MODEL SOUÇLARI WIEER MODEL SOUÇLARI... -. - Volterra - -. VOLTERRA MODEL SOUÇLARI.
Eleco Eletri Eletroni Bilgisayar ve Biyomedial Mühendisliği Sempozyumu, 9 Kasım, Bursa.. -. - -. FIR MODEL SOUÇLARI FIR Şeil : Problem için ile eğitilen model çıışları. Sonuçlar Bu çalışmada, doğrusal ve doğrusal olmayan yapıya sahip sistemlerin, LMS ve algoritmaları ile optimize edilen Wiener model yardımıyla imlilendirilmesi yapılmıştır. Elde edilen sonuçlarda algoritması ullanılara eğitilen Wiener modellerin, sistemleri daha düşü hata ile imlilendirebileceği görülmüştür. Ayrıca önerilen Wiener model başarımının, diğer modeller olan FIR ve Volterra ya göre daha iyi olduğu da tespit edilmiştir. Bilgilendirme: Bu çalışma Doğrusal Olmayan Sistemlerin lenmesi için Yeni Metotların Geliştirilmesi başlılı Erciyes Üniversitesi Bilimsel Araştırma Proesi tarafından destelenmetedir. (Proe Kodu: FDK-8). Kaynalar [] Lung, L., System Identification:Theory For The User Englewood Cliffs, J, Prentice all, 98. [] Widrow, B., Stearns, D., Adaptive Signal Processing, Englewood Cliffs, J, Prentice all, 98. [] onig, M.L., Messerschmitt, D.G., Adaptive Filters Structures, Algorithms and applications, Kluwer Academic Publishers, ingham, MA, 98. [] Töderstrom S., System Identification, Prentice all,989. [] Lung L., Söderström T., Theory and Practice Of Recursive Identification, MIT Press, Cambridge, MA, 98. [] Isidori A., onlinear Control Systems: An Introduction, Lecture otes in Control An Information Science, Springer Verlag, Berlin, 98. [] Özgunel, S., Kayran, A.., Panayirc E., onlinear Channel Equalization and Identification, Proc. Of Int. Conf. on Digital Signal Processing, 99, page:. [8] Özden, M. T., Kayran, A.., Panayirc E., Adaptive Volterra Filtering with Complete Lattice Orthogonalization, IEEE Trans. On Signal Proc., vol, page:998, 99. [9] Özer Ş., Zorlu., Chaotic Time Series Prediction Using The onlinear Par Systems, Journal of the Faculty of Engineering and Architecture of Gazi University, vol., no., page:-,. [] Özer, Ş., Sağıroğlu, Ş., Kaplan, A., Performance Analysis of Algorithms on Linear ARMA s, Proc. Of the Int. SymposIum Computer and InformatIon Science (ISCIS-XVI), vol., page: -,. [] Özer Ş., Zorlu., "Identification Of Bilinear Systems Using Differential Evolution Algorithm", Sadhana Academy Proceedings in Engineering Science, vol., page:89,. [] Diniz, P. S. R., Adaptive Filtering Algorithms and Practical Implemantations, Springer Verlag, USA, 8. [] Zorlu., Identification of onlinear Systems with Soft Computing Techniques, Erciyes Uni., Graduate School of atural and Applied Science Ph.D. Thesis,. [] afs S., Laabid K., Lahmar M.K., Identification of Wiener-ammerstein model with multisegment piecewiselinear characteristic, Electrotechnical Conference (MELECO), th IEEE Mediterranean,, page:-. [] Aguirre L.A., Coelhoand M.C.S., Correa M.V., On the interpretation and practice of dynamical differences between ammerstein and Wiener models, Control Theory and Applications, IEE Proceeding, vol., page: 9 -,. [] Lee, J., Cho, W., Edgar, T.F., Control system design based on a nonlinear first-order plus time delay model, J. Process Control, vol., page: -, 99. [] Al-Duwaish.., Identification of Wiener Using Genetic Algorithms, IEEE GCC Conference & Exhibition, 9, page: -. [8] uang W., Lin W., Parameter estimation of Wiener model based on improved bacterial foraging optimization, Artificial Intelligence and Computational Intelligence (AICI), International Conference on,, page:-8. [9] Zhang Y., Li S., Parameter Identification for Wiener Using Particle Swarm Optimization with a Case Study, Automation and Logistics, IEEE International Conference on,, page:-. [] Tian W., Geng Y., Ai L., Liu J., Dynamic Compensation for Infrared Thermometer Based on Wiener and Immune Clone Selection Algorithm, Circuits, Communications and Systems, 9. PACCS '9. Pacific- Asia Conference on, 9, page:-. [] Wu X., Zha L., Identification of Wiener of Intelligence Sensor Based on ybrid eural etwors, Information and Automation, ICIA 8 International Conference on, 8, page:8-8. [] am, S.W., Powers, E.J., Application Of igher Order Spectral Analysis To Cubically onlinear System Identification, Signal Processing, IEEE Transactions on, vol., page:, 99. [] aber R., Keviczy L., onlinear System Identification Input-Output ing Approach, Kluwer Academic Publishers, Theetherlands,999. [] ayin, S., Adaptive Filter Theory, Prentice-all, Englewood Cliffs, 98. [] Chon,. K., Linear and onlinear ARMA Parameter Estimation Using an Artificial eural etwor Biomedical Engineering, IEEE Transactions on, vol. no., page:8-, 99. [] Zorlu,., Özer, Ş., Identification of onlinear Volterra System Using Differential Evolution Algorithm, Electrical, Electronics and Computer Engineering (ELECO) ational Conference,, page:.