The Nonlinear Models with Measurement Error and Least Squares Estimation

Transkript

1 D.Ü.Ziya Gökalp Eğiim Fakülesi Dergisi 5, ÖLÇÜM HATALI LiNEER OLMAAN MODELLER ve EN KÜÇÜK KARELER KESTİRİMİ The Nonlinear Models wih Measuremen Error and Leas Squares Esimaion Öze : u çalışmada, Aziz HARMAN * y e, u ve 1,,..., n z için, gözlemleri yapıldığında, ölçüm haalı lineer olmayan = onksiyonel ilişkisine sahip regresiyon modelinin paramereleri ' e, u haa vekörünün sıır oralamaya ve pozii anımlı singuler olmayan kovaryans haa marisi ile normal dağılıma sahip olduğunu kabul ederek haa marisinin bilindiği veya bilinmediği durumlarda y nin amamen üreve dayalı en küçük kareler kesirimi incelenmişir. Anahar kelimeler : En küçük kareler, kesirim, lineer olmama, ölçüm hasalı modeller. Absrac : In his sudy, i has been purposed o esimae parameers o nonlineer regression model = wih uncional relaionships, where and are boh subjec o measuremen error, when we consider observe, or y e, u and 1,,..., n here or i is assumed ha he error vecor z ' e, u has zero mean value and covariance error mari wih normal disibued, ha is posiive deined and nonsinguler. In cases wheher covariance error mari known or unknown, we give leas squares esimaion abou y ha depend on dieranaion. Key words: Leas Squares, Esimaon, Non Linear, Measuremen Error Models Giriş: Lineer olmayan modellerde paramere kesirimi son yüzyılın başlarından * Öğr.gör.Dr.,Dicle Üniversiesi Ziya Gökalp Eğiim Fakülesi, Sını Öğremenliği ölümü, Diyarbakır, aharman@dicle.edu.r 17

2 iibaren araşırmaya başlamışır. u yıllarda Deming W.E.1931araından lineerizasyona bir kesirim yönemi verilmişir. Deming in bu yönemi, Dolby197 araından bazı değişikliklerle gelişirdi.fuller W.A.ve Woler M.K.198-a araından ölçüm haalı lineer olmayan modellerde kesirim sorunu incelenmişir.fuller W.A e haa marisinin singuler olması durumunda ölçüm haalı lineer olmayan modellerde paramere kesirimi incelenmişir.urada,haa marisinin bilindiği veya bilinmediği durumlarda ölçüm haalı lineer olmayan modellerde paramere kesirimi için en küçük kareler yönemi incelenmişir. 1 Modelin Tanımı: Tanım 1: ir kümesinin al kümelerinden oluşan bir sınıı a, e ba için c deki bir n dizisi için i ise sınıına 'da bir i 1 cebir denir. Tanım :, da bir cebir olmak üzere P: R A PA onksiyonu a A için PA. bp =1 c deki ayrık bir A n dizisi için P A PA özelliklerine sahip ise P ye üzerinde bir olasılık ölçüsü denir. Tanım 3:,, 'da bir cebir ve P, üzerinde bir olasılık ölçüsü olmak üzere,, üçlüsüne olasılık uzayı denir. Tanım 4:,, P bir olasılık uzayı, n 1,,... için anbn n olacak şekilde a n ve b 1 n birer pozii reel sayı dizisi olsunlar. a n n1 n 1 alınırsa. y : 1 n ci denemedeki gözlemler, 1,... n olmak üzere, y, e, u ise 1 modeline ölçüm haalı model denir. i1 n i 1 n 18

3 : p 1 boyulu paramere vekörü olup p boyulu R p Euclid uzayının kompak ve konveks al kümesi olan kümesinin bir iç nokasıdır. :1q boyulu vekörlerin bir dizisi ve vekörleri R q Euclid uzayın al pq kümesi olan A nın elemanlarıdır. : R R 1 Reel değerli sürekli bir onksiyondur.,, üzerinde anımlanmış e, u rasgele değişkenleri ölçüm haalarını belirir.fuller W.A.198-a Tanım 5: Eğer 1 de anımlı : onksiyonu veya ya göre lineer değil ise bu modele ölçüm haalı lineer olmayan model denir. u modelde rasgele değişkenler olan ler sabi ise model onksiyonel ilişkiye, ler sabi olmayan rasgele değişkenler ise model yapısal ilişkiye sahipir denir. u çalışmada onksiyonel ilişkili modellerle ilgileneceğiz. şimdi kesirim yönemlerinde kullanacağımız bazı sembolleri anıalım. : onksiyonu kümesi üzerinde her iki değişkene göre birinci ve ikinci merebeden ürevlere sahip olsun. Göserimler aşağıdaki gibidir. : : onksiyonu, in elemanlarına göre : nin kismi ürevlerinin q boyulu sair vekörünü, : : onksiyonu, nin elemanlarına göre kısmi ürevlerin p boyulu süun vekörünü, : : onksiyonu, ve nin elemanlarına göre ikinci kýsmi ürevlerin pq boyulu marisini, : : onksiyonu, e göre ikinci kısmi ürevlerin qq boyulu marisini gösersin.seber.g.a.f MODEL PARAMETRELERİN KESTİRİLMESİ. ir paramerenin beklenen değerini bulmakla bu paramerenin kesiricisi bulunur. ise isaisiğine parameresinin yansız kesiricisi denir. Örneğin örneklem oralaması kile oralaması için bir yansız kesiricidir. E. Ölçüm haalı lineer olmayan bir model için paramere kesirimi yapılırken, klasik lineer olmayan model kesiriminde opimizasyon olarak bilinen aşağıdaki yönem kullanılır. Model yardımıyla bir amaç onksiyonu bulunur, bu 19

4 onksiyon kalan kareler oplamı, rezidüler veya arıklar olarak bilinir. Amaç onksiyonunu minimumlaşırmakla model paramereleri kesirilmiş olur. u modelin bulundurduğu rasgele değişkenlere ai maksimum olabilirlik onksiyonunu veya bu onksiyonun logarimasını maksimumlaşırmakla da modelin maksimum olabilirlik kesiricileri bulunur. 1 modeli için amaç onksiyonu aşağıdaki gibi yazılabilir. 1 Q :,,.,, 3. En Küçük Kareler Kesirimi. En küçük kareler yönemi, basi lineer olmayan regresyon modelindeki paramereleri kesirmek için kullanılan üreve dayalı bir yönemdir. u yönem, Gaus-Newon yönemi, Gradien yönemi, Marguard yönemi veya en hızlı döşüm Sepes-descen yönemi olarak bilinir. Küçük kareler yönemi, kalan kareler oplamını herbir paramereye göre minimum yapmak için kullanılan bir yönemdir. y,, y, e, u 1,... n iç in e, u ve, 11

5 olduğunu kabul edelim. Ayrıca e, u ölçüm haaları sıır oralama marisli, kovaryans marisi ile bağımsız olarak normal dağılıma sahip olsun. e u e e e e u ee eu e eu.. e, u 3 olacak şekilde u u e u u ue uu ue uu kovaryans marisini blok marisler halinde yazabiliriz. 1 modeli için kovaryans marisli amaç onksiyonu olan n 1 Q q,, 4 1 onksiyonunu minimumlaşırmak gerekir. unun için bu iadenin ve e göre kısmi ürevlerini alıp sııra eşilersek normal denklemler elde ederiz. ya göre ürev almakla p ane, e göre ürev almakla q ane denklem elde edilir. u denklemlerin orak çözümüyle bulunacak ve kesiricileri ve paramerelerinin en küçük kareler kesiricileridir. 3.1 Kovaryans marisi biliniyorsa. Q,, 1, Q 1 1,., ise 1,, 5 111

6 Q 1, 1,,, I ise, 1,, I 6 bulunur. 5 denkleminde p bilinmeyenli p ane 6 denkleminde q bilinmeyenli q ane normal denklem bulunmakadır. Her bir denklem siseminin orak çözümü olan,,...,,,,... 1 p 1 q değerleri ve in en küçük kareler kesiricileridir. 3. Kovaryans marisi bilinmiyorsa. V, V bilinen pozii anımlı karesel bir maris, bilinmeyen ama kesirilebilen bir sabiir. u durumda, V 1 F G A np olsun. 8 G H C n urada F,H,A ve C marisleri simerik değildir. G ve marisi simerikir. Q,,, V, 11

7 1 1 F A C G = A C - A G C A C 1 1 H C A bağınıları yazılabilir. Seber.G.A.F u bağınılar yardımıyla A F F G H GF G GF = F G H GF G H GF G GF 1 1 C H GF G ers bağınılar bulunur

8 N 1,... n, r 1,... p r M diag Q C M M MAM 1 T Q MA 1 A AM Q MA A AM T olmak üzere A e -1 V e, u. C u e A u e u C e, u 11 e A e u u C 114

9 115 A C olur. 1 ˆ ˆ ˆ. 1 A N ve N AN ise A V olur C A V olur. 14. C M MA C M MA olur. 13 ve 14 denklem sisemlerinin çözümünü sağlayan ve deðerleri ve ' nin en küçük kareler kesiricileridir.dolby.197

10 Sonuç: Ölçüm haalı lineer olmayan modellerde, modelin lineer olmayışı ve değişkenlerdeki ölçüm haalarının geirdiği zorluklar nedeniyle paramere kesirimi bazı kısılamalar alında yapılabilmekedir. Kaynaklar: 1. ri H.I. and Lucke R.H. The esimaion o parameers in nonlinear implici model. Tecnomerics, , Donald W. Marquar. An algorihm or leas squares seimaion o nonlinear parameers. J.Soc.Indus. Appl.Mah Dolby. G.R. Generalized leas squares and Maksimum likelihood Esimaion o Nonlinear Foncional Relaionships, J.R. Sa. 5, Fuller A.Wayne. Esimaing a Nonlinear errors in variables model wih singular error Covairance mari. procedings o he business and Economeric saisics secion. Amer Sais. Assoc Fuller A.W. and Woler. M.K.Esimaion o nonlinear errors in variables models. The. 6. Ann. o saisics. 1., a 7. Seber, G.A.F. and Wild, C.J. Nonlinear Regression. John Wiley and Sons. Newyork DEMİNG, W.E. The applicaion o leas squares. Philosophical magazine series 7,11,

11