Bir tahmin edicinin sapması, beklenen değeriyle gerçek parametre arasındaki fark olarak tanımlanır.

Transkript

1 6. EN KÜÇÜK KARELER TAHMİNLERİNİN ÖZELLİKLERİ 6. TAHMİN EDİCİLERDE ARANAN ÖZELLİKLER Geellkle br tahm aa kütle parametres gerçek değere yakı olmasıı ve b gerçek parametre yakılarıda dar br aralıkta değşmes sterz. Aa kütle parametrese yakılık çeştl ekoometr tahm yötemler le blmş tahmler örektek dağılımları ortalaması ve varyasıyla ölçülür. Brada her zamak varsayımsal yelemel örekleme sürec kllaacak, ya her br gözleml çok sayıda örek aldığımızı varsayacağız. Ekoometr yötemler her br kllaarak her örekte bˆ tahmler hesaplayıp dağılımlarıı olştracağız. Küçük örekte blmş y br tahm edc ç temel ölçütler Sapmasızlık, E küçük varyas, Etklk, Doğrsal, e y, sapmasızlık (DES), E küçük ortalama hata kares (OHK), Yeterllk. ) Sapmasız Tahm Edc Br tahm edc sapması, beklee değeryle gerçek parametre arasıdak fark olarak taımlaır. Sapma= E(bˆ ) -b Eğer sapma sıfırsa ya E (bˆ ) =b se, br tahm edc sapmasız olr. B da örekler sayısı artıkça, sapmasız tahm edc, parametre gerçek değerlere yaklaştığı alamıa gelr. Sapmasız br tahm edc ortalama olarak parametre gerçek değer verr. (a) bˆ, b sapmasız tahm edcsdr (b) bˆ, b sapmalı tahm edcsdr.

2 Araa br özellk olmasıa karşı, sapmasızlık ked başıa çok öeml değldr. Acak küçük br varyasla brleşrse öeml olr. ) E Küçük Varyaslı tahm edc (ya da e y tahm edc) Br tahm, başka ekoometr yötemleryle blmş başka herhag br tahmle karşılaştırıldığıda e küçük varyasa sahp oldğ görülürse e y tahmdr. bˆ e y olma koşl: ˆ E[ b E( bˆ)] < E[ b E( b )] Ya da Var( bˆ )< var( b ) brada b, gerçek parametre b (sapmasız olması gerekmeye) herhag br başka tahmdr. Varyası küçük oldğ halde sapması büyük ola br tahm edc, b gerçek parametresde oldkça zak br değer etrafıda toplaablmektedr. bˆ, b büyük varyaslı sapmasız tahm edcsdr. b, b küçük varyaslı sapmalı br tahm edcsdr. bˆ sapmasızdır ama büyük br varyası vardır. b se sapmalıdır fakat varyası küçüktür. B k almaşık tahm edc arasıdak seçm, aşağıda açıklaa ortalama hata kares (OHK) ölçütüe bakılarak yapılablr. ) Etk Tahm Edc Br tahm edc, ykarıdak özellkler ks de üstüde toplamışsa etk sayılır.

3 Ya sapmasızdır ve başka herhag sapmasız tahm edcyle karşılaştırıldığıda daha düşük varyasa sahptr. Aşağıdak k koşl yere getrlse bˆ etkdr. ve (a) (b) E ˆ E( bˆ) b * * [ b E( bˆ)] E[ b E( b )] Brada * b, gerçek b başka br sapmasız tahm edcsdr. Başka br deyşle, etk tahm edc, bütü tahm sapmasız edcler sııfı çde e düşük (e y) varyasa sahp ola tahm edcdr. 4) Doğrsal Tahm Edc Br tahm edc, örektek gözlemler doğrsal br foksyoysa doğrsal sayılır. Örek gözlemler veryke, doğrsal br tahm edc ş bçm alır. k Y k Y... k Y Brada k ler sabt değerlerdr. Öreğ k = k = = k = Çükü Y... Y = Y Y Y Y Y Y... Y oldğda Y örek ortalaması doğrsal br tahm edcdr. Y, örek ortalaması hesaplaırke her gözleme, / ye eşt ola ayı k ağırlık verlmştr. 5) Doğrsal e y Sapmasız Tahm Edc (DEST) Br Tahm edc, doğrsalsa sapmasızsa ve gerçek b ötek doğrsal sapmasız tahm edcleryle karşılaştırıldığıda e küçük varyasa sahpse, DEST olr.

4 6) E küçük Ortalama Hata Karel(OHK) Tahm Edc Ortalama hata kares ölçütü, sapmasızlık ve e küçük varyas özellkler br tahmcsdr. Brada OHK, tahm edc, aa kütledek gerçek parametre b le ola farkıı kareler beklee değer olarak taımlaır: OHK E bˆ b bˆ OHK, tahm edc varyasıyla sapma kares toplamıa eşt oldğ gösterleblr. OHK bˆ =Var bˆ +sapma bˆ İspat: E bˆ b OHK= = E bˆ Eb ˆ Eb ˆ b = Eb ˆ Eb ˆ E b ˆ b E[ bˆ Eb ˆ][ Eb ˆ b] E bˆ E b ˆ = Var bˆ b ˆ b E =sapma (b) Ve E[ bˆ Eb ˆ][ Eb ˆb] = çükü E[ bˆ Eb ˆ][ Eb ˆb] = EbE ˆ b ˆ E b ˆ bb ˆ beb ˆ = E b ˆ E b ˆ beb ˆ beb ˆ Dolayısıyla OHK= Var bˆ +sapma bˆ 7) Yetel Tahm Edc Yeterl br tahm edc, gerçek parametre hakkıda br öreğ çerdğ bütü blgler kllaıma koya br tahm edcdr. B başka hçbr tahm edc, tahm edlmekte ola gerçek aa kütle parametres hakkıda daha fazla blg samayacağı alamıa gelr. 4

5 TAHMİN EDİCİLERİN BÜYÜK ÖRNEK ÖZELLİKLERİ: ASİMTOTİK ÖZELLİKLER Büyük öreklerde elde edle tahmlere lşkdr. Bradak özellkler br tahm ylğ belrleme ölçütü olarak kllaılması, öreğ sosz büyük ( ) olmasıı gerektrr. İşte b edele özellklere asmtotk özellk der. Örek büyük oldğ zama b özellkler yaklaşık olarak sağladığı varsayılır. Özellkler se şlardır: Asmtotk sapmazlık, ttarlılık ve Asmtotk etklk. ) Asmtotk Sapmazlık Br dz rassal değşke düşüüldüğüde {X () }= X (t).x () X (T) Blarda her br ked dağılımı, ortalaması ve varyası var. Dağılımlar gtgde arta örek büyüklüklerde olştrlmş blyor. T sosza gderke b dağılımlar da bell br dağılıma doğr yaklaşıyor olablrler. İşte b dağılıma {X () } dzs asmtotk dağılımı der. Asmtotk Beklet Br rassal değşkeler dzs asmtotk beklets, asmtotk dağılımı artmetk ortalamasıdır. X X, X,... X T rassal değşkeler dzs ele alalım. Tek tek bütü dağılımları beklee değerler varlığıı kabl edelm. Böylece aşağıdak beklee değer dzs elde edlr. E X ) E ( X ), E ( X ),... E ( X ) ( T Örek büyüklüğü sosza gderke beklee değer sol sabte yaklaşıyorsa, b sabte, başlagıçtak rassal değşkeler dzs Asmtotk ortalaması der. 5

6 {X() } asmtotk = lm E X beklets ) Asmtotk Varyas X X, X,... X T dzs asmtotk dağılımı şöyledr. lm E X ) = ( Dağılımları varyası şöyle blr. E ( X E ( X ) = ( X E ( X Başlagıçtak dz asmtotk varyası E ), ( X E ( X ) değldr, çükü çoğ zama sıırdak değer sıfırdır. VarX lm E X EX lm = E, gderke varyaslar dzs sıırdak değer İse X () dağılımı tek br oktaya er ve ba yaz dağılımı der. Çükü artık br dağılım kalmamıştır.( br oktaya yoğlaşa ve varyası sıfır ola dağılıma yoz dağılım der.) Yoz dağılımlara sahp tahm edcler arasıda seçm yapmaı güçlüklerde krtlmak ç asmtotk dağılımı varyasıı (ya da asmtotk varyası) şöyle yazablrz. Termler ( X E ( X ) le çarpımlarıı beklee değerlerde olşa ye br dz belrlerz. E ( X E ( X ) ) = ( X E ( X ) ) E, E ( X E ( X ) ), Eğer sosza gderke b ye dz 'v' sol sabte doğr yaklaşırsa, ya eğer v lm E ( X E X ) se başlagıçtak varyası şöyle olacaktır. X dzs asmtotk dağılımıı X asmtotk var yası X EX ). v lm E ( Ykarıdak asmtotk mometler (ortalama ve varyası) terml herhag br sol öreğ ortalama varyasıı yaklaşığı oldğa dkkat edelm. B yüzde büyüdükçe yaklaşıklık artacaktır. 6

7 ) Asmtotk Sapmasızlık Eğer bˆ tahm edcs asmtotk ortalaması, aa kütle gerçek b parametrese eşt se, b tahm edc, b parametre asmtotk sapmasız tahm edcsdr. Ya bˆ b lm E dr. Br tahmc asmtotk sapması, asmtotk ortalaması le gerçek parametre arsıdak farka eşttr. bˆ' asmtotk sapmsı lm E bˆ b Eğer br tahm edc (sol küçük öreklerde) sapmasızsa ayı zamada asmtotk sapmasızdır, ama b ters doğr değldr. 4) Ttarlılık Br bˆ tahm edcs, aşağıdak k koşlla, aa kütle b gerçek parametres ttarlı br tahm edcsdr: () bˆ asmtotk sapmasız olmalıdır. lm E b ˆ =b () sosza gderke bˆ 'ı varyası sıfıra yaklaşmalıdır: lm Var bˆ Eğer varyas sıfırsa, dağılım aa kütle gerçek parametres üstüde br oktada toplaır (yoz). Br tahm edc ttarlı olp olmadığıı alamak ç, arttıkça sapmaı ve varyasıı e oldğa bakılmalıdır. () büyüdükçe hem sapma hem varyas azalmalı ve lmtte ( ke) sıfır olmalıdır. Ttarlılık kavaramı aşağıda çzlmştr. Örek büyüklüğü artıkça hem sapma hem varyas azalmaktadır. 7

8 Eğer varsa 5) Asmtotk Etklk () br bˆ tahm edcs ttarlıysa () başka herhag br ttarlı tahm edcye göre daha küçük br asmtotk varyası B tahm edc aa kütle gerçek b parametres asmtotk etk br tahmcsdr. Eğer, lm E bˆ b * < lm E b b se bˆ asmtotk etkdr. Brada başka br ttarlı tahm edcsdr. Eğer ttarlı tahm edcler karşılaştırıldığıda * b, b hags varyası daha hızla sıfıra yaklaşıyorsa o, asmtotk etkedr. Öreğ bˆ ve b gb k tahm ele alalım. Bları dağılımlarıı ortalama ve varyasları şöyle ols: E E b ˆ b ˆ k var b b var b (k sabt br sayı) b k Her k tahm edc de sapmalı ama ttarlı oldkları görülmektedr, çükü sapmaları ve varyasları sıfır olmaktadır. lm Ebˆ b lm varb ˆ lm Eb b lm varb Acak b'ı varyası, ke ke sıfıra daha fazla yaklaşmaktadır, dolayısıyla bˆ 'ı, almaşık b ttarlı tahm edcsde daha etk oldğ söyleyeblrz. 8

9 EN KÜÇÜK KARELER TAHMİN EDİCİLERİNİN ÖZELLİKLERİ Rassal term ' bazı geel varsayımları yere getrmes, ya ortalamasıı sıfır ve varyasıı sabt olması koşlyla, e küçük kareler tahmcler DES ( doğrsal, e y, sapmasız) özellkler sağlamasıa Gass-Markow e küçük kareler teorem demektedr. ) Doğrsallık Özellğ E küçük kareler tahmler ˆb ve ˆb gözlee örektek Y değerler doğrsal foksyolarıdır. Varsayım gereğce X ler hep ayı değerlerle görüdüklere göre e küçük kareler tahmler yalız Y değerlere bağlı oldğ gösterleblr. ˆb =f(y) ve ˆb =f(y). ˆb = Y = k Y k = y = k Y = sapmalarıı toplamı her zama sıfırdır X X Y Y Y Y NOT: taım gereğ br değşke ked ortalamasıda Varsayım gereğ X değerler sabt sayılar kümesdr. Öyleyse k ler de örekte öreğe değşmezler ve tek tek Y değerlere atamış sabt ağırlıklar olarak düşüüleblrler. B drmda ş yazablrz: bˆ k Y k Y k Y... k Y f ( ) Y ˆb tahm, Y ler doğrsal br foksyodr, bağımlı değşke değerler doğrsal br bleşmdr. ) Sapmasızlık Özellğ ˆb ve ˆb sapmasızlık özellğ Eb b ve b ˆ bˆ sayısı artıkça tahmlerde parametreler gerçek değere yaklaşır. ˆ E b özellğ alamı, örekler 9

10 ) E Küçük Varyas Özellğ Gass-Markow teorem spatı: B teoreme göre e küçük kareler tahmler, başka ekoometr yötemleryle blmş herhag br başka doğrsal sapmasız tahm edcler arasıda e ysdr ( varyası e küçük oladır). SEK yötem ttlmasıı temel ede de b özellktr. ˆb varyasıı blş Var( ˆb )= b Var( ˆ var(y )= k var( Y ) ˆb )= var k Y Var( ˆb )=k = k = E Y E ( y ) E Gerçek parametre herhag br ekoometr yötemyle blmş doğrsal sapmasız br tahm, öreğ b, e küçük kareler tahm ola ˆb de daha büyük varyasa sahp oldğ kaıtlamak styorz. Ya, Var( ˆb )<Var( b ) İlk olarak ye tahm edc ˆb, Y ler doğrsal bleşm, örektek Y değerler tartılı toplamıdır, bradak tartılar, e küçük kareler tahmlerdek / k tartılarıda farklıdır. Öreğ dyelm k, c brada c =k +d, k SEK tahmler ç ykarıda taımlaa tartılar ve d se k b = Y lere bezeye ama ayı olmaya steğe bağlı br tartılar kümesdr. Y yere İfades geçrrsek b c ( b b X ) = b c b c X c b b X İkc olarak ye tahm b ayı zamada gerçek b sapmasız br tahmcs oldğ varsayılmaktadır. Ya Eb Eb c b ( c X c E bˆ b ve beklee değer alırsak ) Yalızca aşağıdak koşlları sağlaması halde c c X ve e Eb b olacaktır.

11 Ama c fades d soc doğrr çükü c k d k d olmalı k = = X X ve fades sıfıra eştlğ ç k = ve d = Bezer bçmde c X eştlğde d X olmasıı gerektrr. Çükü c X k X d X ve k X Soç olarak b b doğrsal sapmasız br tahm olarak taımladığımıza göre ve tartılarda c =k +d oldğa göre şları taımlamış olrz: c d = c d X X Üçücü olarak ye tahm edc b varyası şöyle olacaktır. var İspat: b varb ˆ d var b çıkarılması şlemler, e küçük kareler tahm çıkarılmasıyla ayıdır. bˆ ky ve var b ˆ vark Y vark Y k Y k var b' varyasıı da blara bezeterek yede yazablrz: c b = Y var b = var cy c vary Brada c ler Y lerde bağımsız sabt tartılardır. Öte yada var y dolayısıyla var b öyleyse c c k d k d k d k Brada k d X X d d d d X X (ykarıda belrtle dx = ve d koşllarıda) d ˆb varyasıı k

12 Yere koyarak ş blrz: var b k d k d Öte yada k Dolayısıyla var b d d ler heps sıfır olmaya steğe bağlı sabt tartılar oldğa göre, kc term artıdır. d c =k +d oldğda, eğer bütü d ler sıfırsa o zama c =k olr, b da b ˆb de farklı ye br tahm edc oldğa lşk varsayımımıza ters düşe b = ˆb soc verr. dolayısıyla var( b )>var( ˆb ) böylelkle gerçek b doğrsal sapmasız tahmler çde, e küçük kareler tahm e düşük varyaslıdır. PARAMETERE TAHMİNLERİNİN VARYANS FORMÜLLERİNİN GENELLEŞTİRİLMESİ. Tek açıklayıcı değşkel model Y b b X var b ˆ. İk açıklayıcı değşkel model Y b b X b X Ykarıdak fadeler determatla şöyle yazılablr. Sapmalar bçmde yazılmış k açıklayıcı değşkel model ormal deklemler şöyledr. ˆ ˆ y b ( ) b ( ) ˆ ˆ y b b ( ) ( )

13 Paratez çdek termler, örek gözlemlerde hesaplamış determatlardır ˆb ve ˆb se blmeyelerdr. Sağ tarafta yer ala bleler, determat kalıbıda yazılablr. A her br parametre varyası, b parametreye lşk mör determatıı bütü determata bölümüü le çarpımıdır. Öyleyse, = = = A = A. Üç açıklayıcı değşkel model Y b b X b X b X Normal deklem sağ tarafıda görüle ble termler determatı şöyledr: = B = B B = B B

14 = B B Katsayı tahmler varyaslarıı göstere ykarıdak fadeler celeecek olrsa, ş geelleme yapılablr. k sayıda açıklayıcı değşke çere br model tahmler varyası k determatı br bre oraıda hesaplaablr. Öreğ b ˆk ı varyası aşağıdak fadedr. k k k k k k k k k k k 4