ANADOLU ÜNİVERSİTESİ BİLİM VE TEKNOLOJİ DERGİSİ ANADOLU UNIVERSITY JOURNAL OF SCIENCE AND TECHNOLOGY Cilt/Vol.:8-Sayı/No: : 79-83 (007) ARAŞTIRMA MAKALESİ /RESEARCH ARTICLE EN KÜÇÜK KARELER TAHMİN EDİCİSİ İLE BİR SHRINKAGE TAHMİN EDİCİSİNİN ETKİNLİK KARŞILAŞTIRMASI Meral EBEGİL ÖZ Regresyon analizine bağımsız eğişenler arasına ilişi (çolu bağlantı) olması urumuna, En Küçü Kareler tahmin yönteminin ullanılması moele yer alan eğişenler baımınan yanlış moel ullanımına ve olayısıyla yanlış bulgulara neen olabilmeteir. Birbiriyle bağımlılı gösteren bu tür bağımsız eğişenlerle analiz yapma için çeşitli yöntemler geliştirilmiştir. Bu yöntemleren biri e yanlı tahmin yöntemleriir. Bu çalışmaa, Rige tahmin eicisine ayalı yanlı tahmin eicinin en az, En Küçü Kareler tahmin eicisi aar etin olabilmesi için gerelili ve yeterlili oşulları araştırılı. Anahtar Kelimeler : Ortalama hata are, Rige regresyon, Liu-tipi tahmin eici, Doğrusal abul eilebilir tahmin eiciler, Shrinage tahmin eicileri AN EFFICIENCY COMPARISON OF THE LEAST SQUARES ESTIMATOR AND THE SHRINKAGE ESTIMATOR ABSTRACT In regression analysis, if there are some in of relation (multicollinearity) between inepenent variables, the Least Squares estimation metho may lea to the use of wrong moels an hence to wrong finings out of the moel. Various methos have been evise in orer to carry out regression analysis with such inepenent variables which exhibit epenence on each other. One of such methos is the biase estimation methos. In this stuy, it has been stuie on the necessary an sufficient conitions of biase estimators base on Rige estimator to be at least efficient as much as the Least Squares estimator. Keywors: Mean square error, Rige regression, Liu-type estimator, Linear amissible estimators, Shrinage estimators., Gazi Üniversitesi, Fen Eebiyat Faültesi, İstatisti Bölümü, 06500, Beşevler, ANKARA. E-posta: memirel@gazi.eu.tr, fax: 0(3)79 Geliş: 5 Mart 006; Kabul: 0 Ağustos 006
80. GİRİŞ Çolu oğrusal regresyon, eğişenler arasına var olan ilişilerin ortaya çıarılmasını sağlayan, pe ço alana yaygın olara ullanılan istatisti yöntemleren biriir. Veri analizi yapan araştırmacılar, çolu oğrusal regresyon yöntemini moel urma için ullanırlar. Regresyon atsayılarını tahmin etme için yaygın olara ullanılan yöntem En Küçü Kareler (EKK) yöntemiir. Anca, EKK yönteminin oğru sonuçlar vermesi için çeşitli varsayımların sağlanması geremeteir. Bunlaran biri bağımsız eğişenler arasına ilişi olmamasıır. Ama gerçete bu urum her zaman sağlanmayabilir. Böyle urumlara, EKK tahmin yönteminin ullanılması yanlış moel bulgularına ve ullanımına neen olur. Bu tür birbiriyle ilişili bağımsız eğişenlerle analiz yapma için çeşitli yöntemler geliştirilmiştir. Bu yöntemleren bir tanesi e yanlı tahmin yöntemleriir. Yanlı tahmin yöntemlerinin başlıcaları; Temel Bileşenler regresyonu, Rige regresyonu ve bunların türevleriir. Yanlı yöntemlere ilişin bu tahmin eiciler, EKK tahmin eicilerine göre yanlı, anca ço aha üçü varyanslı tahminler verirler. Yanlı tahmin yöntemlerine genel amaç, EKK tahmin yöntemine büyü olan varyans alanını üçü bir yan arşılığına araltmatır. Böylece EKK yöntemine göre aha oğru sonuçlar ele eilir. Yanlı tahmin eiciler sınıfının içine yer alan bazı tahmin eiciler, Shrinage tahmin eicileri olara alanırılır. Temel Bileşenler regresyonu, Rige regresyonu ve bunların türevleri bu sınıfın birer üyesiirler. Farebrother (978) yaptığı çalışmasına, Shrinage tahmin eicileri için genel bir yapı oluşturmuştur. Rige, Temel Bileşenler ve Koşullu-minimum hata are ortalamalı yanlı tahmin eicilerinin birer Shrinage tahmin eicisi olularını göstermiştir. Lisi (98) çalışmasına, EKK tahmin eicisi ile Shrinage tahmin eicisi arasına seçim yapma için güçlü Ortalama Hata Kare (OHK) ölçütünü vermiştir. Yine Lisi (983) çalışmasına EKK tahmin eicisi ile Shrinage tahmin eicisi arasına seçim yapma için aha zayıf OHK test işlemini ullanmıştır. Keian (993) çalışmasına Rige tahmin eicisine alternatif olara Liu-Keian tahmin eicisini önermiştir. Daha sonra bu tahmin eici Aeniz ve Kaçıranlar (995) tarafınan Liu tahmin eicisi olara alanırılmıştır. Eni (997) çalışmasına Liu tahmin eicisini e Shrinage tahmin eiciler yapısı içine ifae etmiştir. Saallıoğlu, Kaçıranlar ve Aeniz (997) tarafınan Liu tahmin eicisinin iterasyon tahmin eicileri ile arşılaştırılması incelenmiştir. Saallıoğlu ve Kaçıranlar (005) tarafınan Rige tahmin eicisine ayalı yanlı bir tahmin eici önerilmiştir. Ebegil (006) çalışmasına Liu-Tipi ve Rige tahmin eicisine ayalı yanlı tahmin eicileri e Shrinage tahmin eiciler yapısı içine ifae eere bu tahmin eicilerin birer Shrinage tahmin eicisi oluğunu göstermiştir. Bu çalışmanın iinci bölümüne Shrinage tahmin eicilerinin temel yapısı verilmiştir. Bu bilgilerin ışığı altına, üçüncü bölüme EKK tahmin eicisi ile Rige tahmin eicisine ayalı yanlı tahmin eicinin en Anaolu Üniversitesi Bilim ve Tenoloi Dergisi, 8() az EKK tahmin eicisi aar etin olabileceği gerelili ve yeterlili oşulları varyanstai büyüme göz önüne alınara OHK matrisleri yarımıyla oluşturulmuştur.. SHRINKAGE TAHMİN EDİCİLER SINIFININ GENEL YAPISI Bu bölüme oğrusal regresyon moelinen yola çıara Shrinage tahmin eicilerinin genel yapısı verilmiştir. n gözlemli bağımsız eğişenli bir çolu oğrusal regresyon moeli, Y X, 0, In ran X q n n q biçimine tanımlanır (Farebrother, 978). Y, ( n ) boyutlu bağımlı eğişen vetörü; q olma üzere, X, ( n q ) boyutlu stoasti olmayan giri matrisi;, ( q ) boyutlu bilinmeyen atsayılar vetörü;, E ( ) 0 ve E( ) I n oşullarını sağlayan hata vetörüür. İinci ereceen moment matrisleri aşağıai gibi tanımlanır: M E ; =, () Buraa parametre vetörünün ii tahmin eicisi ve olsun. Tahmin eicilerin ortalama hata arelerinin genel ölçütü, C, negatif olmayan tanımlı simetri bir matris olma üzere, m E C ; =, (3) ır. Teorem : Aşağıa verilen oşullar eşeğerir. i. M M negatif olmayan tanımlı bir matristir. ii. Tüm negatif olmayan tanımlı C matrisleri için m m 0 ır (Theobal, 974). İi tahmin eici ve olsun. Tüm lar için M( ) M( ) negatif olmayan tanımlı bir matris ise eş () en, ya göre aha üstün bir tahmin eiciir. Şayet tahmin eicisinen, aha iyi olabilece bir iğer tahmin eici yo ise, abul eilebilir bir tahmin eiciir. ()
Anaolu University Journal of Science an Technology, 8 () 8 C, q q boyutlu negatif olmayan tanımlı simetri bir matris olsun. Teorem en OHK ( ; C) OHK ( ; C) 0 (4) olması ile, M( ) M( ) ın negatif olmayan tanımlı bir matris olması eşeğerir. ( X X ) matrisi; q q boyutlu, negatif olmayan tanımlı, simetri bir matris oluğunan olayı öyle bir ortonormal P matrisi varır i ( X X ) matrisini P X XP biçimine öşegenleştirir., elemanları ( X X ) matrisinin pozitif öz eğerleri > >...> q olan q q boyutlu öşegen bir matristir (Lisi, 98; Lisi, 983). Z XP ve P olma üzere, eş () ei moelin anoni formu, Y XPP Z (5) şelineir. Böylece, OHK ( ; C) OHK ( ; P CP) oluğu görülür. Bir regresyon parametresinin oğrusal abul eilebilir tahmin eiciler sınıfı apsamı içinei b q olma üzere abul eilebilir oğrusal bir tahmin eici, A( ˆ b) b (6) biçimineir (Rao, 976). Buraa ˆ ; nın EKK tahmin eicisi, A ; ( q q ) boyutlu bir matris ve b ; ( q ) boyutlu sabit bir vetörür. Bu şeile gösterilen tahmin eiciler, oğrusal abul eilebilir tahmin eiciler (linear amissible estimators) sınıfınanır. Bir tahmin eicinin abul eilebilir (amissible) bir tahmin eici olması için iğer oşullar aşağıai gibi sıralanabilir. ( X X )Aveya A( X X ) (7) simetri ve A matrisinin öz eğerleri [0,] aralığına olmalıır. Eş (6) ve eş (7) ei oşullara e olara, abul eilebilirli için A matrisinin simetri oluğu abul eilir. A ve ( X X ) matrisleri aynı ortonormal P matrisi tarafınan öşegenleştirilebilir. P AP, elemanları A matrisinin [0,] aralığına üşen öz eğerleri,,..., q olan q q boyutlu öşegen bir matristir (Lisi, 98; Lisi, 983). Eş (5) ei moel altına eş (6), P A( ˆ b) P b ˆ P AP( a) a ( ˆ a) a (8) olur. Buraa ˆ P, a P b ır. Bu tür oğrusal abul eilebilir tahmin eicileri, Shrinage tahmin eiciler olara isimlenirilir (Lisi, 98; Lisi, 983). ˆ. Shrinage Ve En Küçü Kareler Tahmin Eicilerinin Ortalama Hata Kare Matrisleri EKK tahmin eicileri eicileri nın OHK matrisleri sırasıyla, OHK ( ˆ) ( X X ) ve ˆ ve Shrinage tahmin OHK ( ) A( X X ) A ( I A)( b)( b) ( I A) (9) ır (Lisi, 98; Lisi, 983). Eş (9) a eşeğer olan anoni formları, OHK ( ˆ) ve OHK ( ) ( I )( a)( a) ( I ) (0) biçimine gösterilir. Bu ii matris arasınai farın, yani OHK ( ˆ) OHK ( ) nın negatif olmayan tanımlı bir matris olması, OHK ( ˆ) OHK ( ) 0 ile mümünür. Buraan hareetle OHK ( ˆ) OHK ( ) farı, anca ve anca, ( b) ( I A) X X( I A)( b )/ () eşitliği sağlanığına negatif olmayan tanımlıır. Aynı şeile, OHK ( ˆ) OHK( ) farının negatif olmayan tanımlı bir matris olması ise anca ve anca, ( a) ( I ) ( I )( a )/ () ile mümünür (Lisi, 98). Eş () ei oşul altına bir Shrinage tahmin eicisi olan nın, en az EKK tahmin eicisi ˆ aar etin oluğu söylenebilir.
8. Shrinage Tahmin Eicileri Yarımıyla Ortalama Hata Karelerin Azaltılması Lisi (98), çalışmasına genel yapısını veriği Shrinage tahmin eicilerinin OHK matrisleri ile, bilinen EKK tahmin eicilerinin OHK matrislerini arşılaştırara bir gerelili ve yeterlili oşulu ele etmiştir. Daha sonra bu gerelili ve yeterlili oşulunu ullanara Rige ve ˆ ˆ, 0 tahmin eicilerinin her biri için gerelili ve yeterlili oşullarını oluşturmuştur (Lisi, 98). Bu oşul sağlanığına Shrinage tahmin eicileri en az, EKK tahmin eicileri aar etinir. Bu çalışmaa, Saallıoğlu ve Kaçıranlar (005) tarafınan önerilen ve bir Shrinage tahmin eicisi olan Rige tahmin eicisine ayalı yanlı tahmin eici ele alınara, bu tahmin eicinin en az, EKK tahmin eicisi aar etin olması için gerelili ve yeterlili oşulları oluşturulmuştur. Saallıoğlu ve Kaçıranlar (005), Rige tahminine ayalı yanlı bir tahmin eiciyi, (3), X X X Y şeline tanımlamışlarır. Buraa X X X Y, Rige regresyon tahmin eicisiir ve >0, << olara tanımlanmataır. Eş (3) a verilen tahmin eici için, ( a) ( a) / (4) Anaolu Üniversitesi Bilim ve Tenoloi Dergisi, 8() Bu çalışmaa, varyanstai büyüme göz önüne alınara, OHK matrisleri ullanılmış ve bir Shrinage tahmin eicisi olan Rige tahminine ayalı yanlı tahmin eicinin en az EKK tahmin eicisi aar etin olması için gerelili ve yeterlili oşulları oluşturulmuştur. Bu oşullar Rige tahminine ayalı yanlı tahmin eici için sırasıyla eş (4) ve eş (5) e verilmiştir. Ele eilen bu oşullar altına bu tahmin eici e, en az EKK tahmin eicisi aar etinir sonucu çıarılmataır. EK Eş (3) te verilen Rige tahminine ayalı tahmin eicie, X X X Y yerine onuğuna,, X X X Y X X X Y (6) sonucu ele eilir. Eş (6) a gereli işlemler ve saeleştirmeler yapılığına, ˆ, X X X X X X (7) sonucuna ulaşılır., P X XP oluğunan, ˆ, şeline yazılabilir. Diğer taraftan, P AP olma üzere, terimi eş () e yerine yazılığına ve gereli işlemler ile saeleştirmeler yapılığına, veya X X X X ( b) ( b) / X X X X (5) ( a) ( a) / veya biçimine belirlenen gerelili ve yeterlili oşulunun sağlanması urumuna Rige tahminine ayalı yanlı tahmin eici, en az EKK tahmin eicisi aar etinir. Gerelili ve yeterlili oşulunun oluşturulması Ete verilmiştir. 3. SONUÇ EKK tahmin yöntemine amaç hatayı en üçülemetir. Anca, bağımsız eğişenler arasına şietli bir ilişi bulunuyorsa, bu tür veriler hataa, olayısıyla varyansta yanıltıcı bir büyümeye sebep olur. Bu büyüme parametre tahminlerine ve estirim sonuçlarına olumsuz şeile yansır. Bu olumsuz etiyi yo etme için yanlı tahmin yöntemlerine başvurulur. Bu yöntemler üçü bir yan arşılığı varyans alanını olayısıyla hatayı üçültür. X X X X ( b) ( b)/ eşitsizlileri ele eilir. KAYNAKLAR X X X X Aeniz, F. an Kaçıranlar, S. (995). On the Almost Unbiase Generalize Liu Estimator an Unbise Estimation of the Bias an MSE. Communications. in Statistics: Theory an Methos 4(7), 789-797. Ebegil, M. (006). Liu-Tipi Ve Rige Tahminine Dayalı Yanlı Tahmin Eicilerin Shrinage Tahmin Eiciler Sınıfı Üzerine Bir Çalışma, Sa-
Anaolu University Journal of Science an Technology, 8 () 83 arya Üniversitesi, Fen Eebiyat Faültesi, Fen Eebiyat Dergisi 8(), 53-58. Eni, M. (997). Shrinage Tahmin Eicileri Sınıfı, Gazi Üniversitesi Fen-Eebiyat Faültesi Fen Bilimleri Dergisi 7, 3-0. Farebrother, R. W. (978). A Class of Shrinage Estimators. Journal of the Royal Statistical Society B 40, 47-49. Keian, L., (993). A New Class of Biase Estimate in Linear Regression. Communications. in Statistics: Theory an Methos (), 393-40. Lisi, E. P. (98). A Test of the Mean Square Error Criterion for Shrinage Estimators. Communications in Statistics (5), 543-56. Lisi, E. P. (983). Choosing a Shrinage Estimator-a test of the Mean Square Error Criterion. Proc. First Tampere Sem. Linear Moels, ss.45-6. Rao, C. R. (976). Estimation of Parameters in a Linear Moels. The Annals of Statistics 4, 03-037. Saallıoğlu, S., Kaçıranlar, S. ve Aeniz, F. (997). Bazı Yanlı Regresyon Tahmin Eicilerinin Karşılaştırılması. Araştırma Sempozyumu 97 Bilirileri, 4-6 Kasım 997 DİE. Anara. Saallıoğlu, S. ve Kaçıranlar, S. (005). Yeni Bir Yanlı Tahmin Eici ve Liu-Tipi Tahmin Eici ile Karşılaştırmalar. 4. İstatisti Kongresi, 08- Mayıs 005, Biliri ve Poster Özetleri Kitabı. Antalya. ss. 50-5. Theobal, C. M. (974). Generalizations of Mean Square Error Applie to Rige Regression, Journal of the Royal Statistical Society B 36, 03-06. Meral EBEGİL, 994 yılına lisans, 999 yılına ise yüse lisans erecelerini Gazi Üniversitesi İstatisti Bölümünen alı. Halen aynı bölüme reibilite(creibility) teorisi üzerine otora eğitimini sürürmete olup, araştırma görevlisi olara çalışmataır. Çalışma alanları oğrusal moeller, yanlı tahmin eiciler ve reibilite teorisiir.