İÇİNDEKİLER SİMGE LİSTESİ... KISALTMA LİSTESİ... v ÇİZELGE LİSTESİ... v ŞEKİL LİSTESİ... v ÖNSÖZ... v ÖZET... x ABSTRACT... x GİRİŞ... BÖLÜM : OLASILIK DAĞILIMLARI VE OLASILIK YOĞUNLUKLARI... BÖLÜM : OLASILIK DAĞILIMLARI VE OLASILIK YOĞUNLUKLARI..... Olasılık Taımı..... Öreklem Uzayları....3. Br Olayı Olasılığı... 3.6. Bağımsız Olaylar... 4 3.. Keskl Rassal Değşkeler Olasılık Dağılımı... 6 Keskl Br Rassal Değşke Beklee Değer... 8 Burada her değşke zorulu olarak br beklee değer olduğu söyleemez. Beklee değer solu olması yukarıdak toplamı yakısak olmasıa bağlıdır.... 8 Keskl Br Rassal Değşke Varyası... 8 Bazı Keskl Dağılımlar... 9 3.. Beroull Dağılımı... 9 3.. Bom Dağılımı... 9 3.3. Geelleştrlmş Bom (Multomal) Dağılımı... 0 3.4. Geometrk Dağılım... Bu dağılımı beklee değer ve varyası şu şekldedr... E() =... p 3.5. Pascal (Negatf Bom) Dağılımı... E() = k.... p 3.6. Hpergeometrk Dağılım... N N N y y E ( ) =... 4 N y= 0 N 3.7 Posso Dağılımı... 4 Bu dağılımı beklee değer ve varyası şu şekldedr... 5 3.9. Sürekl Dağılımlar... 5 3.9.. Sürekl Rassal Değşkeler Olasılık Dağılımları... 5 Sürekl Dağılımları Beklee Değer... 7 Şüphesz varyası taımlı olablmes ç bu tegral yakısak olması gerekr.... 8 α + E( ) =... 9 3.9.3 Gama Dağılımı... 30 3.0. Çok Değşkel Dağılımlar... 3 3.. Marjal Dağılımlar... 34 3.. Koşullu Dağılımlar... 35
BÖLÜM 4: TAHMİN... 37 4. Parametreler... 37 4. Tahm Yötemler... 37 4... Parametre Tahm... 37 4.3.. Nokta Tahm Edcler Özellkler... 38 4.3 E Küçük Kareler Yötem... 40 4.4 E Çok Bezerlk Yötem... 4 4.4.. Bayesç Tahm... 4 BÖLÜM 5 : PRİOR VE POSTERİOR DAĞILIMLAR... 46 5. Pror Dağılımı Belrlemes... 46 5.. Keskl ve Sürekl Pror Dağılımlar... 47 5..3 Posteror Dağılım... 47 5..4 Eşlek Dağılımlar... 47 5..4. Br Beroull Dağılımıda Örekleme... 48 5..4.4 Br Normal Dağılımda Örekleme... 49 5..4.5 Br Üstel Dağılımda Örekleme... 5 5.3 Kayıp (Loss) Foksyoları... 5 5.3. Farklı Kayıp Foksyoları... 5 5.3. Bayes Tahm Edcs Tutarlılığı... 54 5.4. Bayes Tahm Edcler Sıırlamaları... 54 5.4. E Çok Olablrlk Tahm Edcs Taımı... 54 5.4.3 Bazı E Çok Olablrlk Tahm Edcler Buluuşu... 56 6. Değşmezlk... 60 6.3 Tutarlılık... 60 6.4 Yeterl İstatstkler... 60 BÖLÜM 7: ÖN BİLGİNİN BİR DAĞILIM BİÇİMİNDE BELİRLENMESİ... 6 7.. Hstogram Yaklaşımı... 6 7.. Görecel (Nsp) Bezerlk Yaklaşımı... 63 7..3 Verle Foksyoel Bçm İle Eşleştrme... 63 7..4 Kümülatf Dağılım Foksyouu Saptaması... 64 7. Ö Yoğuluk Foksyou Belrlemesde Marjal Dağılımı Kullaılması... 64 7.3 Hyerarşk Dağılımlar... 64 7.4 E Büyük Etrop Dağılımları... 66 BÖLÜM 8: REGRESYON MODELLERİ... 67 8.. Model Aa Hatları... 67 8.. Çoklu Doğrusal Regresyo Model... 68 8.3 4 Model Varsayımları ve Açıklaması... 70 8.3.5 Parametreler Tahm... 7 8.5 Orjde Geçe Çok Değşkel Regresyo... 76 8.6 Bayesgl Tek Değşkel Doğrusal Regresyo Model... 77 8.6. Belrsz Ö Olasılık Yoğuluk Foksyou le So Olasılık Yoğuluk Foksyou Çıkarımı... 80 8.6. Blg Verc Ö Olasılık Yoğuluk Foksyou le So Olasılık Yoğuluk Foksyou Çıkarımı... 8 8.7 Bayesgl Çok Değşkel Doğrusal Regresyo... 8 8.7. Belrsz Ö Blg Durumuda Çoklu Doğrusal Bayesgl Regresyo... 83 ı, m(m+)/ ayırıcı elemaları ve p ı parametre değerler hakkıda ö olarak az br blg veya belrszlk söz kousu olduğuda, ve ı elemalarıı bağımsız dağıldığı varsayımı altıda ö olasılık yoğuluk foksyou çıkarımı,... 83 8.7. Blg Verc Ö Dağılım Foksyou le Çoklu Regresyo Model... 84 BÖLÜM 9: UYGULAMA... 86
9. KESİM... 86 9. KARAT... 87 9.3 RENK... 87 9.4 BERRAKLIK... 88 9.5 Uygulama:... 89 9.6 Çalışma... 90 EKONOMETRİK YORUMLANMASI... 94 SONUÇ... 99 KAYNAKÇA...8 EKLER 0 EK. EK. EK3.3 ÖZGEÇMİŞ.... 4 SİMGE LİSTESİ b Parametre tahmc vektörü b 0 0 ı tahmcs b tahmcs I Brm Matrs L Olablrlk foksyou r Belrllk katsayısı R Çoklu belrllk katsayısı s( b 0 ) b 0 ı stadart hatası s( b ) b stadart hatası S ( θ ) Kalıtı kareler toplamı Var ( b 0 ) b 0 ı varyası Var ( b ) b varyası Bağımsız veya açıklayıcı değşke Ver matrs Y Bağımlı veya açıklaa değşke Y ˆ Y tahm değer Y Gözlem vektörü 0 Sabt term parametres Eğm parametres Parametre vektörü L(θ) e çok olablr tahm edcs boyutuda bağımsız değşke matrs
Y boyutuda bağımlı değşke vektörü boyutuda parametreler vektörü U boyutuda hata termler vektörüdür. Y Ver matrs θ ε parametre vektörü ε Hata termler Hata termler vektörü μ Aakütle ortalaması γ Doğrusal olmaya regresyoda parametre vektörü σ Hata payı varyası ˆ σ σ EKK tahmcs tegral ( ) tegral elema kesşm boşküme fark Ω parametreler uzayı ξ (θ) pror olasılık yoğuluk foksyou ξ (θ/x) posteror olasılık yoğuluk foksyou g (x) so dağılım B sıklık tahm toplama Θ tarafsız tahmc f(x/θ) olasılık foksyou f (x/θ) olasılık yoğuluk foksyou δ*() bayes tahm edcs P hyerarşk dağılım f (Φ) ö dağılım f (Φ/y) so dağılım f (y/φ) bezerlk foksyou P (Φ) keskl foksyo v
KISALTMA LİSTESİ BLUE VAR COV EÇO e y doğrusal sapmasız tahmcler (Best Lear Ubased Estmators) varyas kovaryas e çok olablrlk tahm edcler v
ÇİZELGE LİSTESİ Çzelge 5. Blg Verc Öreklem Dağılımları le Bu dağılımlara At Ö ve So Dağılımlar 40 Çzelge 5. Blg Sorası Dağılım... 58 Çzelge. Ö Blg Var.Cov Matrs... 05 Çzelge. Ö Blg Var.Cov Matrs Ters... 05 Çzelge.3 / σ... 05 Çzelge.4 Ö Blg Ortalama Değer Aket Vers... 06 Çzelge.5 EEK Yyötem İle Elde Edle Parametre Tahmler (DeeyselVer... 07 Çzelge.7 So Blg Ortalama Değer... 08 Çzelge.8 So Blg Var.Cov Matrs... 08 Çzelge.9 Deeysel Ver... 0 Çzelge.0 Aket Vers... v
ŞEKİL LİSTESİ Şekl. Bayes Grafğ... 6 Şekl 3, Normal Dağılım Grafğ.4 Şekl 3. Keskl Olasılık Grafğ..5 Şekl 3.3 Keskl Brkml Dağılım Grafğ... 6 Şekl 3.4 Sürekl Olasılık Dağılımı Grafğ... 7 Şekl 3,5 Sürekl Brkml Dağılım Grafğ... 8 Şekl 3.6: alfa=0 ve beta= Parametrel Düzgü Dağılım... 5 Şekl 5. E Çok Olablrlk Tahm...5 Şekl. Pırlata Çeştler... 09 Şekl. Berraklık Türler... 0 v
ÖNSÖZ Bu tez yazarke baa destek ola daışma hocam Yrd.Doç.Dr Atıf Evre e şükralarımı suarım.ayrıca Yrd.Doç.Dr Doğa Yıldız a baa ola desteğde dolayı teşekkür ederm.özel olarak teşekkür edeceğm dğer bölüm hocalarıma da bede ola emeklerde dolayı şükralarımı borç blrm Elf Öztürk,Fatma Noya,Gülder Kemalbay ve dğer asstalara baa ola yardımlarıda dolayı teşekkür ederm.ayrıca Okay Şmşek e de teşekkür ederm..evde hem babalık hem de aelk yapa aeme Selva Cılız a ve baa zama ayırmama z vere kardeşlerme teşekkür ederm. v
ÖZET Bu çalışmaı amacı Bayesgl regresyo aalz le pırlata fyatlarıı celemesdr. Çalışmada dğer parametre tahm yötemlerde de bahsedlmektedr. E çok olablrlk metodu üzerde özellkle durulmuş olup Bayes yaklaşımı le ola lgsde söz edlmştr. Ayrıca pror ve posteror dağılım kavramları üzerlerde de durulmuştur. Pror dağılımları posteror dağılım üzere ola etkler alatılmaya çalışılmıştır. Çalışmaı uygulama kısmıda pırlata fyatlarıı belrlemesde etk ola faktörlerde yola çıkılarak br regresyo model kurulmuştur. Pror dağılım blgler le örekte gele blgler brleştrlerek ye br regresyo model oluşturulmuştur. Böylelkle regresyo model parametreler ç elde edle güve aralıklarıı uzuluklarıı azaldığı gözlemştr. Aahtar Kelmeler: pror dağılım, posteror dağılım, Bayesgl regresyo x
ABSTRACT The am of ths study s to aalyse the factors whch determe the levels of the prces of damods by a Bayesa regresso aalyss. Some parameter estmato techques are also metoed ths study. The mportace of the maxmum lkelhood method parameter estmato s emphaszed ad the relato betwee the lkelhood fucto ad Bayesa approach s put forward. Besdes some cocepts of pror ad posteror dstrbutos are dscussed to some extet. Some of the affects of pror dstrbutos o posteror dstrbutos are exposed. O the emprcal part of ths study, a regresso model s costructed by usg the factors whch determe the prce levels of damods. By ufyg the formato obtaed from pror assumptos ad the data at had a ew regresso model s developed. Thus t s observed that the legths of the cofdece tervals for the parameters have bee reduced. Key Words: pror dstrbuto, posteror dstrbuto, Bayesa regresso x
GİRİŞ Tez lk bölümlerde olasılık kavramları olasılık dağılımlarıı sürekl keskl dağılımları ve özel dağılımlarıı alattım. Daha sora statstkte kullaıla bazı parametre tahm yötemlerde söz ettm. Bayesgl metodoloj pror dağılım, posteror dağılım, eşlek dağılımlar, kayıp foksyou gb temel kavramlarıı tartışmaya çalıştım. Çalışmaı üçücü bölümüde se klask regresyo aalz bazı varsayımlarıda ve metodolojsde bahsettm. Uygulama olarak pırlata fyatıı meydaa gelmes sağlaya parametreler bayesgl regresyo metoduyla aalz ettm.bayesgl regresyo souçlarıı klask regresyo souçları le karşılaştırdım. Buu yaparke Mtab ve Excel programlarıda yararladım. Taşı fyatıyla özellkler arasıdak lşky öce klask regresyola aalz ettm. Çıka soucu modele ekleyerek bayesgl regresyo model oluşturdum. Souç olarak pırlata taşıda tecrübel saları görüşler a pror br blg olarak modele dahl edlmes daha uygu br regresyo model oluşturmak açısıda yararlı olacağı soucua vardım.
BÖLÜM : OLASILIK DAĞILIMLARI VE OLASILIK YOĞUNLUKLARI BÖLÜM : OLASILIK DAĞILIMLARI VE OLASILIK YOĞUNLUKLARI.. Olasılık Taımı Olasılık, br belrszlk ölçütüdür. Olasılık kavramı, br olayı gerçekleşeblmes sayısal br ölçüsüü verr. 0 le arasıdak br ölçekle gösterlr. 0 olasılığı olayı gerçekleşmes mkasız olduğuu, olasılığı se olayı gerçekleşmes kes olduğuu gösterr. Olasılıkları taımlamaı e esk yolu ola "klask olasılık kavramı", olaaklı bütü souçları şasıı eşt olduğu zama uygulaır. Bu durumda, aralarıda br gerçekleşmek zoruda olduğu N tae eşt şaslı durum varsa ve bularda taes lehte ya da başarı olarak görülüyorsa, o zama br başarıı olasılığı /N oraıyla gösterlr. Klask olasılık kavramıı temel aksaklığı kullaım alaıı sıırlı olmasıdır, çükü pek çok durumda ortaya çıka olaaklar eşt şaslı değldr. Olasılık kavramlarıda e çok bemseeler arasıda sıklık yorumu yer alır... Öreklem Uzayları Olasılık kavramıı daha y alaşılablmes ç öcelkle deey, souç, öreklem uzayı ve olay termler açıklaması gerekr. İstatstkte gözleme ya da ölçme süreçlerde her bre deey demektedr. Br deeyde elde edle bulgular se deey souçları dye adladırılır. Br deey bütü olaaklı souçlarıda oluşa kümeye öreklem uzayı der ve geellkle S harfyle gösterlr. Br öreklem uzayıdak her souç öreklem uzayıı öğes ya da kısaca öreklem oktası adıı alır. Br deey betmlemek ç farklı öreklem uzayları kullaılablr. Öreklem uzayları çoğulukla çerdkler öğe sayısıa göre sııflaırlar. Öreğ br deeme br zarı br kez atılmasıda baretse ve kaç geleceğyle lglelyorsa, öreklem uzayı, S={,, 3, 4, 5, 6 } olur. Bu öreklem uzayı solu sayıda öğe çerr. Dğer br örek olarak, made br para yazı gelee kadar atılmaya devam ederse, bu lk atışta, kc atışta, üçücü atışta,... olablr ya sosuz sayıda durum vardır. Bu durumda öreklem uzayı, S={ Y, TY, TTY, TTTY,...} olur. Ama buradak öğeler sayıları sayma sayıları kümes elamaları e brebr eşleşeblr ve öreklem uzayıa sayılablr sosuz der.
Br öreklem uzayıı solu sayıda öğes varsa ya da öğeler sosuz sayıda ama sayılablr se bu uzaya ayrık ya da keskl der. Bazı deeyler souçla e soludur, e de sayılablr sosuz. Örek olarak k kmyasal madde tepkme süres ölçülmek steyorsa, öreklem uzayıı oluştura souçlar sosuzdur ve sayılamaz.örek olarak zama,ağırlık,hacm sürekldr. Br doğru parçası üzerdek bütü oktalar ya da br düzlem üzerdek bütü oktalar gb br sürekllk oluştura öreklem uzayı sürekldr der. Br öreklem uzayıı her br altkümese olay der. Br olay sadece br öreklem oktası çeryorsa bast olay, brde fazla öreklem oktası çeryorsa bleşk olay olarak adladırılır. Br deey soucuda gerçekleşme olasılığı ola olaylara kes olay, gerçekleşme olasılığı 0 ola olaylara se mkasız olay der..3. Br Olayı Olasılığı A kümes, S örek uzayı çersdek herhag br olay olsu. A olayıı olasılığı da P(A) le gösterls. P(A) ı taımlaablmes le lgl şu durumlar geçerldr.: Br olayı olasılığı egatf değerler almaya reel br sayıdır, ya S herhag br A altkümes ç P(A) 0 dır. P(S) = Örek uzayıı gerçekleşme olasılığı dr. A, A, A 3,... olayları, S bağımsız olaylarıı solu ya da sosuz br dzsyse, P(A A A 3 ) = P(A ) + P(A ) P (A 3 ) + ).4. Bazı Teoremler Olasılığı üç öermese dayaarak aşağıdak öermeler türetlmştr. Teorem : A le A', S öreklem uzayıda tamamlayıcı( complemetary) olaylarsa; P(A') = P(A) Teorem : Herhag br öreklem uzayı S' de P( ) = 0 olur. Teorem 3: A le B, S öreklem uzayıda k olaysa vea B se, P(A) P(B) olur. Teorem 4: Herhag br A olayı ç 0 P(A) dr. 3
Teorem 5: A ve B, S öreklem uzayıda herhag k olaysa; P(A B) = P(A) + P(B) P(A B) dr. Teorem 6: A, B ve C, S öreklem uzayıdak herhag üç olay se; P(A B C) = P(A) + P(B) + P(C) P(A B) P(A C)- P(B C) + P(A B C) gerçekleşr.bu durum aşağıdak gb geelleeblr: Tümevarım yardımı le ayı örek uzayı S çersde yer ala E, E,..., E olayları ç P E E E (... ) = P( E ) P( E E ) + P( E E E k) P( E E j Ek E l) + j j = < j < j< k + ( ) + P j E E E... (... ) < j< k< l buluur. Sözel br fade le olayı brleşm olasılığı olayları tek tek olasılıklarıı toplamı eks kl kesşmler olasılıklarıı toplamı artı üçlü kesşmler toplamı bçmde hesaplaır..5. Koşullu Olasılık Baze, br olayı gerçekleşme şası, başka olayları gerçekleşp gerçekleşmemese bağlı olablr. Bu gb durumlarda koşullu olasılık kavramıı kullaılması gerekmektedr. Koşullu olasılığı taımı şu şeklde yapılablr; A le B, S öreklem uzayıda k olaysa ve PA ( ) 0 se, A verlmşke B' koşullu olasılığı P(A B) P(B/ A) = ; ( PA ( ) 0 ç) olur. P(A) Bazı Teoremler. A le B, S öreklem uzayıda brer olaysa ve P(A) 0 se, P (A B) = P(A). P (B\A). A, B ve C, S öreklem uzayı çde üç olaysa ve P (A B) 0 se, P (A B C) = P(A). P (B\A). P(C\(A B)).6. Bağımsız Olaylar A le B gb k olayda br gerçekleşmes ya da gerçekleşmemes ötek gerçekleşme olasılığıı etklemyorsa, bu olaylar brbrde bağımsızdır. Smgelerle gösterlrse, 4
P(B\A) = P(B) ve P(A\B) = P(A) se A ve B olayları bağımsızdır. Buu soucuda bağımsızlıkla lgl şu durum ortaya çıkar; P (A B) = P(A). P(B) sağlaırsa A ve B bağımsızdır. Teorem: A le B bağımsızsa A le B' de bağımsızdır. Geellemek gerekrse A ve B' A ve B bağımsız A' ve B de bağımsız A' ve B' olur..7. Bayes Teorem Br deey soucu çoğu zama ara aşamalarda eler olup bttğe bağlıdır. B, B,..., B k olayları S öreklem uzayıı br parçalaışıı oluşturuyorsa ve =,,..., k ç P(B j ) 0 se, S çdek herhag br A olayı ç; k P(A) = P(B ).P(A / B ) dr. = Bu aşamada sora Bayes Teoreme geçleblr: B, B,..., B k olayları S öreklem uzayıı br ayrışımıı( partto) oluşturuyorsa, P(B ) 0 ( =,,...,k ç) se S çde P(A) 0 ola herhag br A olayı ç (r=,,..., k ke) PB ( / A) = r PB ( PA ( / B) k İ =! r). PB ( ). PA ( / B) r Şekl.. Bayes Teorem F F,,..., F olayları dzs ; U = S ve j = j ç koşullarıı yere getryorlarsa = S br parçalaışı (partto) olarak adladırılır. 5 F F F
B B j = ve U B = S olursa B B,,..., B, S br parçalaışı olarak adladırılır. BÖLÜM 3 : KESİKLİ VE SÜREKLİ DAĞILIMLAR Br rassal değşke, yalızca sayılablr sayıda değerler alablyorsa keskldr. Öreğ br zarı atılması olayıı yalızca 6 olası soucu vardır ve bu souçları her bre br olasılık ataablr ya da br paraı sosuz kez atılmasıda doğa yazı sayısı da keskl br rassal değşkedr. Çükü atış sayısı sosuz olsa da olası souçlar sayılablr. Br rassal değşke br aralıktak bütü değerler alablyorsa sürekldr. Bua da hava sıcaklığı, br ale yıllık gelr gb örekler verleblr Sürekl rassal değşkelerde bell değerlere olasılıklar verlemez. Hava sıcaklığı değer tam olarak blemez acak bell br aralık çde verleblr. 3.. Keskl Rassal Değşkeler Olasılık Dağılımı Keskl br öreklem uzayıda taımlamış olasılık ölçüsü, br rassal değşke ked aralığı çdek herhag br değer alma olasılığıı verr. Rassal br değşke değerlere lşk olasılıkları, ya rassal değşke aralığı çdek her x değer P( = x) e eşt ola olasılıkları f(x) foksyouyla gösterlr. keskl br rassal değşkese, ' aralığı çdek her br x ç f(x) = P( = x) le verle foksyoa ' olasılık foksyou der. Rassal br değşke olasılık dağılımı, olası bütü souçları ç olasılıkları br göstermdr. Br küme elemaları sayısı sayma sayıları kümes le brebr eşleeblyorsa bu küme sayılablrdr. Sayılablrlk de ked çde sayılablr ve sayılablr sosuz olmak üzere k grupta celeeblr. Öreğ sayma sayıları kümes sayılablr sosuzdur. 6
Şekl 3. Tpk Br Keskl Olasılık Foksyouu Grafğ Br foksyo, acak ve acak şu koşullar sağlaırsa keskl br rassal değşke olasılık foksyou olur: a. Taım aralığı çdek her değer ç f(x) 0; b. f( x ) = x br x değere eşt ya da oda küçük olma olasılığıı bulmak ç dağılım foksyou dee br dğer olasılık foksyouda yararlamak mümküdür. Bu foksyo F(x) le gösterls.. Bu durumda, ' x' e eşt ya da oda küçük br değer alma olasılığı F(x) = P( < x) le gösterls. Olasılık foksyou f(x), dağılım foksyou F(x) se k foksyo arasıdak lşk aşağıdak gbdr: F( ) = f( t) x t x ç Keskl rassal değşkeler ç brkml olasılık foksyou her zama 0' da başlayıp ' de soa ere br basamak foksyou bçmdedr. 7
Şekl 3.3 Keskl Brkml Dağılım Grafğ Keskl br rassal değşke dağılım foksyou F(x) şu koşulları yere getrmektedr: lm x ) F( ) = F( x) = 0 lm x ) F( ) = F( x) = 3) Herhag k gerçek sayı a le b ç a<b se F(a) F(b) olur. Br rassal değşke ola ' aralığı x <x <x 3 <...<x değerlerde oluşuyorsa, f(x ) = F(x ) ve =,3,..., ç f(x ) = F(x ) - F(x - ) olur. Keskl Br Rassal Değşke Beklee Değer keskl br rassal değşke, f(x) de buu olasılık dağılımıı x tek değeryse ' beklee değer: E ( ) = x. f ( x) x olur Burada her değşke zorulu olarak br beklee değer olduğu söyleemez. Beklee değer solu olması yukarıdak toplamı yakısak olmasıa bağlıdır. Keskl Br Rassal Değşke Varyası ortalaması μ olsu. Bu halde varyası Var() ya da σ le gösterlr ve 8
Var ( ) = σ = E( μ) olarak taımlaır. Öte yada keskl se ( μ) ( μ) E = x P( = x ) toplamı le hesaplaır. Ye açıktır k varyası solu olması bu toplamı yakısak olmasıa bağlıdır. Bazı Keskl Dağılımlar 3.. Beroull Dağılımı Br rassal deey sadece k soucu olsu. Bu souçlarda br taes başarı durumua; br dğer de başarısızlık durumua karşılık gels. Her deemede sözkousu başarı olasılığı (ve dolayısıyla başarısızlık olasılığı) sabt kalsı. Bu durumda bu deeye Beroull deey der. Her deemedek başarı olasılığı p se başarısızlık olasılığı da -p olmaktadır. Beroull deeyde başarı soucuu = durumu le özdeşleştrelm.. Dğer souç da =0 şeklde fade edlecektr. Bu durumda, rassal değşkee Beroull değşke der. Başka br deyşle tek br deemede gözlee başarı sayısı Beroull rastlatı değşke olarak adladırılacaktır. Beroull dağılımı bom dağılımıı özel br haldr. p P( x) = 0 x ( p) x, x=0, ç, dğer durumlarda Not etmek gerekrse Beroull dağılımıı tek br parametres vardır; o da p dr. 3.. Bom Dağılımı bağımsız Beroull deey tekrar edldğde karşımıza Bom dağılımı çıkmaktadır.. Burada da Beroull dağılımıdak gb k soucu ola deeylerde tek br deemedek başarı olasılığı p deemede deemeye sabt kalmaktadır. Ve deemeler brbrde bağımsızdır. Başka br fade le N deemedek başarı sayısı araıyorsa bu problem Bom olasılık dağılımı le çözüleblr. olasılık foksyou 9
pq x x x = 0,,,... px ( ) = x 0 aks durumlarda şekldedr. Taım 3.. Bom Dağılımı rassal değşke olasılık foksyou aşağıdak gb olsu. p p( x) = x 0 x x q, x=0,,,,, dğer durumlarda Aslıda ve p alableceğ değerlere göre sayısız bom dağılımı vardır. Bu edele bom dağılımıı belrleye ve p değerler, ayı zamada bu dağılımı parametrelerdr. P p durumuda bom dağılımı smetrk olup, P p ç smetrde uzaklaşır. N sabt kaldığıda p 0,5 ç ve p sabt kaldığıda ç dağılım smetrye yaklaşır Bom dağılımıda yer ala bom katsayıları deey sayısı artıkça hesaplaması x zorlaşır. Bu edele, ve p değşk değerlere göre hazırlamış çzelgeler vardır ve olarda yararlaılır. Bu dağılımı beklee değer ve varyası şu şekldedr. E( ) = x. f( x) = p Var( ) = p( p) 3. 3.3. Geelleştrlmş Bom (Multomal) Dağılımı Bom dağılımı sadece k olaaklı souca dayaa brbrde bağımsız tae deey ç geçerl d. Eğer br deey kde fazla souç çerrse ve bu deey ayı koşullar altıda defa tekrarlaırsa stee souç, geelleştrlmş (çok terml) bom dağılımı kullaılırak elde edlr. Taım 3.3. Multomal (Geelleştrlmş Bom) Dağılımı Br deey brbr le bağdaşmaya s, s,..., s k gb k tae olaaklı soucu varsa ve buları olasılıkları p, p..., p da deemede deemeye değşmede kalıyorsa ve,..., k k 3 Bu gb durumlarda Bom olaslıkları, ormal dağılım yardımı le de kolaylıkla buluablr. 0
rastlatı değşkeler sırasıyla brc olaaklı, kc olaaklı,, k. olaaklı soucu gerçekleşme sayıları se j k x 0, x = j = j = ve pj = olmak üzere, xkez, x kez s,...,x k kez elde k etme olasılığı aşağıdak gbdr: k x p j! x x P ( x, x,..., xk ) =! = ( p ) ( p ) ( pk ) j x j! = x! x!... xk! xk Bu tür dağılımlara geelleştrlmş bom dağılımı der. k= ç bom dağılım elde edlr. Bu dağılımı beklee değer ve varyası şu şekldedr. E( ) = p =,,...,r Var( ) = p ( p ) =,,...,r 3.4. Geometrk Dağılım Arka arkaya kez tekrarlaa br Beroull deey ele alısı ve lk stee soucu elde edlmes ç gereke deey sayısı olsu.bu durumda e geometrk rassal değşke der. Bom dağılımıda deey sayısıı sabt stee souçları sayısı br rassal değşke ke; geometrk dağılımda stee soucu sayısı bre eşt olmak üzere br sabt, deeyler sayısı se br rassal değşkedr. olasılık foksyou aşağıdak gbdr: q p( x) = 0. x p, x=,,3 ç, dğer durumlarda Bu dağılımı beklee değer ve varyası şu şekldedr E() = p [ ] Var() = E( ) E()
3.5. Pascal (Negatf Bom) Dağılımı Geometrk dağılımda öeml ola lk başarıı elde edlmes ç gerekl deey sayısıı olasılık dağılımıı belrlemektr. Eğer lk başarı değl de k tae başarı elde etmek söz kousu se, geometrk dağılımı geelleştrlmş hal ola Pascal dağılımıda yararlamak gerekr. Geometrk dağılıma uya br deey ele alısı ve deeye k sayıda başarı elde edlceye kadar devam edls. k. başarıı elde edlmes ç gerekl deeyler sayısı rassal değşke le gösterls. Aye geometrk dağılımda olduğu gb egatf bom dağılımıda da deeyler sayısı br rassal değşke, başarıları sayısı se sabttr. Olasılık foksyou aşağıdak gbdr: x p p( x) = k 0 k ( p) xk, x=k,k+,k+,, dğer durumlarda Bu olasılık foksyou k ve p değerlere göre değştğde dolayı, k ve p egatf bom dağılımı parametrelerdr. Bu dağılımı beklee değer ve varyası şu şekldedr E() = k. p q Var() = k. p 3.6. Hpergeometrk Dağılım Kısım (3..) de bom dağılımı celerke, bu dağılımı adel örekleme varsayımıa dayadığıı ve bu sayede olasılıkları deemede deemeye sabt kaldığı ve öreklem çekmler de br brde bağımsız olduğu belrtlmşt. Bazı durumlarda solu br kütlede adesz örekleme gerekl olablr. Bu durumda hpergeometrk dağılıma başvurmak gerekr. Hpergeometrk dağılımı kullaablmek ç aşağıdak üç koşulu ortaya çıkması gerekr. )Br deey k olaaklı souca sahpse, )Deey tekrarlama sayısı sabtse, )Deeylerde br soucu dğer deeyler etklyorsa (deeyler bağımlı se), N brmlk br solu öreklem uzayıı, taes lglele soucu taes de lglelmeye soucu gösters. N N= N + N olur. Bu öreklem uzayıda öreklem hacm ola brmler grubu adesz yötemle çekls ve rassal değşke de brmlk öreklem N
çdek lglele souçları sayısıı gösters. Bu durumda, adesz öreklem brmler seçm brbrler le bağımlı olacaktır. Öreğ brc çekmde stee soucu sağlaması P= N /N ke, kc öreklem çekm olasılığı; stee soucu sağlaması veya dğer soucu sağlaamaması durumua bağlı olarak N /N veya N /N olur Hpergeometrk dağılımı olasılık foksyou celerke olasılığı klask taımıı kullamak mümküdür. Bu durumda Öreklem uzayıda N tae brm olduğua ve bularda taes seçlebleceğe göre, ayrıca bu seçlşte sıraı öem de olmadığıa göre karşılaşılablr souçları sayısı N e göre kombasyou ya N dr. İlglele souçları sayısı x ve öreklem uzayıdak lglele souçlar çere brmler toplamı da olduğuda; N brmde x taes N seçm N x kombasyoua eşttr. Öreklem hacm de x taes çıkartılırsa, (-x) de N N N N veya N de kombasyou kadar farklı şeklde seçlecektr. O zama x lglele souçları sayısı, statstktek çarpım kurallarıa göre x N x olacaktır. Hpergeometrk olasılık foksyou bu durumda aşağıdak gb taımlaır: N N x x P( = x) = N 0, x= 0,,,, ç, dğer durumlarda Hpergeometrk olasılık dağılımı N, N ve olmak üzere toplam üç tae parametreye sahptr. Bu dağılımı beklee değer ve varyası şu şekldedr 3
E ( ) = N N y= 0 N y N y N (N ) Var() = p( p) (N ) 3.7 Posso Dağılımı İstatstk te olasılık dağılımlarıı türetldğ temelde k tae süreç vardır. Bularda br taes Beroull Sürec, br dğer de Posso Sürecdr. Posso dağılımı, Posso sürecde yola çıkılarak türetlmş br olasılık dağılımıdır. Posso dağılımı adr olayları gerçekleşme olaslılklarıı bulumasıda da kullaıldığıda küçük olasılıklar dağılımı olarak da blmektedr. Bell ve çok dar br zama aralığıda az rastlaa olaylar bu tür br dağılım yardımı le modelleeblmektedr. Öreğ, Boğazç Köprüsü de meydaa gele gülük kazaları sayısı, br havaalaıda her saat kalka veya e uçakları sayısı İstabul Boğazı da br saatte geçe yabacı gemler sayısı vb. gb. Posso dağılımıda zama öyle küçük parçalara bölüür k bu küçük zama parçalarıda brde fazla olayı gerçekleşmes beklemez. Başka br fade le belrlee o dar zama brm çersde olay ya gerçekleşr ya da gerçekleşmez. Bu edede dolayı bom dağılımı tae deeydek başarı sayısı le lglerke, Posso dağılımı da belrl br zama aralığıdak lglele soucu sayısı le uğraşır. (Beer,003) Araştırıcıı Posso dağılımıı kullaablmes ç k ayrık zama aralığıda ortaya çıka olayları sayısıı brbrlerde bağımsız kabul edlmes gerekmektedr. rassal değşke yukarıdak özellkler taşıyorsa, oa Posso rassal değşke ve foksyoua da Posso dağılımı adı verlr ve olasılık foksyou ( λ ; λ >0 koşuluu sağlaya br sabt olmak üzere ) aşağıdak gb gösterlr: λ x e λ P( x) = x! 0, x=0,,,3 ç, dğer durumlarda 4
Bu dağılımı beklee değer ve varyası şu şekldedr λ E ( ) = λe. e λ = λ λ x [ x(x ) + x] e λ x.p(x) Var(x) = = x= 0 x= 0 3.9. Sürekl Dağılımlar x! 3.9.. Sürekl Rassal Değşkeler Olasılık Dağılımları Rassal değşkeler sürekl br ölçek üzerde her değer alabldkler sürekllk durumuda şlemler keskl durumdakyle bezerdr. Deey souçları doğrular ya da doğru parçaları üzerdek okta kümeler le gösterlr. Rassal değşkeler değerler de bu oktalar kurallar kümese at reel sayılar olarak düşüülür. Sürekl hallerde P(=a) olasılığı, keskl hallerde farklı olarak sıfırdır. Pa ( b) olasılığı b Pa ( b) = f( xdx ) tegral le hesaplaır. Burada f(x) olasılık yoğuluk foksyou olarak adladırılır. a Br f(x) foksyou, aşağıdak koşulları sağlıyorsa sürekl br rassal değşke br olasılık yoğuluğu olarak şlev göreblr.( Hsu,H.,997). f ( x ) 0 < < ç;. f ( x) dx = 5
b Şekl 3.4 Sürekl Olasılık Dağılımı Grafğ ( Pa ( b) = f( xdx ) olmaktadır.) Daha öcede de değldğ gb ' c' dek olasılık yoğuluk değer göstere f(c), keskl durumdak terse, P(=c) y vermez. Sürekl rassal değşkelere lşk olasılıklar her zama aralıklara ataır ve her gerçek değerl c sabt ç P(=c)=0' dır. sürekl br rassal değşke ve buu olasılık yoğuluğuu t dek değer f(t) se; ( x) P( x) = f ( t) F = dt < < ç foksyoua ' dağılım foksyou ya da brkml dağılım foksyou der. Taımda da alaşılableceğ gb dağılım foksyou ' verle br değere eşt ya da küçük olma olasılığıı verr. Sürekl hallerde, a < b koşuluu sağlaya a le b gb k sabt ç P( a b) = F( b) F( a) şeklde dağılım foksyouda hareketle de buluablr. Ye olasılık yoğuluk foksyou le dağılım foksyou arasıda aşağıdak eştlkler geçerldr: df( x) ) f( x) = dx x ) F( x) = f( t) dt a 6
Şekl 3..5 Sürekl Brkml Dağılım Grafğ Sürekl dağılımlarda da dağılım foksyou F(x) şu koşulları yere getrecektr: lm x ) F( ) = F( x) = 0 lm x ) F( ) = F( x) = 3) Herhag k gerçek sayı a le b ç a<b se F(a) F(b) olur. Sürekl Dağılımları Beklee Değer Bezer bçmde, sürekl br rassal değşke, f(x) de buu olasılık yoğuluğuu ' tek değeryse ' beklee değer: E() = x.f (x)dx olur. Br kez daha beklee değer taımlı olablmes ç yukarıdak tegral yakısak olması gerektğ vurgulamak gerekr. Öreğ Cauchy dağılımı ( serbestlk derecel studet-t dağılımı) ç beklee değer mevcut değldr. Sürekl Dağılımlarda Varyas br sürekl rastlatı değşke olsu. bu durumda varyası Var() bçmde sembolze edlr ve şu şeklde taımlaır: Var ( ) = E ( E ( )) 7
Var( ) + ( x E( )) f ( xdx ) = Şüphesz varyası taımlı olablmes ç bu tegral yakısak olması gerekr. Bazı Sürekl Dağılımlar 3.9..Düzgü (Uform) Dağılım sürekl rastlatı değşke (α,) aralığıda aşağıdak olasılık yoğuluk foksyoua sahp se düzgü dağıla br rastlatı değşke olarak adladırılır: α < x < f ( x) = α 0 Aks halde Şekl 3.6: alfa=0 ve beta= parametrel düzgü dağılım Düzgü Dağılımı Brkml Dağılım Foksyou 8
0 x α x α F ( x) = α < x α x bçmdedr. < Düzgü dağılımı beklee değer ve varyası aşağıdak gbdr: α + E( ) = Var( ) = ( α ) Taım. 3.9. Normal Dağılım rasal değşke, gerçel sayılar uzayıda taımlamak üzere, xμ σ e, σ > 0, < x < + f( x) = σ π 0, dğer durumlarda olasılık yoğuluk foksyoua sahpse ormal dağılmıştır der. Burada π=3,45 ve e=,783 değerler ala sabt sayılardır. μ ve σ ormal dağılımı parametrelerdr. rassal değşke dağılımı ormal se kısaca şöyle de fade edleblr: ~ Eğer μ=0 ve σ= seçlmes halde stadart ormal dağılım elde edlmektedr. Başka br fade le μ=0 ve σ= parametrel ormal dağılıma stadart ormal dağılım adı verlmektedr. (.) N( μσ, ) 9
Şekl3.:Normal Dağılım Hem Bom, hpergeometrk, Posso, K-Kare, studet-t dağılımı gb çok kullaıla bazı dağılımları lmt haller ormal dağılıma yakısayacağı ç hem de Merkez Lmt Teorem uyarıca bağımsız dağıla tae rastlatı değşke toplamıı (ya da ortalamasıı) olasılık dağılımı, stadart ormal dağılımla modelleebleceğ ç ormal dağılım İstatstk Teors de merkez br öeme sahptr.normal Dağılımı Beklee Değer Ve Varyası E(x)=μ Var(x)=σ 3.9.3 Gama Dağılımı Olasılık teorsde öeml rol oyaya dağılımlarda da br taes gama dağılımıdır. Aslıda gama dağılımı br dz olasılık dağılımıı geel hal vere zarf telğde br dağılımdır. Öreğ İstatstk te özelkle ormal dağıla br aakütlede çekle örek varyasıı dağılımı K-kare dağılımı özel br gama dağılımıdır. Ye üstel dağılım gama dağılımıı özel br haldr. Bu bakımda gama dağılımı sözkousu olasılık dağılımlarıı belrl özellkler tartışılmasıda da yararlı olmaktadır. λ > 0, α > 0 olmak üzere sürekl rastlatı değşke aşağıdak olasılık yoğuluk foksyoua sahp se gama rastlatı değşke olarak adladırılır: 30
λx α λe ( λx) f( x) = x 0 Γ( α) Burada Γ (α ) gama foksyoudur ve x α Γ ( α) = e x dx 0 şeklde taımlamaktadır. α şekl parametres; /λ de ölçü parametres olarak adladırılır. Tamsayı değerl α parametrel Gama dağılımıa Erlag dağılımı da demektedr. α = ç Γ( α ) = ( )! olduğu gösterleblr. Gama Dağılımıı Beklee Değer ve Varyası E( ) α = λ α Var( ) = λ 3.9.4. Üstel Dağılım rastlatı değşke aşağıdak olasılık dağılımıa sahp olsu. Bu durumda üstel dağılıyor der. f( x) = λe λx x 0 Burada λ poztf br sabttr. Ü stel Dağılımı Beklee Değer ve Varyası E() = λ Var( ) = λ 3
α = ç gama dağılımı üstel dağılıma döüşmektedr. 3.9.4 Beta Dağılımı sürekl rastlatı değşke aşağıdak olasılık yoğuluk foksyoua sahp se beta dağılımıa uyar: a b f ( x) = x ( x) 0< x< Bab (, ) Burada a (, ) ( ) b B ab x = 0 x dx olarak taımlamaktadır. a=b ç beta dağılımı x=/ etrafıda smetrk olmaktadır. b>a ç sola çarpık ve b<a ç sağa çarpık br dağılım elde edlmektedr. Ye B(a,b) beta foksyou olarak adladırılmaktadır. Gama foksyou le beta foksyou arasıda şu lşk vardır: Beta Dağılımıı Beklee Değer ve Varyası a E( ) = a + b Var( ) = ab ( a+ b) ( a+ b+ ) 3.0. Çok Değşkel Dağılımlar Br rassal değşke, olasılık ölçüsü mevcut ola br öreklem uzayıda taımlamış gerçek değerl br foksyodur. Ayı tek öreklem uzayıda çok sayıda değşk rassal değşke de taımlaablr. le Y keskl rassal değşkeler se, ' x değer, Y' de y değer alma olasılıkları P(=x, Y=y) olur. Bu durumda P(=x, Y=y), =x le Y=y olaylarıı kesşm ( brlkte) gerçekleşme olasılığıdır. 3
le Y keskl rassal değşkelerse, le Y' aralıklarıdak her (x,y) değer çft ç f(x,y)=p(=x, Y=y) le gösterle foksyoa le Y' ortak olasılık dağılımı der. İk değşkel br foksyo, acak ve acak bu dağılımı f(x,y) değerler şu koşulları sağlarsa, le Y keskl rassal değşkeler çft ortak olasılık dağılımı şlev görür:. Foksyou taım aralığıdak her (x,y) değer çft ç f(x,y) > 0' dır.. f ( x, y ) = x y (x,y) değer çft kapsar., burada çfte toplama şlem, taım aralığıdak her le Y keskl rassal değşkeler se, -, - < y < < x < ke kadar bahsedle çok değşkel dağılımlar hep keskl rassal değşkeler çdr. Tek değşkel durumda olduğu gb çok değşkel durumda da keskl rassal değşkelerde taımlaa kavramları sürekl durumdak karşılıkları mevcuttur. xy düzlemde taımlamış, f(x,y) değerl k değşkel br foksyoa, acak aşağıdak koşullar sağlaırsa, le Y sürekl rassal değşkeler ortak olasılık yoğuluk foksyou der: P[(,Y) A]= f ( x, y) dxdy F ( x, y) = P( x, Y y) = f ( s, t) s x t y foksyoua, le Y' ortak dağılım foksyou ya da ortak brkml dağılım foksyou der. Burada f(s,t), le Y ortak olasılık dağılımıı (s,t) oktasıdak değerdr. Buraya A Bu durum xy düzlemdek herhag br A bölges ç taımlamıştır. İk değşkel br foksyo, ked f(x,y) değerler şu koşulla sağlıyorsa - < x <, - < y < ke, le Y sürekl rassal değşke çft ortak olasılık yoğuluk foksyou şlev göreblr:. f(x,y) 0 - < x < ve - < y < ç. f ( x, y) dxdy = le Y sürekl rassal değşkeler se, - < x <, - < y < ke, y x F(x,y) = P( x,y y)= f (,) s t dsdt 33
foksyoua, le Y' ortak dağılım foksyou der. Burada f(s,t), le Y ortak olasılık yoğuluğuu (s,t) oktasıdak değerdr. Sürekl k rassal değşke ortak dağılım foksyou, ortak yoğuluğu sürekl olduğu bütü (x,y) oktalarıda ortak yoğuluğu belrler. 3.. Marjal Dağılımlar Marjal dağılımlar, değşkelerde br sabt tutularak sadece dğer üzerde hesaplaa olasılık dağılımlarıdır. le Y keskl rassal değşkeler, f(x,y) de buları (x,y) oktasıdak ortak olasılık dağılımı se, ' aralığıdak her x ç, g ( x) = f ( x, y) y le gösterle foksyoa ' marjal dağılımı der. Bezer bçmde, Y' aralığıdak her y ç, h ( y) = f ( x, y) x le gösterle foksyoa Y' marjal dağılımı der. ve Y sürekl rassal değşkelerke olasılık dağılımları yere olasılık yoğulukları, toplamalar yere tegraller kullaılır. Bu durumda - < x < ke, g ( x) = f ( x, y) dy marjal yoğuluğu ve ayı bçmde - < y < ke, h ( y) = f ( x, y) dx Y marjal yoğuluğu olarak gösterlr. İkde çok rassal değşkele lgleldğde tekl rassal değşkeler marjal dağılımları hesaplaabldğ gb çeştl rassal değşkeler ortak marjal dağılımları da buluablr.,,..., rassal değşkeler ortak olasılık dağılımı f(x ı,x,...,x ) se tek başıa x ı ' marjal dağılımı, x ı ' aralığıdak tüm değerler ç; keskl durumda, g ( x ) =... f x x ( x, x,..., x ) 34
sürekl durumda, h ( x ) =... f ( x, x,... x ) dx dx... dx 3 şeklde marjal yoğuluk foksyoları hesaplaablr. Ayı koşullarda, ı, ve 3 ü ortak marjal dağılımı se; keskl durumda, m ( x, x, x3) f ( x, x x4 x =... ve sürekl durumda, φ,..., x ( x, x, x3) =... f ( x, x,..., x ) dx4dx5... dx ) şeklde deklemler kullaılır.burada m(x,x,x 3 ) ve Φ(x,x,x 3 ) olasılık foksyolarıdır.,, 3 ü brleşk 3.. Koşullu Dağılımlar le Y, ortak dağılımlı keskl br rassal değşke çft olsu. Bu değşkeler ortak olasılık dağılımıı (x,y)' dek değer f(x,y), Y' marjal dağılımıı y'dek değer de h(y) se, aralığıdak her br x ç, f ( x, y) f ( x / y) = h( y) 0 h( y) le gösterle foksyoa, Y=y verlmşke ' koşullu dağılımı der. Bua karşılık olarak ' marjal dağılımıı x' tek değer g(x) se, Y aralığıdak her br y ç, f ( x, y) w( y / x) = ( x) 0 g( x) le gösterle foksyoa =x verlmşke Y koşullu dağılımı der. le Y sürekl rassal değşkeler olduğuda, olasılık dağılımları yere olasılık yoğulukları geçer. Hesaplamalar toplama operatörler, tegral operatörler le değştrlerek gerçekleştrlr. İk ya da daha çok rassal değşke ç statstksel bağımsızlık kousu geellkle büyük öem taşır. Mesela Y = y verlmşke koşullu dağılım değerler y ye bağlı değlse f(x\y)=g(x) olur, böylece 35
f(x\y)=f(x\y).h(y)=g(x).h(y) Burada ortak dağılım değerler k marjal dağılımı lgl değerler çarpımıa eşt olmaktadır. Daha geel br taımla; f(x ı,x,...,x ), tae keskl ı,,..., rassal değşke ortak olasılık dağılımıı (x ı,x,...,x ) dek değeryse ve f ( ) de, =,,..., ç marjal dağılımıı dek değeryse, buları aralarıdak bütü (xı,x,...,x ) ç aşağıdak koşul sağlaırsa tae rassal değşke bağımsız olur.( Hsu,H.,997) f(x ı,x,...,x ) = f l (x ).f (x ) f (x ) Beklee Değer Bazı Özellkler İster sürekl sterse keskl olsu tek değşkel rassal değşkeler beklee değerler ç aşağıdak bazı özellklerde söz etmek uygu olacaktır: a ve b sabt sayılar olmak üzere; ) E(a.)= a.e() ) ) E(b)=b E(a.+b)= a.e()+b v) gı() ve g () Ayı örek uzayı S de reel sayılar kümesyle taımlamış k foksyo se brer foksyou olmak üzere E[g ()+g ()]=E[g ()]+E[g ()] v) Tüm x değerler ç g (x)<g (x) se, E[g ()] < E[g ()] olur. Çok Değşkel Durumlarda Beklee Değer Beklee değer kavramı brde çok uygulaır. rassal değşke çere çok değşkel durumda da le Y keskl rassal değşkeler, f(x,y) buları ortak olasılık dağılımıı (x,y)' dek değeryse g(,y)' beklee değer: [ ] Eg(,Y) = g(x,y).f(x,y) olur. x y Ayı şeklde, le Y sürekl rassal değşkeler, f(x,y) de buları ortak olasılık yoğuluğuu (x,y)' dek değeryse g(,y)' beklee değer: E[ g(, Y) ] = g(x, y).f (x, y)dxdy olur. 36
BÖLÜM 4: TAHMİN 4. Parametreler Aakütle hakkıda blg vere karekterstk değere parametre der. Öreğ, üretle br chazı boyuu λ parametrel üstel br dağılıma sahp olduğu ama bu parametre gerçek değer blmedğ varsayılsı.. Bu türde brkaç chazı boyu gözlemleeblrse, bu gözlem değerlerde yola çıkılarak λ ı değer hakkıda br tahmde bulumak mümkü olablr. Belrl br topluluktak breyler boylarıı dağılımı; µ ortalamasıyla ve ơ varyasıyla ormal dağılsı. ( µ ve ơ ı tam değer blmemektedr.) Bu toplulukta seçlmş rassal br örektek breyler boylarıı gözlemlerse µ ü ve ơ değerler hakkıda br souç çıkarableceğ düşüüleblr. Br θ parametres alması olası tüm (θ θ ) değerler çere kümeye parametre uzayı der ve Ω le gösterlr. Suula lk örekte, üstel dağılımıı parametres λ poztf olmalıdır. Bu edele, parametre uzayı Ω tüm poztf reel sayılar kümesde oluşur. İkc örekte µ ü değer herhag br reel sayı olablr. ơ de poztftr. 4. Tahm Yötemler İk temel tp tahm problemde söz edleblr: Brc tpte, br veya daha fazla rassal değşke parametreler tahm edlmesyle lglelr. İkc tpte se, bağımlı br rassal değşke değer; bağımsız rassal değşkeler gözlem değerler yardımı le tahm le lglelr. 4... Parametre Tahm İstatstk olasılık foksyou f(x) olsu ve (,. ), se, sözkousu olasılık dağılımıa tab br aakütlede çekle br dz gözlem olsu. (,. ) reel değerl br foksyou s(,. ) olsu. Bu durumda s(,. ) br statstk olarak adladırılır. İstatstk de aakütle tamame gözlemez. Dolayısıyla aakütle dağılımıı teleye parametreler tahm değerler sözkousu statstkler yardımı le gerçekleştrlmeye çalışılır. 37
Acak Bayesgl statstğe göre sözkousu parametreler brer sabt olarak ele alımazlar. Oları da brer olasılık foksyoları vardır. Dolayısıyla θ parametrel br dağılımda çekle rastlatı değşke olasılık dağılımı f(/ θ) bçmde koşullu olarak fade edlr. Ya da le brlkte θ da br rastlatı değşke olarak kabul edleceğ ç oları ortak olasılık dağılımıda sözedlr. (,. ), rastgele br öreğ olsu. Bu durumda (,. ) ortak olasılık yoğuluk foksyou aşağıdak eştlkle verlmektedr: f ; θ = ( x; θ ) = f ( x,...,x ; θ ) = f ( x ) Burada θ uygu statstkler aracılığı le tahm edlmektedr. Örekte gele rassal gözlemler br foksyou olacağı ç, θ ı tahm edcs de br rastlatı değşke olmaktadır. Tahm edc özel br değer de de ou gerçekleştrlmş hal olmaktadır. Nokta Tahm ve Aralık Tahm Br parametre tahm tek br değer olması gerekl değldr. Buu yere belrl br olasılıkla tahm değerler dzs ögörüleblr. Tek br değer taımlaya tahmler okta tahmler olarak adladırılır. Belrl br olasılıkla br değer aralığıı taımlaya tahmler de aralık tahmler olarak adladırılmaktadır. 4 4.3.. Nokta Tahm Edcler Özellkler A. Tarafsız Tahm Edcler (Ubased Estmators) Θ = s(,. ), tahm edcs ya da statstğ, E(Θ) = θ parametres tarafsız tahm edcs olarak taımlaır. koşuluu sağlıyorsa θ Θ ı tarafsız br tahm edc olması durumuda, hata kareler ortalaması aşağıdak gb taımlaır: E [( Θ θ ) ] = E [ Θ E( Θ) ] { } = Var( Θ) Θ, θ ı yasız br tahm edcs se, kareler ortalaması hatası, varyasıa eşttr. B. Etkl Tahm Edcler Θ tahm edcs, aşağıdak durumda, Θ tahm edcse göre, θ parametres daha etkl br tahm edcs olarak adladırılır:. Θ ve Θ, θ ı tarafsız tahm edcler se. 4 Lteratürde parametrelere lşk aralık tahmler güve aralıkları (cofdece tervals) olarak adladırılmaktadır. 38
. Var(Θ ) < Var(Θ ) Tahm edc Θ MV = s(,. ),, aşağıdak durumda θ parametres e etkl (veya mmum varyaslı) tarafsız tahm edcs olarak adladırılır. θ ı tarafsız br tahm edcsdr. Tüm Θ lar ç var ( Θ MV ) Var(Θ) dır. Bu durumda Θ MV ; θ ı mmum varyaslı (ya da e etk) tahmcs olarak da adladırılablr. C. Tutarlı Tahm Edcler Θ ; θ ı yasız br tahmcs olmayablr. Başka br deyşle E( Θ) θ olur. Buula brlkte örek büyüklüğü arttırıldığıda Θ le θ arasıdak fark sstematk olarak azalablr. büyüklüğüdek rastgele br öreğe dayalı olarak θ ı Θ tahm edcs, her küçük ε>0 ç ( Θ θ < ε ) lm P = veya eşlek olarak, ( Θ θ ε ) 0 lm P = oluyorsa Θ, θ ı tutarlı br tahm edcs der. Aşağıdak eştlkler tutarlılığı taımlamak ç yeterldr.. lm E lm Var ( Θ ) = θ ( Θ ) = θ Tutarlılık asmptotk br özellktr. 39
4.3 E Küçük Kareler Yötem E Küçük Kareler Yötem, doğrusal ( ya da doğrusal olmaya), çoklu regresyo modeller çözümlemesde kullaıldığı gb, çok dekleml ekoometrk modeller çözümüde de kullaılır. Kurula regresyo modellerde gözlemler, aakütle gözlem değerlerde herhag şeklde alımış gözlemler olduğu düşüülür. Kurula regresyo model eldek örekte hareketle oluşturulmaya çalışılır. Bu edele kurula modeldek değerler tahm değerler olacaktır. Tahm edlmeye çalışıla açıklaa ( ya da bağımlı) değşke alacağı değer; açıklayıcı ( ya da bağımsız) değşke (ya da değşkeler ) gözlem değerler yardımı ve geellkle, doğrusal br foksyo aracılığı le tahm edlr. Bu regresyo deklemde bulua sabtler (gözlem değerler yardımı le ) tahm edlmes le uygu br matematksel tahm model oluşturulmaya çalışılır. Acak tahm değerler le gözlem değerler adre brbrler le çakışacağıda ayrı br otasyoa htyaç vardır. Geellkle tahm değerler şapka otasyou le fade edlrler. Sözgelm θ parametres eldek örekte hareketle hesaplamış ola br tahmcs ˆ θ le gösterlr. Sözgelm ˆ θ = 3 olduğuda bu özel 3 değer ; θ ı br tahm değer (ya da kestrmdr.) Özetlemek gerekrse θ br parametredr. ˆ θ se br formül ya da statstk. Bu yüzde ˆ θ ; θ ı değer br tahmcs ya da kestrmcsdr (estmator). Bu tahmc farklı gözlem değerlere göre farklı θ tahm değerler vereceğ açıktır. Bu tahm değerler her bre de θ ı brer tahm (estmate) der. Tek açıklayıcı değşkel doğrusal regresyo model ele alısı. Kurula aa kütle regresyo model, Y = α + + u Aakütle regresyo tahm model se ˆ ˆ ˆ Y = α + deklemler le fade edlmektedr.. 40
Burada α ve aakütle regresyo model parametrelerdr. ˆ α ve ˆ se sözkousu parametreler (eldek öreğe dayaılarak oluşturulacak ola) tahmclerdrler. Tahm model güvelrlğ sıaması da (daha sora değlecek bazı varsayımlar altıda oluşturulacak ola) parametreler aralık tahmlere ve bezer statstklere dayaarak gerçekleştrlmektedr. Regresyo aalz ç kurula modelde, bağımlı ve bağımsız değşke (ya da değşkeler) yaısıra hata term olarak smledrle ve aakütle regresyo deklemde u şeklde fade edle rassal değşke yer almaktadır. Sözkousu hata term ( ya da dstürbas) modele rassal olma özellğ kata değşkedr. Çükü bldğ gb α ve parametreler sabttr. Ye açıklayıcı değşke ya da değşkeler değerler sabt kabul edlmektedr. Dolayısıyla bağımlı değşke rassal değşke olablmes ç gerye br tek hata term rassal değşke olması koşulu kalmaktadır. Örek regresyo modelde se bağımlı değşke gözlee değerler le tahm edle değerler arasıda br fark (geellkle) buluur. Bu farklar hata termler ya da kalıtılar (resduals) olarak adladırılırlar. Kalıtılar e otasyou le gösterlrler. e ˆ Y Y = olur. Başka br değşle. kalıtı, bağımlı değşke. fl ya da gözlee değer le tahm edle değer arasıdak farka eşttr. Hata termler kareler toplamıı mmum yapa yötemler arasıda e çok kulaılalarda br taes e küçük kareler yötemdr. Bu yötem kısaca kalıtı kareler toplamı adı da verleblecek aşağıdak foksyou mmum kılmayı sağlayacak ola parametre tahmler verr: Q = = e Burada Q foksyou e küçük kareler foksyoudur ve parametreler e küçük kareler tahmler bu foksyou eşzamalı olarak mmze ede parametre tahmler buluması le gerçekleştrlr. Sözgelm, yukarıdak tek açıklayıcı değşkel doğrusal regresyo modelde Q = 0 ˆ α Q ve = 0 ˆ deklemler eşzamalı olarak çözülür. 4
Şekl 4.. Klask Regresyo Öreğ 4.4 E Çok Bezerlk Yötem R.A. Fsher e göre gelştrle bu yöteme göre parametre tahmler, elde bulua gözlemler (eşzamalı ya da brlkte ) elde etme olasığıı maksmum kılacak şeklde gerçekleştrlr. Bu da olablrlk foksyou adı verle br foksyo yardımı le yapılır.,,..., ; θ parametrel br dağılımda gözlemş brmlk br öreğ oluştursu. Başka br deyşle öreğ brc gözlem değer,, bu öreğ. gözlem değer olsu. Olablrlk foksyou f (,...,, θ ) şekldedr. Maksmum olablrlk yöteme göre olablrlk foksyouu maksmze edecek ˆ θ değer bulumaya çalışılır. Bu kouya lerde bazı olasılık dağılımlarıı parametreler maksmum olablrlk yötem le buluması sırasıda yede döülecektr. 4.4.. Bayesç Tahm Klask yaklaşıma göre br aakütley ya da olasılık dağılımıı şekledre parametreler sabttr. Bayesç yaklaşıma göre se bu parametreler bzzat kedler de brer olasılık dağılımıa uymaktadılar. Dolayısıyla parametreler kedler de brer rastlatı değşkedrler. Blmeye θ parametres olasılık foksyou f(θ) olsu. Bu durumda θ parametrel br dağılımda gözlee (, ) değerler brleşk olasılık dağılımı br alamda koşullu br olasılık foksyou olacaktır ve f(, / θ ) şeklde yazılablecektr. Ye koşullu 4
olaslık formülüde yola çıkarak (, ) ve θ ı brleşk olaslık foksyou ( ) ( ) ( ) f x,..., x, f x,..., x f θ = θ θ şeklde fade edleblr. Ye bazı marjal olasılık foksyoları bu brleşk foksyo yardımı le buluablr: (,..., ) (,...,, θ ) f x x = f x x dθ R 0 Burada, R, θ ı değer aralığıdır. Parametre sürekl olduğu ç tegral alımaktadır. Burada dğer koşullu olasılık foksyoları da aşağıdak örekte olduğu gb hesaplaablrler: ( x,..., x ) ( x,..., x, θ ) f ( x,..., x ) f f f θ = = ( x,..., x θ ) f ( θ ) f ( x,..., x ) Yukarıdak olasılık foksyou θ ı posteror olasılık foksyou olarak taımlaır. Gözlem öces ya da pror f(θ), (, ) souçlarıı gözlemesde öce θ kousudak blgler fade eder. Posteror olasılık dağılım foksyou f(θ/x,..x ), se örektek blgler le pror f(θ ) da yararlaılarak buluablmektedr. Başka br deyşle posteror dağılım, pror dağılımda gele blgler le örekte gele blgler br setez oluşturmaktadır. θ'ı koşullu ortalaması aşağıdak eştlkle fade edlr: θ B = E ( θ x,..., x ) θf ( θ x,..., x ) = R 0 dθ Başka br deyşle bu beklee değer posteror dağılımı beklee değere eşt olmaktadır. Bu beklee değer ; θ ı Bayes tahm olarak da adladırılmaktadır. Θ ( θ ) = E,..., B Bayes Yaklaşımıı Temel Bayes teorem, bu yaklaşımı temeldr. A ve B ayı örek uzayı S çersde k olay olsu. Bu durumda Bayes Teoreme göre B olayı verldğde A ı koşullu gerçekleşme olasılığı PA ( B) PA ( / B) = PB ( ) 0 ç PB ( ) şeklde hesaplaır. Bayes Teorem az öcek tartışmaya uyarlaacak olursa Y verldğde (veya gözledğde) θ ı posteror dağılımı aşağıdak şeklde hesaplaablr: 43
( θ Y) P( θ) P P( θ Y ) = P( Y ) 0 ç PY ( ) (4.9) Bu fade lteratürde ters olasılık lkes (prcple of verse probablty) olarak da geçmektedr. (4.) o lu fadede hareketle, P ( Y, θ ) = P( Y / θ ) P( θ ) P( Y, θ ) = P( θ / Y ) P( Y ) (4.0) (4.) P( θ / Y ) = P( θ ) P( Y / θ ) P( Y ). P(Y) term ormalleştrme sabt olarak adladırılır ve aşağıdak gb yazılablr P( Y ) = P( θ ) P( Y / θ ) dθ (4.) (4.) eştlğde P(Y) term çıkarıldığıda, P( θ / Y ) P( θ ) P( Y / θ ) (4.3) elde edlr, smges oratısallığı belrtmektedr. P(Y/ θ ), öreklem blgs göstere olablrlk foksyou, P( θ ) se θ parametres pror olasılık yoğuluk foksyouu ya da ö blgy vermektedr. P( θ /Y) se, Y verldğde parametre θ ç posteror olasılık yoğuluk foksyouu göstermektedr. Ayrıca çde bütü ö blgy öreklem blgs le brlkte taşımaktadır. So blgler, Bayesc aalzde çıkarımları elde etmede doğruda kullaılırlar. Ö blg, posteror olasılık yoğuluk foksyoua ö olasılık yoğuluk foksyou aracılığıyla grer. Öreklem blgs se bezerlk foksyou yardımıyla aalzde yer alır. Bayesc aalz soucuda bulua so dağılım, br sorak aalzde ö dağılım olarak kullaılablr. Burada kc aalz ç alıacak olablrlk foksyouu, lk olablrlk foksyouda bağımsız olması koşulu vardır. (Kahyaoğlu,999) P( θ /) P( θ )L( θ /) ke te bağımsız Y öreklem ç aşağıdak fadeler oluşturmak mümküdür. P( θ /,Y) P( θ )L( θ /Y) (4.4) L( θ /,Y) L( θ /)L( θ /Y) (4.5) 44
Burada yola çıkarak, P( θ /,Y) P( θ )L( θ /)l( θ /Y) (4.6) P( θ /,Y) P( θ /)l( θ /Y) (4.7) elde edlr. 4.5. Klask İstatstkle Bayesgl İstatstğ Karşılaştırılması Geelde klask statstk yalıları, Bayesgl statstğ aşırı sübjektf davramakla suçlarlar. Acak klask hpotez testlerde bldğ gb, bu testler alamlılık düzey br alamda sübjektf olarak belrlemektedr. Klask statstkte gerek tahmcler elde edlmes, gerekse aralık tahmler ve hpotez testler gb kouları temel, örek çekme tekrarlamasıa dayaır. Dğer br deyşle, kuramsal olarak klask statstk sürekl olarak öreklem çekme sürdürüldüğü fadese dayaır. Buu ede se, şüphesz doğru soucu daha yüksek br olasılıkla bulma steğde yatar. Acak klask statstğ bu özellğe karşılık Bayesgl statstk, böyle br temele dayamaz. Bayesgl statstk de breyler aç derecelere dayaa sübjektf olasılıklarda da yararlaılır ve klask statstğe göre karar kavramı daha sık ve ağırlıklı br şeklde vurgulaarak, öreklem dışı blgler de bçmsel olarak aalze katılması sağlaır. 45
BÖLÜM 5 : PRİOR VE POSTERİOR DAĞILIMLAR 5. Pror Dağılımı Belrlemes Buradak problem, kısaca olasılık foksyou f(x/θ) olarak verle br aakütlede çekle gözlemler temel alarak, θ asıl değer parametreler uzayı Ω eresde var olableceğ saptamaya çalışmakta barettr. Brçok problemde, f(x/θ) le lgl herhag br gözlem yapılmada öce,deey yapa br kş, öcek blgler gözde geçrerek, Ω uzayıda br olasılık dağılımı oluşturmak suretyle, θ değer erede buluableceğ tahm edeblr. Dğer br deyşle, herhag br deeysel ver elde edlmede ya da gözlemlemede öce, deey yapa kş geçmş tecrübeler ve blg brkm ou, θ ı Ω ı dğer bölgelere orala, bell başlı bazı bölgelerde buluduğua amaya sevk edecektr. θ ı Ω uzayıda belrl bölgelerde buluma olasılıklarıda hareketle br ö dağılım düşüüleblr. Bu dağılıma θ ı pror dağılımı der. İstatstkte, pror dağılım kavramı çok fazla tartışma yaratmaktadır. Br araştırmacıı θ ı gerçek değer erede olableceğe dar özel açları buluması bağlamıda, bu dağılımı br özel olasılık dağılımı olduğu savı bazı statstkçler tarafıda ler sürülür. Öte yada, br pror dağılımı statstk alaıda kullaıla dğer herhag br olasılık dağılımıda farksız olduğua ve olasılık teors tüm kurallarıı br pror dağılım ç de geçerl olacağıa aılır. Dğer bazı statstkçler brçok problemde θ ı olasılık dağılımıda söz etme doğru olmadığı yorumuda buluur. Çükü θ ı gerçek değer daha çok deey yapa kş tarafıda belrlee sabt br sayı olarak düşüülür. Bu statstkçler; acak θ ı geçmştek olası değerler le lgl yoğu br ö blg sahb oluduğuda, θ parametresde br pror 46
dağılımı kullaılableceğ düşümektedrler. Acak o zama, k farklı statstk ekolüü kullaılacak uygu br pror dağılım üzerde uzlaşması mümkü olacaktır. 5.. Keskl ve Sürekl Pror Dağılımlar Bazı problemlerde, θ parametres sadece solu sayıda değşk değer alablr. Dğer problemlerde, θ parametres reel sayılar kümes üzerde ya da reel sayılar kümes br aralığıda sosuz sayıda değer alablr. Bu durumda bu dağılımı olasılık yoğuluk foksyoua, θ ı pror olasılık yoğuluk foksyou der. 5..3 Posteror Dağılım ; olasılık foksyouu f(x/θ) olduğu br aakütlede; rassal br örek oluşturduğu varsayılsı. Ayrıca parametre θ ı değer blmedğ ve θ ı pror olasılık olasılık foksyouu da ξ(θ) olduğu düşüülsü. Bu şartlara bağlı olasılık foksyou şeklde yazılablr: g ( x) = f ( x θ) ξ( θ) d( θ) Ω (5.) Bezer br şeklde =x =x verldğde *, θ ı koşullu olasılık yoğuluk foksyou, bleşk olasılık yoğuluk foksyoua ve θ ı x x marjal bleşk olasılık yoğuluk foksyoua bölüerek elde edlr. ξ( θ x) = f ( x θ) ξ( θ) g ( x) (5.3) Buradak koşullu olasılık yoğuluk foksyoua posteror dağılım der. Çükü bu, değerler gözlemledkte sora elde edle θ ı dağılımıdır.. Posteror olasılık yoğuluk foksyou ξ (θ/x); =x, =x gözlemledkte sora θ ı bu görel olablrlğ temsl eder 5..4 Eşlek Dağılımlar Bazı durumlarda θ parametres pror dağılımıı blmes, posteror dağılımıı tahm edlmese de yaramaktadır. Öreğ θ ı proru beta se posteroru da farklı parametrel br dğer beta dağılımıa uymaktadır. Bu durumda pror ve posteror dağılımlar eşlek * (θ/x) şeklde belrtelecek 47