5. Ders Yeterlilik Yeterlilik Ilkesi: Bir T(X ; X ; :::; X ) istatisti¼gi, hakk da yeterli bir istatistik olacaksa hakk da herhagi bir souç ç kar m T arac l ¼g ile (X ; X,...,X ) öreklemie ba¼gl olmal d r. x (x ; x ; :::; x ) ile y (y ; y ; :::; y ),T(x) T( y) olacak şekilde iki gözlem de¼geri ise bularda hagisi gözleirse gözlesi hakk da souç ç kar m ay olmal d r. Ta m: X ; X ; :::; X olas l k (yo¼guluk) foksiyou f(:; ) F ola da¼g l mda bir öreklem ve T(X ; X ; :::; X ) ; m boyutlu (m ) bir istatistik olmak üzere, T t R m bilidi¼gide (gözledi¼gide), X ; X ; :::; X i koşullu da¼g l m heme heme her t de¼geri içi ya ba¼gl de¼gilse, T istatisti¼gie F ailesi içi veya arametresi içi yeterli istatistik deir. Öreklemi kedisi bir yeterli istatistiktir. Fisher-Neyma Çaralara Ay rma Teoremi: X ; X ; :::; X olas l k (yo¼guluk) foksiyou f(:; ); (f(:; ) F ) ola da¼g l mda bir öreklem ve T; m boyutlu bir istatistik olmak üzere, T i içi yeterli bir istatistik olmas içi gerek ve yeter şart, X ; X ; :::; X leri ortak olas l k (yo¼guluk) foksiyouu, f(x ; x ; :::; x ; ) g (T (x ; x ; :::; x ); ) h(x ; x ; :::; x ) biçimide yaz labilmesidir. Burada h foksiyou ya ba¼gl de¼gil ve g foksiyou T arac l ¼g ile x ; x ; :::; x lere ve ya ba¼gl d r. Souç: T istatisti¼gii içi bir yeterli istatistik olmas içi gerek ve yeter şart 6 oldu¼guda, f (x; ) f (x; ) ora x e T arac l ¼g ile ba¼gl olmas d r. Başka bir ifade ile, f (x;) T istatisti¼gi içi yeterli bir istatistik () g (T(x); ; f (x; ) ) her 6 içi d r. Souç: m boyutlu T istatisti¼gi, r boyutlu içi yeterli bir istatistik olsu. ' : R r! R r bire-bir ölçülebilir bir foksiyo olmak üzere, T istatisti¼gi
' () içi yeterlidir. Bire-bir # : R m! R m foksiyou ölçülebilir ve ya ba¼gl de¼gilse, (T) istatisti¼gi içi yeterlidir. Örek: X ; X ; :::; X ler N(; ); R; (; ) da¼g l m da bir öreklem olsu. Burada, 4 5 ; R (; ) ve X ; X ; :::; X leri ortak olas l k yo¼guluk foksiyou olmak üzere, istatisti¼gi, f(x; ; ) e e ( _ x ) + ( _ x ) + i i _ (x i x) _ (x i x) g (T (x ; x ; :::; x ); ) h(x ; x ; :::; x ) {z } T 6 4 X (X i X) i içi yeterli bir istatistikdir. T istatisti¼gii bire-bir döüşümü ola 6 4 X i i Xi i 7 5 4 ; 5 7 5 4 X istatistikleri de içi birer yeterli istatistiktir. S 5
Da¼g l mlar Üstel Ailesi ve Yeterli Istatistikler Olas l k (yo¼guluk) foksiyou, f(x; ) c()e kp j g j () t j (x) h(x) ; (x DX ; ) biçimide yaz labile da¼g l mlar ailesie üstel aile deir. [ k ] [ g () g () g () olmaküzere, g () ; g () ; ::: ; k g () arametrelerie do¼gal arametreler deir. Örek: N(; ); R; (; ) ormal da¼g l m üstel ailei bir elema d r. Gerçekte, ] f(x; ; ) e (x ) e ( x + x ) e e ( x + x) olu, ; R (; ) ve g () g () t (x) x t (x) x
4 olmak üzere, f(x; ; ) f(x; ) c()e e {z } c() P j yaz labilir. Da¼g l m do¼gal arametreleri, e ( x + x) {z } {z} P g j () t j (x) ej g j () t j (x) h(x) h(x) g () g () d r. Örek: Beroulli da¼g l m üstel ailei bir elema d r. Beroulli da¼g l m olas l k foksiyou, olmak üzere, f(x; ) x ( ) x ; x f ; g ; ( ; ) f(x; ) x ( ) x ( )e l(x ( ) x ) ( )e l( )x ( )e x l( ) ( ) {z } {z } {z} c() e g()t(x) h(x) e x l( ) olarak yaz labilir. Burada, g() l( ) ve t(x) x d r. Beroulli da¼g l m da l( ) do¼gal arametredir.
5 Üstel ailei elema ola bir kitle da¼g l m da al a X ; X ; :::; X öreklemii olas l k (yo¼guluk) foksiyou, f X ;X ;:::;X (x ; x ; :::; x ; ) Y [c()e i (c()) e kp j kp (g j () j g j () t j (x i ) h(xi )] olmak üzere, Fisher-Neyma Çaralara Ay rma Teoremi de X i t j (x i )) h(x )h(x ):::h(x ) T(X) 6 4 t (X i ) t (X i ) i i. t k (X i ) i 7 5 istatisti¼gi, ailei g (); g (); :::; k g k () do¼gal arametreleri içi yeterli tahmi ediciler (istatistikler) olmaktad r. Örek: b(; ) elema d r. Beroulli da¼g l m da T, ( ; ) Beroulli da¼g l m üstel ailei bir P i X i istatisti¼gi l( ) do¼gal i arametresi içi yeterli istatistiktir. l( ) döüşümü bire-bir oldu¼guda T X i istatisti¼gi arametresi içi de yeterli istatistiktir. Bu P istatisti¼gi bire-bir döüşümü ola X bir tahmi edicidir. X i i istatisti¼gi içi yeterli ve yas z
6 Taml k Ta m: T(X ; X ; :::; X ) bir istatistik olmak üzere, her Borel ölçülebilir g : R k! R foksiyou ve her içi E (g(x)) ) P (g(x) ) oluyorsa T(X ; X ; :::; X ) istatisti¼gie tamd r deir. Taml k bire-bir döüşüm alt da korumaktad r. Örek: X ; X ; :::; X ler olas l k yo¼guluk foksiyou f(x; ) e x I(x > ); (; ) P ola bir da¼g l mda bir öreklem olsu. T X i yeterli istatisti¼gi tam m d r? T (; ) da¼g l ml olu, g : R! R Borel ölçülebilir bir foksiyo olmak üzere, E (g(t )) Z i ( )! t e t g(t)dt + t g(t) (hhhy) + oldu¼guda T bir tam istatistiktir. P (g(t ) ) Örek: X ; X ; :::; X ler N(; ), (; ) ormal da¼g l m da bir öreklem olsu. X i leri ortak olas l k yo¼guluk foksiyou, f(x ; x ; :::; x ; ) e [ i x i + x i ] i e
olmak üzere, T T T 6 4 X i i Xi i istatisti¼gi içi bir yeterli istatistiktir. Acak, her (; ) içi, E [T 7 5 + T ] E [T + ] E [T ] ( + + ) ( + ) olmas a ra¼gme T + T 6 ; oldu¼guda T istatisti¼gi tam de¼gildir. Teorem: k arametreli bir üstel ailede arametre kümesi, R k bir aç k altkümesii içeriyorsa do¼gal istatistik tamd r. Örek: X ; X ; :::; X ler N(; ), R; (; ) ormal da¼g l m da bir öreklem olsu. X ; X ; :::; X leri ortak olas l k yo¼guluk foksiyou, f(x ; x ; :::; x ; ; ) olmak üzere, e T 6 4 X i i Xi i e [ 7 5 i x i + i x i ] e do¼gal istatisti¼gi tamd r (arametre kümesi R de yatay eksei üst taraf daki yar düzlemdir). Teorem: (Basu Teoremi) E¼ger T yeterli ve tam bir istatistik ise, T herhagi bir yard mc istatistikte ba¼g ms zd r. Örek: X ; X ; :::; X ler N(; ), R; > ormal da¼g l m da al a bir öreklem olsu. X X X i i 7
8 öreklem ortalamas, içi yeterlidir ve X s N (; ) dir. bilidi¼gide X i istatisti¼gi, do¼gal istatistik olu tamd r. Bua göre, X yeterli ve tam i bir istatistiktir. istatisti¼gi içi, S X (X i X ) i S s ( ) olmak üzere, S i da¼g l m ya ba¼gl de¼gildir, yai S bir yard mc istatistiktir. Basu Teoremie göre X ile S ba¼g ms zd r. Örek: X ; X ; :::; X ler U(; ) ; (; ) düzgü da¼g l mda bir öreklem olsu. Öreklemi olas l k yo¼guluk foksiyou, f(x ; x ; :::; x ; ) ( Y ) I (;) (x i ) i ( ) I (;) (x () ) olmak üzere, T X () istatisti¼gi Fisher-Neyma çaralara ay rma teoremie göre yeterlidir. f T (t; ) t I (;) (t) olmak üzere, T X () istatisti¼gii tam oldu¼guu görmeye çal şal m. g Borel ölçülebilir bir foksiyo olmak üzere, E (g(t )) Z t g(t)dt ; her (; ) içi + Z t g(t)dt ; her (; ) içi +
9 Z @ t @ g(t)dt ; her (; ) içi + g() ; her (; ) içi + g() ; her (; ) içi + P (g(t ) ) oldu¼guda T bir tam istatistiktir. E Küçük Varyasl Yas z Tahmi Edici Elde Etme Yötemi X ; X ; :::; X olas l k yo¼guluk foksiyou f(x; ) ; ) ola da¼g l mda bir öreklem olmak üzere, içi yas z tahmi edicileri T s f da bir T T tahmi edicisi, V ar (T ) V ar (T ) ; 8 ; 8T T özelli¼gie sahise, T tahmi edicisie düzgü e küçük varyasl yas z tahmi edici dedi¼gii hat rlatal m. Rao-Blackwell Teoremi: X ; X ; :::; X olas l k yo¼guluk foksiyou f(x; ) ; ) ola da¼g l mda bir öreklem ve T (X ; X ; :::; X ) bir yeterli istatistik olsu. U (X ; X ; :::; X ), içi yas z bir tahmi edici olmak üzere, U (t) E (U j T t) olsu. a) U (T ) E (U j T ) rasgele de¼gişkei sadece T i bir foksiyoudur ( y buludurmamaktad r). b) U (T ) istatisti¼gi içi yas zd r. c) E (U ) < oldu¼guda V ar (U (T )) V ar (U) d r.
Bir yas z tahmi ediciyi bir yeterli istatistik ile koşullad r beklee de¼gerii alarak daha küçük varyasl yas z bir tahmi edici elde edilebilir. Yeide bir kez daha koşullad rmakla ay tahmi edici ortaya ç kar. Lehma-Sche e Teklik Teoremi: X ; X ; :::; X olas l k yo¼guluk foksiyou f(x; ) ; ) ola da¼g l mda bir öreklem ve T (X ; X ; :::; X ) yeterli ve tam bir istatistik olsu. U U(T ) solu varyasl ve ( ) içi yas z bir tahmi edici ise bu tahmi edici yas z tahmi ediciler aras da e küçük varyasl d r ve tektir. Örek: Poisso da¼g l m da, f X (x; ) e x ; x ; ; ; ::: ; x! (; ) olmak üzere, X istatisti¼gi yeterli ve tamd r. Lehma-Sche e Teklik Teoremie göre X istatisti¼gi içi düzgü e küçük varyasl yas z tahmi edicidir (UMVUE). Örek: X ; X ; :::; X ler U(; ) ; (; ) düzgü da¼g l m da bir öreklem olsu. X () istatisti¼gi tam ve yeterli bir istatistik omak üzere, U + X () istatisti¼gi içi yas z bir tahmi edicidir. U tahmi edicisi içi düzgü e küçük varyasl yas z tahmi edicidir. Bu tahmi edicii varyas, d r. V ar (U) ( + ) Örek: X ; X ; :::; X ler N(; ); R ormal da¼g l m da bir öreklem olsu. X yeterli ve tam bir istatistik olmak üzere, X i bir foksiyou ola X istatisti¼gi içi yas z bir tahmi edici olu Lehma- Sche e Teklik Teoremide düzgü e küçük varyasl yas z tahmi edicidir (UMVUE). Bu tahmi edicii varyas, V ar X V ar X 4 + d r. Bu tahmi edici etki de¼gildir. Düzgü e küçük varyasl yas z tahmi ediciler baze etki de¼gildir. Baz durumlarda düzgü e küçük varyasl yas z tahmi edicii varyas
Rao-Cramer eşitsizli¼gideki alt s ra ulaşmamaktad r, alt s rda büyük kalmaktad r. Örek: X ; X ; :::; X ler N(; ) ; R; (; ) ormal P da¼g l m da bir öreklem olsu. Bu da¼g l mda, X i ; Xi istatisti¼gi i i (; ) içi tam ve yeterli bir istatistiktir. Bu istatistikleri birebir döüşümü ola, ^ X ^ ( X i X ) i tahmi edicileri tam, yeterli ve yas z olduklar da, arametreler içi düzgü e küçük varyasl yas z tahmi edicilerdir. Rao-Cramer eşitsizli¼gi ile ilgili düzgülük şartlar sa¼glaya ormal da¼g l mda, ve @ @ l( e @ @( ) l( e (x ) ) (x ) ) (x ) 4 6 E ; E ; @ @ l( e @ @( ) l( e (X ) ) (x ) ) 4 olmak üzere, bireysel ve arametrelerii yas z tahmi edicilerii varyaslar içi alt s rlarlar,
E ; @ l( @ e (X ) ) E ; @ l( @( ) e 4 (x ) ) d r. V ar(x) (X i X) V ar B i C @ A 4 > 4 oldu¼guda, X tahmi edicisi içi etki olmakla birlikte, ^ (X i X) i tahmi edicisi içi etki bir tahmi edici de¼gildir. Acak buda daha küçük varyasl başka bir yas z tahmi edici de yoktur. içi düzgü e küçük varyasl yas z tahmi edici edir?
ve omak üzere, V E ; ( V ) E ; (X i X) i Z X v ( ) ( ) ( ) ( ) ( ) Z v ux @ t (X i X) A i U ( ) ( ) v ( ) v e v dv e v dv ( ) ( ) v ux t (X i X) i tahmi edicisi içi düzgü e küçük varyasl yas z tahmi edicidir. Normal da¼g l mda, da¼g l m heme heme tümü s rlar aras da olmak üzere içi düzgü e küçük varyasl yas z tahmi edici X U d r, çükü E ; (X U) ve X U tahmi edicisi tam ve yeterli istatistikleri bir foksiyoudur. < < olmak üzere içi, yai : yüzdelik (katil) içi düzgü e küçük varyasl yas z tahmi edici edir? Stadart ormal da¼g l m da¼g l m foksiyou F olmak üzere,
4 F F () + F () ve E ; X + UF () + F () oldu¼guda X + UF () tahmi edicisi içi düzgü e küçük varyasl yas z tahmi edicidir.