Yrd. Doç. Dr. İhsa KARABULUT u daışmalığıda, Begül ARKANT tarafıda hazırlaa bu çalışma 3/07/008 tarhde aşağıdak jür tarafıda oy brlğ le Akara Üverstes

Transkript

1 ANKARA ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ YÜKSEK LİSANS TEZİ BAĞIMLI GÖZLEMLERLE BOOTSTRAP YÖNTEMİ Begül ARKANT İSTATİSTİK ANABİLİM DALI ANKARA 008 Her hakkı saklıdır

2 Yrd. Doç. Dr. İhsa KARABULUT u daışmalığıda, Begül ARKANT tarafıda hazırlaa bu çalışma 3/07/008 tarhde aşağıdak jür tarafıda oy brlğ le Akara Üverstes Fe Blmler Esttüsü İstatstk Aablm Dalı da Yüksek Lsas Tez olarak kabul edlmştr. Başka: Yrd. Doç. Dr. Bület ALTUNKAYNAK Gaz Üverstes İstatstk Aablm Dalı Üye : Prof. Dr. Yılmaz AKDİ Akara Üverstes İstatstk Aablm Dalı Üye : Yrd. Doç. Dr. İhsa KARABULUT Akara Üverstes İstatstk Aablm Dalı Yukarıdak soucu oaylarım. Prof.Dr.Orha ATAKOL Esttü Müdürü

3 ÖZET Yüksek Lsas Tez BAĞIMLI GÖZLEMLERLE BOOTSTRAP YÖNTEMİ Begül ARKANT Akara Üverstes Fe Blmler Esttüsü İstatstk Aablm Dalı Daışma: Yrd. Doç. Dr. İhsa KARABULUT İstatstksel çıkarımı öeml oktalarıda brs yığıda alıa öreklem yığıı temsl etmesdr. Bootstrap, bu düşücey temel alarak gelştrle br yede örekleme yötemdr. Efro (979) u bootstrap yötem gözlemler brbrde bağımsız ve ayı dağılımlı (b.b.a.d) olduğuda pek çok durumda kullaılable br yede örekleme yötemdr. Gözlemler brbrde bağımsız olmadığı durumlarda, bu yötem gözlemler alıdığı yığıdak bağımlılığı doğası gereğ gözardı etmektedr. Gözlemler alıdığı yığıdak bağımlılık yapısıı yasıtablecek yede örekleme yötemlerde brs de Blok Bootstrap yötemlerdr. Bu çalışmada, bu yötemler taıtılacak, Markov zcrlerde yötemler asıl şledğ br örekle verlecektr. Ayrıca durağa otoregresf zama serlerde bootstrap yötem br örekle verlecektr. Temmuz 008, 76 sayfa Aahtar Kelmeler: m-bağımlı, durağa, α -mksg, Hareketl Bloklarla Bootstrap, Örtüşmeye Bloklarla Bootstrap, Çembersel Bloklarla Bootstrap, zama serler

4 ABSTRACT Master Thess BOOTSTRAP METHOD WITH DEPENDENT OBSERVATIONS Begül ARKANT Akara Uversty Graduate School of Natural ad Appled Sceces Departmet of Stattstcs Supervsor: Asst. Prof. Dr. İhsa KARABULUT Oe of the mportat pot of statstcal ferece s the represetato ablty of the sample of the populato well eough. Bootstrap s a resamplg method whch depeds o ths dea. Efro (979) s bootstrap method works most of the stuatos whe the observatos are depedet ad detcally dstrbuted (d). Whe the obsevatos are depedet ths method eglects the depedece structure of the populato. There have bee varous works o the bootstrap method whe the observatos are depedet. Oe of the resamplg methods whch ca reflect the depedece structure of the populato s the Block Bootstrap methods. I ths study these methods s gog to be preseted. Examples for the applcato of these methods are gog to be gve for the Markov Processes. Ad bootstrap method for statoary otoregressve tme seres s gog to be gve wth a example. July 008, 76 pages Key Words: m-depedet, statoary, α -mxg, Movg Block Bootstrap, Nooverlappg Block Bootstrap, Crcular Block Bootstrap, Tme Seres

5 TEŞEKKÜR Başta çalışmalarımı yöledre, baa duyduğu güve le çalışmaı her safhasıda baa destek ola, blg, öer ve yardımlarıı esrgemeyerek akademk ortamda yetşme ve gelşmeme katkıda bulua daışma hocam, Sayı Yrd. Doç. Dr. İhsa KARABULUT (Akara Üverstes Fe Fakültes İstatstk Bölümü) a ve hçbr zama bede desteğ esrgemeye, her zama yaımda ola sevgl aleme teşekkürlerm suarım. Begül ARKANT Akara, Temmuz 008

6 İÇİNDEKİLER ÖZET. ABSTRACT. TEŞEKKÜR. SİMGELER DİZİNİ v ŞEKİLLER DİZİNİ. v ÇİZELGELER DİZİNİ.. v. GİRİŞ. ÖNEMLİ TANIM ve KAVRAMLAR BAĞIMLI GÖZLEMLERLE BOOTSTRAP YÖNTEMİ Hareketl Bloklarla Bootstrap Yötem (HBB) Örtüşmeye Bloklarla Bootstrap Yötem (ÖBB) Geellemş Blok Bootstrap Yötem (GBB) Çembersel Bloklarla bootstrap yötem (ÇBB) HBB, ÖBB ve ÇBB Yötemleryle Öreklem Varyas ve Dağılım Foksyou Tahm Edcler Tutarlılığı Varyas ve Yalılık Bootstrap Tahm Edcler ç Blok Bootstrap 38 Yötemler Karşılaştırılması 3.6 Durağa Otoregresf Zama Dzlerde Bootstrap Yötem UYGULAMA Solu Durum Uzayıa Sahp Br Markov Zcr Geçş Olasılıkları Matrs Blok Bootstrap Yötemleryle Tahm Brc Derecede Otoregresf Zama Dzs α Parametres Bootstrap Tahm TARTIŞMA ve SONUÇ.. 58 KAYNAKLAR.. 60 EKLER. 63 EK Bölüm 4. İç Yazıla Matlab Blgsayar Programları Kodları.. 64 EK Bölüm 4. ç Yazıla Matlab Blgsayar Programı Kodları 7 EK 3 = ε, =,..., 50 zama dzs modele uygu üretle verler.. 74 ÖZGEÇMİŞ. 76 v

7 SİMGELER DİZİNİ Doğal sayılar Tam sayılar Reel sayılar ( ) = Rasgele değşkeler dzs α (.) Güçlü mksg katsayısı p j. durumda j. duruma geçş olasılığı log sup d p Doğal logartma Supremum Dağılımda yakısama Olasılıkta yakısama F,,..., öreklem gözleme dayalı dağılımı F *( j) m,,,..., bootstrap öreklem gözleme dayalı dağılımı * * * j, j, j, m F p, p -boyutlu gözleme dayalı dağılım b.b.a.d Brbrde bağımsız ayı dağılımlı Kartezye çarpım. Tam değer foksyou HKO Ya Dek Hata kareler ortalaması Yalılık v

8 ŞEKİLLER DİZİNİ Şekl 3. HBB ç { () () (),,..., N } Şekl 3. ÖBB ç { () () (),,..., b } B B B bloklarıı elde edlş. B B B bloklarıı oluşturulması 7 Şekl 3.3 Y, değşkeler oluşturulması 3 Şekl 4. Üretle verler ç zama sers grafğ.. 55 v

9 ÇİZELGELER DİZİNİ Çzelge 4. Markov zcr = 50 adım sayısıa sahp br gerçekleşmes Çzelge 4. l=,5,0,5,50 blok uzulukları ç HBB, ÖBB ve ÇBB yötemler ç oluşturula blok sayıları ve seçle blok sayıları. 5 Çzelge 4.3 l=,5,0,5,50 blok uzulukları ç geçş olasılıkları matrs e HBB, ÖBB ve ÇBB yötemler le elde edle bootstrap tahmler. 53 Çzelge 4.4 l=,5,0,5,50 blok uzulukları ç HBB, ÖBB, ÇBB tahmler v

10 . GİRİŞ İstatstksel çıkarım yapmak amacıyla yığıda alıa öreklem yığıı temsl etmes (yığıa at dağılımı taklt ettğ) statstksel çıkarımı öeml dayaaklarıda brsdr. Bu düşücede hareketle yığıda alıa öreklem keds de yığıdak rasgelelğ şleyş kopya edecektr. Bootstrap bu düşüceler temel alarak gelştrle br yede örekleme tekğdr. Bootstrapı şlev ve statstksel çıkarımda kullaımı ç Efro (979), Hall (99) çalışmaları öeml kayaklar olarak gösterleblr. İlk taımlaış halyle bootstrap,,..., öreklem brbrde bağımsız ve ayı F dağılımıda geldğ varsayımıa dayaır ve yede örekleme le oluşturula F gözleme dayalı dağılım foksyou, olasılıkla yalızca gözlee değerler gözleebldğ br yığıı dağılım foksyou gb düşüülerek çaplı,,..., * * * bootstrap öreklem her br * rasgele değşke ayı F dağılımlı yığıda brbrde bağımsız olarak (yere koularak) oluşturulur. Bu,,..., F dağılımlı yığıda öreklem alma şlem taklt edlerek,,..., F * * * ı dağılımlı yığıda elde edlmesdr. ç Böyle br yığıda elde edlebleceğ açıktır. Ele alıa br statstk tae değşk öreklem tae öreklemde hesaplaablr ve dağılımı taımlaablr k bua da bootstrap dağılımı der. Pratkte bootstrap dağılımı da oluşturulamaz acak tae öreklem çde B taes alıır ve bu şleme Bootstrap Mote Carlo su der. Yukarıdak halyle bootstrap brbrde bağımsız ayı dağılımlı olma kurgusua dayaır. Acak üzerde öreklem alıa yığı brbrde bağımsız ayı dağılımlı öreklem alma kurgusu bozulduğuda bootstrap şlem statstksel çıkarımda bu yötemde beklee tutarlı yaklaşımı sağlayamayacağı lk olarak Sgh (98) tarafıda saptamıştır. Saptama (Remark.). de,,..., öreklem m-bağımlı olduğuda,,..., yukarıdak halyle * * * bootstrap öreklem,,,..., koşulu altıda brbrde bağımsızdır. Ya,

11 P( = x, = x,..., = x = x, = x,..., = x ) * * * * * * = P( = x = x, = x, = x )... P( = x = x, = x,..., = x ) * * * * ve her br * P( = ) =, =,,..., dr. Bu durumda * br bootstrap öreklemde elde edle öreklem ortalamasıı, yığıda alıa,,..., öreleme at öreklem ortalamasıı göstermek üzere ke Merkez Lmt Teorem koşulları altıda ( µ ) rasgele değşke bootstrap tahm edcs ç, * d ( ) (0, ) N σ olacaktır. Halbuk m-bağımlılık yapısıa sahp br,,..., öreklem ç ke gerekl koşullar sağlaması halde Merkez Lmt Teorem, m * d ( ) (0, σ + (, + )) = N Cov olduğuu ortaya koyar. * ( ) ç bağımlılık yapısı altıda ye Merkez Lmt Teorem e uygu yakısama gerçekleşr fakat bu yakısama farklı varyasla olacaktır. m- bağımlılık, lerde taımlaacak ola zayıf bağımlılığı br türüdür. ( ) = zayıf bağımlı ve durağa dağılımlı rasgele değşkeler dzs olsu. Ayrıca,,..., alıa öreklem gösters. Bu örekleme dayalı olarak taımlaa br T statstğ bootstrap değerledrmes le bu öreklem dağılımıı bootstrap tahm ç öerle bootstrap yötemlerde bloklar yötem taıtımı çalışmaı kousu olacaktır.

12 Aşağıdak lk bölümde bazı taım ve kavramlar taıtılacak, zleye bölümde se bağımlı gözlemlerle bootstrap yötem tutarlılığıa lşk souçlar aktarılacaktır. Uygulama bölümüde lk olarak solu durum uzayıa sahp br markov zcrde üretlmş verler kullaılarak solu durum uzayıa sahp br markov zcr geçş matrs tahm blok bootstrap yötemleryle asıl yapılableceğe br örek verlecektr. İkc uygulama se durağa brc derecede otoregresf zama sers modele uygu olarak üretlmş verler kullaılarak model parametres bootstrap tahm elde edlmesdr. 3

13 . ÖNEMLİ TANIM VE KAVRAMLAR İstatstk çıkarım ve yötemlerde geel olarak yapıla bağımsızlık varsayımı değşk bçmlerde gevşetlerek çeştl özellk ve yapılara sahp bağımlı gözlemlerle de statstksel çıkarım yapılmaya çalışılır. Markov zcrler le br sürec modellemes ve zama serler aalz, bağımlılık yapılarıı taımladığı uygulamalardır. Taım. ( ) rasgele değşkeler br dzs olsu. Her k ve m olmak üzere eğer her < <... < k ç (,..., ) rasgele vektörü le k (,..., ) m + k+ m rasgele vektörler ayı ortak dağılımlara sahp seler ( ) güçlü durağa dır der. Eğer ( ) rasgele değşkeler dzs beklee değer ve varyası de bağımsız, s le t arasıdak kovaryas sadece t s br foksyou se ( ) zayıf durağa dır der (Akd 003 ). Çalışmaı buda sorak kısmıda, zayıf durağa dye belrtlmedkçe durağa term güçlü durağa alamıda kullaılmıştır. Durağa rasgele değşke dzler tpk br öreğ m-bağımlı dzlerdr. Eğer ( ) rasgele değşke dzs, her k ç m olmak üzere ( ) k rasgele değşke dzs le ( ) > k+ m rasgele değşke dzs brbrlerde bağımsız seler ( ) mbağımlı dır delr. Öreğ, Y, Y,... brbrde bağımsız ayı dağılımlı rasgele değşkeler olsu. f m+ de reel değerl br foksyo olmak üzere (,..., m ) = f Y Y + olarak taımlası. Rasgele değşkeler dzs ( ) = 994). hem durağa hem de m-bağımlıdır (Bllgsley 4

14 Bağımsızlık varsayımıı gevşetlmes, yukarıdak gb durağalık ve m-bağımlılık gb kolayca taımlaıp uygulaable bağımlılık yapıları le söz kousudur. Bazı durumlarda da bağımlılık yapısı taımlamada bağımsızlığı gevşetlmes olaaklıdır. Bu yollarda brs rasgele değşke dzs α -mksg (α -mxg) olarak taımlamasıyla sağlaır. Taım.,,... ayı olasılık uzayıda taımlı rasgele değşkeler br dzs ve σ k, tamsayıları ç, (,,..., k ),,..., k rasgele değşkeler ürettğ σ -cebr, σ ( k+, k+ +,...) de k+, k+ +,... rasgele değşkeler ürettğ σ -cebr olsu. A σ (,,..., k ) ve B ( k, k,...) herhag k olay ç σ P( A B) P( A) P( B) α( ) (.) olacak bçmde br α ( ) sayısı var ve lm α ( ) = 0 oluyorsa, ( ) rasgele = değşkeler dzs α -mksg dr delr (Bllgsley 994). Bu taımlama le ( ) = rasgele değşke dzs bağımlılık yapısıı taımasak da ke,,..., rasgele değşkelerde taımlayacağımız A olayları le k+, k+ +,... rasgele değşkelerde taımlayacağımız B olaylarıı yaklaşık olarak brbrde bağımsız olacaklarıı dda edeblrz. Örek. ( ) = br rasgele değşkeler dzs olsu. Her > m ç (,,..., k ) le ( k+, k+ +,..., k+ + l ) bağımsız seler doğaldır k A σ (,,..., k ) ve σ k+ k+ + k+ + l B (,,..., ) ç, P( A B) P( A) P( B) = 0 5

15 olacağıda > m ç α ( ) = 0 olmuş olacaktır. Böylelkle m-bağımlı br rasgele değşkeler dzs ayı zamada α -mksg olacaktır (Bllgsley 994). Örek. (Markov Zcr) ( Y ) solu durum uzayıa sahp br markov zcr olsu. Geçş olasılıkları matrs P ve P elemaları p j ler sıfırda büyük, f durum uzayı üzerde taımlı reel değerl br foksyo ve = f ( Y ) olsu. Başlagıç olasılıkları p ler durağa olsular. Bu,, j ler durum uzayıda yer ala durumlar olmak üzere herhag br j -c durum ç bütü ler üzerde p p = p j j olmasıdır. Bu durumda ( ) markov zcr durağa olacaktır. Markov zcr durağa ve solu durum uzayıa sahp drgeemez olup peryodk değlse durumuda j durumua adımda geçş olasılığı p j le gösterlmek üzere A 0 ve 0 ρ < ç, p p Aρ ( ) j j dr (Bllgsley 994, Theorem 8.9). Bu durumda ( ) ( =, K, =, + = 0, K, + + = ) = K K 0 0 P Y Y Y j Y j p p p p p p k k k k l l k k k j j j jl jl le P( Y =, K, Y = ). P( Y = j, K, Y = j ) = p p K p p p K p k k k+ 0 k+ + l l k k j0 j0 j jl jl 6

16 olasılıkları arasıdak fark e fazla p p K p p K p kadar olacaktır. Ek ρ k k j0 j jl jl olarak eğer s durumları sayısı se A= [( Y, Y,..., Yk ) H ] ve B= [( Yk,..., Yk l ) H ] kümeler ç (.) eştszlğ α ( ) = sρ olmasıyla sağlaır. Bu kümeler k, sabt olmak olmak üzere sırasıyla σ (,..., k ) ve σ ( k+,..., k+ + l ) σ -cebrler üretrler (Bllgsley 994). Rasgele değşke dzs durağa olmasıı yaıda α -mksg olması halde S d S = ç ke N(0,) olduğu gösterleblr. Çükü σ bu varsayımlarla ve bazı ek koşullarla Var( S) σ = ( ) + ( ) E E + k k= olacak şeklde σ mutlak yakısak olduğu olduğu gösterleblr. Rasgele değşke dzs α -mksg olması, E( + k ) ları sıırladırılmasıı ve söz kousu ser mutlak olarak yakısamasıı sağlamaktadır. Bu edele ( ) = rasgele değşkeler dzs zayıf bağımlılığıı br fades ola α -mksg yere zayıf bağımlılık aşağıdak gb de fade edleblr. Taım.3 F reel değerl foksyoları br sııfı, θ ( θr ) r = r ke sıfıra doğru azala br dz ve ψ, değşkeler ( f, g, h, k) F ola br foksyo olsu.... h < h + r j... jk ç (,..., h) h -boyutlu br vektör ve ( j,..., j k ) k - boyutlu br vektör olmak üzere Cov ( f (,..., ), g (,..., )) ψ ( f, g, h, k ) θ h j jk r 7

17 se ( ) (Doukha 999). rasgele değşkeler dzs zayıf bağımlıdır (weak depedet) der α -mksg olma ( ) rasgele değşkeler dzs zayıf bağımlı olmasıı sağlaya br özellk olarak karşımıza çıkmaktadır. = ε t t ( ) brbrde bağımsız ayı dağılımlı rasgele değşkeler dzs olmak üzere ( ), t t = α + α + + α + ε (.) t t t... p t p t durağa p. derecede otoregresf zama sers (AR( p )) modele uygu rasgele değşkeler dzs bçmde taımlası. Bu durumda (.) eştlğ wj < olmak j= 0 üzere, = wε (.3) t j t j j= 0 şeklde yazılablr. Bu süreç α -mksgdr (Chada 974, Whthers 98, Athreya ad Patula 986). Teorem. (Chada 974) ( ε t ), δ > 0 olmak üzere t E( ε ) < ola br beyaz gürültü (whte ose) dzs olsu ve φ 0, ε tegralleeble karakterstk δ foksyou, ( π ) φ0 ( u) du özellğ sağlası. ( t ) t rasgele değşkeler dzs δ de (.3) eştlğdek gb taımlaa br dz olsu. Eğer λ= ç + δ j= 0 j w λ < j 8

18 se ( t ) t rasgele değşkeler dzs α -mksgdr, ya M sadece φ 0 a bağlı poztf br sabt, A σ ( : < t< 0) ve B σ ( : k < t< ) ç t t P( A B) P( A) P( B) < Mα( k) ve = j= k α( k) j w λ j dır. Öreğ, ( ), t = α t + εt, α < zama sers modele uygu rasgele t t j değşkeler dzs olsu. Bu durumda, wj = α ç α( k) = = = j= k j= k j= k j w j λ j( α ) j λ j( α ) λ j = k( α ) + α λ k λ λ λ ( α ) [ k( α ) ] olacaktır. 9

19 k( α ) ( α ) λ k λ k+ lm α( k) = lm + lm k k λ ( ) k λ α ( α ) = lm k( α ) ( α ) k λ λ k dır. lm( α ) = lm ( α ) λ ( α ) k ( ) λ k+ λ k+ k λ α = lm( k+ )( α ) k λ k = lm k( α ) + lm( α ) k λ k λ k k ( α ) λ λ k+ lm( α ) = 0 k λ k ve lm( α ) = 0 olduğuda k lm k( α ) = 0 k λ k dır. Dolayısıyla lm α ( k) = 0 dır. O halde ( ) zayıf durağa AR() sers α - mksgdr. k t t Fakat M daha sora Gorodetsk (977) tarafıda başka parametrelere de bağlı olduğuu gösterldğ, Whthers (98) tarafıda fade edlmektedr. Whthers (98) se (.3) eştlğdek gb fade edle br dz α -mksg olmasıı başka koşullara bağlamıştır. Ayrıca dzdek rasgele değşkeler ayı dağılımlı olma koşulu da gevşetlmştr. Teorem. (Whthers 98) ( w j) ler δ > 0 ç t ke G t = S δ olacak şeklde taımlaa kompleks sayılar dzs olsu. max(, δ ) t (m(, )) 0 Burada S t (.), 0

20 S ( δ ) t = w δ j j= t bçmde taımlıdır. K ( π ) max φ j ( ) j = t dt< ve γ = max E ε < j j δ ç ( ε j) j brbrde bağımsız, karakterstk foksyolar dzs ( φ j ) ola rasgele değşkeler dzs olsu. Bütü t ler ç t jεt j j= 0 = w, ke olasılıkta t rasgele değşkee yakısar. Bua göre, t W = wε, k t k+ m t j t j j= 0 ve s U χ( v) = P( α v < W < β v, k t k+ m ) j= jt t t jt t olmak üzere

21 M 0 χ( v) = sup sup max < m, s, k α, β, v t v t se ( t ) t rasgele değşkeler dzs α -mksgdr ve α ( ) 0 k = Gt ç t= k α( k) (4 M + γ ) α ( k) 0 0 dır. Br dğer souç Athreya ad Patula (986) tarafıda ortaya koulmuştur. Athreya ad Patula (986) ı otoregresf br zama sers α -mksg olması ç gösterdğ gerekl koşullar Teorem.3 de verlmştr. Teorem.3 ( ), = α + α α + ε şeklde fade edle p. t t t t t p t p t derecede br otoregresf zama sers modele uygu br rasgele değşkeler dzs olsu. + < + () { logε }, logε fades poztf kısmıı göstermek üzere E { logε} () ε dağılım foksyou aşkar olmaya (o-trval) mutlak sürekl bleşee sahp, () 0 ( 0,,..., ), ( ε ) (v) ( ) ε t t = p t t lerde bağımsız, ler brbrde bağımsız ayı dağılımlı,, (v) z p α α = karakterstk deklem kökler mutlak değerce de p z... p 0 küçük olma koşulları sağlaıyorsa ( ) dzs α -mksgdr (Athreya ad Patula 986). t t

22 Değşk zayıf bağımlılık ve bağımlılık koşulları altıda merkez lmt teoremler fade edlr. Teorem.4 ( ) durağa rasgele değşkeler dzs α-mksg olsu. δ (0, ) ç E +δ < ve δ / + δ α < koşulları altıda = σ = Var + Cov + k k= ( ) (, ) olmak üzere σ > 0 ç σ = d ( E( )) N(0,) dr (Doukha 995). Örek.4 (Zayıf durağa brc derecede (AR()) zama sers) ( µ ) = α ( µ ) + ε, α <, t=,,... t+ t t+ ε b. b. a. d N(0, σ ) t 0 olsu. Var( t+ ) = α Var( t ) + σ 0 (.4) olup söz kousu ( t ) t rasgele değşkeler dzs zayıf durağa olduğu ç 3

23 Var + = Var = σ t= ( t ) ( t ),,,... dr. (.4) fadesde σ 0 σ = α dr. ε t ler ormal dağılımlı olduğu göz öüe alıırsa (.3) fadesde ormal dağılımlı olduğu söyleeblr. h> 0 ç t le foksyou, t ler de t + h otokovaryas h γ ( h) = Cov(, ) = α σ t t+ h olmak üzere Var k k ( ( µ )) = σ + ( ) γ ( ) k= olup Teorem.4 uyarıca σ = µ = σ + γ k= lm Var( ( )) ( k) σ ( ασ α σ...) = α = σ (+ ) α + α = σ α dır (Lehma 999). 4

24 3. BAĞIMLI GÖZLEMLERLE BOOTSTRAP YÖNTEMİ Bootstrap değerledrmelere yöelk teork souçları brçoğu brbrde bağımsız ve ayı dağılımlı (b.b.a.d) gözlemler ç yapılmıştır. Acak rasgele değşkeler her zama brbrde bağımsız olması söz kousu değldr. Bldk bootstrap yötem, gözlemler bağımlı olduğuda ele alıa probleme her zama uygu yaklaşımlarda buluamayablr. ( ), m ç beklee değer, E( = ) = µ ve bağımlı rasgele değşkeler br dzs olsu. m ç E( ) < ola durağa ve m- ( ) = ( ) = Var Var = Var( ) + Cov(, j ) = j = Var( ) + Cov(, + k ) = k= = + m ( ) ( ) (, ) Var k Cov + k k= m k = Var( ) + ( ) Cov(, ) + k k= olmak üzere m σ m Var Var Cov + k k= lm ( ) = ( ) + (, ), = = 5

25 dır. Eğer, σ (0, ) se m-bağımlı rasgele değşkeler ç merkez lmt teoremde, m µ σ d ( ) N(0, m) dır (Athreya ad Lahr 006). T = ( µ ) rasgele değşke dağılımıa bldk bootstrap yaklaşımı ele alısı.,, K, öreklem çapı le bu öreklemde yede örekleme le elde edle * * *,, K, öreklem çapı eşt olsu. Bu durumda, T rasgele değşke bootstrap uyarlaması T, *, * * = = olmak üzere * * T, = ( ) olacaktır. T *, ı dağılımı σ de başka br varyas ( σ ) le ormal dağılıma m yakısayacaktır (Athreya ad Lahr 006). Teorem 3. (Athreya ad Lahr 006) ( ), E( = ) = µ ve σ = Var( ) (0, ) ola durağa m-bağımlı rasgele değşkeler dzs olsu ( m + ). Bu durumda, ke sup P ( T x) Φ ( x / σ ) = o() x * *, 6

26 dr. Acak bu yakısama σ m de farklı br varyas le olacaktır. Bu teorem koşulları altıda eğer x 0 ç, m σ m 0 ve Cov k + k= (, ) 0 se herhag br lm P ( T x) P( T x) = Φ( x / σ ) Φ( x / σ ) 0 (3.) * *, m dır. Bu edele, bütü x 0 ç P( T x) bldk bootstrap yöteme dayaa bootstrap tahm edcs P ( T x) hatalıdır, (3.) eştlğde lmt sıfır olmaması * *, P( T x) bootstrap tahm edcs tutarlı olmadığıı göstermektedr. m-bağımlı ler yede öreklemesde, bldk bootstrap yötem, ( ) = rasgele değşkeler dzs bağımlılık yapısıı statstksel çıkarıma yasıtmaz. Bu soruu aşılmasıa yöelk bootstrap yötemler öerlmştr. Öreğ, markov bağımlılığıı görüldüğü solu durum uzayıa sahp ergodk markov zcrler ç, Basawa et al (990) makalelerde geçş olasılıkları matrs tahm problem ç koşullu bootstrap yötem kullamışlardır. Bu yötemle geçş sayılarıı blmes koşulu altıda geçş olasılıkları matrs bootstrap tahmler le tutarlı yaklaşımlarda buluulduğuu göstermşlerdr. Değşk türlerde bağımlılık yapısıı büyese ala ve bu bağımlılık yapılarıı bootstrap tahmlere yasıta br başka yede örekleme bçm se, blok bootstrap yötemlerdr. Blok bootstrap yötemler, ( ) rasgele değşkeler dzs durağa ve kısa döeml bağımlılık yapısıa sahp olduğuda gözlemler dzs alıdığı sıra le dzdek bağımlılık yapısıı yakalayable uygu uzuluklu bloklara ayrılırsa bu blokları yaklaşık olarak brbrde bağımsız ve farklı bloklardak gözlemler ortak dağılımıı durağalık koşulu altıda ayı olması fkre dayaır. Bağımlı gözlemlerle bootstrap uygulamalarıda farklı blok bootstrap yötemler öerlmştr. Bular, Küsch (989), Lu ad Sgh (99) tarafıda öerle Hareketl Bloklarla Bootstrap (HBB), 7

27 Carlste (986) ı çalışmalarıa dayaa Örtüşmeye Bloklarla Bootstrap (ÖBB), Polts ad Romao (99) tarafıda öerle Çembersel Bloklarla Bootstrap (ÇBB) yötemlerdr. Bu bölümde, adı geçe blok bootstrap yötemler taıtıldıkta sora bu yötemler kullaılarak elde edle statstğ varyas ve dağılım foksyouu bootstrap tahm edcler tutarlı tahm edcler oldukları kousua değlecek ve bootstrap tahm edcler ç blok bootstrap yötemler başarımları (yetklkler) hakkıda blgler verlecektr. Ayrıca otoregresf zama dzlerde bootstrap yötem asıl şledğ hakkıda blg verlecektr. Bu bölümde kullaıla otasyolar; l, l tamsayı değerl blok uzuluğu N : HBB yöteme göre oluşturula blok sayısı b : ÖBB yöteme göre oluşturula blok sayısı k : HBB, ÖBB ve ÇBB yötemlere göre oluşturula bloklar arasıda rasgele seçle blok sayısı ( j B ), j=, : Sırasıyla HBB ve ÖBB yötemlere göre oluşturula -c blok *( j B ), j=, : Sırasıyla HBB ve ÖBB yötemlere göre oluşturula bloklar arasıda rasgele seçle -c blok B(, j ) : GBB yöteme göre oluşturula j uzuluklu -c blok,,...,, j=,,3: Sırasıyla HBB, ÖBB ve ÇBB yötemlere göre * * * j, j, j, m oluşturula bootstrap öreklem m : Bootstrap öreklem çapı *( j) θ m,, j=, : ˆ θ statstğ HBB ve ÖBB yötemler le elde edle bootstrap uyarlamaları 8

28 *( j) Fm,, j=, : Bootstrap öreklem gözleme dayalı dağılımı 3. Hareketl Bloklarla Bootstrap Yötem (HBB) Br bootstrap öreklem alıırke her defasıda kez tek br gözlem yede öreklemes yere HBB yötem, her rasgele çekmde ardışık gözlemler bloklarıı, herbr blokta orjal gözlemler bağımlılığıı muhafaza ederek yede örekleme yapar. Ayrıca blok uzuluğu le brlkte sosuza doğru büyütülürse, HBB bağımlılık yapısıı yede üretcektr. Yötem şleyş hakkıda blg verlmede öce aşağıdak göstermlere değlecektr. ( ) durağa rasgele değşkeler dzs olsu ve χ = = {,,..., } bu dzde alıa br öreklem gösters. Öyle k,,..., öreklem blmeye F gb br dağılımda geldğ düşüülsü. F se,,,..., öreklem gözleme dayalı dağılımı ve T (.) de reel değerl br foksyo olmak üzere lglele θ parametres F br foksyoel ola T ( F ) le fade edlr. Dğer tarafta T ( F ) gözleme dayalı dağılım foksyou le fade edlr. F br foksyoel olup θ ı br tahm edcs ˆ θ, T ( F ) h( x ) herhag br foksyo olmak üzere = T ( F) h( x) df( x) ve 9

29 T ( F ) = h( x) df ( x) = h( ) = dr. Öreğ, lglele θ parametres ktle ortalaması se h( x) = x olup θ = = T ( F) x df( x) bçmdedr. Ktle ortalamasıı tahm edcs, ˆ θ = T ( F ) = x df ( x) = = = dr. İlglele θ parametres ktle varyası ( σ ) olması durumuda se σ = T ( F) = [ x x df( x)] df( x) ve ktle varyasıı tahm edcs, ˆ = T ( F ) = [ x x df ( x)] df ( x) σ = ( ) = dr (Serflg 980). Bu durumda, 0

30 ˆ θ = T ( F ) (3.) şekldek br statstğ HBB uyarlamasıı elde etmek ç aşağıdak adımlar zler (Lahr 003). Adım. l öcede belrlee (rasgele olmaya) blok uzuluğu olmak üzere χ çde -c blok, B = (,..., ) N, N = l+ () + l olmak üzere N tae blok oluşturulur (bkz. Şekl 3..). Adım. HBB öreklem oluşturmak ç { () () (),,..., N } B B B blokları arasıda yere koyarak rasgele k tae *() *() *() B, B,..., B k blokları seçlr. Burada, B = (,..., ), =,..., k *() * *,( ) l+, l dır. Sora m= k. l gözlem buluduğu m çaplı * *,,...,, m HBB öreklem oluşturulur. Adım 3. F, (,..., ) m çaplı bootstrap öreklem gözleme dayalı dağılımı *() * * m,,, m olmak üzere, ˆ θ statstğ bootstrap uyarlaması θ = T ( F ) *() *() m, m, hesaplaır.

31 () B l l + N () B () B N Şekl 3. HBB ç { () () (),,..., N } B B B bloklarıı elde edlş (Lahr 003) { () () (),,..., N } B B B blokları arasıda *() B bloklarıı rasgele seçlmes, {,..., N } kümesde rasgele k tae ds seçlmese dektr. Bua göre, I, I,... I k brbrde bağımsız ve olasılık dağılımı P( I = j) =, j=,..., N, =,..., k ola N keskl düzgü dağılıma sahp rasgele değşkelerdr. Eğer, =,..., k ç B = B şeklde belrlerse, *() () I *() B lar *() *() *() B, B,..., B k blokları { B () () (), B,..., B N } kümesde yere koyarak rasgele seçlmş m çaplı br öreklem oluşturur (Lahr 003). (,..., ),(,..., ),...,(,..., ) brbrde bağımsız ayı * * * * * *,, l, l+,l,( k ) l+, m dağılımlı l boyutlu rasgele vektörler olup, her br oluşturula B, B,..., B N () () () blokları arasıda seçlmes olasılığı / N dr. P *, χ verldğde koşullu olasılığı göstermek üzere P ((,..., ) = (,..., ) ) = P ( I = j) * * *,, l j j+ l * =, j=,..., N (3.3) N dır (Lahr 003). Eğer her br blok sadece br gözlem çerrse ya l= se (3.3) eştlğde * *,,...,, m bootstrap öreklem brbrde bağımsız ayı F dağılımıa sahp rasgele değşkeler olurlar. Böylece HBB yötem, Efro (979) tarafıda öerle bldk bootstrap yöteme döüşür.

32 Bldk bootstrap yötemde olduğu gb HBB yötemde de bootstrap öreklem çapı χ öreklem çapı le ayı seçleblr. Eğer b, b. l eştszlğ sağlaya e küçük tamsayı se HBB öreklem oluşturmak ç k = b tae blok seçleblr ve ˆ θ bootstrap uyarlamasıı fade etmek ç HBB öreklem lk değer kullaılablr (Lahr 003). Yukarıda (3.) eştlğyle verle ˆ θ statstkler br-boyutlu F gözleme dayalı dağılımıa bağlı olduğuda, gözlemler ortak dağılımıa dayaa öreğ kovaryas gb statstkler tahmlerde yetersz kalırlar. Dolayısıyla bu statstkler bootstrap uyarlamalarıda da ayı sorula karşılaşılır. Bu soruu ortada kaldırmak amacıyla Küsch (989), p-boyutlu gözleme dayalı dağılıma dayaa statstkler bootstrap uyarlamaları ç daha geel br HBB yötem öermştr. χ gözlemler boyuca p+ tae taımlaacak ola Yj = ( j,..., j + p ) p-boyutlu rasgele vektörler ç δ Yj ( j x j,..., j+ p x j+ p ), = dğer durumlarda,0 olmak üzere, p+ Fp, = ( p+ ) δyj j= p-boyutlu gözleme dayalı dağılım foksyou olsu. Bu durumda ˆ θ = T ( F ) (3.4) p, 3

33 bçmdek statstkler HBB uyarlamasıı elde etmek ç zlee adımlar aşağıda verlmştr (Küsch 989). Adım. < l< p+ ç l öcede belrlee (sabt tamsayı) blok uzuluğu olmak üzere B% = ( Y,..., Y ), j p l+ j j j+ l olacak şeklde bloklar oluşturulur. % blokları arasıda Adım. HBB öreklem oluşturmak ç { B : p l+ } yere koyarak k olacak şeklde k tae blok rasgele seçlr. m= k. l çaplı * * * * * Y,..., Yl ; Yl+,..., Y l;..., Ym HBB öreklem oluşturulur. * Adım 3. F% m, = m δ *, Y m j= j * * Y,..., Y m bootstrap öreklem gözleme dayalı dağılımı olmak üzere (3.4) eştlğde fade edle ˆ θ statstğ bootstrap uyarlaması, θ = T ( F% ) * * m, m, kullaılarak hesaplaır. Bu yötemle doğruda değerler bloklaması yere bu değerler oluşturduğu p-boyutlu rasgele vektörler ya Y -değerler bloklamıştır. Bu yaklaşım HBB sırada (ordary) yaklaşımıdır (Lahr 003). Br dğer yaklaşım se HBB sade (ave) yaklaşımıdır. Bu yaklaşımda, p ç (3.4) eştlğde verle ˆ θ statstğ,..., gözlemler br foksyou 4

34 bçmde fade edlebleceğ ç bu statstğ bootstrap uyarlaması ç { } B =,...,, =,..., N l uzuluklu blokları arasıda yere koyarak k tae + l rasgele B *, j=,..., k blok seçlmesyle oluşturula j * *,,...,, m bootstrap gözlemlerde yararlaarak p-boyutlu Y (,..., ), =,..., m p+ rasgele ** * *,, + p vektörler oluşturulur. Burada p -boyutlu bootstrap gözleme dayalı dağılım m p ** foksyou F % + m, = δ ** Y m p+ elde edlr. Bu yaklaşım altıda ˆ θ statstğ bootstrap uyarlaması = θ = T ( F% ) * ** m, m, olacaktır. ( ) = durağa rasgele değşkeler br dzs olduğuda her ç Y = (,..., + p ) vektörü le (,..., p ) vektörü ayı dağılımlı olacaktır. Böylece sırada yaklaşım kullaılarak oluşturula * Y HBB gözlemler (,..., ) p bağımlılık yapısıı muhafaza edecektr. Fakat l < p olması durumuda eğer bloklar sade yaklaşım kullaılarak oluşturulursa, ard arda gele * B j ve B + bloklarıı * j sıırlarıda bulua *, bootstrap gözlemler brbrde bağımsız olacaktır dolayısıyla bağımlılık yapısı bozulacaktır (Lahr 003). 3. Örtüşmeye Bloklarla Bootstrap Yötem (ÖBB) Bu bölümde, Carlste (986) ı bloklama yötemde bahsedlecektr. Kolaylık açısıda p= olması durumuda (3.4) eştlğde verle ˆ θ bçmdek statstkler bootstrap uyarlamasıı asıl fade edleceğe yer verlecektr. 5

35 Carlste (986) tarafıda öerle blok bootstrap yötem, HBB yötemde farklı olarak gözlemler ç çe örtüşmeyecek şeklde bloklamasıa dayaır. Örtüşmeye bloklarla bootstrap yötem şleyş aşağıdak gbdr. Adım. l l [, ] öcede belrlemş (sabt tamsayı) blok uzuluğu ve l. b eştszlğ sağlaya e büyük tamsayı b, oluşturula blok sayısı olmak üzere B = (,..., ), =,,..., b () ( ) l+ l olacak şeklde bloklar taımlaır (bkz. Şekl 3..). () () Adım. ÖBB öreklem oluşturmak ç {,..., b } koyarak k olacak şeklde rasgele k tae öreklem çapı olmak üzere B B blokları arasıda yere B B blokları seçlr. m= k. l, ÖBB *() *(),..., k (,..., ;...;,..., ) * * * *,, l,( k ) l+, m ÖBB öreklem oluşturulur. Adım 3. F, *() m, (,..., ) * *,, m gözleme dayalı dağılımı olmak üzere ˆ θ statstğ bootstrap uyarlaması θ = T ( F ) *() *() m, m, dr. 6

36 l l + () () B B Şekl 3. ÖBB ç { () () (),,..., b } l ( b ) l + () B b bl B B B bloklarıı oluşturulması (Lahr 003) ÖBB yötemyle elde edle (,..., ),...,(,..., ) bootstrap * * * *,, l,{( k ) l+ }, m değşkeler brbrde bağımsız ayı dağılımlı l -boyutlu rasgele vektörler olup P *, χ verldğde koşullu olasılığı göstermek üzere, * * P* ((,,...,, ) l = ( ( j ) l,..., jl ) + ) =, b j=,,..., b (3.5) dır (Lahr 003). ÖBB yötemde gözlemler örtüşmeyecek şeklde bloklamasıda dolayı ÖBB yötemde oluşturula blok sayısı, HBB yötemde oluşturula blok sayısıda daha azdır. Ayrıca sahptr. θ le *() m, θ bootstrap tahm edcler farklı dağılım özellklere *() m, ˆ θ = j, öreklem ortalaması olmak üzere ˆ θ HBB ve ÖBB yötemler j= kullaılarak elde edle bootstrap uyarlamaları sırasıyla θ *() m * *() m, =, j = m m j= ve θ *() m * *() m, =, j = m m j= () olacaktır. U = ( ) / l HBB yötem le oluşturula her br blok ortalaması + l ve bu bloklar arasıda yere koyarak rasgele seçle k tae bloğu her br ortalaması U = ( ) / l olmak üzere HBB öreklem ortalamasıı *() * *,( ) l+, l beklee değer 7

37 k *() *() *( m ) = *( ) = E E k U *() *() bçmdedr. U,..., U k rasgele değşkeler ayı dağılımlı olmasıda dolayı yukarıdak eştlk, *() *() E* ( m ) = ke* ( U ) k = E ( U ) *() * olacaktır. (3.3) eştlğde *() () P *( U = U ) =, N N olup, () = dır ve U = ( ) / l fades kullaılarak N *() () *( ) U N = E U + l E ( ) (... ) / l N *() * m = l N = N l = N + / l( + + l ) = l = bçmde elde edlr (Athreya ad Lahr 006). U = ( ) / l ÖBB () ( ) l+ l yötem le oluşturula her br bloğu ortalaması ve bu bloklar arasıda yere koyarak rasgele seçle k tae bloğu her br ortalaması U = ( ) / l olmak üzere, ÖBB öreklem ortalamasıı beklee *() * *,( ) l+, l değer k * () *() E* ( m ) = E* k U = 8

38 bçmdedr. yukarıdak eştlk, *() *() U,..., U k rasgele değşkeler ayı dağılımlı olmasıda dolayı *() *() E* ( m ) = ke* ( U ) k = E ( U ) *() * olacaktır. (3.5) eştlğde *() () P *( U = U ) =, b b olup, () = dır ve U = ( ) / l fades kullaılarak b *() () *( ) U b = E U ( ) l+ l E l b l *() *( m ) = ( ) l+ j b = j= = ( ) bl = bl+ (3.6) bçmde elde edlr (Lahr 003). Eğer l, tam böle br sayı se (3.6) eştlğ e eşttr. Her k yötem altıda bootstrap tahm edclerχ verldğde koşullu beklee değerler farklıdır. Acak ( ) = rasgele değşkeler dzs bazı beklee değer ve α - *() *() mksg olma koşullarıı sağlarsa { θ θ } E E* ( m, ) E* ( m, ) = o( l ) olacaktır. Buda dolayı, büyük öreklem çapları ç, k değer arasıdak fark öemszdr (Lahr 003). 9

39 HBB yötem, gözlemler baş ve so kısımlarıda daha çok orta kısımlarıa daha fazla ağırlık vererek stelmeye sıır (uç) etklere maruz kalmaktadır. l j l olmak üzere j -c gözlem j { () () (),,..., N } B B B bloklarıda tam olarak l taesde gözlemlerke, j l ç j ve j + gözlemler sadece j tae blokta gözlemler. gözlemde sora veya gözlemde öce herhag br gözlem bulumadığıda bu etky ortada kaldırmak ç ye bloklar da taımlaamaz. Bezer problem, blok uzuluğu l tam katı olmadığıda ÖBB yötemde de ortaya çıkmaktadır (Lahr 003). Polts ad Romao (99) bu sıır problem ortada kaldırmaya yöelk br yötem öermşlerdr. Bu yötem blokları, gözlemler br çember etrafıa sararak oluşturmaya dayaır ve bu yöteme Çembersel (crcular) Bloklarla Bootstrap (ÇBB) yötem adı verlmştr. Aşağıdak bölümde lteratürde ble blok bootstrap yötemler aa fkr oluştura Geelleştrlmş Blok Bootstrap (GBB) yötem taıtıldıkta sora zleye bölümde bu yötem özel br hal ÇBB yötemde bahsedlecektr. 3.3 Geelleştrlmş Blok Bootstrap (GBB) Yötem { } χ,..., = gözlemler gösters ve Γ, { } (,..., ) kümesde taımlı t= geçş olasılık foksyou olsu. Öreğ, ({ } ) { } { t t t= t t } x ç ( x ;.) Γ,,...,, l :, l <, t kümesde taımlı br olasılık ölçüsüdür. Burada {, } l elemaları le olablecek tüm sıralı kller kümes fade t t edlmektedr. GBB yötem ç zlee adımlar aşağıda verlmştr (Lahr 003). Adım. Herhag br ve j [, ] ç = j mod( ) olmak üzere Y, = j olacak şeklde peryodk olarak lerleye Y, değşkeler taımlaır. Aslıda bu taımlama,,..., değşkeler arka arkaya defalarca yazarak ç her br değşke Y, değşkeler le dsledrmekle ayıdır (bkz. Şekl 3.3.). 30

40 Y,... Y..., Y,... Y, + Y..., + Y, Şekl 3.3 Y, değşkeler oluşturulması (Lahr 003) Adım. ve j ç B(, j) = ( Y,,..., Y,( + j ) ) olacak şeklde bloklar taımlaır. Adım 3. ( I, J),( I, J ),... kller χ verlmşke ortak koşullu dağılımları Γ( χ;.) ola rasgele vektörler dzs olmak üzere, GBB öreklem oluşturmak ç { B(, j) :, j } blokları arasıda B( I, J), B( I, J ),... blokları seçlr. Adım 4.,,..., m çaplı GBB öreklem ve m ç *( G) F * * * G, G, G, m m, bu öreklem gözleme dayalı dağılımı olmak üzere (3.) eştlğde verle ˆ θ tahm edcs bu yötem kullaılarak elde edle bootstrap uyarlaması θ = T ( F ) *( G) *( G) m, m, dır. Ble tüm blok bootstrap yötemler GBB yötem özel hal olarak gösterleblr. Öreğ, l ç blok uzuluğu l ola HBB yötem düşüülsü. N = l+ 3

41 olmak üzere geçş olasılık foksyou, Γ ( x ;.) olsu. Bu durumda ( I, J),( I, J ),... rasgele dsler N, j N ve k = l P* ( I = j, I = k) = 0, d. y. olasılıkları le b.b.a.d rasgele vektörler olacaktır. Böylece Bölüm 3. de bahsedle { B,..., B N} kümes le { B(, j) : N, j l} blokları bu kümede seçlmş olur (Lahr 003). = kümes ayı olup B( I, J), B( I, I ), Çembersel Bloklarla Bootstrap (ÇBB) Yötem Polts ad Romao (99) tarafıda öerle bu yötem χ = { } kümesdek gözlemler br çember etrafıa sardıkta sora her br gözlem Bölüm 3.3 de taımlaa Y, değşkeler le dsleyerek B(, l) = ( Y,,..., Y,( + l ) ) olacak şeklde oluşturula tae örtüşe blokta k taes yede öreklemeye dayaır. Böylelkle her br kümesdek bloklarda l taesde yer alır.,..., ç gözlem { B(, l),..., B(, l )} ÇBB yötem ç geçş foksyou, Γ ( x ;.) olmak üzere I3,, I 3,,... rasgele değşkeler { B(, l),..., B(, l )} kümesde rasgele seçle blokları dsler olarak fade edlrse bu rasgele değşkeler brbrde bağımsız ve P ( I = ) = * 3, olasılık foksyou le ayı dağılıma sahp olacaktır. Her br gözlem { B(, l),..., B(, l) } kümesdek bloklarda l taesde yer alması ve bu kümede eşt 3

42 olasılıkla bloklar seçlp yede örekleme yapıldığı ç her br yötem altıda eşt ağırlığa sahptr. gözlem ÇBB m= k. l ç * * * 3,, 3,,..., 3, m m çaplı ÇBB öreklem ve *(3) m ÇBB öreklem ortalamasıı gösters. U = ( Y Y ) / l ÇBB yötem le oluşturula her br (3),,( + l ) bloğu ortalaması ve bu bloklar arasıda yere koyarak rasgele seçle k tae bloğu her br ortalaması U = ( Y Y ) / l olmak üzere *(3) * *,( ) l+, l değşkeler brbrde bağımsız ayı dağılımlı olup *(3) *(3) U,..., U k rasgele *(3) (3) P* ( U = U ) = dr. Bu durumda ÇBB öreklem soucuda beklee değer, *(3) m bootstrap öreklem ortalamasıı k *(3) *(3) *( m ) = *( ) = E E k U bçmde verlr. *(3) *(3) U,..., U k rasgele değşkeler ayı dağılımlı olmasıda, *(3) *(3) * m = * E ( ) E ( U ) = U = (3) (3) dır. U = ( Y Y ) / l fades yardımıyla,,( + l ) E ( ) l ( Y ) l *(3) * m =,( + j ) = j= = = l ( l ) 33

43 elde edlr (Lahr 003). 3.4 HBB, ÖBB ve ÇBB Yötemleryle Öreklem Varyası ve Dağılım Foksyou Tahm Edcler Tutarlılığı E( ) = µ ve E( ) < olmak üzere ( ), de değerler ala α (.) güçlü mksg katsayısıa sahp durağa rasgele değşkeler br dzs olsu. Bastlk sağlaması edeyle her br blok bootstrap yötem ç yede öreklee blok sayısı k= / l olacak şeklde belrles. Bu durumda her br blok bootstrap yötem le elde edle öreklem, aa öreklem le ayı sayıda gözlem çerecektr. *() *() *(3),, sırasıyla HBB, ÖBB ve ÇBB yötemler le elde edle bootstrap öreklem ortalamaları olmak üzere T = ( µ ) statstğ blok bootstrap tahm edcler sırasıyla, *( j) *( j) *( j) * T = ( E ( )), j=,,3 olacaktır. Var( T ) blok bootstrap varyas tahm edcler χ *( ) Var* ( T j ), j=,,3, gözlemler çere bast formüllerle hesaplaablr. U = ( ) / l HBB () + l yötem le oluşturula her br bloğu ortalaması, U = ( ) / l ÖBB () ( ) l+ l yötem le oluşturula her br bloğu ortalaması ve U = ( Y Y ) / l ÇBB (3),, + l yötem le oluşturula her br bloğu ortalaması olsu. HBB ve ÖBB yötemler ç bloklar arasıda yere koyarak rasgele seçle k tae bloğu her br ortalaması U = ( ) / l, j=, ve ÇBB yötem ç bloklar arasıda yere *( j) * * j,( ) l+ j, l koyarak rasgele seçle k tae bloğu her br ortalaması U = ( Y Y ) / l, j= 3 olmak üzere *( j) * *,( ) l+, l *( j) *( j) U,..., U k, j=,,3 rasgele değşkeler bağımsızlığı kullaılarak bootstrap varyas tahm edcler, 34

44 *( j) * * *( j) Var ( T ) = Var ( ) = Var = Var U k k *( j) *( U ) k = *( j) ( ) * olacaktır (Athreya ad Lahr 006). Böylece ˆ µ = ( ) =, N *() (), E* U U N = ˆ µ = ( ) = olmak üzere b *() (), E* U U b = N *() () *( ˆ ) = ( U ) µ, N = Var U b *() () *( ˆ ) = ( U ) µ, b = Var U Var U = U *(3) (3) *( ) ( ) = dır. Burada, Var ( T ) l[ ( U ) ] N *() () ˆ * = µ, N = Var ( T ) l[ ( U ) ] b *() () ˆ * = µ, b = Var T l U *(3) (3) *( ) = [ ( ) ] = olacaktır (Athreya ad Lahr 006). 35

45 δ > 0 ç E +δ < ve olmak üzere T statstğ asmptotk varyası, / ( ) δ + α δ < koşulları sağladığıda µ, = Z = σ = Var T = E ZZ + = lm ( ) ( ) sosuz sers olup yukarıdak koşullara ek olarak eğer ke l l o() + = se ( *( j ) ) p, * σ Var T, j=,,3 (3.7) olacaktır (Athreya ad Lahr 006, Theorem 7.4.). T statstğ öreklem dağılım foksyou, G ( x) = P( T x), x ve Gˆ ( x) = P ( T x), j=,,3 sırasıyla HBB, ÖBB ve ÇBB yötemler altıda ( j) *( j) * *( j ) T blok bootstrap tahm edcs dağılım foksyou olsu. Klask olarak dağılımda G lmt dağılımıa yakısadığıda yaklaşılmaya çalışılırke, blok bootstrap G yötemlerde öreklem çapı değştkçe değşe, rasgele ola ˆ ( j ) G ları üreterek G dağılımıa yaklaşılmaya çalışılır (Lahr 003). T statstğ asmptotk dağılımı d T N(0, σ ) 36

46 dır. δ > 0 ç E +δ < ve / ( ) δ + α δ < koşulları sağlası, = = (, ) ve ke σ Cov + l l o() + = se sup *( j) p *( ) ( ) 0, x P T x P T x (3.8) olacaktır (Athreya ad Lahr 006, Theorem 7.4.3). Sırasıyla (3.7) ve (3.8) fadeler ( ) rasgele değşkeler dzs üzere koula bazı momet ve fade edle güçlü mksg koşulları altıda bootstrap varyas tahm *( ) edcler Var* ( T j ), j=,,3 ve G öreklem dağılımıı blok bootstrap tahm edcler G j= ler, ke l blok uzuluğuu e göre daha yavaş ˆ ( j),,,3 hızda sosuza gtmes durumuda tutarlı olduğuu göstermektedr. Bu edele, Var T j= blok bootstrap tahm edcler tutarlı olmasıı sağlaya *( ) *( j ),,,3 l= log log ve 0< ε < ç l = ε blok uzulukları kabul edleblr blok uzuluklarıdır (Lahr 003). Eğer l sıırlı olursa blok bootstrap yötemler aa öreklem bağımlılık yapısıı muhafaza edemezler ve Sgh (98) öreğde olduğu gb σ da farklı br varyas le ormal dağılıma yakısama olur (Athreya ad Lahr 006). Dğer tarafta eğer l, gözlem sayısı le ayı hızda sosuza gderse ( l= o() şartı bozulursa) sosuz br ktley temsl edecek br öreklem yaratmak ç yeterl sayıda farklı blok yoktur ve bu edele öreğ foksyoua yakısar (Lahr 003). ˆ ( j ) G rasgele br dağılım 37

47 3.5 Varyas ve Yalılık Bootstrap Tahm Edcler ç Blok Bootstrap Yötemler Karşılaştırılması χ örekleme bağlı olarak θ parametres br tahm edcs ˆ θ olsu. θ lg duyduğumuz yığıı parametres olup düzey- parametres olarak blr. ˆ θ örekleme dağılımıa at öreğ HKOθ ( ˆ ) gb br parametres, düzey- parametres olarak blr. Dğer yede örekleme yötemlerde olduğu gb bootstrap yötem de asl olarak düzey- parametreler le lgl statstk çıkarıma yöelr. Bağımlı gözlemler durumuda özel olarak, HKOθ ( ˆ ) üzere yapılmış çalışmalarda Hall, Horowtz ad Jg (995), Lahr (999) ve Polts ad Whte (004) olarak kayak verleblr. Bağımlı gözlemlerle bootstrap yötemler ç HKOθ ( ˆ ) hakkıda blg sahb olmaı dğer br yararı da bootstrapı başarımı ç belrleyc role sahp blok uzuluğuu belrlemesdr. Bu amaçla Hall, Horowtz ad Jg (995) blok bootstrap yötemler ç gözlem çapı ve C poztf br sabt olmak üzere eğer varyas ve ya tahm / 3 yapılacaksa blok uzuluğuu l C, eğer P( x) dağılım foksyou tahm / 4 edlecekse l C ve P( a< b) tahm edlecekse açıklamıştır. l / 5 C olması gerektğ d ( ), de değerler ala E( ) = µ ortalamalı, α (.) güçlü mksg katsayısıa sahp durağa rasgele değşkeler br dzs olsu. = = ve H : d düzgü (smooth) br foksyo olmak üzere lgl düzey- parametres θ ve ou tahm edcs ˆ θ olmak üzere θ = H ( µ ) ve ˆ θ = H( ) şeklde fade edleblr.,,..., j=,,3 sırasıyla HBB, ÖBB ve ÇBB yötemler le elde edle * * * j, j, j, bootstrap öreklem gösters ve her üç yötem ç l blok uzuluğu olmak üzere 38

48 / l k= tae blok yede örekles. Bu durumda ç bootstrap öreklem ortalamasıı göstermek üzere T yötem altıda blok bootstrap tahm edcs *( j) l,, j=,,3 her üç yötem = ˆ θ θ statstğ her üç *( j) *( j) *( j), l, l *, l T = H ( ) H ( E ( )), j=,,3 olacaktır (Lahr 003). ϕ, ˆ θ tahm edcs dağılımıı br foksyou ola lgl düzey- parametres olmak üzere ϕ Ya( ˆ θ ) = E( ˆ θ ) θ = E( T ) (3.9) ϕ ˆ θ = ˆ θ ˆ θ = (3.0) Var( ) E( E( )) Var( T ) şeklde taımlası. ˆ ϕ ( j; l), j =,,3 j c blok bootstrap yötem ç ϕ l blok uzuluklu blok bootstrap tahm edcs olmak üzere (3.9) ve (3.0) fadelerde verle düzey- parametreler blok bootstrap tahm edcler sırasıyla, ˆ ϕ ( j; l) *( j) Ya j ( l) = E ( T ), j=,,3 *, l *( j) j *, l ˆ ϕ ( j; l) Var ( l) = Var ( T ), j=,,3 dır. Lahr (999) bu tahm edcler elde etmede HBB, ÖBB ve ÇBB yötemler başarımlarıı karşılaştırırke br düzey- parametres ola hata kareler ortalaması (HKO) ölçütüü kullamıştır bu amaçla aşağıda blok bootstrap tahm edcler Ya j ( l) ve Var j ( l ) hata kareler ortalamaları ç bazı koşullar altıda Lahr (999) tarafıda elde edle açılımları verlecektr. 39

49 Y rasgele değşke ç HKO( Y ) = [ Ya( Y )] + Var( Y ) olmak üzere Lahr (999) HKO u br açılımıı elde etmek ç bootstrap tahm edcler ayrı ayrı ya ve varyaslarıı celeyerek buları HKO ölçütü bakımıda tahm edcler ylkler d bast br ölçüsüü elde etmek ç brleştrmştr. v= ( v,..., v d ) + ç v = v + v vd ve D v v = olmak üzere açılımları elde etmek ç aşağıdak x x v... vd d koşullar kullaılmıştır (Lahr 999). Koşul d D : H : r kez dferasyelleeblr br foksyo ve a0 tamsayısı r d max D H ( x) : v = r C( + x ), x olsu. v 0 ç { } a Koşul M r : δ > 0 ç E r +δ < ve r /( r ) ( r; ) ( ) δ + = + δ < δ α olsu. = ˆ ( ; ) ϕ j l ve ˆ ϕ ( j; l) blok bootstrap tahm edcler ya ve varyaslarıa lşk souçlar sırasıyla Teorem 3. ve Teorem 3.3 de verlmştr. Teorem 3. l, ke / l l o() + = şartıı sağlaya br blok uzuluğu olsu. (a) r= 3ç Koşul D r ve r= 3+ a0 ç Koşul M r sağlası ve c = c ( f ) ç j Ya( Ya ( l)) = l c + o( l ), j=,,3, (b) r = ç Koşul D r ve r 4 a0 = + ç Koşul M r sağlası. Bu durumda c = c ( f ) ç j Ya( Var ( l)) = l c + o( l ), j=,,3, 40

50 dır (Lahr 999). Teorem 3., ster örtüşe bloklar sterse örtüşmeye bloklar kullaılsı ϕ ve ϕ blok bootstrap tahm edcler yalarıı her üç blok boostrap yötem ç ayı olduğuu göstermektedr. Teorem 3.3 l, ke / l l o() + = ola br blok uzuluğu olsu. Teorem 3. (a) ve (b) kısımları ç r tamsayısı üzere koula şartlar sağlası. Hesaplamaları oldukça karmaşık ola g = g ( f ) ve g ( ) = g f foksyoları ç (a) 4π g l 3 Var( Ya j ( l) = + o( l), j=,3, 3 3 π g l 3 Var( Ya j ( l)) = + o( l), j=, 3 (b) 4π g l 3 Var( Var j ( l)) = + o( l), j=,3, 3 π g l 3 Var( Var j ( l)) = + o( l), j=, 3 dır (Lahr 999). Teorem 3.3 de ϕ ˆ = Ya( θ ) ve ϕ ˆ = Var( θ ) HBB ve ÇBB yötemler le elde edle tahm edcler varyasları, Var( Ya ( )) ( j l = Var Ya ( l)), j=,3 3 Var( Var ( )) ( j l = Var Var ( l)), j=,3 3 4

51 eştlklerde dolayı ÖBB yötem le elde edle tahm edcler varyaslarıa göre daha küçüktür (Lahr 999). HBB ve ÇBB yötemleryle elde edle tahm edcler varyaslarıı küçük olmasıı sebeb bu yötemlerde örtüşe blokları kullaılmasıdır. Teorem 3. ve Teorem 3.3 de her üç blok bootstrap yötem ç eğer l blok uzuluğu arttırılırsa, blok bootstrap tahm edcler yaları azalırke varyaslarıı arttığı görülmektedr. Souç olarak her br blok bootstrap tahm edcs ç hata kareler ortalamasıı e küçük yapa br l blok uzuluğu vardır ve bu blok uzuluğua HKO-optmal blok uzuluğu (MSE-optmal block legth) der (Lahr 999). 0< ε < ç o ε ( ε )/ l j = arg m { HKO( Ya j ( l)) : l }, j=,,3 ve o ε ( ε )/ l j = arg m { HKO( Var j ( l)) : l }, j=,,3 olmak üzere aşağıdak souç her üç blok bootstrap yötem ç blok bootstrap tahm edcler elde etmek ç kullaıla l o, k=,, j=,,3 optmal blok uzuluklarıı göstermektedr (Lahr 999). kj Souç 3. ck 0, gk 0, k =, olmak üzere Teorem 3. ve Teorem 3.3 ü koşulları sağladığıda /3 o 3c k /3 lkj o j π gk = ( + ()), =,3 (3.) 4

52 /3 c k /3 ( ()), gk o lkj = + o j= π (3.) dır. Bootstrap tahm edcler elde etmek ç HBB ve ÇBB yötemler kullaılırsa bu yötemlerdek optmal blok uzulukları (3.) ve (3.) eştlklerde ÖBB yötemde kullaıla optmal blok uzuluğuu 3 /3 katıdır. Souç 3. koşulları altıda, optmal blok uzulukları kullaılarak ϕ ˆ = Ya( θ ) ve ϕ ˆ = Var( θ ) her üç yötemle elde edle blok bootstrap tahm edcler hata kareler ortalamaları (a) o /3 /3 8/3 8/3 HKO( Ya j ( l )) = 3 [ π g c ] + o( ), j=,3 j o /3 8/ 3 8/ 3 j j π HKO( Ya ( l )) = 3[ g c ] + o( ), j= (b) o / 3 /3 8/3 8/ 3 HKO( Var j ( l )) = 3 [ π g c ] + o( ), j=,3 j o /3 8/3 8/3 j j π HKO( Var ( l )) = 3[ g c ] + o( ), j= dır (Lahr 999). Her üç yötem ç lgl HKO-optmal blok uzulukları kullaıldığıda, o /3 ( ( )) ( / 3) ( o HKO Ya j l = HKO Ya ( l )), j=,3 j o /3 ( ( )) ( / 3) ( o HKO Var j l = HKO Var ( l )), j=,3 j 43

53 olduğuda dolayı HBB ve ÇBB yötemleryle elde edle tahm edcler hata kareler ortalaması ÖBB yötemyle elde edle tahm edcler hata kareler ortalamasıda daha küçüktür ve hata kareler ortalaması ölçütü bakımıda HBB ve ÇBB yötemler le elde edle tahm edcler, ÖBB yötem le elde edle tahm edclere göre daha ydr (Lahr 999). 3.6 Durağa Otoregresf Zama Dzlerde Bootstrap Yötem (ARB) ( ε ) sıfır ortalamalı, brbrde bağımsız ayı dağılımlı rasgele değşkeler dzs olmak üzere AR( p ) sers = α + α + + α + ε (3.3)... p p bçmde verlmş olsu. Bu model altıda rasgele değşkeler bağımlı değşkelerdr ve bu bölümde blok bootstrap yötemlerde farklı Bose (988) bootstrap yötemde bahsedlecektr. ( ) rasgele değşkeler dzsde alıa br öreklem,..., olsu.,..., öreklem kullaılarak α,..., α p parametreler e küçük kareler tahm edcler ˆ α,..., ˆ α olmak üzere p ( ˆ α ˆ α ) =,..., ( V V ) V (,..., ) p p+ dır (Lahr 003). Burada V c satırı ( + p,..., ), =,..., p ola ( p) p boyutlu br matrstr. 44

54 e = ˆ α... ˆ α, = p+,..., p p artıkları göstermek üzere (3.3) eştlğde artıklar, p e = ε ( ˆ α α ), p+ (3.4) j j j j= p şeklde fade edleblr. j=,..., p ç ˆ α j α j ya ˆ α j, e küçük kareler tahm edcler bulua α j parametreler tutarlı tahm edcler olduğu ç (3.4) eştlğde p ( ˆ α j α j ) j term ke küçük br değere eşt olacağıda artıklar j= yaklaşık olarak (approxmately) bağımsızdır. Böylece bu yötem br bootstrap öreklem oluşturulurke p kez tek br artığı yede öreklemese dayadığı ç Efro (979) tarafıda öerle bldk bootstrap yöteme bezemektedr. Fakat geçerl br yaklaşımda buluablmek ç öcelkle artıkları merkezleştrlmes gerekmektedr. Buu ç merkezleştrlmş artıklar, e = e p = artıkları ortalaması olmak üzere + p e%,,..., = e e = p+ (3.5) olacaktır. Bootstrap hata değşkeler ε *, ları elde etmek ç { e%,..., p e% + } kümesde yere koyarak rasgele örekleme yapılır. Böylece ε rasgele *, değşkeler,,..., verldğde koşullu olarak brbrde bağımsız ve * P* ( ε = e% ) =, p+ (3.6) p 45

55 olasılık dağılımı le ayı dağılıma sahp rasgele değşkeler olacaktır. (3.5) ve (3.6) eştlklerde * E* ( ε ) = e% = 0 olup (3.3) eştlğdek model p = p+ ç verle E( ε ) = 0 koşulu bu model bootstrap uyarlaması ç de sağlamış olur. Böylece (3.3) eştlğde verle model bootstrap uyarlaması = ˆ α ˆ α + ε, p+ (3.7) * * * * p p olacaktır. Burada (,,..., ) (,,..., ) olarak alıablr (DasGupta 008). * * * p p * * α α p,,..., p,..., α α parametreler (3.7) eştlğdek model kullaılarak elde edle e küçük kareler tahm edclerdr. Bu değerler ˆ α ˆ,..., α p değerler bootstrap uyarlamasıdır. 46

56 4. UYGULAMA Bu bölümde lk olarak geçş matrs ble br markov zcr taımlamış ve bu markov zcrde smülasyola = 50 adım sayısıa sahp br öreklem elde edlerek bu örekleme dayalı geçş matrs e çok olablrlk tahm ve farklı blok uzulukları ç HBB, ÖBB ve ÇBB tahmler elde edlmştr. Elde edle souçlar Çzelge 4. de verlmştr. Daha sora α = 0.5 ç = α + ε, =,..., zama sers modele uygu olarak smülasyola = 50 adet ver üretlmş ve α parametres e küçük kareler tahm ve bootstrap tahm elde edlmştr. 4. Solu Durum Uzayıa Sahp Br Markov Zcr Geçş Olasılıkları Matrs Blok Bootstrap Yötemleryle Tahm {, } stokastk sürec durum uzayı { } S =,,..., k, k ve geçş olasılıkları matrs P= ( p j ) ola ergodk markov zcr olsu. P( t = j t+ = ) =,, j S olması durumuda P= ( p j ) e çok olablrlk tahm edcs Pˆ = ( pˆ j ),. durumda j. duruma geçşler sayısı j ve. durumda geçşler sayısı olmak üzere k j= = j j pˆ j = j olacaktır (Basawa ad Rao 980). { ; } stokastk sürec S = {,,3} durum uzayıa sahp ve geçş olasılıkları matrs, 47

57 P= ola br markov zcr olsu (Duma 006). Bu markov zcrde, yapıla smülasyo çalışması (EK ) soucuda elde edle = 50 adım sayısıa sahp br öreklem Çzelge 4. de verlmştr. Çzelge 4. Markov zcr = 50 adım sayısıa sahp br gerçekleşmes Yukarıda elde edle ver sete at P geçş olasılıkları matrs e çok olablrlk tahm, P ˆ, ˆ = P olacaktır. 48

58 Geçş olasılıkları matrs blok bootstrap yötemler le elde edle tahmler bulmak ç zlee adımlar aşağıdak gbdr. Kolaylık açısıda l blok uzuluğu öreklem çapıı tam böle br sayı ve seçle blok sayısı k, k. l= olacak şeklde belrles. Hareketl bloklarla bootstrap yötem ç, Adım. oluştulur. B = (,..., ), N, N = l+ olacak şeklde N tae blok () + l Adım. Oluşturula bloklar arasıda yere koyarak rasgele k tae blok seçlr ve k. l= çaplı * *,,...,, HBB öreklem oluşturulur. Adım 3. B yeleme sayısı olmak üzere Adım B defa tekrarlaır ve B tae çaplı HBB öreklem elde edlr. Her br * s, s=,..., B HBB öreklem ç p = pˆ ( ) * s() j j * s değer hesaplaır. Adım 4. p ˆj ı HBB tahm, p *() B * s() j = pj B s = olacaktır. 49