Varyans Analizi. Varyans Analizi. Analysis of Variance - ANOVA. (One-Way Anova) Tek Yönlü Varyans Analizi. Varyans Analizi

Transkript

1 Varyans Analizi Analysis of Variane - ANOVA Varyans Analizi ANOVA (Varyans Analizi) çeşitli popülasyonların ortalamaları arasındaki farkları tanımlamak için kullanılan İstatistiksel metottur ANOVA değişik davranışları temsil eden popülasyonların ortalamaları arasındaki farkları belirlemek için tasarlanmıştır. ANOVA bir birleşik testtir Çeşitli sayıda popülasyonun ortalamalarının eşitliği eş zamanlı olarak ya da birlikte test edilir. ANOVA çeşitli sayıda popülasyonun ortalamalarının eşit olup olmadığını popülasyon varyansının iki tahminisine bakarak test eder. (bu nedenle, varyans analizi de denir). Varyans Analizi (One-Way Anova) Tek Yönlü Varyans Analizi Daha öneki bölümde iki grup ortalamalarının karşılaştırılmalarında t testinden yararlanılmıştı. Fakat ikiden fazla grubun ortalamalarının karşılaştırılmasında F dağılımına dayanılarak hazırlanan varyans analizlerinden yararlanılır. Üç veya daha fazla grubun ortalamaları arasındaki farkın değerlendirilmesi Examples: Vardiyalardaki kaza oranı st, nd, ve 3 rd 5 farklı lastik markasının ömrü Varsayımlar Popülasyon normal dağılıma sahip : veya MLT uygulanır Popülasyonlar eşit varyansa sahip Örnekleme rastsal ve bağımsız

2 One-Way ANOVA Hipotezi H 0 : μ = μ = μ3 = L = μ H Tüm popülasyonun ortalamaları eşit ör., no treatment effet (gruplar arası ortalamalar değişkenlik yok) :Tüm popülasyonun ortalamaları aynı değil En azından bir popülasyonun ortalaması farklı ör., there is a treatment effet Tüm popülasyonun ortalamaları birbirinden farklı olduğu anlamını çıkarmamak lazım (bazı çiftler aynı olabilir) One-Fator ANOVA H = 0 : μ = μ = μ3 = L μ H:Tüm μ i aynı değil Tüm ortalamalar eşit: H0 hipotezi doğru (No Treatment Effet) μ = = μ μ3 Neden ANOVA? Gruplar arası ortalama farklılığını analiz etmek için ikişerli gruplar halinde t testi kullanılabilir. Problem: her bir test Tip I hataya sahiptir Toplam Tip I hata ( α) k,k: eşleştirilmiş grup sayısı. Örneğin, 5 adet ortalama ve α=0.05, durumunda 0 adet ikişerli karşılaştırma yapmak gerekir. Bu nedenle, toplam Tip I hata -(.95) 0 =0.59 olaaktır. Bunun anlamı, testin % 59 da H0 (ortalamalar eşit) hipotezi reddedileektir.! One-Fator ANOVA H = 0 : μ = μ = μ3 = L μ H:Tüm μ i aynı değil En azından bir ortalama farklı: H0 hipotezi yanlış (Treatment Effet is present) veya μ = μ μ3 μ μ μ3

3 Değişkenliğin parçaları Toplam değişkenlik iki kısma bölüne bilir: SST = SSA + SSW SST = Kareler genel toplamı (Toplam değişkenlik) SSA = Gruplar arası kareler toplamı (Gruplar arası değişkenlik) SSW = Grup içi kareler toplamı (Grup içi değişkenlik) Kareler Genel Toplamı SST = SSA + SSW SST = n j j= i= ( ij ) SST = Kareler genel toplamı = grup sayısı (levels or treatments) n j = grup jdeki gözlem sayısı ij = grup jdeki i th gözlem = genel ortalama (tüm verilerin ortalaması) Değişkenliğin parçaları Toplam varyans (SST) Toplam değişkenlik SST = ( ) + ( ) (n ) Gruplar arası varyans (SSA) = + Grup içi varyans (SSW) Response, Yaygın kullanılan isimleme: Sum of Squares Between Sum of Squares Among Sum of Squares Explained Among Groups Variation Yaygın kullanılan isimleme : Sum of Squares Within Sum of Squares Error Sum of Squares Unexplained Within Groups Variation Group Group Group 3

4 Gruplar arası değişkenlik SST = SSA + SSW SSA = n ( j= j j ) SSA = gruplar arası kareler toplamı = grup yada popülasyon sayısı n j = grup j nin örnek sayısı j = grup j nin ortalaması = Genel ortalama (tüm verilerin ortalaması) SSA = n Gruplar arası değişkenlik (x x) + n(x x) n(x x) Response, Group Group Group 3 3 Gruplar arası değişkenlik SSA = n ( j= Gruplar arası farklılığa bağlı değişkenlik µ i µ j j j ) SSA MSA = Gruplar arası ortalama kareler = SSA/ serbestlik dereesi Grup içi değişkenlik SSW SST = SSA + SSW j= SSW = grup içi kareler toplamı = grup sayısı n j = grup j nin örnek sayısı j = grup j nin ortalaması ij = grup jdeki i th gözlem n j = i= ( ij j)

5 Grup içi değişkenlik Ortalama karelerin hesabı SSW j= n j = i= Her grup içerisindeki değişkenlik belirlenip tümünü toplanır µ i ( ij j ) SSW MSW = n Grup içi ortalama kareler = SSW/serbestlik dereesi SSA MSA = SSW MSW = n SST MST = n Grup içi değişkenlik One-Way ANOVA Tablosu SSW = (x ) + ( ) ( n ) Response, 3 Değişkenliğin kaynakları Among Groups Within Groups Grup içi SS df MS (Varyans) Gruplar arası SSA - MSA = SSA - SSW n - SSW MSW = n - Total Toplam SST = SSA+SSW n - F oranı MSA F = MSW Group Group Group 3 = grup sayısı n = toplam örnek sayısı (tüm gruplar) df = serbestlik dereesi

6 One-Fator ANOVA -F Testi H 0 : μ = μ = = μ H : tüm ortalamalar aynı değil Test istatistiği Serbestlik dereesi F = MSA : gruplar arası kareler ortalaması MSW : grup içi kareler ortalaması df = ( = grup sayısı) MSA MSW df = n (n = tüm grupların örnek sayılarının toplamı) Örnek: ANOVA A study ompared the felt intensity of unrequited love among three groups: individuals who were urrently experiening unrequited love, individuals who had previously experiened unrequited love and desribed their experienes retrospetively, and individuals who had never experiened unrequited love but desribed how they thought they would feel if they were to experiene it. Determine the signifiane of the differene among groups, using the.05 level of signifiane. Hiç Geçmişte Şuan Kural: One-Fator ANOVA F istatistiğinin yorumu F = Oran her zaman pozitif df = - genelde küçük df = n - genelde büyük eğer F > F k,h 0 Ret diğer durumlarda H 0 kabul MSA MSW 0 H 0 Kabul α =.05 H 0 Ret Araştırma hipotezi. Örnek: ANOVA Kişilerin karşılıksız aşk konusundaki hisleri; şu anda karşılıksız aşk yaşıyor olmaları, geçmişte karşılıksız aşk yaşamış olmaları ve hiç karşılıksız aşk yaşamamış olmaları durumunda farlılık gösterir mi? İstatistiksel hipotez. H H : m = m = m 0 3 A :H yanlış. 0 F k

7 Serbestlik dereesi Gruplar arası: df = grup sayısı - Grup içi: df = n - + n - + n df = Toplam eleman sayısı - toplam grup sayısı Örnek: ANOVA Örnek: ANOVA Karar kuralı. a = 0.05 df = grup sayısı - = 3- = df = ( n - ) + ( n - ) + ( n - ) = (4- ) + (4- ) + (4- ) = 9 3 Karar kuralı. a = 0.05 df df k = = 9 F = 4.6 Tablo değeri

8 Örnek: ANOVA Örnek: ANOVA Test değerinin hesaplanması. Hiç T: Geçmişte 8 9 T: Şuan T: T SS Genel Toplam: 04 w =S -S n Ø ø SS w = Œ + + = 964- [ ] = œ º ß MS F = MS MS MS A W A W SSA 4.67 = = =.34 df SSW 0 = = =. df 9 MS A.34 F = = = 9.6 MS. W Örnek: ANOVA Test değerinin hesaplanması. Hiç T:4 SS A T G =S - n N Geçmişte 8 9 T:40 Genel Toplam: (04) SS A = = = Şuan T: Örnek: ANOVA Bulunan sonuun önemliliğini test et. Ret H0, 9.6>4.6 (F test >F k ) Sonuu yorumla. Karşılıksız aşk konusunda hissedilen düşünelerde gruplar arasında önemli farklılıklar mevuttur (yaşanan terübeler fark yaratır). ANOVA özet tablosu Soure (Kaynaklar) df SS MS F Between Groups (G. arası) Within Groups (G. içi) 9 0. Total (Toplam) 6.67

9 RGui-One WayAnova y<-(7, 6,5,6) x<-(,8,9,) z<-(8, 0,,0) ask<-data.frame(bind(y, x, z)) ask attah(ask) dats <- stak(ask) names(dats) <- ("Puan", "Terübe") dats ask.aov<- aov(puan~terübe, dats) summary(ask.aov) y x z Df Sum Sq Mean Sq F value Pr(>F) Terübe (GA) ** Residuals (Gİ) Signif. odes: 0 '***' 0.00 '**' 0.0 '*' 0.05 '.' 0. ' ' Puan Terübe 7 y 6 y 3 5 y 4 6 y 5 x 6 8 x 7 9 x 8 x 9 8 z 0 0 z z 0 z One-Fator ANOVA Örnek: Satter Diagram Club Club Club x = 49. x = 6.0 x3 x = 7.0 = 05.8 Mesafe Club (sopa) 3 One-Fator ANOVA F Testi Örnek You want to see if three different golf lubs yield different distanes. You randomly selet five measurements from trials on an automated driving mahine for eah lub. At the.05 signifiane level, is there a differene in mean distane? Club Club Club One-Fator ANOVA Örnek Hesaplama Club Club Club = 49. = = 05.8 = 7.0 n = 5 n = 5 n 3 = 5 n = 5 = 3 SSA = 5 (49. 7) + 5 (6 7) + 5 (05.8 7) = SSW = (54 49.) + (63 49.) + + ( ) = 9.6 MSA = / (3-) = 358. MSW = 9.6 / (5-3) = F = =

10 One-Fator ANOVA Örnek Çözüm F testinden sonra 0 H 0 : μ = μ = μ 3 H : μ i eşit değil α =.05 df = df = H 0 kabul Kritik değer: F k = 3.89 α =.05 Ret H 0 F k = 3.89 F= 5.75 Test İstatistiği: MSA 358. F = = = 5.75 MSW 93.3 Karar: Ret H 0.05 Sonuç: En az bir μ i nın diğerlerinden farklı olduğu konusunda kanıtlar var F testinin sonuu gruplar arasında farkın önemli olduğunu ortaya koyduğunda; hangi gruplar arasında fark olduğunu belirlemek için ilave testler yapılabilir. Bu testlerle ikili gruplar arası kıyaslamalar yaparak hangi gruplar arası farkın önemli olduğu belirlenmeye çalışılır. SUMMARY Total Groups Club Club Club 3 ANOVA Soure of Variation Between Groups Within Groups ANOVA - Single Fator: Exel Çıktısı ECEL: tools data analysis ANOVA: single fator Count SS Sum df 4 Average MS Variane 08. F P-değeri 4.99E-05 F k 3.89 Tukey-Kramer Yöntemi Hangi kitle ortalamasında anlamlı bir fark olduğunu belirtir. Ör.: μ = μ μ 3 ANOVA da H0 reddedildikten sonra yapılır Eşleştirilmiş kıyaslamalara izin verir Ortalama farklarının mutlak değerinin kritik bölge ile kıyaslamasını yapar μ = μ μ 3 x

11 Tukey-Kramer Yöntemi: Örnek PHStat ile Tukey-Kramer testi Club Club Club Ortalama farkların mutlak değerlerini kıyasla: x x x x x 3 x. Tablodan = 3, n = 5 3 = serbestlik dereesi için istenilen α (α =.05) anlamlılık düzeyinde Q U bul. Q U = 3.77 ANOVA çıktısından MSW (Gİ) bul. 3 = = 3. = = 43.4 = = 0. The Tukey-Kramer Proedure: Example 3. Kritik bölgeyi belirle: MSW 93.3 Kritik bölge= QU + = = 6.85 Łn j nj' ł Ł5 5ł 5. Ortalama farkların mutlak değerlerinin hepsi kritik değerden büyük. Bu nedenle %5 anlamlılık düzeyinde her eşleşme için anlamlı bir fark mevuttur. 4. Kıyasla: x x x x x 3 x 3 (ontinued) = 3. = 43.4 = 0. Örnek Rasgele seçilen müşteri gruplarına ayrı çeşitlerde kahve ikram edilmiş ve içtikleri kahveye 0 ile 00 arasında bir not vermeleri istenmiştir: kişiye sade Brezilya Kahvesi, 0 kişiye sade Kolombiya Kahvesi ve kişiye sade Afrika Kahvesi ikram edilmiştir. Sonuç test istatistiği F =.0 bulunmuştur.

12 İki Yönlü Varyans Analizi Bir iki yönlü ANOVA da, iki faktörün etkileri eşanlı olarak inelenebilir. İki yönlü ANOVA aynı zamanda, her faktörün tek başına ve iki faktörün bir arada etkilerinin inelenmesine imkan vermektedir. Popülasyon ortalaması üzerindeki her faktörün tek başına olduğu düzeylere bağlanabileek etkiye temel etki denir. İki faktör arasındaki etkileşim etkisi herhangi iki faktör çiftinin toplam etkisi iki temel etkinin toplamından önemli ölçüde farklılaştığında ortaya çıkar. Etkileşimde bulunmayan faktörler toplanabilir olarak adlandırılır. İki yönlü ANOVA ile evaplanabileek üç soru: A faktörünün herhangi bir temel etkisi var mı? B faktörünün herhangi bir temel etkisi var mı? A ve B faktörleri arasında herhangi bir etkileşim var mı? Örneğin, tatililerin oyları üzerindeki etkileri beş farklı resort(faktör A)a ve dört değişik resort niteliği(faktör B) bakarak araştırabiliriz. Beş A faktörü temel düzeyi ve 4 B faktörü temel düzeyine ek olarak (5*4=0) etkileşim düzeyi bulunmaktadır. Two-Way ANOVA Değişkenliğin kaynakları İlgilenilen iki faktör: A ve B r = A faktöründeki seviye sayısı = B faktöründeki seviye sayısı n = etkileşim sayısı (number of repliations for eah ell) n = tüm örnek sayılarının toplamı ijk = A faktörünün i seviyesindeki ve B faktörünün j seviyesindeki k th gözleminin değeri Varsayımlar Two-Way ANOVA Popülasyon normal dağılıma sahip : veya MLT uygulanır Popülasyonlar eşit varyansa sahip Örnekleme rastsal ve bağımsız SST Total Variation Two-Way ANOVA Soures of Variation SST = SSA + SSB + SSAB + SSE SSA A Faktörünün değişkenliği SSB B Faktörünün değişkenliği Serbestlik dereesi: r n - SSAB A ve B nin etkileşimi sonuu oluşan değişkenlik SSE Rastsal değişkenlik (Hata) (r )( ) r(n )

13 Two Fator ANOVA Eşitlikler Toplam değişkenlik: A faktörünün değişkenliği: SST = B faktörünün değişkenliği : r n i= j= k= SSA = n ( r i= SSB = rn ( j= (ijk ) i.. ). j. ) Two Fator ANOVA Eşitlikler n r n i= j= k= ijk = = Genel ortalama rn ijk j= k= th i.. A faktörünün i seviyesindeki ortalaması = = n (i =,,..., r) r n ijk i= k= th. j. = = B faktörünün j seviyesindeki ortalaması ij. rn (j =,,..., ) n ijk = = ij hüresinin ortalaması n k= r = A faktöründeki seviye sayısı = B faktöründeki seviye sayısı n = etkileşim sayısı Two Fator ANOVA Eşitlikler Etkileşim değişkenliği: Hata kareler toplamı: r SSAB n ( + = i= j= SSE ij. i... j. ) = r i= j= n k= (ijk ij. ) Ortalama karelerin hesabı SSA MSA = A faktörü için ortalama kareler = r - SSB MSB = B faktörü için ortalama kareler = - SSAB MSAB = Etkileşim için ortalama kareler = ( r-)( -) SSE MSE = Hata kareleri ortalaması = r( n' -)

14 Two-Way ANOVA: F Testi İstatistiği Two-Way ANOVA Özet Tablo (With Repliation) H 0 : μ.. = μ.. = μ 3.. = H : tüm μ i.. Eşit değil H 0 : μ.. = μ.. = μ.3. = H : tüm μ i. Eşit değil H 0 : A ve B etkileşim sıfıra eşit H : A ve B etkileşim sıfırdan farklı A faktörü etkisi için F Testi MSA F = MSE B faktörü etkisi için F Testi MSB F = MSE Etkileşim etkisi için F Testi MSAB F = MSE Ret H 0 eğer F > F k Ret H 0 eğer F > F k Ret H 0 eğer F > F k Soure of Variation Fator A Fator B AB (Interation) Error Total Sum of Squares SSA SSB SSAB SSE SST Degrees of Freedom r (r )( ) r(n ) n Mean Squares MSA = SSA/(r ) MSB = SSB/( ) MSAB = SSAB/ (r )( ) MSE = SSE/r(n ) F Statisti MSA MSE MSB MSE MSAB MSE Two-Way ANOVA Özet Tablo (Without Repliation) Two-Way ANOVA F Testinin özellikleri Soure of Variation Rows Fator A Degrees of Freedom r Sum of Square s SSA Mean Squares MSA F Statisti MSA/ MSE p-value f (F A ) Serbestlik dereesi n- = r(n -) + (r-) + (-) + (r-)(-) Toplam = hata + A faktörü + B faktörü + etkileşim FTestinde payda her zaman aynı pay farklıdır. Columns Fator B SSB MSB MSB/ MSE f (F B ) Kareler toplamı (her zaman) SST = SSE + SSA + SSB + SSAB Error (r-)(-) SSE MSE Toplam = hata + A faktörü + B faktörü + etkileşim Total r SST

15 Örnek: Etkileşim vs. Etkileşimsizlik Anova Özet Tablo Etkileşim yok : Etkileşim mevut: Soure of Variation Degrees of Freedom Sum of Squares Mean Square F P-Value Ortalama tepki Fator B Level Fator B Level 3 Fator B Level Ortalama tepki Fator B Level Fator B Level Fator B Level 3 Rows (Boxes) Columns (Mahines) 5 - = = Fator A Levels Fator A Levels Error (5-)(3-) = Total (3 5)- = Two-Fator ANOVA Without Repliation Two-Fator ANOVA With Repliation Üretim müdürü tesiste kullanılmakta olan üç makine ile doldurulmakta olan 5 farklı kutunun 0.05 anlamlılık düzeyinde makineler arası ve kutular arası ortalama doldurma zamanları arası fark var mıdır? Box Mahine Mahine Mahine As prodution manager, you want to see if 3 filling mahines have different mean filling times when used with 5 types of boxes. At the.05 level, is there a differene in mahines, in boxes? Is there an interation? Box Mahine Mahine Mahine

16 Soure of Variation Sample (Boxes) Columns (Mahines) Degrees of Freedom Summary Table Sum of Squares Mean Square 5 - = = F P-Value E-09 Tukey-Kramer Yöntemi: With Repliation Fator B kritik bölge = Q. Formülle hesaplanır r, ( n' -). ANOVA çıktısından MSW (Gİ) MSW rn' 3. a =.05 veya.0 anlamlılık düzeyi için tablodan Q Interation (5-)(3-) = 8 Within (Error) 5 3 (-)= : B deki seviye sayısı r : A daki seviye sayısı n : etkileşim sayısı r(n -) (down the table) Total = Tukey-Kramer Yöntemi: With Repliation Fator A COPE Oranı ve Etkileşim kritik bölge = Q rr, ( n' -). Formülle hesaplanır. ANOVA çıktısından MSW (Gİ) MSW n' COPE oranı melisteki oy oranı. Yüksek COPE oranı bir şeye karşı oy oranı Her gözlem melisin bir üyesi. 3. a =.05 veya.0 anlamlılık düzeyi için tablodan Q r : A daki seviye sayısı : B deki seviye sayısı n : etkileşim sayısı r(n -) (down the table)

17 COPE Oranı ve Etkileşim COPE Oranı ve Etkileşim COPE oranının siyasi parti ve bölgeye bağlı değişkenliğinin belirlenmesi Parti ve Bölge arası etkileşimin testi. İki değişkenin olduğunu varsayalım: PARTİ & BÖLGE Two Way ANOVA: Hipotezler COPE Oranı ve Etkileşim H 0 : her partinin Ortalama Cope oranı eşit H : tüm m i. Eşit değil H 0 : her bölgenin ortalama ope oranı eşit H : Tüm m i eşit değil H 0 : partinin etkisi bölgeye bağlı değil (veya tersi) H :partinin etkisi bölgeye bağlı (veya tersi)

18 Anova: Two-Fator With Repliation Exel Çıktısı Bölge Etkisi Anova: Two-Fator With Repliation SUMMARY Demorat Republian Total North Count Sum Average Variane South Count Sum Average Variane West Count Sum Average Variane Parti Etkisi Genel toplam Hata Etkileşim Etkisi Graph of Interation Effets ANOVA in Mirobiology P<α (0.05) olduğu için H0 reddedilir. Gıda hazırlama esnasında kullanılan temizlik bezinin türü ve bezin durulanıp durulanmaması gıdaya geçen bakteri miktarını etkilemektedir.