Korelasyon analizi. Korelasyon analizinin niteliği. Sınava hazırlanma süresi ile sınavdan alınan başarı arasında ilişki var mıdır?

Transkript

1 Korelasyon analz Korelasyon analz Sınava hazırlanma süres le sınavdan alınan başarı arasında lşk var mıdır? q N sayıda öğrencnn sınava hazırlanma süreler le sınavdan aldıkları puanlar tespt edlr. Reklam harcaması le satış mktarı arasında lşk var mıdır? q N sayıda frmanın reklam harcaması le satış mktarları tespt edlr. Korelasyon analz Korelasyon analznn ntelğ Derslerde km öğrencler çok hızlı öğrenrken kmler başarısız oluyor? q Neden? sorusu korelasyon araştırmasına götürür. İk veya daha fazla değşken etklemeye dönük br müdahalede bulunmadan aralarındak lşky saptama. Deneysel araştırmanın aksne, korelasyon araştırmasında değşkenler üzernde br manpülasyon olmaz.

2 Korelasyon analznn ntelğ Poztf Lneer Korelasyon Değşkenler arasındak mevcut lşky betmledğ çn betmleyc araştırmadır. Br korelasyon katsayısı bularak aradak lşky betmlerz. Korelasyon katsayısı Korelasyon katsayısı() Korelasyon katsayısının poztf çıkması beklenen durumlar: q Reklam harcaması Satış mktarı q Gelr Ödenen kra q Dekar başına atılan gübre mktarı Alınan verm Korelasyon katsayısının negatf çıkması beklenen durumlar: q Günlük çlen sgara sayısı koşulablen mesafe

3 Negatf Lneer Korelasyon Doğrusal Korelasyon oktur Korelasyon katsayısı(3) Korelasyon analznn amaçları Korelasyon katsayısının sıfır çıkması beklenen durumlar: q Öğrencnn derslerndek başarısı le ayakkabı numarası arasındak korelasyon Temel k amacı vardır: ) Değşkenler arası lşknn açıklanmasına yardımcı olmak ) Benzer sonuçları önceden tahmn etmek

4 Açıklayıcı çalışmalar Değşkenler arasındak lşky açıklamayı amaçlar. Sebep ve etk hakkında ver toplamaya çalışır. Korelasyon analznn temel aşamaları (Problem seçm) Genelde 3 tp probleme yoğunlaşılır. değşken değşkenyle lşkl mdr?. değşken değşkenn ne derece tahmn eder? 3. Değşkenler arasındak lşkler nelerdr ve bunlara dayanarak hang kestrmlerde bulunulablr? Tahmn çalışmaları Korelasyon katsayısı Eğer değşkenler arasında tatmn edc büyüklükte br lşk varsa, blnen değşkenn değernden blnmeyen kestrleblr. İk değşken arasındak doğrusal lşknn derecesn ölçen br değer olup - le + arasında değşr. r nn - e yakın olması, bu değşkenler arasında çok güçlü br negatf doğrusal lşk olduğunu, + e yakın olması da çok güçlü poztf doğrusal lşk olduğunu şaret eder. Mutlak değer olarak r nn 0.7 den büyük olması doğrusal lşknn güçlü olduğu şeklnde br yorum yapmamıza olanak verr.

5 Korelasyon Katsayısı Korelasyon (x, y) örneklern orta noktası r = nsxy (Sx)(Sy) n(sx ) (Sx) n(sy ) (Sy) r = Σ (x -x) (y -y) (n -) Sx S y Korelasyon Katsayısı r nn hesaplanması Ver x 3 5 y r = r = nsxy (Sx)(Sy) n(sx ) (Sx) n(sy ) (Sy) 4(48) (0)(0) 4(36) (0) 4(0) (0) Bast Regresyon Analz Smple Lnear Regresson 8 r = =

6 Korelasyon vs. Regresyon Regresyon Analz k değşken arasındak lşky göstermek çn Scatter plot kullanılablr. Korelasyon analz k değşken arasındak (lneer) lşknn gücünü ölçmek çn kullanılır. Korelasyon sadece lşknn gücü le alakalıdır. Korelasyon nedensellk hakkında br şey fade etmez Regresyon analznde temel düşünce, br bağımlı değşkenn br yada brden fazla açıklayıcı değşkene statstksel bağımlılığını belrlemektr. Amacı: açıklayıcı değşkenlern blnen yada değşmeyen değerlerne dayanarak bağımlı değşkenn ortalama değern tahmn etmektr. Başarısı: uygun vernn bulunablmesne bağlıdır. Regresyon ve Nedensellk Regresyon Analz İstatstksel br lşk, ne denl güçlü, ne denl anlamlı olursa olsun, hçbr zaman nedensel br lşk olamaz; bzm nedensellk düşüncelermz statstk dışından, sonuçta, şu yada bu, br kuramdan gelmeldr. İstatstksel br lşknn kend başına br nedensellk anlamı taşımadığına dkkat edlmeldr. Br nedensellk bulmak çn kuramsal düşüncelere başvurulmalıdır. Regresyon Analz : Bağımlı değşkenn değern en azından br bağımsız değşkenn değerne bağlı olarak tahmn eder. Bağımsız değşkende meydana gelen değşmlern bağımlı değşkende meydana getrdğ etkler açıklar. Bağımlı değşken: açıklamak stedğmz değşken Bağımsız değşken: bağımlı değşken açıklamakta kullanılan değşken

7 Bast Lneer Regresyon Model İlşk türler (devam) Sadece br tek bağımsız değşken, ve arasındak lşk lneer br fonksyonla tanımlanmış Güçlü lşk Zayıf lşk dek değşme dek değşmn neden olduğu varsayılmakta Lneer lşk İlşk türler Eğrsel lşk İlşk türler İlşk yok (devam)

8 Popülasyon Lneer Regresyon Eştlğ Bast Doğrusal Regresyon Model Popülasyon regresyon model: Bağımlı değşken Popülasyon kesm noktası = β + β + 0 Popülasyon eğm katsayısı Bağımsız değşken ε Rastsal hata, yada resdual Bast Doğrusal Regresyon Model y = β 0 + β x + ε Bast Doğrusal Regresyon Denklem E(y) = β 0 + β x Tahmn Bast Doğrusal Regresyon Denklem ^ y = b 0 + b x Lneer kısım Rastsal hata kısmı Örnek Lneer Regresyon Eştlğ Bast lneer regresyon eştlğ popülasyon regresyon çzgsnn tahmn edlmesn sağlar Tahmn edlen Ŷ = b + b Tahmn edlen Regresyon kesm noktası 0 Tahmn edlen regresyon eğm değer En Küçük Kareler Metodu En Küçük Kareler Krter ˆ mn (y - y ) Burada : y = Bağımlı değşkenn.nnc gözlemsel değer ^ y = Bağımlı değşkenn.nnc gözlemsel değer çn tahmn eğer e hata term sıfır ortalamaya sahp

9 Mnmum Kareler Metodu Tahmn Regresyon denklem çn Eğm b = xy ( x y )/ n ( ) / x x n Tahmn Regresyon denklem çn sabt term ( Doğrunun y-eksenn kestğ noktanın başlangıç noktasına uzaklığı) b = y- b x 0 _ x =. Gözlem çn bağımsız değşkenn değer _ y =. Gözlem çn bağımlı değşken değer x = bağımsız değşken çn ortalama değer y = bağımlı değşken çn ortalama değer n = gözlemlern toplam sayısı Bast Lneer Regresyon Örnek Emlakcı evn büyüklüğü ve satış fyatı arasındak lşky araştırmak stemektedr 0 ev rasgele seçlmştr Bağımlı değşken () = ev satış fyatı $000 Bağımsız değşken () = evn büyüklüğü ft En Küçük Karelern Bulunması Least Squares Equaton Evn fyat model çn örnek ver b 0 ve b, ve dğer regresyon sonuçlarını herhang br statstk programı le kolayca hesaplamak mümkündür Evn fyatı $000s () Büyüklük ()

10 Grafk sunumu Excel Çıktısı Evn fyatı ($000s) Evn fyat model: scatter plot Evn büyüklüğü (ft) Regresson Statstcs Multple R 0.76 R Square Adjusted R Square Standard Error Observatons 0 ANOVA df Regresson Resdual 8 Total 9 Coeffcents Intercept Square Feet Regresyon eştlğ: Evn Fyatı = (evn büyüklüğü) SS Standard Error MS t Stat F.0848 P-value Sgnfcance F Lower 95% Upper 95% Excel le regresyon analz Tools / Data Analyss / Regresson Grafk gösterm Evn fyat model: scatter plot and regresson lne Kesm noktası = House Prce ($000s) Square Feet Eğm = Evn Fyatı = (evn büyüklüğü)

11 Kesm noktası, b 0 ın yorumu evn fyatı = (evn büyüklüğü) b 0 n sıfır olduğu durumda nn ortalama değernn tahmndr. (Eğer = 0 gözlemlenen değer aralığında se) Bu örnekte hçbr ev 0 ft olmadığı çn b 0 = sadece gözlemlenen aralıktak (büyüklüktek) evler çn, evn büyüklüğü le açıklanmayan kısmını belrtr Regresyon analz le tahmn 000 ft br evn fyat tahmn: evn fyatı (ft ) = + = (000) = ft büyüklüğündek br evn tahmn fyatı 37.85($,000) = $37,850 Eğm katsayısı, b n yorumu evn fyatı = (evn büyüklüğü) Ara değer bulma vs. Blnmeyene ulaşma Regresyon model tahmnde kullanılacağı zaman sadece kullanılan vernn geçerl olduğu aralıkta kullanılmalıdır. b n br brm değşmes durumunda nn ortalama değerndek değşm ölçüsünü tahmn eder Burada, b = değer, ev büyüklüğünün br ft artması durumunda ortalama ev fyatında meydana gelecek artış ($000) = $09.77 olacağını belrtr Ev fyatı ($000s) İnterpolasyon çn geçerl aralık Ev büyüklüğü (ft) n geçerl aralığı dışında extrapolasyon çn kullanılmamalıdır

12 Kareler toplamı SST, SSR, SSE arasındak lşk (Toplam sapma) = (Açıklanan sapma) + (açıklanamayan sapma) SST = SSR + SSE ( y y) = ( yˆ y) + ( y yˆ) SST = Ortalamadan ayrılışların karelernn toplamı (toplam değşkenlk ölçüsü) SSR = regresyona dayalı kareler toplamı SSE = hataya dayalı kareler toplamı Regresson Statstcs Multple R 0.76 R Square Adjusted R Square Standard Error Observatons 0 ANOVA df Regresson Resdual 8 Total 9 Coeffcents Intercept Square Feet Excel Çıktısı SS Standard Error SSR r = = = SST MS t Stat Ev fyatındak değşkenlğn % evn büyüklüğündek değşmle açıklanmıştır F.0848 P-value Sgnfcance F Lower 95% Upper 95% Determnasyon katsayısı, r Determnasyon katsayısı bağımlı değşkendek değşkenlğn bağımsız değşkenn değşkenlğyle açıklanan kısmını fade etmektedr Determnasyon katsayısı r-squared (r )olarak anılmaktadır SSR regresyon kareler toplamı r = = SST genel kareler toplamı not: 0 r Tahmnn Standart Hatası Regresyon doğrusu etrafındak gözlemlern değşkenlğ (standart sapması- standart hata) Burada S = SSE = n n = ( Ŷ ) n SSE = hatanın kareler toplamı n = örnek sayısı

13 Excel Çıktısı Regresyon Varsayımları Regresson Statstcs Multple R 0.76 R Square Adjusted R Square Standard Error Observatons 0 S = Hatanın normallğ Hata değerler (ε) n herhang br verlen değer çn normal dağılım gösterr (normal olasılık dağılım çzm le gösterleblnr) ANOVA Regresson Resdual Total Intercept Square Feet df 8 9 Coeffcents SS Standard Error MS t Stat F.0848 P-value Sgnfcance F Lower 95% Upper 95% Sabt varyans Hatanın olasılık dağılımı sabt varyans göstermeldr (scatter plot le kolayca belrlenr) Hatanın bağımsızlığı Hata değerler statstksel olarak bağımsız olmalıdır (scatter plot tan görüleblr) Standart hatanın kıyaslaması S regresyon doğrusundan gözlemlenen değerlerndek değşkenlğn ölçüsü Hatanın Normallğ Normal Probablty Plot of the Resduals (response s ) 80 Küçük s Büyük s Percent S nn büyüklüğü her zaman nn görecel büyüklüğü le kıyaslanmalıdır.e., S = $4.33K evn fyat aralığı $00 - $300K göre görecel olarak küçüktür Resdual 50 00

14 Doğrusallığın analz Bağımsızlık çn Resdual Analz Bağımsız değl Bağımsız resduals Doğrusal değl x x resduals Doğrusal x x resduals resduals resduals Sabt varyans çn Resdual analz (Homoscedastcty) Excel Resdual Çıktısı resduals Varyans sabt değl x x resduals Sabt varyans x x RESIDUAL OUTPUT Tahmn edlen ev fyatı Resduals Resduals House Prce Model Resdual Plot Square Feet Regresyon varsayımlarını hlal eden br durum gözükmemektedr

15 Oto-korelasyonun Ölçümü (Autocorrelaton): Durbn-Watson statstğ Ver zaman sers şeklnde olduğunda otokorelasyonunun mevcudyetn belrlemek çn kullanılır. Durbn-Watson Test Oto-korelasyon çn Durbn-Watson test kullanılır H 0 : hatalar arasında korelasyon yoktur H : oto-korelasyon mevcut Eğer her hang br zaman dlmndek hata dğer zaman dlmndek br hata le lşkl se Oto-korelasyon mevcuttur. D n = = n (e e = e ) alableceğ aralık s 0 D 4 eğer H 0 doğru se D ye yakın olmalı D < poztf oto-korelasyonu şaret eder, D > negatf oto-korelasyonu şaret eder Oto-korelasyon - Autocorrelaton Oto-korelasyon zaman çersnde hatalar (resduals) arası korelasyondur. Burada, resduals peryodk br yapı göstermektedr ve rastsal değldr. Resduals Tme (t) Resdual Plot Zaman (t) Hatanın rastsal ve bağımsız olduğu regresyon varsayımını hlal etmektedr Poztf oto-korelasyon test H 0 : poztf oto-korelasyon mevcut değl H : poztf oto-korelasyon mevcut Durbn-Watson test değern hesapla = D (Durbn-Watson regresyon opsyonunda seçlerek hesaplattırılablr. Durbn-Watson tablosundan d L değern bul (n: örnek sayısı ve k: bağımsız değşken) Karar: H 0 ret eğer D < d L Ret H 0 etersz H 0 reddedlmez 0 d L d U

16 Örnek boyutu n = 5: Excel/PHStat output: Durbn-Watson Calculatons 80 y = x Sum of Squared Dfference of Resduals Sum of Squared Resduals Durbn-Watson Statstc Poztf oto-korelasyon test (devam) Sales R = Tme Poztf oto-korelasyon test (contnued) Burada, n = 5 örnek ve k = bağımsız değşken var Durbn-Watson tablosundan, d L =.9 D = < d L =.9, H 0 reddedlr öneml derecede poztf oto-korelasyonun mevcuttur Bu nedenle doğrusal satış tahmnde kullanmak çn uygun br model değldr Karar: ret H 0 D = n = (e e n = e ) = = D = < d L Ret H 0 yetersz H 0 reddedlmez 0 d L =.9 d U =.45 Durbn-Watson tablosu t Eğm hakkında çıkarımlar: Anlamlılık test: t Test Popülasyon eğm çn t test ve arasında doğrusal br lşk var mı? Boş ve alternatf hpotez H 0 : β = 0 (doğrusal br lşk yok) H : β 0 (doğrusal lşk mevcut) Test statstg b β = S b d.f. = n Burada: b = regresyon eğm katsayısı β = eğm hpotez S b = eğmn standart hatası

17 House Prce n $000s Eğm hakkında çıkarımlar: t Test (devam) Square Feet (x) (y) ev fyatı = (sq.ft.) Tahmn edlen regresyon eştlğ: Modeldek eğm =0.098 Evn büyüklüğü satış fyatını etkler m? H 0 : β = 0 H : β 0 d.f. = 0- = 8 α/=.05 RetH 0 Inferences about the Slope: ttest Example H 0 reddedlmez 0 Test statstğ: t = 3.39 Excel çıktısı: Intercept Square Feet α/=.05 Ret H Coeffcents b Standard Error (devam) t Stat Karar: Reject H 0 at α=.05 Sonuç: Evn büyüklüğünün satış fyatını etkledğ konusunda yeternce bulgu mevcuttur. p P-value Eğm hakkında çıkarımlar: t Test örneğ Anlamlılık Test: F Test H 0 : β = 0 H : β 0 b β t = S Excel çıktısından: Intercept Square Feet b df = n = 8 Coeffcents tals b Standard Error = = t Stat P-value Hpotez Test İstatstğ Reddetme Kuralı H 0 : β = 0 H a : β 0 F = MSR/MSE H 0 reddet eğer F > F α F α, F nn serbestlk dereceler, pay çn, payda çn se (n-) dr F ; n-. TDIST( , 8, ) =

18 F Dağılımı Eğm çn güven aralığı hesabı Eğm çn güven aralığı hesabı : β = b ± tn S b d.f. = n - n- Ev fyatı çn Excel Çıktısı: Coeffcents Standard Error t Stat P-value Lower 95% Upper 95% Intercept Square Feet % güven düzeynde, eğm çn güven aralığı Β: (0.0337, 0.858) F Test: Ev fyatı Örneğ Hpotez H 0 : β = 0 H a : β 0 Reddetme Kuralı α = 0.05 ve d.f. = ; 8 çn: F.05 = 5.3 H 0 reddet eğer F > 5.3. Test İstatstğ F = MSR/MSE = 8935/708 =.09 Sonuç H 0 yu reddedeblrz. Intercept Square Feet Eğm çn güven aralığı hesabı (devam) Coeffcents Standard Error t Stat P-value Lower 95% Evn satış fyat brm $000 olduğundan, 95% güvenle evn brm büyüklüğünün satış fyatı üzerne ortalama etksnn $33.70 ve $85.80 arasında olduğunu söyleyeblrz 95% güven aralığı 0 ı çermemektedr. Sonuç: =.05 anlamlılık düzeynde ev fyatı ve büyüklüğü arasında öneml br lşk mevcuttur. Upper 95%

19 Ortalama çn Güven aralığı ( n ortalaması çn) Verlen br değer çn nn ortalama değernn güven aralığı Güven aralığı μ : n = ˆ ± t S h Aralığın boyutu n ortalaması le olan mesafesne göre değşr Ortalama çn güven aralığı hesabı Örnek Güven aralığı μ =,000 ft evn ortalama fyatı çn 95% güven aralığını hesapla Tahmn fyat = ($,000s) ( ) Ŷ ± tn -S + = ± 37. n ( ) h = ( ) + n SS = n + ( ) ( ) Güven aralığı , yada $80, $354,900 Ortalama çn Güven aralığı (, herhang br değer çn) Verlen br değer çn değernn güven aralığı güven aralığı : n = ˆ± t S + h Herhang br değer çn güven aralığı hesabı : Örnek Güven Aralığı tahmn =,000 ft br ev çn 95% güven aralığı nedr? Tahmn fyat = ($,000s) ( ) Ŷ ± tn -S + + = ± 0.8 n ( ) Güven aralığı , yada $5, $40,070

20 Güven Aralığı SPSS Çıktısı Actual by Predcted Plot y Actual y Predcted P=0,004 RSq=0,58 RMSE=4,33 Ev Fyatı Ev Satış Fyatı Tahmn Ev Büyüklüğü Model Model (Constant) a. Dependent Varable: Regresson Resdual Total a. Predctors: (Constant), b. Dependent Varable: Model Unstandardzed Coeffcents ANOVA b Coeffcents a Standardzed Coeffcents 95% Confdence Interval for B t Sg. Lower Bound Upper Bound B Std. Error Beta 98,48 58,033,693,9-35,577 3,074,0,033,76 3,39,00,034,86 Sum of Squares df Mean Square F Sg. 8934, ,935,085,00 a 3665, , ,500 9 Model Summary b Adjusted Std. Error of Durbn- R R Square R Square the Estmate Watson,76 a,58,58 4,330 3, a. Predctors: (Constant), b. Dependent Varable: Mntab Çıktısı RegressonAnalyss: versus The regresson equaton s = 98, + 0,0 Predctor Coef SE Coef T P Constant 98,5 58,03,69 0,9 0,0977 0,0397 3,33 0,00 S = 4,3303 R-Sq = 58,% R-Sq(adj) = 5,8% Analyss of Varance Source DF SS MS F P Regresson ,08 0,00 Resdual Error Total Durbn-Watson statstc = 3,66 Rgu-Lneer Regresyon analz y<-c(45,3,79,308,99,9,405,34,39,55) x<-c(400,600,700,875,00,550,350,450,45,700) Ev<-data.frame(cbnd(y, x)) Ev attach(ev) mod<-lm(y~x) summary(mod) anova(mod) plot(x, y, xlab= Ev Büyüklüğü, ylab= Ev Fyatı ) ttle( Ev Satış Fyatı Tahmn ) ablne(lm(y~x), col="green", lwd=) mod.hat<-lm.nfluence(mod)$hat #hatayı hesaplar. mod.res<- mod$resduals #resduals. mod.sres<- mod.res/sqrt(devance(mod)*(- mod.hat)/ mod$df) plot(x, mod.sres) #standart resduals summary(mod.sres) qqnorm(mod.sres) #normallk analz qqlne(mod.sres) #normallk analz ablne(0, 0, col="green", lwd=) plot(mod$ftted, mod.sres) Ver grş Lneer regresyon Grafk Resduals Hata analz

21 Rgu-güven aralığı çzm Resduals-Regresyon Hatası lbrary(sfsmsc) plot(x, y, xlab= Ev Büyüklüğü, ylab= Ev Fyatı ) ttle( Ev Satış Fyatı Tahmn ) ablne(lm(y~x), col="green", lwd=) lneshyperb.lm(mod, c.prob=0.95, conf=true, col="red") Ev Fyatı Ev Satış Fyatı Tahmn Ev Büyüklüğü Sample Quantles Normal Q-Q Plot Theoretcal Quantles mod.sres x > summary(mod) Call: lm(formula = y ~ x) Rgu Çıktısı Resduals: Mn Q Medan 3Q Max Coeffcents: Estmate Std. Error t value Pr(> t ) (Intercept) x * Sgnf. codes: 0 '***' 0.00 '**' 0.0 '*' 0.05 '.' 0. ' ' Resdual standard error: 4.33 on 8 degrees of freedom Multple R-Squared: , Adjusted R-squared: F-statstc:.08 on and 8 DF, p-value: Regresyon Analznde Görünmez Tehlkeler EKK (OLS) regresyon analznn temel varsayımlarının farkında olunmaması Varsayımların nasıl değerlendrleceğnn blnmemes Her hang br varsayımın hlal edlmes durumunda regresyon alternatfnn blnmemes Regresyon yöntem le modellenecek konu hakkında blg sahb olunmaması Uygun aralık dışında extrapolasyon (lerye dönük tahmn ) çn kullanılması

22 Fonksyon Formları Fonksyon Formları Lneer: y = a + bx İknc derece: y = ax + bx + c Logartmk: y = a + b lnx Eksponansyel: y = ab x Üstel: y = ax b Lojstk: c y = + ae bx Fonksyon Formları Fonksyon Formları

23 Fonksyon Formları Fonksyon Formları Fonksyon Formları