Regresyon. Regresyon korelasyon ile yakından ilişkilidir

Transkript

1 Regresyon Regresyona Giriş Regresyon korelasyon ile yakından ilişkilidir Regresyon bir bağımlı değişken ile (DV) bir veya daha fazla bağımsız değişken arasındaki doğrusal ilişkiyi inceler. DV için başka bir terminoloji: Çıktı değişkeni Ölçüt değişkeni IV için başka bir terminoloji: ordayıcı Regresyon veriye "en iyi uyan doğru" yu bulmaya çalışır.

2 (Örnek) (DV) SSTOLIC BLOOD PRESSURE DIASTOLIC BLOOD PRESSURE (IV) En iyi uyan doğru bize ne anlatır? Verilen herhangi bir IV değeri için yordanan DV değerini. Doğrunun yönü. ukarı doğru ise. pozitif ilişkiyi. Doğrunun dikliği (eğimi). IV daki değişime göre DVdeki değişim oranını. Eğim ne kadar dik ise IV daki değişime göre DVdeki değişim oranı o kadar fazladır.

3 En iyi uyan doğruyu nasıl buluruz? İki gözlem için Üç veya daha fazla için uyum doğrusu (1)

4 Üç veya daha fazla gözlem için uyum doğrusu () e e En iyi uyum doğrusu e l + e + e 3 en küçük olacak biçimde tanımlanır. Buna en iyi uyum doğrusunu bulmak için en küçük kareler ölçütü denir e 3 Regresyon doğrusunun kestirilmesi En küçük kareler ölçütü bize katsayıları verir: b s = rx sx c= bx., ve ˆ = c + bx burada ˆ : ordanan bağımlı değişken c : Kesişim b : Eğim X : Bağımsız değişken

5 Bir doğruyu belirleyen özellikler 1. Eğim Doğrunun dikliğidir.. Kesişim Doğrunun dik eksen ile kesiştiği noktadır (y-ekseni). Kesişim doğrunun yerini belirler Gözlenen için regresyon eşitliği = c + bx + e orumu: burada c : Kesişim : Bağımlı değişken X : Bağımsız değişken b : Eğim e: Artık Intercept Bağımsız değişkenin (X) değeri sıfır olduğu durumda bağımlı değişken () nin aldığı değer Eğim X deki her bir birim artış için deli artış miktarı.

6 (örnek.) = 1+ X + e Kesişim = 1 Doğrunun eksenini kestiği nokta Eğim = Bu değer X 1 birim arttığında nin birim arttığını gösterir. (Örnek) Bağımlı değişken() = kelime testi puanı Bağımsız değişken (X) = kaç saat çalışıldığı Sonuç c = 5.05, b = 0.75 Regresyon eşitliği = X + e orum Çalışma saati 1 saat arttiğinda, kelime testi puanı 0.75 artar. (Dıkkat: neden sonuç ilişkisi yoktur!) Çalışma süresi 0 olduğunda, beklenen puan 5.05

7 Regresyon eşitliğinin iki hali Gözlenen eşitliği =c+bx+e ordanan eşitliği ˆ = c + bx (örnek X X X ( X X) ( ) ( X X)( ) Toplam Ortalama * 0 * 7.5 * s X = 5 s = 0 s X = 7.5 (* n 1) bölünür sx r = = = = = 0.75 s s X s 0 Burdan, b= rx = 0.75 = = 0.75() = 1.50 s X 5 c= bx = (4) = 7 6 = 1.00

8 Regresyon doğrusu Regresyon doğrusunu çizmek için: İlk olarak, y eksenini kesen kesişimi belirle Sonra, koordinatlardaki diğer bir noktayı belirle. orum: Eğim: ön test puanı 1 olduğunda son test puanının 1.5 puan daha yüksek olamsı beklenir. Kesişim: Ön test puanı 0 olduğunda son test puanının 1 olması beklenir ˆ = X X X değerine göre nin belirlenmesi X i X ˆi (1) = () = (3) = (4) = (5) = (6) = (7) = (8) =

9 Artık residual = e = ˆ i i i X i i ˆi e i Toplam = e 1 e 4 e 5 e e X Standart X ve puanlarıyla regresyon doğrusu nasıl belirlenir? = s = b rx rx sx, and ani regresyon doğrusu: c= bx = 0 b(0) = 0. Z = r ˆ X ZX (standartlaştırılmış regresyon katsayısı) (ön test ve son test örneğinde) Z = 0.75Z ˆ X orum: X bir standart sapma arttığında 0.75 standard sapma artar

10 Regresyon doğrusunun şekli z standardlaştırılmış regresyon Z nin Z X ile yordanması Z ˆ i Z Xi 0.75Z Xi (-) (-1) (0) (1) () 1.5

11 bu bize. X ve nin standart sapmalarını ve aralarındaki korelasyonu bildiğimizde, yi X den yordayabileceğimizi gösterir. (Örnek) X ve arasındaki korelasyon 0.50 dir. Eğer bir kişinin puanı X = 15ise, yordanan puanı nedir? X Ort 1 14 Standard sapma 3 4 X = 15 z puanı z X = 1.0. O zaman nin z-puanı 0.5(1) = 0.5. Bu yordanan puanın ortalamadan 0.5 standart sapma üztünde old. göst. ani () = 14, ve σ = 4, yordanan puan (4) = 16. (örnek) X ve arasındaki eorernsyon Eğer bir kişinin puanık X =18 ise, yordanan puanı nedir? (örnek.) X Ort 1 14 Standard Sapma 3 4 X ve arasındaki eorernsyon Eğer bir kişinin puanık X =15 ise, yordanan puanı nedir? X ORt 1 14 Standard Sapma 3 4

12 regresyon Analizi by SPSS Analysis regression Linear Bağımsız değişkeni seç Bağımlı değişkeni seç. OK. Model 1 Model Summary Adjusted Std. Error of R R Square R Square the Estimate.750 a a. Predictors: (Constant), X korelasyon bu korelasyonun karesidir. Açıklanan varyans oranını gösterir. bu durumda, 'deki varyansın (değişimin) % 56.3 nın X deki değişim ile açıklandığını gösteriyor. Model 1 (Constant) X a. Dependent Variable: y-ikesişim eğim Unstandardized Coefficients Coefficients a Standardized Coefficients B Std. Error Beta t Sig Standard regresyon katsayısı Evrende b değerinin sıfırdan farklı olduğundan bahsetmek için, bu değer b nin mutlak değerinin yarısından daha az olmalı

13 Artıklar standartlaşmış regresyon da artıkları ele alırsak (Ön ve Son-test örneği) zˆ = 0.75z X Z X Z Ortalama Varyans SD z ˆ z zˆ = 1 r = 1 r = r = r standardlaşmış regresyona göre yordanan puanların standard sapması r ye eşittir. yordanan puanların varyansı r dir Bu varyansın açıklanan kısmıdır. Artıkların varyansı 1 r. bu varyansın açıklanmayan kısmıdır.

14 Ayrıca Artıkların standard sapması 1 r. Buna kestirimin satandart hatası denir s Z Z. X kestirimin satandart hatasının küçük olması regresyon doğrusunun veriye uyumunun iyi olduğunu gösterir kestirimin satandart hatasının büyük olması regresyon doğrusunun veriye uyumunun kötü olduğunu gösterir Ham puanlar için X ˆ ˆ Mean Var SD () Variance Explained sr = Important Fact: (1) + () = 0 = Var() ˆ = 1.5X i sr= i Standard Error of Estimate s X= s 1 r = = (optional) (1) Variance NOT Explained s (1 r ) = 0( ) =

15 For regresyon with raw scores The variance of the predicted scores is equal to sr. This is the explained part of the variance. (optional) The variance of the residuals is equal to s (1 r ). This is the unexplained part of the variance. The standard deviation of the predicted scores is equal to s r. The standard deviation of the residuals is equal to s 1 r. This quantity is called Standard Error of Estimate, and denoted s X. When the standard error of estimate is small, it indicates a good fit of the regresyon line to the data. When the standard error of estimate is large, it indicates a bad fit of the regresyon line to the data. Regresyonun Varsayımları 1. Artıkların normal olarak dağılması Artıkların histogramı incelenir Artıkların normal olasılık grafikleri incelenir.. ˆ ve lineer ilişkilidir. ˆ ve nin saçılım grafiği incelenir 3. Homosedasitity Bütün seviyelerde artıkların varyansı uniformdur (Hataların hepsinin varyansı aynıdır.) ˆ ˆ ve artıkların saçılım grafiği incelenir We look for similar spread of points (with equal spread up-and-down ) at each place along the horizontal axis.

16 Varsayımların SPSS ile incelenmesi 1. Linear regresyon işlemine git. Bağımlı ve bağımsız değişkenleri seç. 3. Plots a tıkla 4. Histogram ve Normal Probability Plot Standardized Residual Plots tik işareti koy (This will create two plots to examine the normality of residuals.) 5. için DEPENDENT ve X için *ZPRED seç Next bas. (Doğrusal ilişkiyi incelemek için.) 6. için *ZRESID ve X için *ZPRED seç ve Continue. ( homoscedasticity incelemek için.) 7. OK. (e.g.) X Diastolic Blood Pressure, Systolic Blood Pressure. Histogram Dependent Variable: SSTOLIC BLOOD PRESSURE Frequency Mean = -8.49E-17 Std. Dev. = N = regresyon Standardized Residual

17 Her iki değişkenin yaklaşık olarak lineer olmasını istiyoruz Scatterplot Dependent Variable: SSTOLIC BLOOD PRESSURE 00 SSTOLIC BLOOD PRESSURE Non-lineerlik mevcut mu? regresyon Standardized Predicted Value

18 Scatterplot Dependent Variable: SSTOLIC BLOOD PRESSURE regresyon Standardized Residual regresyon Standardized Predicted Value ˆ de tesadüfi olmama durumu söz konusu mu?

19

20

21