İstatistik ve Olasılık KORELASYON ve REGRESYON ANALİZİ Doç. Dr. İrfan KAYMAZ
Tanım Bir değişkenin değerinin diğer değişkendeki veya değişkenlerdeki değişimlere bağlı olarak nasıl etkilendiğinin istatistiksel analizlerle incelenmesi çeşitli nedenlerle istenmektedir: Değişkenler arası ilişkiler bilindiğinde, bir değişkenin değerine bakarak diğerinin değeri tahmin edilebilir Etki eden faktörler kontrol altına alınabilirse ilgilenilen değişkenlerin değerleri optimum (en uygun) düzeye getirilebilir. İki veya daha fazla değişken arasındaki ilişkinin varlığı, bu ilişkinin yönü ve şiddeti korelasyon analizi ile belirlenir. Sözü edilen ilişkinin fonksiyonel şekli ise regresyon analizinin konusunu oluşturur.
Korelasyon Analizi İki değişken arasındaki ilişkinin yönü ve derecesi korelasyon katsayısı ile ifade edilir. İncelenen değişken sayısı: İki tane ise korelasyon katsayısı İkiden fazla ise çoklu veya kısmi korelasyon katsayısı Ancak, bu kapsamda iki değişken arasındaki basit doğrusal korelasyon katsayısı üzerinde durulacaktır. Örneğin korelasyon katsayısı r Anakütlenin korelasyon katsayısı ile gösterilmektedir.
Korelasyon Analizi İncelenen veri grubu koordinat sistemine işaretlenirse değişkenler arasındaki ilişkinin yönü ve derecesi görsel olarak kabaca belirlenebilir.
Korelasyon Analizi Ancak ilişkinin gerçek düzeyi sadece hesaplama ile belirlenebilir. X ve Y ilgilenilen değişkenleri göstermek üzere korelasyon katsayısının formülü aşağıda verilmiştir Hesaplanan katsayının aldığı değere bağlı olarak, değişkenler arasında; r=-1 ters yönlü mükemmel bir ilişki, r=0 ilişki yok, r=1 aynı yönlü mükemmel bir ilişki, r=0.80 aynı yönlü oldukça iyi bir ilişki, r=-0.60 ters (zıt) yönlü orta derecede bir ilişki olduğu anlamına gelmektedir.
Korelasyon Analizi KORELASYON KATSAYISININ TESTİ Hesaplanan korelasyon katsayısının anlamlı olup olmadığı aşağıda kurulan hipotez ile belirlenebilir: r nin ait olduğu anakütlenin varyansı bilinmediği için testte t dağılımından yararlanılır. Öte yandan, korelasyon katsayısının belirli bir değere eşit olup olmadığı aşağıdaki hipotez yardımıyla belirlenebilir.
Korelasyon Analizi Örnek: Bir deneyde X ve Y arasındaki ilişkiyi belirlemek için bir araştırma yapılmış ve aşağıdaki sonuçlar elde edilmiştir. Bu sonuçlara göre; a) Korelasyon katsayısını hesaplayarak yorumlayınız. b) =0.01 hata seviyesinde hesaplanan korelasyon katsayısının anlamlı olup olmadığını test ediniz. c) =0.01 hata seviyesinde hesaplanan korelasyon katsayısının 0.80 e eşit olup olmadığını test ediniz
Korelasyon Analizi Örnek Çözüm: X ve Y arasında aynı yönlü ve iyi bir ilişki vardır.
Korelasyon Analizi Örnek Çözüm:
Korelasyon Analizi Örnek:
İncelenen değişkenlerin birinin bağımlı (Y) diğerlerinin bağımsız (X 1, X 2, X 3,..., X n ) olması halinde; bağımlı değişkenin bağımsız değişkenlerin fonksiyonu olarak: Y=f(X 1, X 2, X 3,..., X n ) şeklinde ifade edilmesi regresyon analizinin konusunu oluşturur. İncelenen olayda; bir bağımlı, bir bağımsız değişken varsa oluşturulacak model tek değişkenli regresyon modeli Y=f(X), incelenen olayda bir bağımlı, birden fazla bağımsız değişken varsa oluşturulacak model çok değişkenli regresyon modeli Y=f(X 1, X 2, X 3,..., X n ) olarak adlandırılır. Ayrıca, regresyon denklemleri doğrusal ve eğrisel olmak üzere iki ayrı şekilde de sınıflandırılmaktadır.
TEK DEĞİŞKENLİ DOĞRUSAL REGRESYON MODELİ Regresyon denklemleri oluşturulurken ortalamadan sapma kareler toplamını en küçükleyen ve en küçük kareler yöntemi olarak adlandırılan yöntem kullanılır. Genel bir yöntem olan en küçük kareler yöntemi aşağıdaki gibi ifade edilir: Ortalamadan sapmaların. ( genel) kareleri toplamı..... Regresyon kareler toplamı Regresyondan. sapmaların kareleri.. toplamı Bu ifadenin matematiksel sembollerle gösterimi n i1 (Y i Y) 2 n i1 (Ŷ i Y) 2 n i1 (Y i Ŷ ) i 2
En küçük Kareler Yöntemi: X ve Y arasındaki ilişki tam ve kusursuz bir ilişki (r=1 veya r=-1) olmadıkça Y nin X e göre regresyon doğrusu serpilme diyagramındaki bütün noktalardan geçmez. Bu ilişki kusursuz değilse bazı noktalar için regresyon doğrusundan sapmalar görülebilir. Bu doğruların bazılarında gözlenen sapmalar diğerlerine göre daha çok (veya daha az) olabilir. En küçük kareler yöntemi, gözlenen bu sapmaları en küçükleyen doğruyu belirlemekte kullanılır.
En küçük Kareler Yöntemi:
Tek değişkenli doğrusal regresyon denkleminin genel yazılışı:
iki katsayıyı belirleyebilmek için hata terimi aşağıdaki gibi yazılır ve en küçük kareler yöntemine göre hata kareleri toplamı alınırsa: Hata kareleri toplamı eşitliğinin sağ tarafındaki ifadenin değeri bilinmeyen a ve b katsayılarına göre kısmi türevleri alınırsa Bu denklemlere normalin denklemleri denir. Elde edilen iki denklem çözülerek a ve b katsayılarının belirlenir.
Oluşturulan regresyon denkleminin ne derece iyi bir tahminleyici olduğunu belirleyen oran belirlilik katsayısı olarak ifade edilir ve R 2 ile gösterilir Belirlilik katsayısı 2 0 R 1 aralığında değer alabilir. R 2 değeri 1 e ne derece yakın ise denklem o derece iyi, sıfıra ne derece yakın ise denklem o derece kötü bir tahminleyici olarak kabul edilir.
REGRESYON KATSAYISININ TESTİ Belirlenen regresyon katsayıları anlamlı ise oluşturulan regresyon denklemi tahmin amacıyla kullanılabilir. Oluşturulan regresyon denkleminin katsayılarının anlamlı olup olmadıkları aşağıdaki hipotez ile belirlenebilir:
Oluşturulan tek değişkenli doğrusal regresyon denkleminde önemli ve çok etkin olan katsayı b katsayısıdır. O nedenle, sadece b katsayısının anlamlı olup olmadığının test edilmesi yeterlidir. Ayrıca, oluşturulan regresyon denkleminde bağımsız değişkenin çarpanı durumunda olan ve doğrunun eğimini gösteren b katsayısının denklem üzerindeki etkisi dikkate alınarak, b katsayısı için güven aralığı oluşturulmaktadır. b katsayısı için hata seviyesindeki güven aralığı t dağılım kullanılarak: b t * S b t * S b ; n2 ; n2 2 2 b
Örnek: Belirli bir ağırlık taşıyan bir plastik malzemenin verilen sıcaklıklar altında uğradığı şekil değişimleri Tabloda verilmiştir. a) En küçük kareler yöntemini kullanarak regresyon denklemini oluşturunuz. b) Regresyon katsayısının anlamlı olup olmadığını test ediniz (=0.01). c) 80 0 C sıcaklıkta şekil değişimini belirleyiniz d) Korelasyon katsayısını hesaplayarak yorumlayınız.
Örnek Çözüm:
Bu ifadeleri elde etmek için Tablo kullanılabilir:
Regresyon katsayısının anlamlı olup olmadığının testi (=0.01) I) II) III) Test istatistiği:
IV) 80 0 C sıcaklıkta şekil değişimini Korelasyon katsayısı
Gelecek Dersin Konusu İyi Tatiller