Yrd. Doç. Dr. A. Burak İNNER

Transkript

1 Yrd. Doç. Dr. A. Burak İNNER Kocaeli Üniversitesi Bilgisayar Mühendisliği Yapay Zeka ve Benzetim Sistemleri Ar-Ge Lab.

2 Regresyon o EnKüçük Kareler Yöntemi Doğru Uydurma Polinom Uydurma Üstel Fonksiyonlara Eğri Uydurma İnterpolasyon o Lagrange İnterpolasyonu (Polinom İnterpolasyon) o Newton İnterpolasyonu

3 Eğri uydurma için, veri hatalarına bağlı olarak birbirinden ayrılan iki yaklaşım vardır: Regresyon Hata oranı büyük değerlerin, her bir veri noktasından geçmeyen,verilerin genel eğiliminin tek bir eğri ile gösterimidir.(deneysel veriler için) İnterpolasyon Hata oranı küçük değerlerin, iyi bilinen ayrık noktaların her birinden geçecek şekilde eğri veya eğri uydurularak gösterimidir.

4

5 Regresyon analizi yaparken en çok kullanılan yöntemlerden biri en küçük kareler yöntemidir. En Küçük Kareler Yöntemi gerçek yaşamın çeşitli alanlarında herhangi bir uygulama ile toplanan veriler tablo şekline getirilerek incelenir ve toplanan veriyi modelleyen bir fonksiyon bulunmaya çalışılır.

6 Çoğu zaman bu veri tablosuna tam olarak uyan bir fonksiyon bulmak mümkün olmaz. Veri tablosuna en iyi uyan fonksiyon belirlenmeye çalışılır. Bir veri tablosuna en iyi uyan fonksiyonu bulma sürecine regresyon analizi denir.

7 Verilerde önemli hatalar olduğunda, interpolasyon uygun değildir ve ara değerleri tahmin etmek için kullanıldığında tatmin edici sonuçlar vermez.genellikle deneysel veriler bu tiptedir ve en küçük kareler yöntemi ile gösterimi daha iyi sonuçlar verir.

8

9 Bu yöntemde doğruya yaklaşımdaki hataların karelerinin toplamını minimum yapacak doğru denklemi araştırılır. y = a 0 + a 1 x + ε ε = y gerçek - y yaklaşık = y (a 0 + a 1 x ) n S r = σ i=1 ε 2 i = σ n i=1 (y a 0 a 1 x i ) 2 a 0 : kesme noktası a 1 : eğim ε : hata veya artık S r : hataların kareleri toplamı

10 Hataların kareleri toplamını minimum yapacak a 0 ve a 1 değerleri, bu değerlerin türevlerinin sıfıra eşitlenmesiyle bulunur.son durumda a 0 ve a 1 aşağıdaki gibi olur. (n)a 0 + (σ x i )a 1 = σ y i (σ x i )a 0 + (σ x i 2 )a 1 = σ x i y i

11 Aşağıdaki denklem takımı çözülerek a 0 ve a 1 değerleri bulunur. a 1 = ഥy - a 1 ഥx = σ y i n - a 1 σ x i n a 1 = n σ x iy i σ x i σ y i n σ x i 2 (σ x i ) 2 Not : σ x i y i ile σ x i σ y i ve σ x i 2 ile (σ x i ) 2 birbirinden farklı ifadelerdir.

12 Eğri uydurmanın uyumluluğunu belirlemek için korelasyon katsayısı ( r ) ile belirlenir. Doğrusal regresyon için kolerasyon katsayısı aşağıdaki eşitlik ile hesaplanır: r = n σ x i y i σ x i σ y i n σ x i 2 (σ x i ) 2 n σ y i 2 (σ y i ) 2

13 Tablodaki değerler için düz bir doğru uydurun. x i y i

14 a 1 = n σ x iy i σ x i σ y i n σ x i 2 (σ x i ) 2 = = a 1 = ഥy - a 1 ഥx = = y = A + Bx = x r = n σ x i y i σ x i σ y i n σ x i 2 (σ x i ) 2 n σ y i 2 (σ y i ) 2 = = =0.932

15 Tablo değerlerinin girilmesi ; MODE 3(STAT) 2(A+Bx) Tablo değerleri girildikten sonra AC tuşuna basarak veriler kaydedilir. σ x 2 =SHIFT 1(STAT) 3(SUM) 1 σ x =SHIFT 1(STAT) 3(SUM) 2 σ y 2 =SHIFT 1(STAT) 3(SUM) 3 σ y =SHIFT 1(STAT) 3(SUM) 4 σ xy=shift 1(STAT) 3(SUM) 5 A=SHIFT 1(STAT) 5(Reg) 1 B=SHIFT 1(STAT) 5(Reg) 2 r=shift 1(STAT) 5(Reg) 3

16

17 En küçük kareler yöntemi, yüksek dereceli polinomlara eğri uydurmak için kolayca genişletilebilir: y = a 0 + a 1 x + a 2 x 2 + ε ε = y gerçek - y yaklaşık = y ( a 0 + a 1 x + a 2 x 2 ) n S r = σ i=1 ε 2 i = σ n i=1 ( a 0 + a 1 x + a 2 x 2 ) 2

18 Hatanın karelerinin toplamını minimum yapacak a 0, a 1 ve a 2 değerleri, bu değerlerin türevlerinin sıfıra eşitlenmesiyle bulunur.son durumda aşağıdaki eşitlikler elde edilir. n( a 0 ) + (σ x i ) a 1 + (σ x i 2 ) a 2 = σ y i (σ x i ) a 0 + (σ x i 2 ) a 1 + (σ x i 3 ) a 2 = σ x i y i (σ x i 2 ) a 0 + (σ x i 3 ) a 1 + (σ x i 4 ) a 2 = σ x i 2 y i

19 Tablodaki değerleri 2. dereceden polinoma yaklaştırın x i y i

20 n( a 0 ) + (σ x i ) a 1 + (σ x i 2 ) a 2 = σ y i 6a a a 2 = (σ x i ) a 0 + (σ x i 2 ) a 1 + (σ x i 3 ) a 2 = σ x i y i 15a a a 2 = (σ x i 2 ) a 0 + (σ x i 3 ) a 1 + (σ x i 4 ) a 2 = σ x i 2 y i 55a a a 2 =

21 Cramer yöntemiyle çözüm uygulanırsa; 1. A = B = C = D = a 0 = deta detd = = a 1 = detb detd = = a 0 + a 1 x + a 2 x 2 = x x 2 a 2 = detc detd = = 1.861

22 Tablo değerlerinin girilmesi ; MODE 3(STAT) 3(_+CX 2 ) Tablo değerleri girildikten sonra AC tuşuna basarak veriler kaydedilir. σ x 2 =SHIFT 1(STAT) 3(SUM) 1 σ x =SHIFT 1(STAT) 3(SUM) 2 σ y 2 =SHIFT 1(STAT) 3(SUM) 3 σ y =SHIFT 1(STAT) 3(SUM) 4 σ xy=shift 1(STAT) 3(SUM) 5

23 σ x 3 =SHIFT 1(STAT) 3(SUM) 6 σ x 2 y=shift 1(STAT) 3(SUM) 3 σ x 4 =SHIFT 1(STAT) 3(SUM) 8 A=SHIFT 1(STAT) 5(Reg) 1 B=SHIFT 1(STAT) 5(Reg) 2 r=shift 1(STAT) 5(Reg) 3

24 y = a 0 x a 1 şeklindeki lineer olmayan denklemin, kuvvet fonksiyonunu elde etmek için her iki tarafın doğal logaritması alınır: In y = In( a 0 x a 1) In y = In( a 0 ) + a 1 In(x) In y = Y In a 0 = A a 1 =B In x = X alınırsa Y = A+BX ε = σ n i=1 ( Y i A Bx i ) 2

25 Hatanın karelerinin toplamını minimum yapacak A ve B değerleri, bu değerlerin türevlerinin sıfıra eşitlenmesiyle bulunur. Son durumda aşağıdaki eşitlikler elde edilir : (n)a + (σ x i )B = σ Y i (σ x i )A + (σ x i 2 )B = σ x i y i

26 Regresyon ve Makine Öğrenmesi (Machine Learning) Çok büyük miktarlardaki verinin elle işlenmesi ve analizinin yapılması mümkün değildir. Amaç geçmişteki verileri kullanarak gelecek için tahminlerde bulunmaktır. Bu problemleri çözmek için Makine Öğrenmesi (machine learning) yöntemleri geliştirilmiştir.

27 Makine öğrenmesinde metodlar; Makine öğrenmesi yöntemleri, geçmişteki veriyi kullanarak yeni veri için en uygun modeli bulmaya çalışır. Verinin incelenip, içerisinden işe yarayan bilginin çıkarılmasına da Veri Madenciliği (data mining) adı verilir. Farklı uygulamaların, analizlerden farklı beklentileri olmaktadır. Makine öğrenmesi metotlarını bu beklentilere göre sınıflandırmak mümkündür.

28 Geçmiş bilgileri hangi sınıftan olduğu biliniyorsa, yeni gelen verinin hangi sınıfa dahil olacağının bulunmasıdır.

29 Geçmişteki verilerin sınıfları/etiketleri verilmediği/bilinmediği durumlarda verilerin birbirlerine yakın benzerliklerinin yer aldığı kümelerin bulunmasıdır. 256 rengi 16 renge nasıl indiririz?

30 Geçmiş bilgilere ait sınıflar yerine sürekli bilginin yer aldığı problemlerdir.

31 GÜNLÜK HAYATTA;

32

33 Parmak izi kime ait?

34

35 Dersin Sonu Kocaeli Üniversitesi Bilgisayar Mühendisliği Yapay Zeka ve Benzetim Sistemleri Ar-Ge Lab.