DOÇ. DR. SERAL ÖZŞEN KONYA-2015

Transkript

1 DOÇ. DR. SERAL ÖZŞEN KONYA

2 1. Yapay Zeka Kavramına giriş, tarihçe ve gelişimi 2. Kural-tabanlı sistemler 3. Bulanık uzman sistemler 4. Sınıflama, öğrenme ve kümeleme kavramları 5. Yapay Sinir Ağları 6. Evrimsel hesaplama KONULAR

3 1. Yapay Zeka Kavramına Giriş, Zeka: - Birinin bir şeyi anlama ve öğrenme yeteneği Yapay Zeka: tarihçe ve gelişimi -İnsan zekası gerektiren problemlerin çözümünü makinelerin yapabilmesi Alan Turing (kariyer:1930, Enigma) Makineler zeka testini geçebilir mi?: Turing testi

4 Depolama: 10 18, işlem yapma:

5 1. Yapay Zekanın «KARANLIK» zamanları ( ) Warren McCulloch (Felsefe ve Tıp) ve Walter Pitts (matematikçi): Yapay Nöron modeli (on- off)

6 John von Neumann (Turing arkadaşımatematikçi) -nükleer bomba projesi -EDVAC (Electronic Discrete Variable Aotomatic Computer) proje danışmanı (ilk kayıtlı program içeren makinelerden) Dartmouth Workshop-1956 (Martin Minsky ve Claude Shannon): Artificial Intelligence

7 2. Yapay Zeka Beklentileri ( ların sonu) John McCarthy (Dartmouth workshop katılımcısı): -LISP -Advice Taker (1958): ilk bilgi tabanlı sistem Frank Rosenblatt (1962): Perceptron yakınsama teoremi Lotfi Zadeh (1965): Fuzzy sets.. Genel Problem çözücüler, zayıf metodlar

8 3. Gerçekleşmeyen hayaller, gerçeğin etkisi (1960 sonları lerin başları ) Dezavantajlar: Genel metodlar tanımlandı Çözülmeye çalışılan problemler çok geniş bir alanda ve çok zordu İngiliz hükümeti maddi desteği azalttı

9 4. Teknoloji gelişimi- başarının anahtarı (1970 başları lerin ortaları ) İşlem yapabilecek hızlı programlara ihtiyaç vardı DENDRAL(1963): kimyasal analizi (NASA): kütle spectrogram ımın belirlenmesi- uzman deneyimi, ilk başarılı bilgi-tabanlı sistem (knowledge-based system), bilgi mühendisliği temeli MYCIN (1976): tıbbi teşhis sistemi (enfeksiyonlu kan hastalıkları teşhisi), kural tabanlı uzman sistem PROSPECTOR (1983): mineral araştırma. Kural tabanlı sistem + anlamlı ağ yapısı (semantic network) Kısıtlı algoritmalar, problem-tabanlı, performansları çok iyi değil, oluşturulmaları çok uzun yıllar almış,..vs

10 5. Sinir Ağlarının Yeniden Doğuşu (1980 ortaları ve sonrası) YSA nın oluşması için teorik altyapı: 1960 ların sonları- YSA gelişimi: 1980 ortaları (teknoloji!!!!!, 1969 da Minsky ve Papert tek katmanlı perceptronların matematiksel zayıflığını gösterdi- heves kalmadı) Grossberg, 1980: adaptif rezonans teorisi (Self-organized-maps için alt yapı) Hopfield, 1982: Hopfield ağları Kohonen, 1982: Self-organized-maps Barto, Sutton ve Anderson, 1983: takviyeli öğrenme- kontrol Rumelhart ve McClelland, 1986: GERİ YAYILIMLI ÖĞRENME ve çok katmanlı perseptronlar (Bryson ve Ho, 1969) Broomhead ve Lowe, 1988: layered feedforward networks with radial basis functions

11 6. Evrimsel Hesaplama, ya da yaparak öğrenme (1970 lerin başları ve sonrası) Doğal seleksiyon ve genetik Genetik algoritmalar, evrimsel stratejiler ve genetik programlama John Holland, 1975: genetik algoritma kavramı: kromozomların binary kodlanması, seçme, çaprazlama ve mutasyon. ve diğerleri

12 7. Bilgi Mühendisliği (1980 sonları-günümüz) YSA: symbolic reasoning sistemlerine göre daha iyi uyum sağlıyor fakat kara kutu (açıklama yok), eğitme uzun olabiliyor, yeniden eğitme farklı sonuçlara yol açabiliyor Ön-bilgi az ise (knowledge-poor situations) performans iyi. Klasik uzman sistemler:uzmana bağlı kalması, uzmanın bilgilerini her zaman iyi bir kural ile ifade edememesi,..vs. Çözüm: büyük veri havuzundaki gizli bilgili çıkaran YSA ile kurallar için gerekli olan bilginin elde edilmesi, Bulanık mantık, hibrid sistemler

13 2. Kural-Tabanlı Sistemler Trafik lambası, EĞER kırmızı İSE bekle. IF traffic light is red THEN wait. (IF-THEN yapısı, KURAL). IF: koşul THEN: durum ya da aksiyon Kurallar ile ilişkiler (EĞER Yakıt deposu boş ise araba ölüdür), tavsiyeler (EĞER hava bulutlu ise şemsiye al), direktifler (EĞER yakıt deposu boş ise DOLDUR), stratejiler (EĞER araba çalışmıyor ise yakıt deposunu kontrol et ), sezgiler (EĞER numune sıvı, ph>6 ve sirke gibi kokuyorsa numune asetik asit olabilir) anlatılabilir

14 Uzman Sistem Bileşenleri

15 Kural-tabanlı uzman sistem yapısı If-then kurallarından hangilerinin alınacağını belirler, çıkarım yapılır Uzman sistemin sonuçlara nasıl ulaştığını ve neden bir gerçeğe ihtiyaç duyulduğunu açıklamasını sağlar

16 Uzman sistemin temel karakteristikleri Yüksek-kaliteli performans (hız ikinci planda ama çok önemli) temel kurallar, sezgisel kurallar Açıklayıcılık Sembolik çıkarımsama Belirli bir işlem sırası yok, tam olmayan çıkarımsama yapılır, tam olmayan, belirsiz ve bulanık varilerle uğraşılır. Uzman hata yapabilir Geleneksel programlar & uzman sistemler??? -tam veriler, kesin ve doğru sonuçlar -uzman sistemlerde bilgi ve işlenmesi ayrılmış durumda (modüler, değiştirilebilir ve anlaşılır yapı)

17 İleri ve geri zincirleme çıkarım teknikleri IF-THEN kuralları: domain Facts: data Çıkarım makinesi, veritabanındaki gerçekler ile bilgi tabanındaki her kuralı karşılaştırır. Eşitleme varsa: FİRED Ateşlenen kurallar gerçekler setini yenileyebilir. Çıkarım zincirleri (Inference chains): If kısmı ile gerçeklerin eşleşmesi

18 Zincirleme çıkarım teknikleri, örnek: Veritabanı: A, B, C, D ve E gerçekleri Bilgi tabanı: Kural 1: IF Y is true AND D is true THEN Z is true Kural 2: IF X is true AND B is true AND E is true THEN Y is true Kural 3: IF A is true THEN X is true

19 İleri zincirleme: data-driven method Önceki örnek: ileri zincirleme. Kural 1: Y & D Z Kural 2: X & B & E Y Kural 3: A X iki yeni kural ekleyelim: Kural 4: C L Kural 5: L & M N Bilinen veriden başlar, her seferinde en yukardaki kural işleme tabi tutulur, her kural 1 kere işleme alınır Devam edildiğinde M ve N de eklenecek

20 Geri zincirleme: goal-driven method Hedef (goal) vardır. Bu hedefe ulaşmak için diğer kurallar sorgulanır, sorgulama esnasında ara-hedefler (subgoals) oluşturulabilinir. İleri zincirlemede aynı sonuç için 4 kural ateşlenirken, geri zincirlemede 3 kural ateşlendi. Eğer uzman önce belli bilgilere ihtiyaç duyup ona göre yeni kurallar oluşturacak ise ileri zincirleme. Bir hipotez çözüm üretip onu ispatlamak için yeni kural ve gerçeklere ihtiyaç duyacaksa, geri zincirleme kullanılmalıdır. İleri ve geri zincirleme kombine olarak ta kullanılabilir. Fakat genellikle geri zincirleme kullanılır

21 Conflict resolution (çatışma çözümü): bilinen bir döngüde bir gerçek için birden fazla kuralın ateşlenebileceği kurallar içinden bir kuralı seçme yöntemine denir. Önleme yöntemleri: -kuralları öncelik sırasına göre dizme -en spesifik kuralı seç (spesifik kural genel olandan daha fazla bilgi içerir) -veritabanına en son eklenen veriyi kullanan kuralı seç

22 Kural sayısı arttığında uzman tüm kuralları görüp yorum yapamayabilir: sistemi bilgi hakkındaki bilgi ile donatmalıyız. Metaknowledge: bilginin bilgisi (knowledge about knowledge). Ortam bilgisini kullanmak ve kontrol etmek için gerekli olan bilgi-metarule. Domain-independent. Metarule-1: Uzmandan gelen kurallar, acemiye göre önceliklidir Metarule-2: İnsan hayatının kurtarılması ile ilgili kurallar Güç sistemi elemanlarındaki fazla yükü temizleme ile ilgili kurallardan daha önceliklidir. Mearule-3: Dersi dinlemek ile ilgili kurallar ders metaryli kurallarına göre önceliklidir

23 Kural tabanlı sistemleri avantaj ve dezavantajları: Avantajları: Doğal bilgi gösterimi Düzenli bir yapı (IF- THEN yapısı) Bilgi ile bilginin işlendiği kısımlar ayrı (modüler ve adaptif) Eksik ve kesin olmayan bilgileri de işleyebilmesi Dezavantajları: Kurallar arasında net olmayan ilişkilerin var olması. Bireysel kurallar tüm stratejiyi nasıl etkiliyor? Etkin olmayan arama stratejisi: zaman tasarrufu ve real-time uygulamalarda eksiklik Öğrenme eksikliği. Deneyimden öğrenmezler: uzman söyler

24 3. Bulanık Uzman Sistemler Uzmn tarafından sağlanan bilgi: «güç transformatörü hafif bir şekilde yüklendiğinde bu yükü sürekli tutabilirim». İnsan: anlar. Bilgisayar:??? Bulanık mantık, bulanık olan bir mantık değildir, bulanıklığı açıklamak için geliştirilmiş bir mantıktır. Temeli: Tüm nesne ve olgular derecelere sahiptir (Motor gerçekten ÇOK ISINDI, elektrikli arabalar ÇOK HIZLI DEĞİL, İstanbul GÜZEL bir şehir, vb) Geleneksel mantık: keskin sınırlar (Elektrikli arabanın menzili 300 km den az ise KISA, 300 km den fazla ise UZUN )

25 1930, Jan Lukasiwwicz: Çok değerli mantık. Uzun, eski ve sıcak kavramları üzerinde keskin mantık yerine çok değerli mantık kullanmış. Olasılık değerleri (olabilirlik değerleri) atanmış. Örneğin 181 cm uzunluğundaki adam: 0.86 değeri atanmış. (Uzun olma olasılığı yüksek) , Lotfi Zadeh: Fuzzy Sets Theory Neden Bulanık Mantık?

26 Bulanık Setler: Set kavramı bir çok elemanı içeren bir grup olarak kullanılabilir: Araba derken bir çok arabanın oluşturduğu bir seti ifade ediyoruz. Bir araba derken de bu set içindeki bir arabadan bahsediyoruz. X: bir set, x: bir eleman. x ya X e dahildir (x Є X) ya da değildir. (belirsiz durumları açıklayamaz) Örnek: UZUN adam örneği Klasik mantık: Adam uzun mu? (evet ya da hayır), 180 cm sınırı. Bulanık mantık: Adam ne kadar uzun? (üyelik bilgisi. Adam 0.82 üyelikle uzun gibi)

27 «oldukça kısa», «kısa», «ortalama» ve «oldukça uzun» setleri Yatay eksen: «universe of discourse»: seçilen bir değişkene uygulanabilecek tüm değerlerin bulundupu aralık Dikey eksen: üyelik değeri

28 Bulanık set: bulanık sınırları olan set X: universe of discourse (değer evreni), x: elemanlar. Kesin mantık: A seti, A nın karakteristik fonksiyonu ile ifade edilir. Bulanık mantık: A seti, µ A (x) üyelik fonksiyonu ile ifade edilir. (0-1 aralığında sürekli değerler alabilir)

29 Bilgisayarda Bulanık set nasıl ifade edilir? Öncelikle üyelik fonksiyonu belirlenmelidir. (Uzmanlara danışılabilir, son yıllarda: YSA) Uzun adam örneği: Üç set: kısa, orta uzun. Bulanık mantık: 184 cm: orta setinin uzun üyesi (0.1 üyelik değeri ile) fakat uzun setinin de üyesi (0.4 üyelik değeri ile) -X={x 1, x 2, x 3, x 4, x 5 } : referans süper set. (Universe of discourse) -A: subset of X A={x 2, x 3 } Burada A şu şekilde de tanımlanabilir: A={(x 1,0), (x 2,1), (x 3,1), (x 4,0), (x 5,0)}. ({(x i, µ i (x)} şeklinde tanımlanmış) Buradaki soru şudur: µ A (x) sadece 0, 1 şeklinde iki değerden birini mi alacaktır yoksa 0-1 aralığında herhangi bir değer mi alacaktır?

30 Bulanık subset lerin gösterimi şu şekilde yapılır: A={(x 1, µ A (x 1 )}, {(x 2, µ A (x 2 )}, {(x n, µ A (x n )} Veya (genellikle) A={(µ A (x 1 )/x 1 }, {(µ A (x 2 )/x 2 }, {(µ A (x n )/x n } Üyelik fonksiyonları: sigmaid, gaussian, pi iyi gösterim fakat hesapsal yük. Pratikte: Lineer üyelik fonksiyonları (hesapsal kolaylık) Uzun adam örneğinde «uzun adam» seti bir «fit vektör» ile şu şekilde ifade edilebilir: Uzun adam=(0/180, 0.5/185, 1/190) veya Uzun adam=(0/180, 1/190) Benzer şekilde: Kısa adam=(1/160, 0.5/165, 0/170) Kısa adam=(1/160, 0/170) Ortalama adam=(0/165, 1/175, 0/185)

31 Dilsel değerler ve sınırlar «Ahmet uzun bir adamdır»: Ahmet: dilsel değişken, uzun: dilsel değer. Sınırlar (hedges): bulanık setlerin şeklini düzenlerler. Çok (very), biraz (somewhat), oldukça (quite), daha çok yada daha az (more, less), hafifçe (slightly) gibi sıfatlar içerirler. Yüklemleri, sıfatları, zamirleri ve hatta tüm cümleyi değiştirebilirler. * çok amaçlı değiştiriciler: çok, oldukça, çok çok fazla, gibi *gerçekle ilişkili olanlar: oldukça doğru, çoğunlukla yanlış, gibi * olasılıklar: olabilir, çok olabilirliği yok, gibi *miktar belirteçleri: çoğu, bir kaç, çok az, gibi *olabilirlikler: hemen hemen imkansız ve ya oldukça olası, gibi

32 Sınırlar insan düşünmesini taklit etmeyi kolaylaştırır. Önceki örnekteki setler very sıfatını kullanarak yeniden düzenlenmiştir. Pratik uygulamalarda Sıkça kullanılan sınırlar (hedges): Very: Extremely: Very Very: More ya da Less: Indeed:

33 Bulanık Setler Üzerindeki İşlemler: Complement (tersini alma) -klasik set teorisi: set e dahil olmayanlar neler? -bulanık set teorisi: elemanların set e dahil olmama oranları nelerdir? µ A (x)=1-µ A (x) Uzun adam=(0/180, 0.25/182.5, 0.5/185, 0.75/187.5, 1/190) Uzun olmayan adam=(1/180, 0.75/182.5, 0.5/185,0.25/187.5, 0/190) Containment (içerme) -klasik set teorisi: hangi setler hangi diğer setleri içerir? -bulanık set teorisi: hangi setler diğer setlere dahildir? (very tall man tall man)

34 Intersection (Kesişme) -klasik set teorisi: hangi elemanlar her iki sete de dahildir? -bulanık set teorisi: elemanların ne kadarı her iki sette vardır? Şişman ve uzun (klasik mantık: kesişimde yer alması için hem şişman hem de uzun) A ve B bulanık setleri (X değer evreninde) var. µ A B (x)=min[µ A (x), µ B (x)]= µ A (x) µ B (x) Örnek: Uzun adam=(0/165, 0/175, 0/180, 0.25/182.5, 0.5/185,1/190) Ortalama adam=(0/165, 1/175, 0.5/180,0.25/182.5, 0/185, 0/190) İse Uzun adam Ortalama adam= (0/165, 0/175, 0/180, 0.25/182.5, 0/185, 0/190)

35 Union (Birleşim) -Klasik set teorisi: herhangi bir sete dahil olan elemanlar hangileridir? -Bulanık set teorisi: Elemanların ne kadarı herhangi bir sete dahillerdir? A ve B bulanık setleri (X değer evreninde) var. µ A B(x)=max[µ A (x), µ B (x)]= µ A (x) µ B (x) Örnek: Uzun adam=(0/165, 0/175, 0/180, 0.25/182.5, 0.5/185,1/190) Ortalama adam=(0/165, 1/175, 0.5/180,0.25/182.5, 0/185, 0/190) İse Uzun adam Ortalama adam= (0/165, 1/175, 0.5/180, 0.25/182.5, 0.5/185, 1/190) NOT: klasik teoride olduğu gibi, -değişme özelliği, A B= B A -birleşme özelliği, A (B C)= (A B) C -dağılma özelliği, A (B C)= (A B) (A C) -denklik özelliği, A A=A, -birim uzay, A Ø= A, A Ø=Ø -değilleme, A=A -De morgan kuralı: (A B)= A B

36 Bulanık Kurallar: IF x is A THEN y is B x,y: dilsel değişkenler A,B: dilsel değerler Klasik kurallar ve Bulanık kurallar arasındaki fark: Klasik kurallar: Bulanık Kurallar: IF speed is >100 IF speed is FAST THEN stopping_distance is long THEN stopping distance is long IF speed is <40 THEN stopping_distance is short IF speed is slow THEN stopping distance is short

37 Bulanık kurallarla sonuç oluşturma: (Fuzzy reasoning) -koşulu değerlendirme (IF kısmı) -olguyu gerçekleştirme (THEN kısmı) Klasik mantık: koşul doğru ise (1) gerçekleştir Bulanık mantık: koşul belli dereceye kadar doğru ise gerçekleştir (üyeliği >0.8 ise)

38 Kural: (Ağırlık tahmin modeli) IF height is tall THEN weight is heavy Bu şekildeki çıkarımsama: monotonic selection IF kısmı birden fazla parçadan oluşursa: IF project_duration is long AND project_staffing is large AND peoject_funding is inadequate THEN risk is high : tüm parçaların üyeliği ayrı ayrı değerlendirilir ve bulanık set işlemleri gerçekleştirilir (AND:, OR: ) THEN kısmı birden fazla parçadan oluşursa: IF temperature is high THEN hot_water is reduced; cold water is increased :tüm parçalar eşit derecede etkilenir

39 Bulanık Çıkarımsama (Fuzzy Inference) Bulanık set teorisini kullanarak verilen giriş değerlerinden çıkış oluşturma 1. Mamdani-Style Inference: En sık kullaılan yöntem (1975, Ebrahim Mamdami) Dört adım: Giriş verilerinin bulanıklaştırılması (fuzzification) Kural değerlendirme Kurak çıkışlarının toplanması geri-bulanıklaştırma (De-fuzzyfication)

40

41 Bulanık Çıkarımsama (Fuzzy Inference) belirli giriş değerleri için (x 1 ve y 1 ) hangi setlere hangi üyelikle dahil oldukları hesaplanır. Kural değerlendirme: Kural 1: IF x is A3 OR y is B1 THEN z is C1 Normalde: µ A B=max(µ A (x), µ B (x)) İle hesaplanması gerekiyordu. Fakat bazen aşağıdaki gibi de OR işleci hesaplanabiliyor (MATLAB de böyle yapılıyor): µ A B=probor(µ A (x), µ B (x))= µ A (x)+ µ B (x)-µ A (x) x µ B (x) Benzer şekilde AND işleci: µ A B =prod(µ A (x), µ B (x))= µ A (x) x µ B (x)

42 Kural çıkışlarının toplanması: -clipped (örnekteki yapılan) -scaled

43 Geri-bulanıklaştırma (Defuzzification) Bir çok yöntem ama en yaygını: centroid tekniği (kütle merkezi (alanları eşit olarak ikiye bölen çizgi)) Centre of Gravity (COG)-kütle merkezi: CCCCCC = bb μμaa xx xxxxxx aa bb μμaa aa xx dddd CCCCCC = bb xx=aa bb xx=aa μμ AA xx xx μμ AA xx

44 2. Sugeno-style inference: Mamdami yöntemi:iki boyutlu bir şekil üzerinden integral alarak centroid bulmamızı istiyor: hesapsal olarak etkin değil. Sugeno, mamdami ile aynı sadece kural sonucu değişik. IF x is A AND y is B THEN z is f(x,y) Burada f(x,y), matematiksel bir fonksiyondur

45 Sonuç hesabı: WA(Weighted Average- Ağırlıklı ortalama): WWWW = μμ kkk kkk + μμ kk2 kk2 + μμ kk3 kk3 μμ kkk + μμ kk2 + μμ kk3 WWWW = =

46 Bulanık bir uzman sistemin tasarımı: 1) Problemi belirle ve dilsel değerleri tanımla 2) Dilsel değerler ve çıkışla ilgili bulanık setleri tanımla 3) Bulanık kuralları oluştur 4) Bulanık çıkarımsama yapabilmek için bulanık setleri ve kuralları kodla 5) Sistemi değerlendir ve ayar yap

47 ÖRNEK: Kişinin boyuna ve kilosuna göre yapması gereken egzersiz miktarının belirlenmesi

48 4. Sınıflama, Kümeleme ve Öğrenme Kavramları Veri madenciliği uygulamaları aşağıdaki iki kategoriden birinde uygulanmaktadır: 1. Eldeki verilerle tanımlanan bir sistemin modelini üreten, tanımsal veri madenciliği, 2. Mevcuttaki veriye dayalı olarak daha önceden karşılaşılmamış, yeni bilgileri üreten tahminsel veri madenciliği

49 ÖRNEK: giriş SİSTEM çıkış R1 giriş R2 çıkış Çıkış=giriş/(R1+R2)*R2 giriş? çıkış Bölüm-1 49

50 4. Sınıflama, Kümeleme ve Öğrenme Veri madenciliği görevleri: Sınıflama (Classification) Regresyon (regression) Kümeleme (Clustering) Kavramları Özetleme(Summarization) Bağımlılık modellemesi (Dependency Modelling) Değişim ve sapma tespiti (Change and Deviation Detection) Bölüm-1 50

51 Problemin tanımlanması Verilerin toplanması Önişleme Model tahmini Modelin yorumlanması & sonuçların çıkarsanması Bölüm-1 51

52 Veri gösterimi: özellikler Örnekler X Bağımlı değişken Y Bağımlı değişken SİSTEM Z Bağımsız değişken Bölüm-1 52

53 4. Sınıflama, Kümeleme ve Öğrenme Verinin kalitesi: veri doğru olmalı veri tam olmalı veri tutarlı olmalı Kavramları Veri kendi tipinde kaydedilmiş olmalı (sayısal tipli bir veri ise sayısal değerli olması,..vs.) Veri gereksiz yere büyük olmamalı Veri zaman faktörü ile tutarlı olmalı Veri iyi anlaşılır olmalı Veri yorumlama farklarına imkan verecek Bölüm-1 53 bulanıklıkta olmamalı

54 Sınıflama Örnek: bir iş için uygun işçi bulmak başarılı başarısız Bölüm-3 54

55 sınıflama Örnek: klimanın otomatik artışı - azalması Ortam sıcaklığı İstenen derece Pencerelerin durumu Klima Çıkış değerleri (0.5 derece artır ya da azalt) Nem Bölüm-3 55

56 Örnek: hastalık sınıflama sınıflama 56

57 kümeleme 57

58 kümeleme Bölüm-3 58

59 Tahmin (regresyon) Örnek: reklam harcamalarına bağlı gelecek öğrenci sayısının modeli Bölüm-3 59

60 Tahmin (regresyon) Bölüm-3 60

61 Tahmin (regresyon) Tahmin problemlerinin farklı çözümleri olabilir Bölüm-3 61

62 Öğrenme teknikleri Makine Öğrenmesi yöntemleri verinin yapısına göre ikiye ayrılır. Danısmanlı (supervised) Öğrenme: Veri, etkiye tepki prensibiyle çalısan sistemlerden alınır ve giris-çıkıs düzeninde organize edilir. Danısmansız (unsupervised) Öğrenme: Sınıf bilgisi olmayan veya verilmeyen veri içerisindeki grupları kesfetmeyi hedefler. Bölüm-3 62

63 Danişmanli öğrenme Bölüm-3 63

64 Danışmanlı öğrenme Bölüm-3 64

65 Danışmansız öğrenme: Danışmansız öğrenmede elde bulunan veriler için onlara karşılık gelen çıkışlar önceden bilinmez. Örneğin klima örneğinde ortam sıcaklığı, nem,..vs. gibi giriş verileri elimizde vardır fakat her bir giriş verisine karşılık klimanın derecesinin artırılması ya da azaltılmasını söyleyen çıkış verisi yoktur. Bölüm-3 65

66 Danışmansız öğrenme: Örneğin: (bir sınıflama problemi var ise) Danışmanlı öğrenme Danışmansız öğrenme Bölüm-3 66

67 Danışmansız öğrenme Uygulamalar, otomatik olarak haber sınıflandırma (örneğin news.google.com) benzer haberleri aynı kümelere koyup aynı başlanğıçtan kullanıcılara sunmak Sosyal ağlar analizi; facebookta ilişki grafikler vb Pazar analizi; müşterilerin tercihleri açıklama Doğal veriler anlama; ekonomi, bioloji, vb 67

68 EĞİTME İŞLEMİ Eğitme ve test kavramları Asıl çıkışlar Eğitme verileri Model (y=ax+exp(bx)) Sistem çıkışı Hata hesaplama Bölüm-3 68

69 Eğitme ve test kavramları TEST İŞLEMİ Asıl çıkışlar test verileri Eğitilmiş Model (y=3x+exp(2x)) Sistem çıkışı Hata hesaplama Sistemin performansı Bölüm-3 69

70 5. Yapay Sinir Ağları 70

71 Perceptron Perceptronlar, son derece sınırlı olmalarına karşın en eski sinir ağlarından biridir. Perceptron, bir sinir hücresinin birden fazla girdiyi alarak bir çıktı üretmesi prensibine dayanır. Basit bir perceptron yapısı

72 Basit Algılayıcı Öğrenme Yapısı (Kuralı) Adım1: Ağa, girdi seti ve ona karşılık beklenen çıktı gösterilir(x,b). Adım2: Perceptrona gelen Net girdi hesaplanır. Adım3: Perceptron çıkışı hesaplanır.

73 Ağın, beklenen çıktısı 0 iken Net girdi eşik değerinin üzerinde ise ağırlık değerleri azaltılmaktadır. Ağın, beklenen çıktısı 1 iken Net girdi eşik değerinin altında ise ağırlık değerleri arttırılmaktadır. Adım4: Bütün girdi setindeki örnekler için doğru sınıflandırma yapılıncaya kadar ilk üç adımdaki işlemler tekrarlanır.

74 Örnek

75

76

77

78

79

80

81 Perceptron Yapısı Bias=1 Wn =Wn + LR*Xn*E x1 x2 xn y Tek katmanlı perceptronlar sadece doğrusal problemlerde kullanılır w1 wn Gövde (Soma) Çıktı Vektörü [Sinaps] Ağırlık Vektörü = W Her girişin ağırlıkları atanıyor Hard-Lim aktivasyon foksiyonu g()=if Σ(wi.xi)>0 then 1 else 0 Çıktı Vektörü başka katmanları besleyebilir

82 Terimler Epoch : Olası girdiler için ağırlıkların güncellenme sayısına denir. Error: Çıktı değeriyle bizim fonksiyondan beklediğimiz değer arasındaki farktır. Örneğin, eğer biz çıktı olarak 0 bekleyip de 1 aldığımızda hata (error) değeri -1 dir. Target Value, T : Perceptrondan öğrenmesini beklediğimiz değerdir. Örneğin, eğer AND fonksiyonuna [1,1] girdisini verirsek bekleyeceğimiz sonuç 1 dir. Output, O : Perceptron un verdiği çıktıdır. X i : Neuron a verilen girdi W i : Xi inci girdinin ağırlık değeri LR : Learning rate. Bir perceptron un hedefe varması için gereken adım büyüklüğü.

83 Öğrenme Algoritması Girdilere göre çıktıyı hesapla Error = T O If Error > 0 then W i_yeni değer = W i_eski değer + LR * X i * Error End If

84 Örnekler X 1 X 2 X 1 1 Eşik 0 1 Output (1,0) (1,1) Net parametre değerleri (bias, W 1, W 2 ) = 0, 1, 1) (0,0) (0,1) X 2 X 1 X Bias + W 1 *X 1 + W 2 *X 2 Output Target *1 + 1*1 = *1 + 1*0 = *0 + 1*1 = * 0 + 1* 0 = 0 0 1

85 Perceptronlar XOR problemi gibi doğrusal olarak sınıflandırılamayan problemleri çözümünde başarısızdır.

86 Çok Katmanlı Perceptron (MLP) 86

87 XOR problemini çözmek için yapılan çalışmalar sonucu çok katmanlı algılayıcı modeli geliştirilmiştir. Rumelhart ve arkadaşları tarafından geliştirilen bu modele hata yayma modeli veya geriye yayılım modeli(back propogation model) de denilmektedir. Bunu Özellikle sınıflandırma, tanıma ve genelleme yapmayı gerektiren problemler için çok önemli bir çözüm aracıdır. Bu model Delta Öğrenme Kuralı denilen bir öğrenme yöntemini kullanmaktadır. Bu kural aslında ADALINE ve basit algılayıcı modelinin öğrenme kurallarının geliştirilmiş bir şeklidir. 87

88 Çok Katmanlı Ağ Modelinin Yapısı Ara Katman Girdi Katmanı Çıktı Katmanı G1 Ç1 G2 Ç2 G3 Ç3 Eşik Değeri Eşik Değeri 88

89 Girdi Katmanı: Dış dünyadan gelen girdileri alarak ara katmana gönderir. Bu katmanda bilgi işleme olmaz. Gelen her bilgi geldiği gibi bir sonraki katmana gider. Her proses elemanın sadece bir tane girdisi ve bir tane çıktısı vardır. Yani, girdi katmanındaki her proses elemanı bir sonraki katmanda bulunan proses elemanlarının hepsine bağlanır. Ara Katmanı: Ara katmanlar girdi katmanından gelen bilgileri işleyerek bir sonraki katmana gönderir. Çok katmanlı bir ağda birden fazla ara katman ve her katmanda birden fazla proses elemanı bulunabilir. 89

90 Çıkış Katmanı: Ara katmandan gelen bilgileri işleyerek ağa girdi katmanından verilen girdilere karşılık ağın ürettiği çıkışları belirleyerek dış dünyaya gönderir. Bir çıktı katmanında birden fazla proses elemanı olabilir. Her proses elemanı bir önceki katmanda bulunan bütün proses elemanlarına bağlıdır. Her proses elemanının bir çıktısı vardır. Temel amacı ağın beklenilen çıktısı ile ürettiği çıktı arasındaki hatayı en aza indirmektir. Bunu hatayı ağa yayarak gerçekleştirdiği için bu ağa hata yayma ağı da denmektedir. 90

91 Çok katmanlı ağ öğretmenli öğrenme stratejisini kullanır. Ağa, hem örnekler hem de örneklerden elde edilmesi gereken çıktılar verilmektedir. Sistem, kendisine gösterilen örneklerden genellemeler yaparak problem uzayını temsil eden bir çözüm uzayı üretmektedir. Daha sonra gösterilen benzer örnekler için bu çözüm uzayı sonuçlar ve çözümler üretebilmektedir. 91

92 Çok Katmanlı Ağ Hücresi Girdi Nöron n : net giriş toplamı a : çıkış Σ : Toplam fonksiyonu. f : Aktivasyon fonksiyonu. Sigmoid Tanh Lineer 92

93 Bir çok giriş için genellikle bir nöron yeterli olmayabilir. Paralel işlem yapan birden fazla nörona ihtiyaç duyulduğunda katman kavramı devreye girmektedir. S tane nöronun tek bir katmanı Şekil de gösterilmiştir. Burada her giriş bir nörona bağlıdır. 93

94 Çok Katmanlı Ağın Öğrenme Kuralı Çok katmanlı ağın öğrenme kuralı en küçük kareler yöntemine dayalı Delta Öğrenme Kuralı nın genelleştirilmiş halidir. Bu yüzden Genelleştirilmiş Delta Kuralı olarak da isimlendirilmektedir. Ağın öğrenebilmesi için eğitim seti adı verilen ve örneklerden oluşan bir sete ihtiyaç vardır. Bu set içinde her örnek için ağın hem girdiler hem de o girdiler için ağın üretmesi gereken çıktılar belirlenmiştir. 94

95 Genelleştirilmiş Delta Kuralı iki aşamadan oluşur. İleri doğru hesaplama(feed Forward) Geri doğru hesaplama (Back Propogation) 95

96 I) İleri Doğru Hesaplama Bu safhada bilgi işleme eğitim setindeki bir örneğin Girdi Katmanından ağa gösterilmesi ile başlar. Gelen girdiler hiç bir değişiklik olmadan ara katmana gönderilir. Girdi katmanındaki k. Proses elemanının çıktısı Ç ki şu şekilde belirlenir: Ç ki = G k 96

97 G1 Girdi Katmanı Ara Katman 1 Çıktı Katmanı Ç1 Ç K 1 2 G2 Gk... Ç K i Ç K 3 Ç K 2 3 i Ç2 Ç3 Eşik Değeri Eşik Değeri 97

98 Ara katmandaki her proses elemanı girdi katmanındaki bütün proses elemanlarından gelen bilgileri bağlantı ağırlıklarının (A1,A2,...) etkisi ile alır. Önce ara katmandaki proses elemanlarına gelen net girdi (NET ja ) şu formül kullanılarak hesaplanır: n NET ja = A kj Ç k i k=1 Burada A kj k. girdi elemanını j. ara katman elemanına bağlayan bağlantının ağırlık değerini göstermektedir. J. ara katman elemanının çıktısı ise bu net girdinin aktivasyon fonksiyonundan geçirilmesiyle hesaplanır. 98

99 Girdi Katmanı Ara Katman 1 Çıktı Katmanı G1 Ç1 wa 1j 2 G2 Gk... wa 2j 3 Ç2 Ç3 wa kj j Eşik Değeri Eşik Değeri n NET ja = A kj Ç k i k=1 99

100 Sigmoid fonksiyonu kullanılması halinde çıktı: Ç ja = 1 1+ē (NET j a +β ja ) Burada β j, ara katmanda bulunan j. elemana bağlanan eşik değer elemanının ağırlığını göstermektedir. Bu eşik değer ünitesinin çıktısı sabit olup 1 e eşittir. Eğitim sırasında ağ bu değeri kendisi belirlemektedir. 100

101 Girdi Katmanı Ara Katman 1 Çıktı Katmanı G1 2 Ç1 wa 1j G2 Gk... wa 2j 3 Ç2 Ç3 wa kj j wβ j Eşik Değeri Eşik Değeri Ç ja = 1 1+ē (NET j a +β ja ) 101

102 Ara katmanın bütün proses elemanları ve çıktı katmanının proses elemanlarının çıktıları aynı şekilde kendilerine gelen NET girdinin hesaplanması ve sigmoid fonksiyonundan geçirilmesi sonucu belirlenirler. Çıktı katmanından çıkan değerler bulununca ağın ileri doğru hesaplama işlemi tamamlanmış olur. 102

103 II) Geriye Doğru Hesaplama Ağa sunulan girdi için ağın ürettiği çıktı ağın beklenen çıktıları ile karşılaştırılır. Bunların arasındaki fark hata olarak kabul edilir. Amaç bu hatanın düşürülmesidir. Bu hata, ağın ağırlık değerlerine dağıtılarak bir sonraki iterasyonda hatanın azaltılması sağlanır. Çıktı katmanındaki m. Proses elemanı için oluşan hata E m ; E m =B m - Ç m 103

104 E m =B m - Ç m Yukarıdaki hata, bir proses elemanı için oluşan hatadır. Çıktı katmanı için oluşan toplam hatayı (TH) bulmak için bütün hataların toplanması gerekir. TH=1/2( E m2 ) Toplam hatayı enazlamak için bu hatanın kendisine neden olan proses elemanlarına dağıtılması gerekmektedir. 104

105 Ağın ağırlıklarını değiştirmek için 2 durum söz konusudur: Ara katman ile çıktı katmanı arasındaki ağırlıkların değiştirilmesi Ara katmanlar arası veya ara katman girdi katmanı arasındaki ağırlıkların değiştirilmesi 105

106 Ara Katman ile Çıktı Katmanı Arasındaki Ağırlıkların Değiştirilmesi Ara katmandaki j. Proses elemanı çıktı katmanındaki m. Proses elemanına bağlayan bağlantının ağırlığındaki değişim miktarına A a denirse; herhangi bir t zamanında ağırlığın değişim miktarı şöyle hesaplanır: A jma (t)=λδ m Ç ja + α A jma (t-1) Burada λ öğrenme katsayısını, α momentum katsayısını göstermektedir. 106

107 Momentum katsayısı ağın öğrenmesi esnasında yerel bir optimum noktaya takılıp kalmaması için ağırlık değişim değerinin belirli bir oranda bir sonraki değişime eklenmesini sağlar. A jma (t)=λδ m Ç ja + α A jma (t-1) Yine yukarıdaki formül dikkate alındığında δ m ünitesinin hatasını göstermektedir. ise m. çıktı δ m = f (NET)E m 107

108 f (NET) aktivasyon fonksiyonunun türevidir. Sigmoid fonksiyonun kullanılması durumunda ; δ m = Ç m (1-Ç m ) E m Değişim miktarı hesaplandıktan sonra ağırlıkların t. iterasyondaki yeni değerleri: A jma (t) = A jma (t-1) + A jma (t) 108

109 Benzer şekilde eşik değer ünitesinin de ağırlıklarını değiştirmek gerekmektedir. Çıktı katmanında bulunan proses elemanlarının eşik değer ağırlıkları β ç ile gösterilirse; bu ünitenin çıktısı sabit ve 1 olması nedeni ile değişim miktarı: β mç (t) = λ δ m + α β mç (t-1) β mç (t) = β mç (t-1) + β mç (t) 109

110 Ara Katmanlar Arası veya Ara Katman Girdi Katmanı Arasındaki Ağırlıkların Değiştirilmesi Ara katman ile çıktı katman arasındaki ağırlıkların değişiminde her ağırlık için sadece çıktı katmanındaki bir proses elemanının hatası dikkate alınmıştır. Oysaki bu hataların oluşmasında girdi katmanı ve ara katman arasındaki ağırlıkların payı vardır. 110

111 Girdi katmanı ile ara katman arasındaki ağırlıkların değişimi A i ile gösterilirse değişim miktarı: A kji (t)=λ δ ja Ç ki + α A kji (t-1) Yine burdaki hata terimi δ a şöyle hesaplanacaktır: δ ja =f (NET) δ m A jm a m 111

112 Aktivasyon fonksiyonu olarak sigmoid fonksiyonun kullanılması durumunda ; δ ja = Ç ja (1- Ç ja ) δ m A jm a m Ağırlıkların yeni değerleri ; A kji (t)= A kji (t-1) + A kji (t) 112

113 Benzer şekilde eşik değer ünitesinin de ağırlıklarını değiştirmek gerekmektedir. Ara katman eşik değer ağırlıkları β a ile gösterilirse değişim miktarı ; β ja (t)=λδ ja + α β ja (t-1) β ja (t)=β ja (t-1) + β ja (t) Böylece ağın ağırlıklarının hepsi değiştirilmiş olacaktır. Bir iterasyon hem ileri hem de geriye doğru hesaplamaları yapılarak tamamlanmış olcaktır. 113

114 XOR Problemi XOR problemini çözerken kullanılacak YSA da hücrelerin aktivasyon fonksiyonu 2 şekilde seçilerek çözüm getirilmeye çalışılmıştır : Step Fonksiyon ile Sigmoid Fonksiyon kullanarak 114

115 Step Fonksiyon ile Çözüm Aktivasyon a 3 = w 2 * o 1 + w 3 * o 2 a 3 = 1 * 0+ 1* 0 = 0 Çıktı a 4 = w 1 * o 1 + w 5 * o 3 + w 4 * o 2 a 4 = -1 * * 0 + (-1 * 0) = 0 O 4 = 0 Eşik değeri, bütün hücreler için 0.02 olarak seçilmiştir. 115

116 Sigmoid Fonksiyon Seçilmesi Durumunda Sigmoid fonksiyon 0 ve 1 gibi değerler alır. 116

117 Adım 1. Ağırlıkların başlangıç değerlerinin verilmesi Ağırlıklar verilirken genel olarak küçük değerler seçilir. Adım 2. Çıkışların hesaplanması Ara katmandaki oj gibi bir hücrenin çıkışı aşağıdaki sigmoid fonksiyon ile hesaplanır. o j = f ( w ji o i - θ j ) = 1 + e 1 -α ( w ji o i - θ j ) wji = weight of input i to neuron j α is a constant θj =node threshold F=sigmoid function 117

118 Adım 3. Ağırlıkların ayarlanması Hata Gradyeni (Error gradient) hesaplanır. Çıktı nöronları için δj = oj (1 oj)(dj oj) Ara katmandaki nöronlar için aşağıdaki şekilde hesaplanır. δj = oj(1 oj) δ kwkj δ k : neuron k daki (gizli katmana bağlı olan) hata gradyeni dj : istenilen çıktı (desired output), oj : esas çıktı (actual output) Ağırlıkların değişimi aşağıdaki gibi hesaplanır. wji= ηδj oi η : öğrenme hızı (0< η <1) Değişimler varolan ağırlıklara ilave edilir. wji (t+1) = wji(t) + wji 118

119 Bu kısa hatırlatmadan sonra XOR problemimize dönersek; Başlangıç ağırlık değerlerimiz aşağıdaki gibi random olarak verilir

120 İlk durumumuz o3=1,o4=1 ve α ve θ değerleri de sırasıyla 1 ve 0 olsun.ayrıca n öğrenme hızı da 0.3 olsun Bu durumda ; O2= 1 + e (1x x0.02) 1 O3= 1 + e [0.678x(-0.02) + 1x x0.03) 1 = = o2,o3 ün çıktıları yukarıdaki gibi hesaplanır. O1 ün çıktısı istenilen şekilde değildir. Bu durumda ağırlıkların yeniden hesaplanmasına gidilir. δ1 = 0.509( )( ) = w13 = 0.3(-0.127) x 1 = , w13 = = e 1 -α ( w ji o i - θ j ) 1 Sigmoid fonk. δ2 = 0.678( )(-0.127)(-0.02) = w23 = 0.3 ( ) x 1 = , w23 = = Ağırlıkların değişimi 120

121 δ1 = 0.509( )( ) = w14 = 0.3(-0.127) x 1 = , w14 = = δ2 = 0.678( )(-0.127)(-0.02) = w24 = 0.3 ( ) x 1 = , w24 = = δ1 = 0.509( )( ) = w12 = 0.3(-0.127) x = , w12 = = Değişik örnekler gösterilerek ağ, yukarıdaki gibi eğitilir. 121

122 Sonuçta aşağıdaki ağırlıklara ulaşıldığında ağ öğrenmesini durdurur Sonuçta : O3=1,O4=0 için 0.01 lik bir hata payı ile O2= O1= Değerleri elde edilir. Sonuç ağırlıklar 122

123 Uygulama IRIS sınıflama problemi: YSA (MATLAB)

124 5. Evrimsel Hesaplama GENETİK ALGORİTMA (GA) Genetik Algoritmanın Tanımı Genetik algoritma, doğadaki evrim mekanizmasını örnek alan bir arama metodudur ve bir veri grubundan özel bir veriyi bulmak için kullanılır. Genetik algoritmalar doğada geçerli olan en iyinin yaşaması kuralına dayanarak sürekli iyileşen çözümler üretir. Bunun için kullandığı operatörler; uygunluk fonksiyonu (fitness) : toplumdaki her kromozomun ne kadar iyi olduğu bulmayı amaçlayan fonksiyondur. Bu fonksiyon GA nın beynini oluşturmaktadır. yeniden kopyalama (recombination) : yeni çözümler üretmek için çaprazlama (crossover) işlemi yapılır ve bu eşleme uygunluk fonksiyonuna göre yapılır. değiştirme (mutation) : sadece bir çözüm üzerinde yapılan işlemdir. 124

125 5. Evrimsel Hesaplama GENETİK ALGORİTMA (GA)

126 Kromozomun şifrelenmesi 1. İkili kodlama Bu yöntem ilk GA uygulamalarında kullanıldığı için hala en çok kullanılan yöntemlerdir. Her kromozom, 0 ve 1 lerden oluşan bit dizisidir ve ikili diziyle ifade edilir. Bu dizideki her bit, çözümün bir özelliğini taşır. Dizinin tümü ise bir sayıya karşılık gelir. Kromozom A: Kromozom 2:

127 Kromozomun şifrelenmesi (Devam..) 2. Permütasyon kodlama Bu kodlama Gezgin Satıcı Problemi ve iş sıralama problemleri gibi sıralam problemlerinde kullanılır. Burada her kromozom bir numaralar dizisidir. Kromozom A: Kromozom B:

128 Gen takası (Çaprazlama) ve Mutasyon 1. İkili kodlanmış kromozom - A) Tek noktalı gen takası. Kromozom-1 : Kromozom-2 : Çocuk-1 : Çocuk-2 : B) Çift noktalı gen takası. Kromozom-1 : Kromozom-2 : Çocuk-1 : Çocuk-2 :

129 Gen takası (Çaprazlama) ve Mutasyon (Devam..) - C) Tek biçimli (uniform) gen takası. Kromozom-1 : Kromozom-2 : Çocuk-1 : Çocuk-2 : Mutasyon işlemi : Mutasyon işlemi, problemin problemin populasyondaki çözümlerin yerel optimuma düşmesini engellemek için kullanılır. Mutasyon yeni üretilen çocuk kromozomu rasgele değiştirir. Çocuk-1(orijinal) : Çocuk-2 :

130 Gen takası (Çaprazlama) ve Mutasyon (Devam..) 2. Permütasyon kodlanmış kromozom Çaprazlama: Kromozom-1 : Kromozom-2 : Çocuk-1 : Çocuk-2 : Mutasyon: İkitane rasgele gen seçilir ve bunların yeri değiştirilir. Çocuk-1(orijinal) : Çocuk-2 :

131 Kromozom Seçimi 1. Rulet tekeri seçimi Bu yöntemde seçilme işlemi bireylerin (kromozomların) uygunluk değerine göre yapılmaktadır. Fakat uygunluk değeri en büyük olanın seçileceği garanti edilmez, yalnız seçilme şansı daha fazla olacaktır. Bu yöntemde bütün uygunluk değerleri bir tabloya yazılır ve toplanır. Uygunluk değeri toplama bölünerek bireylerin [0,1] aralığında seçilme olasılıkları belirlenir. Rulet tekerleği seçimi çözümlerin uygunluk değerlerinin pozitif olması gerekir. 131

132 Kromozom Seçimi (Devam..) 2. Sıralama seçimi Rulet tekeri seçimi, uygunluklar çok farklıysa problemlere yol açar. (Örneğin, en iyi kromozomun uygunluğu %90 ise diğer kromozomlar çok az seçilme şansına sahip olacaktır.) Sıralama seçimi önce populasyonu sıralamakta ve ardından her kromozomun bu sıralamada uygunluğu aranmaktadır. En kötüsü 1 uygunlukta, ikinci kötüsü 2 uygunlukta vb., en iyisi ise N uygunlukta olacaktır. Böylelikle bütün kromozomlara seçilme şansı verilir. Fakat bu yöntemde en iyi kromozomlar, diğerlerinden daha farklı olmadığından çözüme yaklaşma yavaş olacaktır. 132

133 Kromozom Seçimi (Devam..) 3. Sabit durum seçimi Bu yönteme göre ebeveyinlerin seçimi için kromozomların büyük parçaları bir sonraki jenerasyona taşınmaktadır. Her nesilde yeni bir birey (çocuk) oluşturmak için birkaç kromozom seçilir (büyük uygunlukta iyi olanlar). Az uygunlukta kötü olan kromozomlar atılır ve yeni çocuk kromozomlar yerine getirilir. Geri kalan kromozomlar değiştirilmeden yeni nesile aktarılır. 133

134 Genetik Algoritmaların Çalışma Prensibi Adım 1: Olası çözümlerin kodlandığı bir çözüm grubu oluşturulur (çözüm grubu (population), çözümlerin kodları (string) da kromozom olarak adlandırılır). Adım 2: Her kromozomun ne kadar iyi olduğu bulunur (fitness function). Adım 3: Bu kromozomlar eşlenerek (mating), yeniden kopyalama (recombination) ve değiştirme (crossover) operatörleri uygulanır. Bu sayede yeni bir toplum oluşturulur. Adım 4: Yeni kromozomlara yer açmak için eski kromozomlar ortadan kaldırılır. Adım 5: Tüm kromozomların uygunlukları tekrar hesaplanır. Adım 6: İşlemler tekrarlanarak verilmiş zaman içerisinde daha iyi olan yeni nesillerin oluşturulması gerçekleştirilir (3. adıma gidilir). Adım 7: O ana kadar hesaplanma sırasında en iyi kromozom bulunduğunda istenen sonuç elde edilmiş olur. 134

135 GA nın Performansını Etkileyen Nedenler Kromozom sayısı: Kromozom sayısını arttırmak çalışma zamanını arttırırken, azaltmak da kromozom çeşitliliğini yok eder. Mutasyon Oranı: Kromozomlar birbirine benzemeye başladığında hala çözüm noktalarının uzağında bulunuyorsa mutasyon işlemi GA nın sıkıştığı yerden kurtulmak için tek yoludur. Ancak yüksek bir değer vermek GA ın kararlı bir noktaya ulaşmasını engelleyecektir. Kaç Noktalı Çaprazlama Yapılacağı: Normal olarak çaprazlama tek noktada gerçekleştirilmekle beraber yapılan araştırmalar bazı problemlerde çok noktalı çaprazlamanın çok yararlı olduğunu göstermiştir. Çaprazlamanın sonucu elde edilen bireylerin nasıl değerlendirileceği: Elde edilen iki bireyin birden kullanılıp kullanılamayacağı bazen önemli olmaktadır. 135

136 Nesillerin birbirinden ayrık olup olmadığı: Normal olarak her nesil tümüyle bir önceki nesle bağlı olarak yaratılır. Bazı durumlarda yeni nesli eski nesille birlikte yeni neslin o ana kadar elde edilen bireyleri ile yaratmak yararlı olabilir. Parametre kodlanmasının nasıl yapıldığı: Kodlananın nasıl yapıldığı en önemli noktalardan biridir. Örnek vermek gerekirse kimi zaman bir parametrenin doğrusal yada logaritmik kodlanması GA nın performansında önemli bir farka yol açabilir. Kodlama gösteriminin nasıl yapıldığı: Kodlamanın nasıl olduğu yeterince açık olmamakla beraber GA nın performansını etkileyen bir noktadır. İkilik düzen, kayan nokta aritmetiği ya da gray kodu ile gösterim en yaygın yöntemlerdir. Başarı değerlendirmesinin nasıl yapıldığı: Akıllıca yazılmamış bir değerlendirme işlevi, çalışma zamanını uzatabileceği gibi çözüme hiçbir zaman ulaşmamasına da neden olabilir. 136

137 GA nın Uygulama Alanları Optimizasyon: Sayısal optimizasyon ve kombinetoral optimizasyon problemleri olan devre tasarımı, doğrusal olmayan denklem sistemlerinin çözümünde ve fabrika-üretim planlamasında kullanılır. Otomatik Programlama (automatic programming): Bilgisayar programları yardımıyla network sıralamasında (sorting), ders programı hazırlanmasında kullanılır. Makine öğrenmesi (machine learning): Robot sensorlerinde, yapay sinir ağlarında, VLSI yonga tasarımı ve protein yapısal analizinde kullanır. Ekonomi (economics): Ekonomik modellerin geliştirilmesinde ve işlemesinde kullanılır. İmmün sistemler (Immune systems): Çok-gen li ailelerin evrimi esnasında ve doğal immün sistem modellerinde kullanılır. Topluluk genetiği (population genetics): Evrim ile ilgili sorulara cevap bulmada kullanılır. Evrim ve öğrenme (evolution and learning): Fertlerin öğrenmesini ve türlerin evrilmesinde kullanılır. Sosyal sistemler (social systems): Sosyal sistemlerin analizinde kullanılır. 137

138 Örnek: Fonksiyon Maksimizasyonu Problem : f(x)=x², x [0, 31] şeklinde verilen bir fonksiyonun. Amaç : Verilen aralıkta fonksiyonun maksimizasyonu. Adım 1: x in 0 ve 1'lerden oluşan 2 tabanındaki gösterilimi yapılmaktadır 0 : : olacaktır. Adım 2: Toplumun birey sayısı n:4 olarak seçilmiştir. Toplumu oluşturan dört birey, her biri 5 bit uzunluğunda birer kromozomla temsil edildiği için toplam 20 kere yazı tura atmak suretiyle belirlenmiştir. Birey 1: 01101, x = 13, x² = 169 Birey 2: 11000, x = 24, x² = 576 Birey 3: 01000, x = 8, x² = 64 Birey 4: 10011, x = 19, x² =

139 Adım 3: Belirlenen bireyler için f(x)=x² ile uygunluk değerlerini hesaplanır. Dört bireyin toplam uygunluk değerleri; = 1170 Her bir bireyin rulet tekerleğinde kaplayacağı alan; Birey 1: 169 / 1170 = 0.14 : %14 Birey 2: 576 / 1170 = 0.49 : %49 Birey 3: 64 / 1170 = 0.06 : %6 Birey 4: 361 / 1170 = 0.31 : %31 Bu değerler, rulet tekerleğinin her çevrilişinde hangi olasılıkla hangi bireyin seçileceğini belirtir. 139

140 Adım 4: Toplumda ki birey sayısının sabit kaldığı varsayıldığından, rulet tekerleği 4 kere çevrilerek çiftleşme havuzu oluşturulur. Birey 1 : 1 kere Birey 2 : 2 kere Birey 3 : 0 kere Birey 4 : 1 kere Elde edilen çiftleşme havuzu şu şekildedir; Aday 1 : (Birey 1) Aday 2 : (Birey 2) Aday 3 : (Birey 2) Aday 4 : (Birey 4) 140

141 Adım 5: Çiftleşme havuzu belirlendikten sonra iki aşamalı çaprazlama uygulanır. İlk aşamada adaylar çiftleşmek üzere rasgele olarak eşlenirler. Rasgele eşleştirme sonucunda ( Aday 1, Aday 2) ve (Aday 3, Aday 4) ikili grupları oluşturulur. İkinci aşamada her ikili grup için birer kere zar atılarak çaprazlaşmanın oluşacağı nokta belirlenir. Zar atılarak 1. Grup için k=4 ve 2. Grup içinde k=2 olarak belirlenmiştir. Çiftleşme grubu 1: (k=4) Aday 1 : 0110/1 oluşan Birey 1 : Aday 2 : 1100/0 oluşan Birey 2 : Çiftleşme grubu 2 : (k=2) Aday 3 : 11/000 oluşan Birey 3 : Aday 4 : 10/011 oluşan Birey 4 :

142 Adım 6: Son aşama olan mutasyon işlemi bitler düzeyinde uygulanır. Birey 3 ün 2 numaralı bitinde mutasyon işlemi tapılmaktadır. Oluşan Birey 3 : Mutasyon sonucu oluşan Birey 3 : Bu adımın tamamlanmasıyla bir sonraki kuşağı oluşturacak toplumun bireyleri belirlenmiş olur. Yeni toplum şu şekildedir; Birey 1 : 01100, x=12, x²=144 Birey 2 : 11001, x=25, x²=625 Birey 3 : 10011, x=19, x²=361 Birey 4 : 10000, x=16, x²=256 Bu örnekte tek bir iterasyon yapılmış ve başlangıç toplumundan bir sonraki kuşak oluşturulmuştur ancak genetik algoritmanın çalışmasının tam olarak gözlenebilmesi için tek bir iterasyon yeterli değildir. 142