GENETİK ALGORİTMALARA GİRİŞ

GENETİK ALGORİTMALARA GİRİŞ Nedim TUTKUN Düzce Üniversitesi Elektrik Elektronik Mühendisliği Bölümü nedimtutkun@duzce.edu.tr Düzce Üniversitesi Elektrik&Elektronik Mühendisliği Bölümü Konuralp 81620 Düzce

Konu Başlıkları Giriş Algoritmanın Tanımı ve Gelişimi Yöntemin Esasları İleri Düzey Operatörler Genetik Algoritmanın Kodlanması Genetik Algoritmanın Uygulanması 2

Giriş Genetik algoritmalar (GA) hem doğal seçim mekanizmasından hem de doğal genetik biliminden etkilenmiş sayısal optimizasyon algoritmalarıdır. Bu yöntem çok genel olup bir çok probleme uygulanabilecek kapasiteye sahiptir. Bazı yaklaşımların aksine, günlük hayatta karşılaştığımız hemen hemen her problemin çözümünde kullanılabilmektedir. Algoritmanın anlaşılması basit ve gerekli bilgisayar kodunu yazmak kolaydır. GA nın birçok disiplini olmasına rağmen yapay sinir ağları kadar dikkat çekmemiştir. 3

Giriş Neden bunun böyle olduğunu söylemek oldukça zordur. GA nın kendine has sınırları nedeniyle veya güçlü bir metafor eksikliği bu kesinlikle doğru değildir. Zira gerçek dünya problemlerin çözümüne yardımcı olan Darwin ve diğerlerinin fikirlerini genelleyen daha ilham verici ne olabilir? Bugün çevremizde gördüğümüz biyolojik çeşitliliği kimyasal bir düzensizlikten öte bir şey olmadan başlatan evrim denen kavram etkileyicidir, şayet olmasa bile kompleks problemleri çözen ilham verici değerler bütünüdür. 4

Giriş Birçok yollarla doğal seçim ve doğal genetik kavramının diğer problemlere uygulanma düşüncesi o kadar açıktır ki; birileri neden bunun daha denenmediğini merak edebilir. Gerçekten de öyle olmuştur. En başından beri bilgisayar bilimiyle uğraşanlar hayatın bir veya daha fazla özelliğini taklit eden sistemlerin vizyonuna sahiptirler. Pratik mühendislik optimizasyon problemlerini çözen çözümlerin popülasyonunu kullanma fikri 1950 ve 1960 larda birçok kez düşünülmüştür. Ancak GA özü itibarıyla bir kişi tarafından yani John Holland tarafından 1960 da icat edilmiştir. Onun böyle algoritmaları geliştirmesinin nedenleri bu kitabın ilgilendiği GA ile problem çözme biçiminin ötesindedir. 5

Giriş Holland ın 1975 te yazdığı Adaptation in Natural and Artificial Systems kitabı (son zamanlarda ekleri ile birlikte yeniden basılmıştır) vizyoner yaklaşımı nedeniyle özellikle okunmaya değerdir. Son zamanlarda diğerlerinden daha çok örneğin De Jong yazmış olduğu Genetic Algorithms are NOT Function Optimizers başlıklı bir makalede GA nın sadece fiziksel bir sistem modelindeki bilinmeyen parametre setini tahmin eden güçlü bir yöntemden ziyade potansiyel olarak daha farklı bir şey olduğunu bize söylemektedir. Bu kitapta GA nın farklı optimizasyon problemlerinde bu güçlü yanı çoğunlukla ilgimizi çekmektedir. 6

7 Giriş

8 Giriş

Giriş Öyleyse GA nedir? GA aşağıda verilen özellikleri içeren tipik bir algoritmadır. Bir problemin çözüm tahminlerinin popülasyonu veya sayısıdır. Popülasyon içindeki bireysel çözümlerin ne kadar iyi veya kötü olduğunu hesaplayan bir yöntemdir. Daha iyi çözümlerin parçalarını ortalama olarak daha iyi çözümler bulmak için karıştıran bir yöntemdir. Çözümler içindeki farklılığın daimi kaybını önleyen mutasyon operatörüdür. 9

Giriş Tipik olarak az sayıdaki bileşenle spesifik bir problemi çözen GA yı tasarlamanın ne kadar kolay olduğu fikrini veren bir başlangıç yapılabilir. Bunun için karmaşık bir matematik, zahmetli ve anlaşılmaz algoritmalar gerek yoktur. Dezavantajlı durum gibi görünse de GA nın tam olarak ne olduğunu belirleyen az sayıda zor ve katı kurallar mevcuttur. Konuyu daha ileriye getirmeden ve GA yı oluşturmanın muhtelif yollarını tartışmadan önce GA nın başarılı bir şekilde uygulandığı problem örnekleri verilecek ve arama ve optimizasyon ifadesi ile neyin kastedildiğinden bahsedilecektir. 10

Bazı Uygulamalar Geleneksel yöntemlerden ziyade birçok bilim insanı ve mühendis GA yı kullanmayı neden tercih ediyor? Diğer yöntemlerin çözmekte zorlandığı karmaşık bir çok problemi kolaylıkla çözebilme becerisi vardır. Bunun örneklerinden bazıları bir çok lokal optimumum olduğu karmaşık arama uzayında büyük ölçekli kombinatoryal optimizasyon problemleri (gaz boru hatlarının güzergahının belirlenmesi) ve gerçek değerli parametre tahminlerinin yapılması olarak verilebilir. GA birçok lokal optimumlara sahip arama uzayından en iyi çözümü bulma kabiliyetine sahiptir. 11

GA nın başarılı bir şekilde uygulandığı problemler ve alanlar: Görüntü işleme, elektronik eleman yerleştirme, lazer teknoloji, tıp, uzay gemisi yörüngeleri, zaman serisi analizi, katı-hal fiziği astronomi, likit kristaller, robot bilimi, su şebekeleri, 12 Bazı Uygulamalar

13 Bazı Uygulamalar mimari yapı tasarımı, bilgisayar yazılım otomatik evrimi, estetik, iş idaresi planlaması, yüz tanıma, yapay zeka sistemlerinin (yapay sinir ağları vb.) eğitimi ve tasarımı, kontrol, elektromanyetizma, elektrik makinaları, güç elektroniği, yenilenebilir enerji, üç boyutlu protein yapılarının tahmini vb.

Arama Uzayı Bir optimizasyon probleminde eldeki problemi en iyi şekilde tarif eden çözümü bulmak için olası çözümler araştırılır. Örneğin uçak kanadının ürettiği kaldırma kuvvetini matematiksel bir model üzerinden maksimum yapan ayarlanabilir parametre setinin değerlerinin bulunmaya çalışılması gibi. Eğer a ve b gibi iki ayarlanabilen parametre olsaydı çok sayıda kombinasyon denebilir, her bir tasarım ile üretilen kaldırma kuvveti hesaplanabilirdi. Buna göre a, b ve kaldırma kuvvetini sırasıyla x, y, ve z eksenleri üzerinde gösteren bir yüzey çizimi yapılabilirdi (Şekil 1.0). 14

Arama Uzayı 15 Şekil 1.0

Arama Uzayı Şekil 1.0 da verilen çizim böyle bir problemin arama uzayını temsil eder. Daha kompleks problemler için, yani iki bilinmeyenden daha fazlası, durumu görmek daha da zorlaşır. Ancak arama uzayı kavramı çözümler arasında mesafe ölçümü tanımlandığı müddetçe geçerlidir. Her bir çözümün problem içindeki başarı ölçütü veya uygunluk değeri belirlenir. Daha iyi performans gösteren veya daha uygun çözümler bir müddet sonra arama uzayında tepe noktaları daha kötü çözümlerse arama uzayında vadi noktaları teşkil eder veya uygunluk değerlerinden oluşan bir görüntü ortaya çıkarır. 16

Arama Uzayı Bu şekilde uzaylar veya görüntüler sürpriz bir şekilde karmaşık bir topoğrafya meydana getirir. Hatta basit problemler için bile yükseklikleri değişen birçok tepe noktaları oluşur ve tüm ölçek üzerinde birbirinden vadiler ile ayrılırlar. En yüksek tepe genellikle global maksimum veya optimum olarak adlandırılır, daha küçük tepe noktaları ise lokal maksimum veya optimum olarak refere edilir. Birçok arama problemi için amaç global optimumu doğru şekilde bulmaktır ancak bu o şekilde gerekmeyebilir. Bazı durumlarda, örneğin gerçek zamanlı kontrolde uygunluğun belli değerinin üstündeki herhangi bir noktanın bilinmesi mimari tasarımda bu durum geçerli değildir. kabul edilebilir. Ancak 17

Arama Uzayı Birçok geleneksel algoritmanın neden zorluklarla karşılaştığını görmek için bu şekildeki arama uzaylarında global optimumun aranması söz konusu arama uzayındaki özelliklerin nasıl oluştuğunu bilmeyi gerektirir (Şekil 1.1). Şekilde gösterilen deneysel veriyi dele alalım. Burada x bağımsız değişkeninin muhtelif noktalarında y bağımlı değişkenine karşılık gelen ölçümler bulunmaktadır. Bariz bir şekilde x ve y arasında bir bağıntının olabileceğine dair bir görüntü mevcuttur. Bu bağıntı olarak ifade edilebilir. y j = mx j + c 18

Arama Uzayı Ancak m ve c değerleri ne olmalıdır? Eğer x=0 iken y=0 olduğunu gösteren bir neden varsa o zaman c=0 ve m sadece ayarlanması gereken bir parametre veya bilinmeyendir. m değerini bulmanın bir yolu bir cetvel kullanarak noktalar arasından en iyi doğruyu göz ile tahmin etmektir. Böylece m nin değeri doğrunun eğimi ile verilir. Ancak bunun için daha doğru yaklaşımlar mevcuttur. m nin en iyi tahminini bulmanın bilinen nümerik yöntemi en küçük kareler tahmini ile olur. Bu teknikte tahmin edilen (y) ile ölçülen (y) arasındaki hata objektif fonksiyon ile karakterize edilir. 20

Arama Uzayı Ω = n j=1 y j y j 2 Ω = n j=1 y j mx j + c 2 c=0 olması durumunda, Ω = n j=1 y j mx j 2 21

Arama Uzayı Esasen bu yöntem basit bir şekilde y nin ölçülen değerleri ile tahmin edilen (Şekil 1.2) değerler arasındaki dikey mesafelerin karelerinin toplamını hesaplar. Bu mesafelerin toplamı minimum olduğunda Ω minimum olacaktır. Bu minimum değeri veren m değeri m in en iyi tahmini değeridir. Bu Ω un en düşük değerini bulma probleminin hâlâ çözülmediğini gösterir. Bunu yapmanın bir yolu (az sayıda veriye sahip basit bir problem için oldukça makul bir yaklaşımdır) bilgisayar kullanarak m nin iyi ayarlanmış tablo değerleri üzerinden Ω yı hesaplamaktır. Daha sonra Ω un en küçük değerini veren m değerini kolayca seçilir. 22

Arama Uzayı Bu yaklaşım problemin arama uzayı görüntüsünü (Şekil 1.3) oluşturan Şekil 1.1 in veriler ile beraber kullanılmıştır. m e ait en iyi değer m = m* 1.1 olduğu açıktır. Burada yıldız işareti parametreye ait optimal değeri göstermektedir. Bilinmeyen parametre veya parametreleri tahmin ederek çok sayıda bilinmeyenle kolayca problemi çözen bu yaklaşım sayısallaştırılmış arama olarak adlandırılır. Şayet görece olarak az sayıda bilinmeyen parametreler varsa bu yaklaşım gerçekten faydalı olur ve Ω değeri hızlı bir şekilde tahmin edilebilir. Örnek olarak, böyle bir yaklaşım niçin belli büyüklükteki problemlere hızlıca uygulanabilir olduğu aşağıdaki örnek üzerinden ele alalım. 24

Arama Uzayı On tane bilinmeyeni ve her biri yüzde birlik doğruluk gerektiren bir problemde sonuca ulaşmak için 10 20 adet tahmin yapılması gerekir. Bilgisayar saniyede 1000 tahmin yapsa bile cevabı bulunabilmesi için 3x10 9 yıl geçmesi gerekecektir. Karşılaşılan çoğu problemlerde bilinmeyen sayısı 10 dan fazladır. Yüzde birlik doğruluk seviyesi çok rağbet gören hassasiyet değildir ve saniyede 1000 işlem birçok problem için hatırı sayılır bir değerdir. Bütün bunlar daha iyi bir yaklaşımın bulunması ihtiyacını ortaya koymaktadır. Şekil 1.3 e dönersek, eğri şeklinin kısa bir değerlendirilmesi başka bir yaklaşımı önermektedir. Buna göre m in m 1 ve m 2 (Şekil 1.4 e bakın) olmak üzere 2 tahmini olsun. 26

Arama Uzayı Eğer Ω (m 1 ) > Ω (m 2 ) ise m 3 = m 2 + olan başka bir tahmin yapın veya aksi durumda diğer tarafa yönelin. Burada m den çok küçük bir sayı olup değerini ayarlamanın yolu uygun dinamik değerler vermektir. Bu şekilde yöntem m* değerine doğru hızlı bir şekilde yoğunlaşacaktır. Böyle bir yaklaşım doğrudan arama olarak tanımlanır (bu yöntem türev veya başka bilgiler içermez). Verilen problem minimizasyon problemlerinden biridir. Eğer 1/Ω çizilseydi problem maksimizasyon problemlerinden birine dönüşecekti ve bulunmak istenen değer tepenin en üst noktası olacaktı. Ancak bu gibi yöntemler genele tümüyle uygulanamaz. Zira ayarlanabilen tek bir a parametresi olan Ω, farklı bir problem verildiğinde Şekil 1.5 de gösterilen değişimi yapabilir. 28

Arama Uzayı İster yukarıda ana hatları verilen doğrudan arama algoritması, isterse basit hesap temelli bir yaklaşım kullanılsın, a nın nihai tahmin değeri algoritmanın başladığı arama uzayına bağlıdır. a = a 2 noktası için başlangıç tahmininin yapılması elbette aranan (global) minimum değerin (a*) bulunmasını sağlar. Ancak a= a 1 alınırsa o zaman sadece yerel minimum (a**) noktasına ulaşılır. Bu da önemli bir soruna işaret eder. Arama algoritması ile üretilen sonuçlar başlama noktasına bağlıysa, o zaman üretilen cevaplara duyulan güven azalır. Verilen örnekte, bu problemin başka bir çözüm yolu, problemi çözmeye bir gurup noktadan başlamak olabilir. 30

Arama Uzayı Buna göre bilinen en küçük minimum değerin doğru global minimum değer olduğunu farz edelim. Bu çoğunlukla benimsenen bir stratejidir. Şekil 1.5 çok basit bir arama uzayını göstermektedir. Çok daha karmaşık bir uzayda (Şekil 1.6 gibi) çok sayıda lokal optimumlar olabilir ve bu yaklaşım o zaman daha gerçekçi olur. Öyleyse bu karmaşık uzayların üstesinden nasıl gelinebilinir? Bu konuda olası çok sayıda yaklaşım önerilmiş ve rastgele arama ve benzetim tavlaması gibi yöntemler faydalı bulunmuştur. Genetik Algoritmaların bileşenleri olan doğal seçim ve doğal genetiği içeren analojilerin yönlendirdiği rastsal aramaların başarılı ve güçlü yöntemler olduğunu kanıtlamıştır. 31

Arama Uzayı 33 Şekil 1.6b Matlab «peaks» fonksiyonu

34 Bazı Kaynak Kitaplar

35 Giriş

36 Giriş

37 Giriş

38 Giriş

39 Giriş

40 Giriş