Zeki Optimizasyon Teknikleri. Karınca Algoritması (Ant Algorithm)

Transkript

1 Zeki Optimizasyon Teknikleri Karınca Algoritması (Ant Algorithm)

2 Karınca Algoritması 1996 yılında Marco Dorigo tarafından ortaya atılmıştır. Temel olarak karıncaların yiyecek madde ile yuvaları arasındaki en kısa yolu bulmalarından esinlenilmiştir. Karınca algoritması genetik algoritma gibi popülasyon tabanlı yaklaşıma sahiptir. Karınca popülasyonu içindeki herbir karınca bir çözüm oluşturur ve daha sonra diğer karıncaların hareketini etkiler.

3 Karınca Algoritması B B Engel A A

4 Karınca Algoritması d=1 D d=1 F d=1 E B d=1 A d=0.5 C d=0.5

5 Karınca Algoritması Algoritmanın çalışmasında kesikli (discrete) zaman (t) kullanılır. Her zaman aralığında her bir karınca bir birim yer değiştirir. Her yer değiştirmede 1 birim feromen maddesi bırakır. Başlangıçta (t=0) hiçbir yolda (kenarda) feromen maddesi yoktur.

6 Karınca Algoritması D 1 1 F E B A C 0.5 t=1 iken 16 karınca B noktasında ve 16 karınca E noktasındadır. t=2 iken 8 karınca E noktasında 8 karınca B noktasındadır. D noktasında 16 karınca vardır. Kenarlardan geçen karınca yoğunlukları ise FE=16, AB=16, BC=16, CE=16, BD=8, ED=8 olur. 16 karınca A-F arasında 16 karınca F-A arasında hareket ediyor.

7 Karınca Algoritması Karınca algoritmaları sadece yol problemi çözümünde değil başka problemlerin çözümünde de kullanılır. Sadece feromen maddesi çokluğuna göre algoritma çalışırsa alt-optimal çözüme düşülür (lokal minimum). Global minimumu bulmak için yol seçiminde bazı olasılık seçimleri yapılır. Feromen birikmesi sınırsız ve sürekli değildir. Zamana bağlı olarak buharlaşma (yok olma) söz konusudur ve her t zamanında belirli bir oranda azalır.

8 Karınca Algoritması (Yol problemi) Şehirler arasındaki en kısa yolu bulmak için her şehre bir karınca yerleştirilir. Başlangıç (t=0) için feromen miktarı tüm yollar için 0 olarak alınır. Her t+1 zamanında her karınca yeni bir şehre hareket eder. Yeni şehrin belirlenmesinde bulunulan noktaya uzaklığı ile yoldaki feromen miktarına bağlı bir seçim kullanılır. Her zaman aralığında feromen miktarı için buharlaşma hesaplanır. Buharlaşma 0 ile 1 arasında bir değerdir. Bir karıncanın bir şehre iki sefer gitmesi tabu listesi ile engellenir. Her hareketten sonra her karıncanın gittiği şehirler güncellenir.

9 Karınca Algoritması (Yol problemi) - devam Her bir hareketten sonra feromen miktarı aşağıdaki formülle güncellenir. Fij(t+1) = b.fij(t) + ΔFij ΔFij = Q / Kn (Her turdan sonraki güncelleme içinde kullanılır) Burada Fij i. İle j. şehirler arasındaki yolda biriken feromen miktarı, b buharlaşma oranıdır. Q sabit katsayı ve Kn karıncanın kullandığı toplam yol uzunluğudur. Bir sonraki şehre geçiş oranı aşağıdaki formülle belirlenir. Pij = Fij(t) α. Nij β / Σ Fik(t) α. Nik β (k izin verilen yollar) Burada Nij i. ile j. şehirler arasındaki yol uzunluğu, α ve β kontrol parametreleridir.

10 Karınca Algoritması (Uygulamalar ve Araştırma) Gezgin satıcı problemi. Araç yol problemi. Daha kapsamlı araştırma için Marco Dorigo nun bu konuyla ilgili Web sayfası kullanılabilir. Sitede şu ana kadar yapılmış olan çalışmalar ve yayınlarla ilgili bilgiler bulunmaktadır.

11 Zeki Optimizasyon Teknikleri Tavlama Benzetimi (Simulated Annealing)

12 Tavlama Benzetimi Optimizasyon problemleri için iyi çözümler veren olasıklı bir arama tekniğidir. Kirkpatrick ve arkadaşları tarafından 1983 yılında önerilmiştir. Katıların ısıtılması ve sonra kristalleşmeye kadar yavaş yavaş soğutulması esasına dayanır. Sıcaklık değeri elde edilen en iyi çözümden daha kötü bir çözümün kabul edilme olasılığını belirlemek için kullanılır.

13 Tavlama Benzetimi Tavlama benzetimi yüksek bir sıcaklık değeriyle başlar. Her bir hesaplama adımında mevcut çözümün komşuları arasından çok sayıda çözüm üretilir. Yeni çözümler belirlenen kriterlere göre kabul edilir veya reddedilir. Her bir hesaplama adımından sonra sıcaklık belirlenen bir fonksiyona göre azaltılır. Algoritma istenen iterasyona ulaşıldığında yada sıcaklık minimum değerine ulaştığında veya istenen çözüme ulaşıldığında sonlandırılır.

14 Tavlama Benzetimi (Akış şeması) Başlangıç çözümü Çözümü değerlendir Kabul et H E Çözümü güncelle Yeni çözüm oluştur H Isı değiş E Isı azalt H Aramayı bitir E Son çözüm

15 Tavlama Benzetimi (Algoritma) Begin Başlangıç çözümü seç Başlangıç sıcaklığı seç (t=100) Sıcaklık azaltım fonksiyonu belirle repeat repeat Yeni bir komşu çözüm üret if (yeni - eski) < 0 then yeni çözümü seç else begin [0,1] aralığında rassal sayı üret (r) if r < ( 1 / (exp(abs(yeni - eski)/t) ) then yeni çözümü seç end until iterasyon sayısına kadar t = f(t); until (t < 0) veya uygun çözüm bulununcaya kadar End e 1 r yeni eski t

16 Tavlama Benzetimi (Parametreler) Başlangıç sıcaklığı Her sıcaklıkta üretilecek çözüm sayısı fonksiyonu Sıcaklık azaltma fonksiyonu Algoritmayı durdurma şartı

17 Her sıcaklıkta üretilecek çözüm sayısı N k = C (Sabit) N k = N k-1 + C (Aritmetik) N k = N k-1 / a ( a<1 ) (Geometrik) N k = C / Log(T k ) (Logaritmik) N k = (N k-1 ) (1/a) ( a<1 ) (Üstel)

18 Sıcaklık azaltma fonksiyonu T k = T k-1 - C (Aritmetik) T k = T k-1 * a ( a<1 ve 1 yakın) (Geometrik) T k = C / (1+k) (Ters fonksiyon) T k = C / (Log(1+k)) (Logaritmik)

19 Algoritmanın durdurulması Belirlenen maksimum iterasyona ulaşılması Belirlenmiş minimum sıcaklığa ulaşılması İstenen kriterleri sağlayan çözüme ulaşılması

20 Tavlama Benzetimi (Uygulamalar ve Araştırma) Daha kapsamlı araştırma için bu konuyla ilgili Web sayfası kullanılabilir. Sitede şu ana kadar yapılmış olan çalışmalar ve yayınlarla ilgili bilgiler bulunmaktadır.

21 Zeki Optimizasyon Teknikleri Tabu Arama (Tabu Search)

22 Tabu Arama 1986 yılında Glover tarafından geliştirilmiştir. Lokal minimum u elimine edebilir ve global minimum u bulur. Değerlendirme (Evaluation) fonksiyonu kullanarak her iterasyon için en iyi komşu çözümü bulur. Tabu listesi kullanılarak kabul edilebilir değişimler kısıtlanır. Böylece mevcut çözümden hangi komşu çözümlere geçiş yapılabileceği belirlenir. Tabu listesi kullanılarak daha önceki çözümlerin tekrar edilmesi (cycling problem) engellenir. Tabu listesi her iterasyonda güncellenir.

23 Parametreler Başlangıç çözümü - Rastsal seçilebilir veya bir algoritmayla seçilebilir. Yeni çözüm oluşturma fonksiyonu - Problem yapısına bağlıdır ve performansı doğrudan etkiler. - Bir değişkende değişiklik yapılarak yeni çözüm kümesi oluşturulur. Kısa dönem hafıza (Tabu Listesi) - Arama sırasında karşılaşılan durumları tutar ve tekrarını önler. - Belirli süre sonra tabu olan olaylar listeden çıkarılır. - Listeye ilk giren ilk çıkar stratejisi uygulanır.

24 Parametreler (devam) Uzun dönem hafıza - Bulunan en iyi çözümü tutar. - Bulunmuş olan elit çözümleri tutar. Tabu yıkma kriterleri - Belirlenen kriterler sağlandığında bir komşu çözüm tabu listesinden çıkarılır ve yeni çözüm olarak alınır. Algoritmayı durdurma şartları - Belirli bir iterasyona ulaşıldığında algoritma durdurulur. - Daha iyi çözüm bulunamadığında algoritma durdurulur.

25 Yeni çözüm oluşturma Mevcut çözümden daha iyi bir çözüme geçiş yapılır Yeni çözümü oluşturan olası değişimler; d1- Seçilen bir x j değişkeninin 0 değerinden 1 değerine değişmesi d2- Seçilen bir x k değişkeninin 1 değerinden 0 değerine değişmesi d3- d1 ve d2 nin birlikte gerçekleşmesi d4- f(x) amaç değerinden f(x ) amaç değerine değişim d5- Tanımlanan bir g fonksiyonuna göre g(x) den g(x ) değerine değişim

26 Kısa dönem hafıza Daha önce karşılaşılan bilgileri tutar. Önceki çözümlere dönüşü engeller. Her iterasyonda yenilenir. Kısa dönemli hafıza kaydı tutulur. Yeni yapılan çözüm geçişlerinin tersini tabu yapar. Her yeni tabu için tabu süresi (t) atanır ve i. iterasyonda verilen tabu durumu i+t süresi sonunda kaldırılır.

27 Uzun dönemli hafıza Aramayı iyileştirir ve aşağıdaki özelliklere sahiptir; Elit çözümlerin ve niteliklerin bir listesini tutar. İlerde bu elit çözümleri oluşturan niteliklere yeniden dönüş yaparak bu bölgelerin daha detaylı araştırılmasını sağlar.

28 Tabu kısıtlamaları İstenmeyen çözüm değişimi ve yasakları uygulamak için kullanılır Herhangi bir iterasyonda, x k çözümünden x k+1 çözümüne geçildiğinde bu çözümün tersi tabu yapılır. Örnek kısıtlamalar: k1- xj değişkeninin 1 değerinden 0 değerine değişmesi (daha önce 0 değerinden 1 değerine değişmişse) k2- xj değişkeninin 0 değerinden 1 değerine değişmesi (daha önce 1 değerinden 0 değerine değişmişse) k3- Tanımlanmış bir g(x) fonksiyonunun y k değerinden y n değerine değişmesi (daha önce y n değerinden y k değerine değişmişse)

29 Tabu süresi belirleme Tabu süresi çok kısaysa arama sürekli yerel optimumlarda gerçekleşir. Tabu süresi çok uzunsa hareketlerin çoğu tabu olduğundan bulunan çözümlerin kalitesi düşer. Statik : Sabit bir değer seçilir (t = 7 veya t = n gibi. n problem boyutunun bir ölçüsüdür). Basit dinamik : t-min ve t-max sınırları arasında sistematik veya rassal bir sayı seçilerek t değeri belirlenir. t-min ve t-max statik değer ataması ile seçilebilir. Niteliğe bağlı : t-min ve t-max niteliğin kalitesine bağlı olarak dinamik olarak belirlenir. t değeri ise basit dinamik kuraldaki gibi seçilebilir.

30 Tabu yıkma kriterleri Tabu olan bir geçişin yapılması sağlanır. Yokluğa göre tabu kaldırma - Tüm mümkün hareketler tabu ise, tabu süresinin bitmesi en yakın olan alınır. Amaca göre tabu kaldırma - En iyi çözümden daha iyi çözüm veren hareket tabu olsa da alınır. Etkiye göre tabu kaldırma - Düşük etkili bir hareket, yüksek etkili bir harekete yol açacaksa tabu olsa da seçilir.

31 Tabu Arama Algoritmayı sonlandırma şartları; Optimum çözümü bilinen problemlerde optimum sonucun bulunması Belirlenmiş olan maksimum iterasyona ulaşılması Mevcut en iyi çözümde daha fazla iyileştirme yapılamaması

32 Tabu Arama (Algoritma) Adım 1. Bir başlangıç çözümü seç, onu mevcut çözüm ve en iyi çözüm olarak kaydet. Adım 2. Mevcut çözümün komşularını bir komşuluk yapısıyla üret. Tabu olmayan veya tabu olsa bile tabu yıkma ölçütünü sağlayan bir komşu çözüm seç ve onu yeni çözüm olarak al. Mevcut çözümden yeni çözüme geçiş özelliğini tabu listesine ekleyerek listeyi güncelle. Eğer yeni çözüm o ana kadarki en iyi çözümden daha iyi ise onu yeni en iyi çözüm olarak kaydet. Adım3. Bir durdurma ölçütü sağlanıncaya kadar Adım 2`yi tekrarla.

33 Tabu Arama (Akış şeması) Başlangıç çözümü Çözüm aday listesi oluştur Çözümleri değerlendir En iyi kabul edilebilir çözümü seç Hafızayı güncelle H Aramayı bitir E Son çözüm

34 Tabu Arama (Algoritma) Function Tabu_Search(Problem) returns a solution state Begin Şimdiki (Current), Sonraki (Next) ve En iyi (Best) değişkenlerini belirle Önceden geçilmiş çözümlerin listesini oluştur (H) Şimdiki durum değişkenine rastgele değer ata repeat Next = En yüksek değerli komşu çözüm if ((not move(h, Next)) or (Aspiration(Next)) then Current= Next Update Best H = Recency(H + Current) end until sonlandırma şartları oluşuncaya kadar return Best End

35 Tabu Arama (Araştırma) Kaynaklar: 1. Glover, F Tabu Search Part I. ORSA Journal on Computing, Vol. 1, No. 3, pp Glover, F Tabu Search Part II. ORSA Journal on Computing, Vol. 2, No. 1, pp Glover, F., Laguna, M Tabu Search. Kluwer Academic Publishers 4. Rayward-Smith, V.J., Osman, I.H., Reeves, C.R., Smith, G.D Modern Heuristic Search Methods, John Wiley & Sons. 5. Russell, S., Norvig, P Artificial Intelligence A Modern Approach. Prentice-Hall