GRADYANT YÖNTEMLER Bütün ısıtsız optimizasyon problemlerinde olduğu gibi, bir başlangıç notasından başlayara ardışı bir şeilde en iyi çözüme ulaşılır. Kısıtsız problemlerin çözümü aşağıdai algoritma izlenere bulunur.. Adım (,,..., n ) ile algoritma başlatılır.. Adım f f n ( ) (,,..., ) amaç fonsiyon değerini iyileştiren yön belirlenir. 3. Adım Amaç fonsiyonunu iyileştiren yönde mevcut çözümden uzalaşma mitarı veya adım büyülüğü bulunur. 4. Adım Üçüncü adımın sonunda elde edilen çözüm amaç fonsiyonda herhangi bir iyileşme göstermediğinde işlemler durdurulur, asi halde. ve 3. adımlar terarlanır elde edilen çözüm optimum çözüm olara ullanılır. Gradyant yöntemler iinci adımda aramanın yönünü, gradyant vetörü aldıları için bu adı almışlardır. Gradyant vetörü bir notanın yaın omşuluğunda amaç fonsiyon değerinde en hızlı artmayı verir. Bu yüzden yerel olara hareetin en iyi yönünü belirlemede ullanılır. Gradyantdan yararlanan yöntemlerden en hızlı çıış(iniş) yöntemi, Newton yöntemi ve eşleni gradyant yöntemini ele alacağız.
En Hızlı Çıış Yöntemi Bu yöntem gradyant yönünde amaç fonsiyonun en büyü değerini veren notaya hareet ederen en iyi adım büyülüğünü de sağlamaya yarar. Bu yöntemi aşağıdai algoritma biçiminde ifade edebiliriz..adım: (,,..., n ) başlangıç notası seçilir, alınır..adım: notasında gradyant vetörü hesaplanır. 3.Adım: Ma f ( f ) ile adım büyülüğü,, bulunur. 4.Adım: f ile yeni çözüm bulunur. 5.Adım: için ise alınır ve algoritma durdurulur, asi halde * alınara iinci adıma geçilir, burada üçü pozitif bir sayıdır. Aşağıdai şeilde yöntemin ilerleyişini görebiliriz:
* Şeil : Gardyant aramasının ilerleyişi Örne : fonsiyonu ve, ma f, En hızlı çıış yöntemi(gradyant araması ) ile çözümünü bulunuz. f f, 4 başlangıç notası veriliyor.,, f ' ',, f f f f 4 8
f, * ma f, ma 4 8 d d 4 8 4 6 * 4 ',,, 4 İinci ardıştırma: f,, f ' f ' f, f, * ',, *, f, f, ma ma * d d * ',,, bu şeilde devam edilirse
3, 4, 3 3, 4 4, 3 7, 4 8, 7 7, 8 8... notalarını elde ederiz. Hesaplamaları daha da ilerletirse çözümün aşağıdai notaya yaınsadığını görürüz. *, f,. Bu adımları ve aramanın ilerleyişini aşağıdai şeil üzerinde daha açı olara görebiliriz., * 3 7, 4 8 7 7, 3 8 8, 3 3 4, 4 4,,, ÖRNEK : Ma f ( ) 4 9 problemi veriliyor, 3 3 3 başlangıç notasını alara en hızlı çıış yöntemiyle çözünüz. Gradyant vetörü ve verilen notadai değeri hesaplanır.,, 4, 9, 4 f f f f 3 3 3,, f, 4, f (,, ) Bundan sonra notasında gradyant vetörü ( f ) yönünde adım büyülüğü bulunur. Kriter olara gradyant vetörü yönünde amaç fonsiyonunda en büyü iyileşme seçilirse, f Ma f f ( ) ( )
yardımı ile adım büyülüğü ve notası bulunur, burada yeni f,, f yönünde notasından geçen doğrudur. f ( ), herhangi bir te değişenli optimizasyon yöntemi ullanılara çözülür. f ( ) Ma f (, 4, ) 4 7 olacağından masimum 48 da yer alır. Öyleyse 7 6 bulunur. Buradan,, 7 6, 4,.875, 3.75,.4375 yeni çözümü elde edilir. Algoritmanın adımları yeni çözümü için terarlanır. Teori olara f olduğunda da algoritma sonlandırılabilir. Pratite ise için olduğunda en iyi çözüm olara alınır. Bu örne için ötei adımlar ve sonuçları aşağıdai tabloda görülüyor. f( ) f.875 4.4375 3.75 3.594.4375.875.5.94 3.75.83.678 3.853 3.966.4375 -.65.3.94.6.999 3 3.853.348.4386 3.978 3.997.3.78.366.999.43.9967 4 3.978.56.68 3.9849 3.999.366 -.35.3 Gerçe optimum, 4, notasında olduğu göz önüne alınırsa bu yöntemle bulunan.9967, 3.9849,.3 çözümünün ne adar başarılı olduğu görülüyor.
Minimum problemlerinde gradyant vetörünün negatifi yönünde gidilere en iyi çözüm araştırılır. Bu şeilde aramaya En hızlı iniş yöntemi adı verilir. Bu yöntemdei adımlar da ısaca aşağıdai şeilde özetlenebilir. En Hızlı İniş Yöntemi.Adım: (,,..., n ) başlangıç notası ve alınır..adım: notasında gradyant vetörü hesaplanır. 3.Adım: 4.Adım: Min f ( f ) ile adım büyülüğü,, bulunur. f ile yeni çözüm bulunur. 5.Adım: için ise notası en iyi minimum çözüm olara alınır. önceden belirlenmiş üçü bir sayıdır. İstenilen duyarlılı sağlanmadığında alınara iinci adımdan itibaren işlemler terarlanır. En hızlı çıış yöntemine benzediğinden bir örnele açılamaya gere görülmemiştir. ÖRNEK 3: Min f (, ) ( ) ( ), (, ) problemini en hızlı iniş yöntemiyle bulunuz(ouyucuya bıraılmıştır). Fonsiyon bu şeliyle çözülürse ço ardıştırma gereecetir. Bu gibi zorluları giderme için aşağıdai teniler uygulanır. Optimal eniyi iniş yöntemleri i) f burada te değişenli arama ile bulunan önceden belirlenere de arama yapılabilir. Örneğin =. alara gradyant yönünde gidilere arama yapılabilir.
ÖRNEK 4:, 3 9 5, adım büyülüğü =. ve X = f verilsin bu fonsiyonun minimumunu bulunuz., başlangıç notası, ( -3), (9( 5)) f f f, f 4, -7 f yeni nota f ile bulunur. o 4.4 f. 7 8..4, 8. f 3., 57.6 f.4 3..7 f. 8. 57.6.44.7,.44 f.56, -46.8 f 3.7.56.3 f..44 46.8 7.5 f ( -3), (9( 5)) 3.3, 7.5 f.54,.5 f 4 3 3.3.54.38 f. 7.5 36.9 3.39... Bu şeilde devam edilirse optimum nota; n 3 5
bulunur. ii) Bu yalaşım yerine, aşağıda olduğu gibi birinci ardıştırmadan sonra ii ardışı notayı birleştiren doğru üzerinde seçilirse daha iyi sonuç verir, bu yalaşıma Optimal eniyi iniş yöntemi denir. ÖRNEK 5 :, 3 9 5, X = f, başlangıç notası verilsin minimumu bulunuz. =. olsun, ve ölçe değiştirme teniğini de uygularsa yani y 3 5 derse f, 3 f y y olur. Bu durumda başlangıç notası ( -3), y, - f 4, -4 f olacatır, çünü y = 3(-5) = -. 4 5 f. 4 bundan sonra yeni ii ardışı notayı birleştiren doğru üzerinde seçilirse * 5 4 5 ( ) ( ) 4 f (, y) (5 4 3) ( 4 ) f ( ) 48 74.5 bulunur. Yerine onursa
* 4 5 3 4 Buradan da y 3 5 = onduğunda olduğundan 5 bulunur. Örne : Rosenbroc s fonsiyonu min f,, X = en hızlı iniş yöntemi ile bulunuz. çözüm. Ölçeleme (scalling) teniği ullanırsa y ve y ( ) alalım.bu durumda,, başlangıç notası verilsin minimumu f min f y y y ve y, y, - f 4, - f y (, ) olacatır. 4 4 y y f f (, y) (4 ) ( ) f ( ) (4 ) ( ) f ( ) (8 4).5 bulunur. Yuarıda yerine yazılırsa 4 y bulunur,, f, f gradyant sıfır olduğundan optimum notaya bir ardıştırma ile ulaşılmıştır, bu ; * y (,) notasını oriinal probleme dönüştürürse : y = ve y ( ) orta çözülürse, bulunur. * * Son bulunan nota Rosenbroc s fonsiyonunun optimum notasıdır.