ÖNSÖZ Optimizasyon Teorisinin mühendislik, üretim, işletme, ekonomi, haberleşme, ulaştırma, sanayi gibi pek çok alanda uygulanması, YA nı vazgeçilmez kılmıştır. Özellikle bilgisayarların yaygın bir kullanım alanına sahip olmasından sonra endüstri kesimi de karar vermede yararlı bir araç olduğunu gördüğü Lineer Programlama (LP) konusuna ilgi duymaya başlamıştır. Petrol endüstrisi, problemlerinin karmaşıklığı sebebiyle, LP ile ciddi bir şekilde ilgilenen ilk endüstri branşı olmuştur []. Günümüzde, YA aşağıda sadece bir kaçını verebileceğimiz yüzlerce farklı problemlerin çözümünde kullanılmaktadır.bunlar, Fabrika Organizasyonu, Atelye/Tezgah Optimizasyonu, Proje Yönetimi, kaynakların optimum kullanımı sayılabilir. Bu ders notunu hazırlama amacımız,lisans seviyesinde eğitim veren fakültelerde Meslek Matematiği,Optimizasyon Teknikleri vb.isimler altında verilen derslere uygun olan ve lisansüstü eğitime önemli derecede katkı sağlayacak bir çalışma yapmak ve bunu daha da geliştirerek Optimizasyon Teknikleri kitabını yazmaktır.bununla birlikte, güncel hayatın her alanında uygulamalarına rastladığımız optimizasyon kavramını öğrencilerimize uygulamaları ile aktararak bu konudaki bilincin oluşturulması ve en güncel yaklaşım olan yapay zeka tekniklerine zemin hazırlanması amaçlanmıştır. İçeriğinde temelde Doğrusal Programlama ile Doğrusal Olmayan Programlama tekniklerini barındıran bu çalışmada öğrencilerimize klasik optimizasyon teorisinden ulaştırma problemlerine,gezgin satıcı probleminden en kısa yol problemine ve simpleks yöntemden atama problemine kadar çok sayıda konu örnekler ile desteklenerek ele alınmıştır. Bu çalışmanın gerek dersimizi alan öğrencilere gerekse bu konularla ilgilenen herkese faydalı olması temennisiyle Öneri ve eleştirilerini www.tektas@marmara.edu.tr adresine bekliyoruz. Bu Cennet Vatan için Şehit Düşenlere İthafen
Önsöz...I İçindekiler...II. Giriş.... Lineer Programlama ve Grafik Çözümü..... Lineer Programlamaya Giriş..... Lineer Programlama Hakkında Genel Bilgi....3 Lineer Programlama İşlem Basamakları...3.4. Lineer Programlama Problem Örnekleri...3 3. Lineer Programlama ve Simpleks Metodu...9 3.. Simpleks Metoda Giriş...9 3. Aylak Değişkenler ve Simpleks Metodun Örneklerle İncelenmesi... 3.3 Simpleks Metot Maksimum Problemleri...9 3.4 Simpleks Metot II (Minimum Problemleri)...3 3.5 Lineer Prramlama Problemlerinin marjinal analizleri ve formülleri:...38 3.6 Lineer Programlama Problemlerinin Matris Fonksiyonlar...44 3.7 Duality...46 3.7. Duality ve Simpleks Metot İlişkisi...46 3.7.Duality nin temel teoremi...5 4. Ulaştırma Problemleri...6 4. Ulaştırma Problemlerine Giriş...6 4..Örneklerle Ulaştırma Problemlerinin incelenmesi...6 4...- Kuzey-batı köşesi yöntemi...6 4... En küçük maliyetli hücreler metodu...63 4..3. VAM(vogel) metodu...63 5. Atama Problemleri ve Gezgin Satıcı Problemi...64 5. Atama Problemlerine Giriş...64 5. Atama Problemlerinin Çözüm adımları...64 5.3. Örneklerle Atama Problemlerinin İncelenmesi...65 6. Gezgin Satıcı Problemi...67 6. Gezgin Satıcı Problemine Giriş...67 6..Gezgin Satıcı Problemi İşlem Adımları...67 6.3. Gezgin Satıcı Problemlerinin Örneklerle İncelenmesi...68
7. Dinamik Programlama...7 7..Dinamik Programlaya Giriş...7 7..Dinamik Programlanın Örneklerle İnecelenmesi...7 8. Uygulama Programları...74 8.. Simpleks Metot...74 8.. Atama Problemleri...75 8.3. Uygulamalarda Kullanılan Teknolojiler...76 8.3.. Java...76 8.3... Java Hakkında Genel Bilgi...76 8.3... Java Program Geliştirme Ortamaları ve Applett Kullanımı...78 8.3.. Delphi...79 8.3... Delphi Hakkında Genel Bilgi...79 8.3... Atama Problemi Algoritma Yapısı...79 8.3.3. Active X...8 8.3.4. Html...8 8.3.4..Html hakkında Genel Bilgi...8 8.3.4.. Html içerisinde Diğer Dillerin Kullanımı...8 8.3.4.. Html de Active X Kullanımı...8 9. Sonuç ve Öneriler...8.Kaynaklar...83.Özgeçmiş...84
I.GİRİŞ.Optimizasyon.. Tanım:En basit anlamı ile optimizasyon eldeki kısıtlı kaynakları en optimum biçimde kullanmak olarak tanımlanabilir().matematiksel olarak ifade etmek gerekirse optimizasyon kısaca bir fonksiyonun minimize veya maksimize edilmesi olarak tanımlanabilir(). Diğer bir değişle optimizasyon en iyi amaç kriterinin en iyi değerini veren kısıtlardaki değişkenlerin değerini bulmaktır (3). Başka bir tanımlama ile belirli amaçları gerçekleştirmek için en iyi kararları verme sanatı veya belirli koşullar altında herhangi bir şeyi en iyi yapma (4) olarak da tanımlanan optimizasyon kısaca en iyi sonuçları içeren işlemler topluluğudur (5).Optimizasyonda bir amaç da maksimum kâr veya minimum maliyeti sağlayacak üretim miktarını kısıtlara bağlı olarak tespit etmektir. Günümüzün bilgisayar teknolojisi kadar güncel bir kavram olan optimizasyon kavramı çok çeşitli endüstri kesimlerinde uygulama olanağı bulmuştur. Değişen teknolojilerin, sınırlı kaynakların, artan rekabetin, karmaşık hale gelen sistemlerin doğurduğu problemlerin klasik yöntemlerle (matematiksel veya matematiksel olmayan, analitik veya sayısal) çözümünün güçleşmesi optimizasyon kavramını güncelleştiren en önemli sebeptir.bu yönüyle optimizasyonun kullanılmadığı bir bilim dalı hemen hemen yok gibidir (6)... Tarihçe:Gerçek hayatta karşılaşılan birçok problem için geliştirilen karar modellerinin kısıtları ve amaç fonksiyonlarında her zaman doğrusal bir ilişki kurulamadığından 95 li yıllardan sonra geliştirilmeye başlayan ve temelleri 8. ve 9. yüzyıllara dayanan yeni analitik ve sayısal yöntemler 96 lı yıllardan sonra sayısal bilgisayarlarında desteği ile hızla çoğalmıştır. Özellikle kimyasal işlemlerin süreklilik arz etmesi, planlamacıların, tasarımcıların, mühendislerin, jeologların, ekonomistlerin, iktisatçıların, işletmecilerin v.b. kendi alanlarındaki problemleri çözmek için yaptıkları çalışmalar optimizasyon ve buna bağlı teknikleri hızla ortaya çıkarmıştır. Benzer şekilde bu tekniklerin amaçlandığı alanlara, sistemin özelliklerine, kullanılan matematiksel yöntemlere ve kıstasların tasnifleri aşamalar geçirmiştir(3).
Klasik optimizasyon teorisi Cauchy, Lagrange ve Newton tarafından geliştirilmiştir. Newton ve Leibnitz in analiz çalışmaları optimizasyonun diferansiyel hesap metodlarının geliştirilmesine katkıda bulunmuştur. Kısıtlı problemler için optimizasyon metodunu adıyla anılan Lagrange geliştirmiştir. Kısıtsız optimizasyon problemlerini çözmek için Steepest Descent (en dik iniş,eğim) metodunun ilk uygulaması da Cauchy tarafından yapılmıştır. Optimizasyon konusundaki bu çalışmalar. yüzyılın ortalarına kadar çok yavaş ilerlemiştir. 95 lerden sonra sayısal bilgisayarların icadı optimizasyonda çok büyük çalışmaları beraberinde getirerek birçok yeni teori ve metodun ortaya çıkmasını sağlamıştır. Fakat 96 lı yıllarda kısıtsız optimizasyon konusundaki sayısal metodlar sadece İngiltere de geliştirilmiştir (5). Simpleks metodunu 947 de Dantzing, Dinamik Programlama Tekniğini 954 de Bellmann geliştirmiştir.bu çalışmamızın esasını teşkil eden Doğrusal Olmayan Programlama konusundaki ilk önemli çalışmalar 95 yılında Karush Kuhn ve Tucker tarafından optimal çözüm için gerek ve yeter şartlar teorisi başlığı adı altında sunulmuştur(7). 96 lı yıllarda Zoutendijk ve Rosen de Doğrusal Olmayan Programlama sahasında önemli çalışmalar yapmışlardır. Doğrusal Olmayan Programlama alanındaki en büyük gelişme kısıtsız optimizasyonun bilinen tekniklerini kullanarak çok zor problemlerin çözümünü kolaylaştıran ciddi çalışmaların Carroll, Fiacco ve Mc Cormick tarafından ortaya konmasıdır. Geometrik Programlama ise 96 lı yıllarda Peterson, Zener ve Duffin tarafından geliştirilmiştir(5).düzlemsel Kesme Algoritması ise 969 da Zangwill tarafından ortaya konmuştur. İndirgenmiş Gradient Metod ise Wolfe tarafından 963 de geliştirilmiştir(8)..3.optimizasyon Probleminin Özellikleri ve Çözüm Aşamaları Bir optimizasyon probleminin temel özelliği üç kategoriye ayrılmasıdır. Bunlar : En az bir amaç fonksiyonunun optimize edilmesi Eşitlik kısıtları Eşitsizlik kısıtlarıdır
Yani genel bir optimizasyon problemi: maksimum (minimum) f() veya gi (),( ) i =,,.., m h i () = i = m +, m +,, n şeklindedir.bu genel tanım altında amaç fonksiyonunun en iyi değerini veren X = (,,..., n )T n boyutlu çözüm vektörüne model vektörü de denir(3). () ile ifade edilen genel problemde f() amaç fonksiyonunu, g i () eşitsizlik kısıtları ve h i () eşitlik kısıtları temsil eder. n in sıfır olması problemin kısıtsız olması, sıfırdan farklı olması da problemin kısıtlı olması anlamına gelir. Genel bir optimizasyon probleminin çözümü altı adımda gerçekleştirilir. i. İşlem analiz edilerek işlem değişkenlerinin bütün bir listesi çıkarılır. ii. iii. iv. Optimizasyon için amaç fonksiyonunu tanımlayacak kriter belirlenir. Matematiksel ifadelerle kullanılabilir bir işlem gerçekleştirilir. Problem çok büyükse; a) Kontrol edilebilir ve modeli basitleştirilir. b) Amaç fonksiyonu tekniği matematiksel ifadeye uygulanır. v. Uygun optimizasyon tekniği matematiksel ifadeye uygulanır. vi. Cevaplar kontrol edilir(3). Bütün optimizasyon problemlerinin çözümü için etkili tek bir metot olmadığından optimizasyon metotları optimizasyon problemlerinin farklı tiplerinin çözümü için geliştirilmiştir(5)..4. Doğrusal Olmayan Programlama Gerçek hayatta karşılaşılan birçok problem için geliştirilen karar modellerinin kısıtlarından en az biri veya amaç fonksiyonunun doğrusal olmadığı durumlar için geliştirilen tüm kavram ve teknikler Doğrusal Olmayan Programlama adı altında incelenmektedir(6). 3
Doğrusal Olmayan Programlama: Z = f( i ) = f(,..., n ) (i =,,, n) şeklinde tanımlanan sürekli ve türevlenebilen bir amaç fonksiyonunun; g j ( i ) ( i ) (i =,,, n)(j =,,, m ) kısıtları altında optimum çözümünü araştırma yöntemidir(9). Doğrusal ve doğrusal olmayan denklemlerden oluşan g j ( i ) kısıtları eşitlikler veya eşitsizlikler şeklinde verilebilir. Şöyle ki; g j ( i ) ( ) (j =,,., l) ve g j ( i ) = (j = +,..., m) şeklinde tanımlanan kısıtlar m tane denklemden oluşan bir denklem sistemidir. Bu denklemlerin tanesi eşitsizlik, (m-) tanesi eşitlik denkleminden oluşur()..5. Amaç Fonksiyonunun Yorumlanması Amaç fonksiyonunun yorumlanması konusunda kısıtlarda ve (veya) kısıtsız problemde yer alan değişkenlerin (karar değişkenleri) en iyi seçmedeki kriter programlamada amaç fonksiyonu olarak adlandırılır.pratikte ise kısıtlarda ve amaç fonksiyonunda yer alacak değişkenlerin (kıt kaynakların) en iyi değerlerini bulmak olarak tanımlanabilir(3)..6. Optimizasyon ile İlgili Temel Kavram ve Tanımlar.6.. Fonksiyonlarda Süreklilik Kavramı A. Tek Değişkenli Fonksiyonlarda Süreklilik Tek değişkenli bir y = f() fonksiyonunun bir noktasında sürekli olması demek, verilen ε > sayısına karşılık öyle bir h < σ,σ > sayısının bulunmasıdır ki; f ( + h) f ( ) ε dır. 4
B. Çok Değişkenli Fonksiyonlarda Süreklilik Çok değişkenli bir z = f () = f (,,..., n ) fonksiyonunun bir noktasında sürekli olması demek, verilen ε > sayısına karşılık öyle bir h < σ,σ > sayısının bulunmasıdır ki; Burada; f ( + h) f ( ) ε dır. h = (h,h,...,h n ) ve σ = (σ,σ,...,σ n ) > dır()..6.. Unimodal (Tek değer) Fonksiyon Verilen bir aralıkta bir tek maksimum veya minimuma sahip fonksiyona Unimodal fonksiyon denir(5). Matematiksel olarak ifade etmek gerekirse: [a,b] aralığı üzerinde bir y=f() fonksiyonu tanımlanmış olsun. [ a, b] p sayısı için; i) f(), [a, p] aralığında azalan bir fonksiyon ii) f(), [p, b] aralığında artan bir fonksiyon ise y = f() fonksiyonuna bu aralıkta Unimodal (tek değerli) fonksiyon denir(). Eğer f() fonksiyonu [a, b] aralığında Unimodal fonksiyon ise f() minimum değerini a < c < d < b şeklindeki bir [c,d] aralığında alabilir. Bu minimum değer f(c) ve f(d) nin ma[f(a), f(b)] den daha küçük iken garanti edilir (Şekil.a - b). Eğer f(c) f(d) ise [a, d] aralığının sağından aralık daraltılır (Şekil.a). Eğer f(d) < f(c) ise [c, b] aralığının sağından itibaren aralık daraltılır (Şekil.b). y = f() y = f() [a c p d b] [a c p d b] Şekil.a Şekil.b 5
.7.Konvekslik ile İlgili Tanımlar.7..Konveks Bileşen S, E n, n boyutlu öklidyen uzayda boş olmayan bir küme olsun. i Sveα i, λ i = iken, = α + α +... + α n n olsun. Eğer; n = α i i şeklinde elde edilen noktasına i = konveks (dışbükey) bileşeni denir(6)..7.. Konveks Küme,, 3,..., n noktalarının S, E n, n-boyutlu öklidyen uzayda boş olmayan bir küme olsun. S kümesinin farklı iki noktasının konveks (dışbükey) bileşeni ile bulunan nokta yine S kümesinin bir elemanı ise S kümesine konveks küme denir(8).(şekil.a-b) Konveks Küme Konveks değil Matematiksel olarak ifade etmek gerekirse; Şekil.a Şekil.b, S, i j, α i j iken = + ( S( i j) oluyorsa S kümesine konveks (dışbükey) küme denir..7.3.konveks Fonksiyon α i λ) j E n, n-boyutlu öklidyen uzayda verilen herhangi iki nokta (, ) olsun.eğer aşağıdaki eşitsizlik E n, n-boyutlu öklidyen uzayındaki her nokta çifti için geçerli ise f fonksiyonuna konvekstir denir(3). ( ) E ; α, için; f [( α) + α ] [( α) f ( ) + α f ( )] 6
.7.4.Konkav (İçbükey) (Konveks Olmayan) Fonksiyon Konveks fonksiyonunun tanımına benzer olarak; ( ) E ; α, için; f [( α) + α ] [( α) f ( ) + α f ( )] oluyorsa f fonksiyonuna konkav (içbükey) fonksiyondur denir.(.7.3) ve (.7.4) ile ifade edilen tanımları geometrik olarak açıklamak gerekirse; Fonksiyonun yüzeyi üzerinde alınan herhangi iki noktayı birleştiren doğru, fonksiyonun temsil ettiği eğrinin altında kalıyorsa fonksiyona konkav fonksiyon, aksi halde yani yüzey üzerindeki iki noktayı birleştiren doğru fonksiyonun temsil ettiği eğrinin üstünde kalıyorsa fonksiyona konvekstir denir(8) (Şekil 3.a-b-c). Konveks Fonksiyon Konkav Fonksiyon Ne Konveks Ne Konkav (Şekil 3.a). (Şekil 3.b). (Şekil 3.c). [(-α) + α ] [(-α) + α ] [(-α) + α ].8. Optimum Aramada Konveksliğin ve Konkavlığın Etkileri.8.. Kısıtsız Maksimum (Minimum) Eğer bir doğrusal olmayan programlama problemi bir f() amaç fonksiyonunu içerirse ve ayrıca f() konveks (konkav) ise uygun bölge içindeki bir noktada bir tek optimum çözüm vardır ve bu noktada. mertebeden türevlerin hepsi sıfırdır. Aynı zamanda bu nokta bir sınır noktada olabilir. Aynı özellik bu sınır nokta içinde geçerlidir(3). 7
.8..Kısıtlı Maksimum Eğer bir doğrusal olmayan programlama problemi aynı anda hem bir amaç fonksiyonu hem de kısıtların bir kümesinden oluşuyorsa optimum çözümün tekliği amaç fonksiyonu ve kısıtlara bağlıdır.eğer amaç fonksiyonu konkav ve kısıtların kümesi konveks ise problemin bir tek maksimum çözümü vardır. Bu nedenle herhangi bir sabit nokta mutlak maksimum çözüm olmak zorundadır..8.3.kısıtlı Minimum Eğer bir doğrusal olmayan programlama problemi aynı anda bir amaç fonksiyonu ve kısıtların bir kümesini içeriyorsa optimum çözümün tekliği amaç fonksiyonu ve kısıtlara bağlıdır. Eğer amaç fonksiyonu konveks ve keza kısıtların kümesi de konveks bölge formunda ise problemin bir tek minimum çözümü olacaktır. Bu nedenle herhangi bir sabit nokta mutlak minimum çözüm olmak zorundadır..8.4.konkav (Konveks) Fonksiyonun Minimizasyonu (Maksimizasyonu) Eğer bir konveks fonksiyon maksimize (konkav fonksiyon minimize) edilirse optimal çözüm kısıtlar kümesinin ekstremum noktalarının yalnız birisinde bulunacaktır..9. Bir Fonksiyonun Gradienti f() = f(,,..., n ) n-değişkenli fonksiyonunu göz önüne alalım. Burada, (,,..., n ) koordinatları n-boyutlu öklidyen uzayda X-sütun vektörü ile temsil edilirler(). f() = f(,,..., n ) fonksiyonunun gradienti ise f() veya grad f() sembolleri ile gösterilir ve; grad f() = f f f f () =,,..., n veya kısaca; f f () = dır. (k =,,, n) şeklinde tanımlanır. k 8
9.. Hessian Matrisi f() fonksiyonunun ikinci mertebeden sürekli türevlere sahip olması durumunda bütün i ve j ler için; j i j i. f. f = eşitliği geçerlidir(4). Bu nedenle f() = f( n,...,, ) n-değişkenli fonksiyonunun ikinci mertebeden kısmi türevleri; n n j i f. f H = şeklinde bir matris ile gösterilebilir. İşte bu n n lik f H () matrisine f() fonksiyonunun Hessian matrisi denir. Bu matris aynı zamanda simetriktir(5). Açıkça yazmak gerekirse; n n f n n n n f... f f f... f f () H =...... II. KLASİK OPTİMİZASYON TEORİSİ. Klasik Optimizasyon Teorisi Klasik Optimizasyon Teorisi kısıtlı ve kısıtsız fonksiyonlar için ekstremum noktaların belirlenmesinde diferansiyel hesabın kullanılmasını geliştirmiştir.geliştirilen bu metodlar sayısal hesaplamalar için uygun olmayabilir. Bu temel başlık altında kısıtsız ekstremumların belirlenmesi için gerek ve yeter şartları, eşitlik kısıtlara sahip problemler için Karush Kuhn Tucker gerek ve yeter şartlarını inceleyip örnekler vererek açıklayacağız().
. Kısıtsız Ekstremum Problemleri f() fonksiyonunun bir ekstremum noktası maksimum veya minimum nokta olarak tanımlanır. Matematiksel olarak tanımlamak gerekirse; h = (h, h,..., h j,..., h n ) öyleki h j bütün j ler için yeterince küçük olmak üzere; f ( + h) f ( ) ε şartı sağlanıyorsa noktası bir maksimum noktadır(3). Bir başka deyişle; ın komşuluğundaki her noktada f fonksiyonunun değeri f ( ) dan küçük ya da eşit kalırsa a f fonksiyonunun maksimum noktası denir. Benzer şekilde; h = (h, h,..., h j,..., h n ) öyleki h j bütün j ler için yeterince küçük olmak üzere; f ( + h) f ( ) şartı sağlanıyorsa noktası bir minimum noktadır. Yani ın komşuluğundaki her noktada f nin aldığı değer f ( ) değerinden büyük yada eşit kalırsa noktasına f fonksiyonunun minimum noktası denir. Aşağıdaki şekil [a, b] aralığında tek değişkenli bir f() fonksiyonunun maksimum ve minimumlarını tanımlar (Şekil 4). f () a 3 4 5 6 7 8 Şekil.4. f() fonksiyonunun maksimum ve minimumları Şeklimize göre,, 3, 4, 6 noktaları f() fonksiyonunun ekstremum noktalarıdır. Bu noktalardan, 3 ve 6 noktaları maksimum noktalar iken ve 4 noktaları da minimum noktalarıdır. f ( 6 ) = ma { f ( ),f ( 3 ),f ( 6 )} olduğundan f ( 6 ) global maksimum veya mutlak maksimum olarak isimlendirilir. f ( 6 ) ya göre f ( ) ve f ( 3 ) noktaları da yerel maksimum olarak adlandırılır.
Benzer olarak; f ( ) = min { f ( ),f ( 4 )} olduğundan f ( ) noktası mutlak minimum nokta olarak isimlendirilirken, f ( ) ye göre f ( 4 ) noktası yerel minimum nokta olarak isimlendirilir. ile 3 noktaları karşılaştırıldığında zayıf maksimum iken 3 güçlü maksimumdur. ile 4 noktaları karşılaştırıldığında 4 noktası noktasına göre zayıf minimum noktadır(). Genelleştirecek olursak; f ( + h) f ( ) ise bir zayıf maksimum f ( + h) < f ( ) ise bir güçlü maksimum f ( + h) f ( ) ise bir zayıf minimum f ( + h) > f ( ) ise bir güçlü minimum noktadır. noktası güçlü minimum nokta iken Burada h daha önce tanımlandığı gibidir. Şekil 4 den de görüldüğü gibi bütün ekstremum noktalarda f() fonksiyonunun eğiminin (. türevi) sıfıra eşit olduğu sonucuna varabiliriz. Buna karşılık bu özellik tek değildir. Yani tersi doğru olmayabilir. f() fonksiyonunun eğimi herhangi bir noktada sıfır olduğu halde bu nokta ekstremum nokta olmayabilir. Şekil 4 deki 5 noktası böyle bir noktadır. Yani bu noktada f() fonksiyonunun eğimi sıfır olduğu halde 5 noktası bir ekstremum nokta değildir. İşte böyle noktalara, gradienti (eğim) sıfır oldugğu halde ekstremum olmayan noktalara büküm noktaları denir... Ekstremum İçin Gerek ve Yeter Şartlar n-değişkenli bir f() fonksiyonunu gözönüne alalım. f() fonksiyonunun her noktasında birinci ve ikinci mertebeden sürekli türevlere sahip olduğunu varsayalım. Teorem-: Herhangi bir noktasının f() fonksiyonunun ekstremum noktası olması için gerek şart; f ( ) = olmasıdır.
Ispat: < θ < için Taylor teoreminden; T f ( + h) f ( ) = f ( )h + h Hh + θh Yeterince küçük h j ler için kalan terim Bundan dolayı () deki açılım; h T Hh, h j nin mertebesindedir. f ( + h) f ( ) f ( )h + (h j ) f ( ). h Şimdi noktasının bir minimum nokta olduğunu varsayalım. Olmayana ergi yöntemiyle gösterilebilir ki f ( o ) sıfıra eşit olmak zorundadır. bir minimum nokta. değil iken özel bir j için; f ( j ) < f ( ) veya > j olabilir. f ( ) h j nin işareti uygun seçilerek h j. < j her zaman elde edilebilir. Diğer h j lerin kümesi sıfıra eşitlenerek Taylor açılımındaki kabulden ( + h) f ( ) f < veya ( + h) f ( ) bulunur. Bu ise noktasının bir minimum nokta olması ile çelişir. O f < halde f ( o ) = olmak zorundadır. Bu sonuç gerektir fakat yeter değildir. Yani f ( o ) = iken bir ekstremum nokta olmayabilir. Teorem-: Sabit bir noktasının bir ekstremum nokta olması için yeter şart Hessian Matrisinin ( Hf ) daki değeri ile belirlenir. H (f) > bir minimum noktadır. H (f) < bir maksimum noktadır. İspat: < θ < için Taylor teoreminden; T f ( + h) f ( ) = f ( )h + h Hh + θh idi. bir sabit nokta iken Teorem- gereğince f ( ) = dır.buna göre; T f ( + h) f ( ) = h Hh + θh olur.
noktasını minimum nokta olarak alalım. Tanımdan; f ( + h) > f ( ) dır. Bunun anlamı şudur; noktasının bir minimum nokta olması için; T h Hh +θh > olmalıdır. İkinci kısmi türevlerin sürekli olmasını kabulü ile h T H ve + θ h ın her ikisinde de değerlendirildiğinde aynı işarete sahip olmak zorundadır. h T Hh bir karesel form olarak tanımlanır ve noktasında değerlendirilirse ın minimum nokta olması için H pozitif tanımlı olmalıdır. Bu son ifadenin anlamı şudur:sabit bir noktasının minimum nokta olması için yeter şart Hessian Matrisinin bu noktada pozitif tanımlı olmasıdır. Aynı yeter şart ın maksimum nokta olması için yapıldığında Hessian matrisinin noktasında negatif tanımlı olması gerektiği söylenebilir. Sonuç : Eğer H tanımsız ise bir büküm noktası olmak zorundadır. Sonuç : Teorem- ve Teorem- ile sunulan ifadeler tek değişkenli y = f() fonksiyonu için şu şekilde özetlenebilir.herhangi bir noktasının y = f() fonksiyonunun bir ekstremum noktası olması için gerek şart f ( ) = olmasıdır. Yeter şart; f ( ) < ise bir maksimum noktadır. f ( ) > ise bir minimum noktadır(6). Eğer, f ( ) = ise ın ekstremum nokta olması için yüksek mertebeden türevler gözönüne alınmak zorundadır. Bunu aşağıdaki sonuç teorem ile sunabiliriz. Teorem-3: y=f() fonksiyonu verilsin. f() in sabit bir noktasında; ( n) ( f ) = ve ( n) ( f ) oluyorsa = noktasında f(); n tek ise bir büküm noktasına sahiptir.n çift ise; a) b) ( n) ( f ) < ise maksimuma sahiptir. ( n f ) ( ) > ise minimuma sahiptir(). 3
4.3. Çok değişkenli Fonksiyonlarının Optimizasyonu (Kısıtsız Optimizasyon) Daha önce tanımlandığı gibi,y=f(,,... n ) n- değişkenli fonksiyonu. mertebeden sürekli kısmi türevlere sahipken bu fonksiyonun hessian matrisi simetrik bir matris (simetrik matris: j i olmak üzere aij=aji olan matristir) olup aşağıdaki gibidir ; Hf()=...... n n n n n f f f f f f f f f = nn n n n n f f f f f f f f f......... nn nn y=f(,,... n ) fonksiyonların ekstremumlara sahip olması için; i) Gerek şart:,..., ),..,, ( ),..,, ( = = = n n n f f f gradf olmasıdır. Bu denklemin çözümü olan noktalara sabit noktalar denir, ii) Yeter şart: noktası ) ( = f şartını sağlayan nokta(sabit nokta) olsun.buna göre;.test : i. Hf( ) > (Pozitif tanımlı) ise minimum noktasıdır ii. Hf( ) < (Negatif tanımlı)ise maimum noktasıdır iii. Hf( ) tanımsız ise büküm noktasıdır.test: det(a- λ I)= n.dereceden bir polinom denklem olup buna f fonksiyonunun karakteristik polinomu,bu denklemin köklerine de karakteristikler veya özdeğerler denir.buna göre ; i. λ > i i için ise A pozitif tanımlıdır (A=(a ij ) nn ) ii. λ < i i için ise A negatif tanımlıdır (A=(a ij ) nn ) iii. Diğer durumlarda tanımsızdır.
.3.. A matrisinin tanımlılığı:nn lik bir A matrisinin tanımlılığını belirlemek için aşağıdaki test uygulanır. A= a a.. a n a a.. a n a a.. a n n nn olsun. A nın uzanan alt matrisleri ; nn a A =[a ] ; A = a a a a,..., Aj = a a j a a a j a a a j j jj a,... An a a n... a a a n n nn olarak tanımlanır. jj nn Bu matrislerin determinantlarının hepsi pozitif ise A matrisi pozitif tanımlıdır.yani; i. i için det A i > ise A pozitif tanımlıdır. ii. i için (-) i det A i > ise A negatif tanımlıdır. iii. Diğer durumlarda tanımsızdır.nokta büküm noktasıdır..3.. Konveks,Konkav Fonksiyonunun Hessian Matrisi ile Tayini (D escartes kuralı) det (A- λ I) = ifadesi P( λ ) = şeklinde λ ya bağlı bir polinom olup; p(λ ) daki işaret değişikliği sayısı δ (pozitif kök sayısı) p(-λ ) daki işaret değişikliği sayısı δ (negatif kök sayısı) ile tanımlanır ve sabit noktanın kimliği ilefonksiyonun konkav yada konveksliği kolayca belirlenir. Örnek : f(,, 3 )= + 3 + 3 - - - 3 fonksiyonun ekstremumlarını ve konveks yada konkavlığını inceleyiniz )Gerek şart: f()= olmalıdır f =- =, f =3 - =, f =+ - 3 = 3 Buradan; =/, =/3, 3 =4/3 olduğu görülür. =(/,/3,4/3) sabit noktadır. 5
6 )Yeter şart:bu fonksiyona ait Hessian matrisini oluşturalım Hf( )= 3 3 3 3 3 3 f f f f f f f f f f ise Hf( )= H =[-] olduğundan det H =- H = olduğundan det H =4 H 3 olduğundan det H 3 =-6 H f () negatif tanımlıdır =(/,/3,4/3) maksimum noktadır Not:yeter şart için II. Metot şu şekildedir. Det (H-I λ )= - λ = λ λ λ = ve buradan; p( λ )=(-- λ )[(-- λ ) -]= ise p( 6 6 ) 3 = = λ λ λ λ olur. p(- 6 6 ) 3 = + = λ λ λ λ dır (3 tane negatif kök vardır, fonksiyon konkavdır yani noktasımaksimum noktasıdır) Örnek : f(,y)= -4y+y fonksiyonunun ekstremumlarını ve konveks yada konkavlığını inceleyin. Çözüm: )Gerek şart: ) ( = f olmalıdır f =-4y=, y f =-4+y= Buradan; =, y= olduğu görülür. =(,) sabit noktadır. )Yeter şart:hf( )= = 4 4 fyy fy fy f H =[] ise det H => H = 4 4 ise det H = -< H f tanımsız olduğundan f fonksiyonu ne konveks nede konkavdır, büküm noktasıdır.
7. yol : det (H- I) = λ 4 4 - λ = 4 4 = λ λ p( ) λ =(- λ ) -6= 4 = λ λ p(- 4 ) = + = λ λ λ λ ların bir kısmı pozitif bir kısmı negatif olduğundan büküm noktasıdır. Örnek: f(,y,z)=4-6y -y+3z-y-4yz+ fonksiyonunun ekstremumlarını bulunuz Çözüm: Gerek Şart: ) ( = f olmalıdır.buna göre; f =8-y+3z= f y =-y--4z-= f z =3-4y= olup buradan (-6/7,-9/4,3/7) bulunur. Yeter şart : f =-,f y =3,f yy =-,f yz =-4,f zz = olup Hessian matrisi; H = 4 3 4 3 8 elde edilir..test : det [8] = 8 > ve det 8 = < (H f () tanımsız, büküm noktası, fonksiyon ne konveks ne de konkavdır).test : det (A- I) = λ 4 3 4 3 8 4 3 4 3 8 = = λ λ λ λ ise buradan şu bulunur; 8 67 4 ) ( 3 = + + = λ λ λ λ p 8 67 4 ) ( 3 = + = λ λ λ λ p üç negatif kök varsa negatif tanımlı, 3 pozitif kök varsa pozitif tanımlı bunun dışında tanımsızdır.
.3. Kısıtlı Ekstremum Problemleri: Bu bölümde sınır şartları ve kısıtlarıyla sürekli fonksiyonların optimizasyonu ele alacağız. Bu sınır şartları veya kısıtlar denklem formunda olabillir veya olmayabilir()..3.. Eşitlik Kısıtlar Eşitlik kısıtlarına sahip amaç foksiyonunun optimizasyonu için iki metod geliştirilmiştir. Bunlardan ilki Jacobian (Kısıtlı Türevler) metodu, ikincisi ise Lagrange metodudur(). Jacobian metodu Doğrusal Programlama için simpleks metodunun bir genellemesi olarak ele alınabilir. Gerçekten de simpleks metodu şartları Jacobian metodundan türetilebilir. İkinci bir metod olan Lagrange metoduda yine benzer olarak Jacobian metoduna benzer bir mantıkla geliştirilmiştir. Bu ilişki Lagrange metodunun ilginç bir ekonomik yorumunu kabul eder. A) Lagrange Metodu f = J Y g duyarlılık katsayıları f nin optimum değeri üzerinde kısıtlardaki küçük değişikliklerin etkisini belirlemede kullanılır. Keza bu katsayılar sabittir. Bu özellikler eşitlik kısıtlarına sahip kısıtlı problemleri çözmek için kullanılır. λ = Y f J = g Buradan; f - λ g = bulunur. Bu denklem sabit noktalar için gerek şartlarda yeterlidir. Yani f, g C f ye benzer olarak hesaplanır. Bu denklemleri sunmak için daha elverişli bir ifade de bütün Böylece; j lerin kısmi türevleri alınmak suretiyle elde edilir. (f - λg) = j (j =,,, n) g = kısıt denklemleri ile bu son denklem ve λ nın uygun değerlerini kabul eder ki sabit noktalar için gerek şartlar kâfidir.eşitlik kısıtlarına sahip optimizasyon problemlerinin sabit noktalarının belirlenmesi işlemi Lagrange işlemi olarak adlandırılır. Bu metodu formulize eden ifade; L ( X, λ ) = f() λ g() ile verilir. 8
Burada L fonksiyonu Lagrange fonksiyonu ve λ parametreleri de Lagrange çarpanları olarak bilinirler. L L = ve = λ X denklemleri Lagrange fonksiyonu için gerek şartların oluşturulmasında direkt olarak kullanılır. Bir başka deyişle, g() = kısıtları ile f() fonksiyonunun optimizasyonu L ( X, λ ) Lagrange fonksiyonunun optimizasyonuna eşittir. Şimdide Lagrange metodu için yeter şartları ispatsız olarak tanımlayalım. Burada; H B = T P P Q (m+ n)(m+ n) P = g g g... () () () m (m n) ve Q = L (X, λ) i. j (n n) ( i,j için ) İşte bu şekilde tanımlanan B H matrisine sınırlandırılmış Hessian Matrisi denir(). B Verilen bir ( X, λ ) noktasında Hsınırlandırılmış Hessian Matrisi ve L (X, λ ) Lagrange fonksiyonu değerlendirilirse; ) Eğer B H, (m + ) inci mertebeden temel minör determinantı ile başlayan ve (n-m) inci mertebeden temel minör ile son bulan determinantların işareti ( ) m+ ile değişiyorsa ( X, λ ) bir maksimum noktadır. ) Eğer B H, (m + ) inci mertebeden temel minör determinantı ile başlayan ve (n-m) inci mertebeden temel minör ile son bulan determinantların işareti ( X, λ ) bir minimum noktayı belirtir(8). m ( ) ile aynı işarete sahipse 9
Bu şartlar bir ekstremum noktayı tanımlamak için yeterlidir fakat gerek değildir. Bir başka deyişle bir sabit nokta yukarıdaki şartları sağlamaksızın ekstremum nokta olabilir. Bu metodun dezavantajı işlem akışının hesaplama olarak pratik kararlar için uygun olmayışıdır. Bunun için; P Δ = T P Q μi matrisini bu şekilde tanımlayıp ( X, λ ) noktasında değerlendirelim. Burada P ve Q daha önce tanımladığımız gibi, μ ise bilinmeyen bir parametredir. Δ = determinantını gözönüne alırsak; Δ = polinom denkleminin (n -m) tane u i reel kökünün herbiri için; a) Δ < oluyorsa ( X, λ ) bir maksimum noktadır. b) Δ > oluyorsa ( X, λ ) bir minimum noktadır..3.. Eşitsizlik Kısıtlar Bu bölümde ilk olarak Lagrange metodunun genişlemesini ele alacağız. Yani sınırlı bir anlamda eşitsizlik kısıtlarını gözönüne alarak Lagrange metodunu genişleteceğiz. İkinci olarak ise eşitsizlik kısıtlarına sahip problemlerin analitik çözümü için Karush-Kuhn-Tucker gerek ve yeter şartları sunulmaktadır. A. Lagrange Metodunun Genişletilmesi Ma z = f() Kısıtlar g i () (i =,,.., m) i problemini gözönüne alalım.lagrange metodunun genişletilmesinin esası şudur: Eğer f() in kısıtsız optimimu bütün kısıtları sağlamazsa, kısıtlı optimum çözüm uzayının bir sınır noktasında olmak zorundadır. Yani denklem formunda m kısıtta yeterli olmak zorundadır.buna göre işlem adımları şu şekilde özetlenebilir. Adım : Maksimum z = f() kısıtlı probleminin çözümünde eğer sonuç optimum bütün kısıtlarda yeterli ise k = alınıp adım ye geçilir.