NÜMER IK ANAL IZ Bilimsel Hesaplama Matemati¼gi, Gazi Kitabevi 0 Nuri ÖZALP L INEER S ISTEMLER IN ÇÖZÜMÜ Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Amac m z 8 >< >: a x + a x + a x + + a n x n = b a x + a x + a x + + a n x n = b a x + a x + a x + + a n x n = b. a n x + a n x + a n x + + a nn x n = b n formuna sahip lineer denklem sistemlerini çözmeyi nümerik bak ş aç s ndan tart şmakt r. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Matrisler denklem sistemlerini temsil etmek için kullan şl araçlard r. Bu durumda, yukar daki denklem sistemini a a a a n x b a a a a n x b a a a a n 7 6 x 7 = 6 b 7 6 4....... 7 6 5 4 a n a n a n a nn şeklinde yaz labilir. Böylece bu matrisleri, denklem basitçe. x n 7 5 6 4. b n 7 5 Ax = b () yaz lacak şekilde A, x, ve b ile gösterebiliriz. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler () sistemi 6 4 a 0 0 0 0 a 0 0 0 0 a 0....... 0 0 0 a nn 7 6 5 4 x x x. x n = 7 6 5 4 b b b. b n 7 5 köşegensel yap da ise, bu durumda sistem n tane basit denkleme indirgenir ve çözümü de b /a b /a x = b /a 6 7 4. 5 b n /a nn olur. E¼ger, baz i indisleri için a ii = 0 ve b i = 0 ise, bu durumda x i herhangi bir reel say olabilir. E¼ger, a ii = 0 ve b i 6= 0 ise, sistemin çözümü yoktur. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 4 / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Sistem alt üçgensel yap da ise, yani a 0 0 0 a a 0 0 a a a 0 6 4...... 7 6. 5 4 a n a n a n a nn x x x. x n = 7 6 5 4 şeklindeyse, ilk denklemden x i elde ederiz. Bulunan x de¼gerini ikinci denklemde yazarak, x yi çözeriz. Ayn yolla devam ederek, ardarda s rada x, x,..., x n i buluruz. b b b. b n 7 5 Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 5 / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Bu şekildeki formal çözüm algoritmas ileri-yönde yerleştirme olarak adland r l r. girdi n, (a ij ), (b i ) i = den n ye döngü!, i x i b i a ij x j a ii j= döngü sonu ç kt (x i ) Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 6 / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Ayn düşünce üst üçgensel yap ya sahip bir sistemi çözmek için de uygulanabilir. Bu tip bir matris sistemi a a a a n x b 0 a a a n x b 0 0 a a n 7 6 x 7 = 6 b 7 formundad r. 6 4....... 7 6 5 4 0 0 0 a nn. x n 7 5 6 4. b n 7 5 Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 7 / 9
. LU ve Cholesky Ayr şt rmalar Kolay Çözülebilir Sistemler Tekrar, i n için a ii 6= 0 kabul edilmelidir. x i çözen formal algoritma aşa¼g daki gibi olup, geri-yönde yerleştirme olarak adland r l r: girdi n, (a ij ), (b i ) i = n den e, ad ml döngü x i b i n j=i+ a ij x j /aii döngü sonu ç kt (x i ) Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 8 / 9
LU-Ayr şt rmalar. LU-Ayr şt rmalar A n n, bir alt üçgensel L matrisi ile bir üst üçgensel U matrisinin çarp m şeklinde ayr şt r labildi¼gini, yani A = LU oldu¼gunu kabul edelim. Bu durumda, Ax = b sistemini çözmek için, iki aşamada Lz = b yi z ye göre çözmek yeterlidir. Ux = z yi x e göre Böyle bir ayr ş ma her matris sahip olmayabilir. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 9 / 9
. LU-Ayr şt rmalar Bir n n lik A matrisi ile başlayal m ve A = LU olacak şekilde ` 0 0 0 u u u u n ` ` 0 0 0 u u u n L = ` ` ` 0 U = 0 0 u u n 6 4...... 7 6. 5 4....... `n `n `n `nn 0 0 0 u nn 7 5 matrislerini araşt ral m. Bunun mümkün oldu¼gu durumlarda, A bir LU-ayr ş m na sahiptir deriz. L ve U, Denklem (4) ten, tek olarak belirlenmez. Asl nda, her i için, `ii veya u ii den birine (fakat her ikisine de¼gil) s f rdan farkl bir de¼ger atayabiliriz. Örne¼gin, basit bir seçim i =,,..., n için, `ii = almak ve böylece, L yi birim alt üçgensel yapmakt r. Bir başka aç k seçenek, U yu birim üst üçgensel (her i için, u ii = ) yapmakt r. Bu iki durum özel öneme sahiptir. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 0 / 9
. LU-Ayr şt rmalar A n n LU-ayr ş m için algoitma: s > i için `is = 0 ve s > j için u sj = 0 olmak üzere a ij = n `is u sj = s= min(i,j) `is u sj () s= Işlem sürecinin her ad m, U da yeni bir sat r ve L de yeni bir kolon belirler. k-y nc ad mda U daki,,..., k. sat rlar n ve L deki,,..., k. kolonlar n hesapland ¼g n kabul edelim. (k = için bu kabul varsay msal do¼grudur.) u kk veya `kk dan biri belirlenmişse, () de i = j = k al n rsa, di¼geri denkleminden elde edilir. a kk = k `ks u sk + `kk u kk () s= Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Böylece `kk ve u kk bilinmek üzere, k-y nc sat r (i = k) ve j. kolon (j = k) için, Denklem () den s ras ile a kj = a ik = k `ks u sj + `kk u kj (k + j n) () s= k `is u sk + `ik u kk (k + i n) (4) s= yazar z. E¼ger `kk 6= 0 ise, u kj elemanlar n elde etmek için Denklem () kullan labilir. Benzer olarak, e¼ger u kk 6= 0 ise, `ik elemanlar n elde etmek için Denklem (4) kullan labilir. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Yukar daki analize dayal algoritma: L birim alt üçgensel ( i n için `ii = ) iken Doolittle ayr şt rmas Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Yukar daki analize dayal algoritma: L birim alt üçgensel ( i n için `ii = ) iken Doolittle ayr şt rmas U birim üst üçgensel ( i n için u ii = ) iken ise Crout ayr şt rmas olarak bilinir. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Yukar daki analize dayal algoritma: L birim alt üçgensel ( i n için `ii = ) iken Doolittle ayr şt rmas U birim üst üçgensel ( i n için u ii = ) iken ise Crout ayr şt rmas olarak bilinir. U = L T ve böylece i n için `ii = u ii iken algoritma Cholesky ayr şt rmas olarak adland r l r. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Yukar daki analize dayal algoritma: L birim alt üçgensel ( i n için `ii = ) iken Doolittle ayr şt rmas U birim üst üçgensel ( i n için u ii = ) iken ise Crout ayr şt rmas olarak bilinir. U = L T ve böylece i n için `ii = u ii iken algoritma Cholesky ayr şt rmas olarak adland r l r. Cholesky yöntemini bu kesimin sonunda daha detayl olarak ele alaca¼g z, çünkü bu ayr ş m A matrisinin reel, simetrik (A T = A ) ve pozitif tan ml (x T Ax > 0 ) olma özelliklerini gerektirmektedir. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
. LU-Ayr şt rmalar Yukar daki analize dayal algoritma: L birim alt üçgensel ( i n için `ii = ) iken Doolittle ayr şt rmas U birim üst üçgensel ( i n için u ii = ) iken ise Crout ayr şt rmas olarak bilinir. U = L T ve böylece i n için `ii = u ii iken algoritma Cholesky ayr şt rmas olarak adland r l r. Cholesky yöntemini bu kesimin sonunda daha detayl olarak ele alaca¼g z, çünkü bu ayr ş m A matrisinin reel, simetrik (A T = A ) ve pozitif tan ml (x T Ax > 0 ) olma özelliklerini gerektirmektedir. Bu ayr şt rmalardan hangisi daha iyidir? Bunlar n herbiri basit Gauss eleme yordam n n varyasyonlar ile ilişkilidir. Bu nedenle, konunun tam olarak anlaş lmas için bunlar hakk nda bilgiye gerek vard r. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ / 9
Genel LU-ayr şt rmas :. LU-Ayr şt rmalar girdi n, (a ij ) k = den n e döngü `kk veya u kk dan biri için s f rdan farkl bir de¼ger belirle ve di¼gerini hesapla k `kk u kk a kk `ks u sk s= j = k + den n ye döngü u kj k a kj `ks u sj `kk s= döngü sonu i = k + den n ye döngü `ik döngü sonu döngü sonu ç kt (`ij ), (u ij ) k a ik `is u sk u kk s= Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 4 / 9
. LU-Ayr şt rmalar Doolittle ayr şt rmas önkodu: girdi n, (a ij ) k = den n e döngü `kk j = k dan n ye döngü k u kj a kj `ks u sj s= döngü sonu i = k + den n ye döngü `ik döngü sonu döngü sonu ç kt (`ij ), (u ij ) k a ik `is u sk u kk s= Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 5 / 9
Örnek. LU-Ayr şt rmalar A = 4 60 0 0 0 0 5 0 5 matrisinin Doolittle, Crout ve Cholesky ayr şt rmalar n bulunuz. 5 Çözüm Algoritmadan, Doolittle ayr ş m 0 0 A = 4 0 5 4 60 0 0 0 5 5 0 0 5 LU bulunur. Di¼ger iki ayr ş m do¼grudan hesaplamak yerine, bunlar Doolittle ayr şt rmas ndan elde edebiliriz. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 6 / 9
. LU-Ayr şt rmalar Çözüm U nun köşegen elemanlar n bir köşegensel D matrisinde yazarak 0 0 A = 4 5 4 5 4 0 60 0 0 0 5 0 0 0 buluruz. ˆL = LD dersek, 60 0 0 A = 4 0 5 0 5 4 0 5 Crout ayr ş m n elde ederiz. 0 0 0 0 0 0 5 ˆLÛ 5 LDÛ Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 6 / 9
. LU-Ayr şt rmalar Çözüm Cholesky ayr ş m, LDÛ ayr ş m nda D yi D / D / formuna ay rarak ve çarpanlardan biri L di¼geri de Û ile ilişkilendirerek elde edilebilir. Böylece, p 0 0 60 p 0 0 A = 4 0 5 4 0 5 0 5 p 0 0 p 60 p 0 0 4 0 5 p 0 5 4 0 5 0 0 0 0 p p p p p 60 p 0 0 60 60 p p 60 = 4 p 60 p 5 p 0 5 4 0 5 5 5 p ˆLˆL T 60 5 0 0 olur. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 7 / 9
. LU-Ayr şt rmalar En çok ilgilenilen ayr ş m, L bir birim alt üçgensel ve U da bir üst üçgensel olmak üzere A = LU formudur. Bir A kare matrisinin bir LU-ayr ş m na sahip olmas için bir yeter koşul aşa¼g dad r: Teorem (LU-Ayr ş m ) E¼ger n n lik bir A kare matrisinin n tane ana temel minörleri tümüyle tekil de¼gil ise, bu durumda A bir LU-ayr ş m na sahiptir. Teorem (LL T -Ayr ş m için Cholesky Teoremi) E¼ger, A reel, simetrik (yani A = A T ) ve pozitif tan ml (yani x T Ax > 0 bir matris ise, bu durumda L pozitif köşegenli bir alt üçgensel matris olmak üzere, A n n tek bir A = LL T ayr ş m vard r. Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 8 / 9
. LU-Ayr şt rmalar Cholesky ayr şt rmas önkodu: girdi n, (a ij ) k = den n e döngü `kk k a kk `ks s= / i = k + den n ye döngü k `ik a ik `is `ks `kk s= döngü sonu döngü sonu ç kt (`ij ) Nuri ÖZALP (Ankara Üni.) NÜMER IK ANAL IZ BÖLÜM 6 7! L INEER S ISTEMLER IN ÇÖZÜMÜ 9 / 9