AST416 Astronomide Sayısal Çözümleme - II 6. Monte Carlo
Bu derste neler öğreneceksiniz? Monte Carlo Yöntemleri Markov Zinciri (Markov Chain) Rastgele Yürüyüş (Random Walk) Markov Chain Monte Carlo, MCMC Metropolis Hastings Algoritması
Monte Carlo Yöntemleri Tekrarlanan rastgele örneklemeler kullanılarak nümerik çözümlerin yapıldığı yöntemlerdir. Monte Carlo adı, Monako Prensliği nde bulunan ve kumarhaneleriyle ünlü şehirden gelmektedir. Fizik, mühendislik, istatistik, ekonomi, programlama gibi bir çok farklı alanda kullanılmaktadır. Monte Carlo yöntemleri çok çeşitli olmakla birlikte, soruna yönelik girdi tanımları yapılması, belirli bir olasılık dağılımına göre rastgele girdilerin üretilmesi, girdiler üzerinden belirleyici hesapların yapılması olmak üzere temel bir yapıya sahiptirler.
Monte Carlo Çeyrek daire alanı ile karenin alanları oranı π/4 ise Monte Carlo yöntemi ile π sayısının değeri bulunabilir. Çeyrek daire ve kare iç içe çizilir. Kare içerisindeki her bölgeye rastgele konumlarda tekdüze (uniform) dağılımlı noktalar yerleştirilir. Dairenin içerisindeki noktaların sayısı ile toplam nokta sayısının oranı π değerini verecektir. Bu örnekte, kullanılan noktaların dağılımı veya sayısı, sonucu etkilemektedir.
Markov Zinciri (Markov Chain) Markov özelliği, herhangi bir rastgele durumun hafızasızlık (ing. memorylessness) özelliği taşıması, yani kendisinden önceki durumlardan bağımsız olması demektir. Markov zinciri ise, Markov özelliği taşıyan durumlar arasındaki olasılık temelli süreksiz geçişler sürecine verilen isimdir. Örneğin, zar oyunları birer Markov zinciridir. Ancak kart oyunları, oynadıkça destedeki kartların sayıları ya da türleri değiştiği için hafızaya sahiptirler ve Markov özelliğine sahip değildirler. Bu sebep ile Markov zinciri değildirler.
Markov Zinciri (Markov Chain) Açık Hava durumu tahmini Hava açık ise bir sonraki gün %90 ihtimalle açık olacaktır. Hava yağmurlu ise bir sonraki gün %50 ihtimalle yağmurlu olacaktır. Buna göre ileri bir tarihin hava durum ihtimali hesaplandığında 0.8333 ihtimalle açık 0.1667 ihtimalle yağmurlu olacağı ortaya çıkar. Bu hesap başlangıç hava durumundan bağımsızdır. Belirli bir günden sonra ihtimal değeri değişmemeye başlar. Bu değere Markov Zinciri nin denge dağılımı (equilibrium distribution) adı verilir. Yağmurlu 0 Açık 1 0 Yağmurlu 1 0.9 0.86 0.844 0.8376 0.83504 0.834016 0.833606 0.833443 0.833377 0.833351 0.83334 0.833336 0.833334 0.833334 0.833334 0.1 0.14 0.156 0.1624 0.16496 0.165984 0.166394 0.166557 0.166623 0.166649 0.16666 0.166664 0.166666 0.166666 0.166666 0.5 0.7 0.78 0.812 0.8248 0.82992 0.831968 0.832787 0.833115 0.833246 0.833298 0.833319 0.833328 0.833331 0.833332 0.5 0.3 0.22 0.188 0.1752 0.17008 0.168032 0.167213 0.166885 0.166754 0.166702 0.166681 0.166672 0.166669 0.166668 İhtimal matrisi 0.9 0.1 0.5 0.5
Rastgele Yürüyüş (Random Walk) Rastgele yürüyüş, bir matematiksel uzayda, rastgele adımlar atarak izlenilen yolu açıklayan rastgele bir süreçtir. Örnek olarak, bir akışkandaki parçacığın yolu, yemek arayan bir böceğin yolu, borsadaki salınımlar rastgele yürüyüş yaklaşımı ile incelenebilir. Rastgele yürüyüş süreçleri Markov özelliğini taşıdığı sürece birer Markov zinciridir.
Markov Chain Monte Carlo, MCMC Bir olasılık dağılımı üzerinden örneklemeler ile, Markov zincirinin denge dağılımına ulaşmayı hedefleyen algoritmalar grubuna verilen isimdir. Fizik, biyoloji, ekonomi, dilbilim gibi birçok farklı alanda kullanılmaktadır. Örneklenmek istenen soruna ilişkin boyut sayısının yüksek olması, diğer yöntemleri kullanışsız hale getirirken (bkz. ing. curse of dimensionality) MCMC yöntemleri çoğu zaman uygulanabilir tek yöntem olmaktadır. Genellikle rastgele yürüyüş mantığı ile çalışan algoritmalar kullanır. Bunlardan bazıları; Metropolis-Hastings Gibbs Slice Reversible-jump
Metropolis Hastings Algoritması Bu algoritma, belirli bir olasılık dağılımından elde edilen rastgele örneklerin, doğrudan (ana) dağılımın kestirilmesinde ya da integral hesaplamasında kullanılmasına dayanmaktadır. Ard arda üretilen rastgele değerler, bir olasılık karşılaştırmasına tabi tutularak seçilir. Bu şekilde Markov zincirinin denge dağılımına erişilene kadar yeni rastgele değerler üretilmeye devam edilir. Tekrar sayısı ne kadar fazla olursa, denge dağılımını örnekleme kalitesi artar.
Metropolis Hastings Algoritması 1 - Rastgele başlangıç parametre seti x0 oluşturulur 2 - Varsayılan bir olasılık dağılımı kullanılarak bir diğer parametre seti x i oluşturulur. 3 - İki setten hangisinin kabul edileceği aşağıdaki şekilde belirlenir: Eğer random(0,1) <= min(1, P(xi)/P(xi+1)) ise xi seti seçilir değil ise xi+1 seti seçilir. 4 - Hesaplama 2. adımdan istenilen sayıda tekrarlanır. 5 - Hesap tekrarı (iterasyon) tamamlandıktan sonra seçilen parametrelerin histogramları oluşturulur. 6 - Histogramlarda en çok tekrar eden değer aralıkları parametrelerin değer aralığı olarak kabul edilir.
Metropolis Hastings Algoritması
Metropolis Hastings Algoritması Rastgele üretilen daha olası parametre setinin, 0-1 arasında üretilen tekdüze bir rakam ile karşılaştırılması, yerel minimuma hapsedilmeyi önleyip global minimumun bulunabilme ihtimalini arttırır ancak bu ihtimal her zaman vardır. Yerel minimuma hapsolmamak için farklı ilk parametre setlerine doğrudan zıplamak gerekebilir. Bu algoritmada, kaç defa parametre seti oluşturulması gerektiği bilinmemektedir. Üretilen ilk değerlerin, istenilen dağılımdan çok uzak değerler alması olasıdır. Bu sebep ile ilk tekrarların önemli bir kısmı hesaba katılmadan ayıklanır (ing. Burn-in). Burn-in kısmına dahil olan tekrar sayısı da önceden bilinmemektedir.
Metropolis Hastings Algoritması Eğer üretilen parametre setleri birbirlerinden önemli miktarda farklı değerlere sahip olursa, setlerin karşılaştırılması sonucunda yeni setin reddedilme sıklığı artar. Bu durumda kullanılmayan setler üretilmiş olur. Eğer parametre setleri birbirlerine çok yakın değerlere sahip olurlarsa, yeni setler büyük ihtimalle kabul edilmekle birlikte, istenilen dağılıma ulaşmak için aşırı set üretimi gerekecektir. Yukarıdaki iki durumda da işlem süresi uzayacaktır. Buradaki en büyük sorun, yeni setlerin üretileceği dağılımların seçimi için genel bir kural bulunmamasıdır. Yani eldeki soruna özel çözümler üretmek gerekmektedir. Rastgele üretilen ardışık parametre setleri birbirlerinden tam olarak bağımsız değildirler. Bu sebep ile eğer birbirinden bağımsız setlerin incelenmesi ihtiyacı söz konusuysa, üretilen ve kabul edilen tüm setlerin sadece her n tanesinden biri alınmalıdır. Bu durumda diğer setlerin kullanılmaması söz konusu olmaktadır.
Ödev 6: Metropolis Hastings algoritması Teslim Tarihi: 22 Mayıs 2017, Pazartesi 1. Metropolis Hastings algoritmasını eğri uyumlama yapan bir python koduna çeviriniz. Uyumlamanın artık kareler toplamını ilgili rastgele setin olasılığı P(xi) olarak kabul edip, seçim koşulunu buna göre kodlayabilirsiniz. 2. Ders 4 - Eğri Uyumlama sunumunda, roketin hızına karşılık maruz kaldığı hava direnci (sayfa 6) verilerine, yazdığınız Metropolis Hastings kodu ile bir doğru uyumlaması yapınız. Bu uyumlama için en az 10000 iterasyon uygulayınız. Uyumlama sonunda seçilmiş olan parametre setlerinin histogramlarını çizdiriniz. Burada en olası değerleri yazdırınız.
Kaynaklar Measurements and their Uncertainties, Ifan G. Hughes & Thomas P.A. Hase, Oxford University Press, 2010 Data Reduction and Error Analysis for the Physical Sciences, Philip R. Bevington & D. Keith Robinson, MC Graw Hill, 2003 Görseller; www.stat.uiowa.edu/~mbognar/applets