1 1. Giriş Rastlantısal değişkenler ve işleyişler hakkındaki çalışmalar birçok farklı alan için temel oluşturmaktadır. Temel olasılıkla ilgili birçok kavram şansa oyunlarından hareketle elde edilebilir. Gerçekte olasılık kuramı şans oyunlarının matematiksel olarak çalışılması ile elde edilmiştir. Günümüzde büyük bir kumar sektörü olasılık kuramının altyapısı üzerine kurulmuştur. Kumarhaneler kişileri kendine çekecek kadar kazanmaya olanak veren oyunlarla donatılmıştır. Öte yandan olasılık her zaman kumarhanenin lehinedir ve kumarhane sahipleri bilirler ki oynanmaya devam edildikçe olasılık kuramı kendilerinin kazanmasını garanti edecektir. Diğer bir olasılık kuramı uygulamasında ise hisse senedi yatırımcıları büyük bir zaman ve çaba harcayarak piyasalardaki rastlantısal dalgalanmaları önceden tespit etmeye çalışırlar. Günlük işlem yapanlar günlük dalgalanmalardan, uzun vadeli yatırım yapanlar ise çok daha uzun zamanda kademe kademe oluşan gidişattan faydalanmaya çalışırlar. Bu kademeli gidişatlar ve dalgalanmaların doğası rastlantısaldır ve sadece olasılık kuramı bakış açısı ile tanımlanabilirler. Rastlantısal oluşumları yöneten diğer bir iş dalı ise sigorta endüstrisidir. Sigorta ikramiyeleri çeşitli olayların meydan gelme olasılığının dikkatli bir şekilde çalışılması ile hesaplanmaktadır. Örneğin bir araç sigorta satıcısı çeşitli sürücülerin olası kaza yapma olasılıklarını değerlendirip bunları sınıflandıracak ve her bir sınıfa o sınıfın kaza yapma olasılığına bağlı olarak ayrı bir ikramiye belirleyecektir. Diğer bir uygulamada ise bir meteorolog şu anki ve geçmişteki hava koşullarına göre geleceğe ilişkin bir hava tahmininde bulunmaya çalışır. Hava olayları rastlantısal olduğunda dolayı gelecek havaya ilişkin bildirimler olasılıkla ifade edilir (salı günü %40 olasılıkla yağmurlu gibi). Olasılık kuramı kendine bu kadar çok uygulama alanı bulduğundan, öğrenciler girdikleri alana göre farklı derecelerde olasılığı anlamak isterler. Örneğin kendisini sadece kart oyunlarında geliştirmek isteyen biri için ayrık olasılık kavramını anlaması yeterli olabilir. Operasyon yönetimi ile uğraşacaklar için kuyruk teorisini ve dolayısı ile Markov ve ilgili rastlantısal işleyişleri anlamak gerekir. Bir haberleşme mühendisi için gürültüye ilişkin modelleri ve en az gürültülü sistem tasarımını iyi bir şekilde anlamak gerekir. Bu derste işlenecek konular farklı disiplinlerin ihtiyacını da karşılayabilir ancak daha çok elektrik, elektronik ve bilgisayar mühendisliği üzerine odaklanılmıştır. Konulara başlamadan önce olasılık ve rastlantısal işleyişler kuramının çeşitli mühendislik uygulamalarında nasıl kullanıldığını göstermek için birkaç örnek incelenecektir. 1.1 Ses Tanıma Sistemi Birçok araştırmacı bilgisayar ile ses tanıma üzerine çalışmaktadır. Bir uygulama söylenen komutların bilgisayar tarafından anlaşılmasıdır. Basit bir ses tanıma sistemi şablona dayalı tanıma prosedürünü kullanabilir. Tanımladığımız ve olası kelimeleri içeren bir sözlük oluşturabiliriz ancak bu durumda tanınması gereken olası alternatifleri kısıtlamış oluruz. Her kelimeye ilişkin şablon kelimenin konuşulduğu gibi sayısallaştırılması ile elde edilir. Aşağıdaki şekilde bu şekilde oluşturulmuş basit bir sözlük gösterilmektedir.
2 Şekil 1. Ses tanımaya ilişkin ses şablonları içeren basit bir sözlük Şablon kelimenin zaman dalga biçimi, spektrumu yada seçilen bazı özelliklerini içeren bir vektör ün saklanması ile oluşturulabilir. Genel olarak dalga biçiminin zarfı, enerji, belli bir aralıkta sıfır değerini alma sayısı gibi özellikler saklanır. Ses tanıma oldukça teferruatlı bir iştir. Çeşitli faktörler bu işin gerçekleştirilmesini zorlaştırabilir. Örneğin etraftaki seslerin girişimi, genlik ve konuşulan kelimenin süresinin değişkenliği, konuşanın yüksek yada alçak sesle konuşması gibi sesin karakteristiklerinde meydana gelen değişimler ve sözlüğün saklanma alanı bu faktörlerden sadece birkaçıdır. Aşağıdaki şekilde aynı kelimenin farklı konuşmacılar tarafından söylenmesi durumundaki değişiklikler gösterilmektedir. Şekil 2. Farklı konuşmacılarla şablondaki değişimler
3 Yukarıdaki şekilden de görüleceği gibi konuşmacıdan konuşmacıya şablonlar oldukça fazla değişmektedir. Bu değişkenlik olasılık ve rastlantısal işleyişler kuramı ile tanımlanabilir. Böylece ses üretme ve tanıma ile ilgili modellerde bu olasılık tanımlamaları kullanılabilir. 1.2 Radar Sistemi Olasılık ve rastlantısal işleyişlerle bağlantılı olan klasik bir sorun da sinyal sezimlemesi ve kestirimidir. Böyle bir probleme bir örnek basit bir radar sistemidir. Bilinen bir sinyal elektromanyetik dalgaya dönüştürülüp antenle yayımlanır ve bu dalga bir uçağa çarpıp yansıyıp geri gelir. Geri gelen dalgadan elde edilen sinyal işlenerek uçak hakkında bilgi edinilmeye çalışılır. Geri gelen sinyal gürültü ve girişim içermesinin yanı sıra rastlantısallık ta gösterebilir. İlk olarak yansıyan bir sinyal olup olmadığını tespit etmek gerekir. Genellikle belli bir yanlış alarm seviyesine sahip olan bir uçak nesnesinin doğru olarak sezimlenmesi olasılığı en büyük yapılmak istenir. İlk olarak uçağın orada olduğuna karar verdikten sonra yansıyan sinyalin birçok rastlantısal parametresini kestirerek uçak hakkında bilgi alınılmaya çalışılır. Yansıyan sinyalin ulaşma zamanında uçağın radara olan mesafesini, yansıyan sinyalin frekansından uçağın hızını bulmak mümkün olur. Ancak elde edilen sinyal gürültü ve girişime maruz kaldığından sinyale ilişkin parametreleri tam bir kesinlikle kestirmek mümkün olmaz. Bu rastlantısal bozuculara ilişkin doğru bir modelle beraber en doğru kestirimi yapabilmek için prosedürler geliştirilebilir. Aynı zamanda olasılık ve rastlantısal işleyişler kuramını kullanarak sistemin başarımı da analiz edilebilir. Şekil 3. Radar sistemi 1.3 Haberleşme Ağı Aşağıdaki şekilde gösterildiği gibi bir haberleşme ağındaki bir düğümü göz önüne alalım. Düğüm kendine farklı kaynaklardan gelen bilgiyi alıp onu varacağı hedefe uygun olarak yönlendirmelidir.
4 Şekil 4. Radar sistemi Tipik olarak bir düğüm sabit bir hızla veriyi iletir. Paketlerin düğüme varışları rastlantısal olduğundan hemen yönlendirilemeyecek paketlerin geçici olarak saklanmasına imkan tanıyan bir tampon kapasitesi mevcuttur. Paketlerin düğüme varışlarına ilişkin bir rastlantısal model ağ tasarımcısına ne kadarlık bir tampon ihtiyacı olduğu ve tampon aşımı olasılığı hakkında bir bilgi sahibi olma olanağı tanır. Paketin düğümde uğrayacağı gecikme gibi diğer parametreler de istatistiksel olarak modellenebilir. Düğümlerin birinde bir paket üretildiğinde paketin hedefine ilişkin bir yol da belirlenmelidir. Bazı düğümler diğerlerine göre daha yoğun olabilirler ve ağdaki yoğunluk çok dinamik bir yapıya sahiptir. Dolayısı ile paketlerin yoluna ilişkin karar olasılığa dayalı olarak verilmelidir. Paketin kaybolma riskinin en az olduğu yada en az gecikme ile hedefe ulaşacağı yolu bulmak gerekir. Yol belirleleme (routing), akış kontrolü ve bunlar gibi protokoller olasılık kuramının alt yapısı ile temellenmişlerdir.
5 2. Olasılık Kuramına Giriş Birçok elektrik-elektronik mühendisliği bölümü öğrencisi zaman domeni yada frekans domenini kullanarak; sinyallerin sürekli ve geçici durumu bakışı ile sistemleri irdelemekte ve analiz etmektedir. Ancak bu yöntemler ne sinyaldeki değişkenliği nede gürültü ve girişim gibi bozucuları hesaba katmaktadır. Olasılık ve rastlantısal işleyişler kuramı çeşitli olaylardaki belirsizliği modellemede oldukça kullanışlıdır. Çoğu sistemin başarımı gürültüden olumsuz olarak etkilenmektedir. Bundan dolayı gürültüyü mümkün olduğunca elemine ederek istenen sinyali iyileştiren sistemleri tasarlamak bir gerekliliktir. Bir deterministik sinyal yada fonksiyon ve gürültü gibi bir stokastik yada rastlantısal bir olgu birbirinde nasıl ayrılabilir? İstenen sinyalle beraber bulunan herhangi bir istenmeyen sinyal genellikle gürültü olarak tanımlanır. Bu tanım hem determnistik hem de deterministik olmayan sinyalleri kapsamaktadır. Deterministik bir sinyal parametre değerleri ile ifade edilebilir. Örneğin sinüsoid verilen genlik, frekans ve faz değerleri ile mükemmel bir biçimde tekrar oluşturulabilir. Gürültü gibi stokastik sinyaller ise bu özelliğe sahip değillerdir. Çeşitli parametreler ile yaklaşık olarak tekrar oluşturulsalar da rastlantısal yapıları onların geçmiş değerlerine bakılarak tekrar oluşturulmalarını engeller. Daha önce de bahsedildiği gibi aynı kelimenin farklı konuşmacılar tarafından söylenmesi bile deterministik değildir; değişkenliğe sahiptir ve rastlantısal dalgalanmalar olarak modellenebilir. Tüm geçmişi olduğu gibi bilinen bir stoksatik sinyalin bile gelecekteki bir değerini genlik, frekans ve faz gibi özelliklerinden hesaplamak mümkün değildir. Ancak rastlantısal bir sinyalin genliği yada fazı belli bir olasılıkla tahmin edilebilir. Olasılık kuramı; haberleşme, sinyal işleme, kontrol ve bilgisayar gibi farklı birçok alanda model oluşturma ve analiz yapabilmek için bir araçtır. Olasılığın ve rastlantısal işleyişlerle çalışılmasının nedeni belki de karmaşık sistemleri ve olayları modelleyebilmeyi sağlamaktır. 2.1 Deneyler, Örnek Uzayları ve Olaylar Olasılık ve kumar arasındaki ilişki bir süredir bilinmektedir. Yıllar boyunca bazı ünlü bilim adamları ve matematikçiler olasılığa zaman ayırmıştırlar. Galileo zar oyunları hakkında yazmış, Laplace bazı kumar oyunlarının olasılıkları ilgili çalışmış, Pascal ve Bernoulli şans oyunları ile ilgili çalışmalar yaparken olasılığın temel teorisini oluşmasına sebep olmuşlarıdr. Bu erken çalışmadan buyana olasılık kuramı matematiğin oldukça gelişmiş bir dalı olmuştur. Temel olasılık kuramının bu başlangıç kısımlarında temel fikirleri açıklamak için şans oyunları sıkça kullanılacaktır. Deney: Gerçekleştirilen ve bazı sonuçlar üreten prosedürlerdir. Genellikle E harfi deneyi göstermek için kullanılır. (Örneğin deney E 5 bir bir bozuk parayı 5 kez atmayı temsil edebilir) Sonuç: Bir deneyin olası sonucudur. Yunan alfabesindeki ksi (ξ) karakteri ile gösterilir. E 5 deneyinin sonuçları örneğin tura-tura-yazı-tura-yazı biçimindeki bir dizi olabilir.
6 Olay: Olay sonuçların belli bir dizisidir. Örneğin E 5 deneyi ile ilişkilendirilen bir C olayı turaların sayısının çift sayı olması olabilir. Örnek Uzayı: Bir deneyin sonuçlarının tüm olası sonuçlarını içeren kümedir S harfi ile gösterilir. Eğer S sonlu ise örnek uzayı ayrık örnek uzayı olarak isimlendirilir. Diğer durumlarda ise sürekli örnek uzayı olarak isimlendirilir. Bazı durumlarda örneğin bir bozuk paranın atılmasında paranın dik gelmesi gibi olma olasılığı çok düşük olan sonuçlar mevcut olabilir bu gibi durumlar örnek uzayına genellikle dahil edilmezler.
7
8
9 2.2 Olaslığın Aksiyomları Bu kısımda; deney, sonuç ve olay kavramı tanıtıldıktan sonra ikinci adım olarak çeşitli sonuç ve olaylara olasılık atama gerçekleştirilecektir. Bunun için olasılığın dikkatli bir biçimde tanımlanması gerekir. Olasılık ve olası sözcükleri günlük konuşmalarda sıkça kullanılır. Meteorologlar akşam haberlerinde yarın yağmur yağması olası yada daha ayrıntılı olarak %70 yağmur yağma olasılığı var diyebilirler. Her ne kadar hassas bir ifade kullanılmış olsa da bunu çeşitli biçimlerde yorumlayabiliriz. Belki izleyicilerin %70 nin yarın yağmurla karşılaşacakken diğer %30 nun karşılaşmayacağı da denmek isteniyor olabilir. Yarın tekrarlanmaz ve bu deney yalnız bir kez yapılabilir. Sonuç yağmurun yağması yada yağmaması olacaktır. Meteorolog nasıl olsa yarın tekrarlanamaz ve tahmininin doğruluğu test edilemez diye böyle bir yorum da yapmış olabilir. Ancak benzer durumlar ile test yapılabilir. Benzer meteorolojik koşullar altındaki bir günün ertesi gününde %70 ihtimalle yağmur yağabilir diyebiliriz. Gerçekte bulunan meteorolojik koşullara göre meteorolog kendinin geçmiş deneyimlerine göre tahmin yaparak %70 ihtimalle yağmur yağacağını bildirmektedir. Günlük yaşantımızdaki kullanımından da bildiğimiz gibi olasılık kelimesi çeşitli olayların olmasının olasılığını ifade eder. Yani daha genel bir ifade ile olasılık bir olayın olması olasılığına ilişkin rakam değerleri üreten bir fonksiyondur. Böyle bir fonksiyonu tanımlamanın birçok yolu vardır. Duruma göre çeşitli olaylara ilişkin olasılık belirlemenin birçok yolu bulunmaktadır. Ancak olaylara ilişkin olasılık belirleyen herhangi bir yöntemin sağlaması gereken 3 tane aksiyom bulunmaktadır. Aksiyom 1: Herhangi bir A olayı için Pr(A) 0 dır. Aksiyom 2: Eğer S bir deneye ilişkin örnek uzayı ise Pr(S)=1 dir. Aksiyom 3.a: Eğer ise Pr Pr Pr dir. Yukarıdaki aksiyomlar oldukça açıktır ve bunların ispat edilmesine gerek yoktur. Belirtilen aksiyomlardan ve az sonra belirtilecek aksiyomdan hareketle tüm olasılık kuramı elde edilebilir. Diğer aksiyoma geçmeden önce aksiyom 3.a dan elde edilen sonucu inceleyelim. Sonuç 1: M adet birbirini dışlayan küme olduğu varsayılsın ve bu kümeler,,, biçiminde gösterilsin. için; Pr biçimindedir. (1) Aksiyom 3.b: Sonsuz sayıdaki birbirini dışlayan küme, 1,2,3,, için Pr (2) Aksiyom 3.a ve sonuç1 aslında aksiyom 3.b nin özel durumlarıdır.
10 Teorem 1: A ve B gibi herhangi iki küme için; Pr Pr Pr Pr (3) biçimindedir. İspat: Aşağıdaki şekilde Venn diyagramı gösterilmektedir. Şekil 5. Teorem 1 in ispatı için Venn diyagramı A ve B nin kapladığı alanları bunların olasılıkları olarak düşünürsek nin olasılığının denklem (3) teki gibi olduğu rahatça anlaşılır. Teorem 2: Pr 1Pr İspat: 1Pr Pr Aksiyom 2 Pr Pr Aksiyom 3.a Pr 1Pr Teorem 3: ise Pr Pr İspat: Exercise 2.4 ü incele 2.3 Olasılık Belirleme Önceki kısımda olasılık bir olayın yada olayların olması olasılığının ölçüsü olarak tanımlandı. Belli olayların olasılıkların nasıl belirleneceği ise belirtilmedi. Bu kısımda olayların içinden bir olayın olması olasılığını gösteren olasılıklar belirlenmeye çalışılacaktır. Bu amaçla iki yöntem kullanılmaktadır. Çoğu deneyde deneye ilişkin tüm sonuçları deneyin temel bazı sonuçlarından elde etmek mümkün olur. Bu temel sonuçlara atomik sonuçlar ismi verilir. Bunlar daha basit olaylara ayrıştırılamayan en temel olaylardır. Bu atomik sonuçlar ile daha karmaşık ve daha ilgi çekici olaylar elde edilebilir. Çoğu kez bir deneydeki tüm atomik olaylara eşit bir olasılık değeri atanabilir. Bu durumda M adet dışlayan eksiksiz atomik olayın her biri için 1/M olasılığı belirlenebilir. Bunu açıklamak için bir E deneyine ilişkin M adet atomik sonucu
11, biçiminde gösterelim. Bu olayların eksiksiz ve dışlayan olduğunu varsayalım ( ) ve ( ). Sonuç 1 ve aksiyom 2 ye göre; Pr Pr Pr Pr Pr 1 (4) biçiminde olur. Eğer her atomik sonuç eşit olasılıklı ise Pr 1/ olur. Bu olaylara ilişkin olasılık değerleri belirlendikten sonra daha kapsamlı olaylara ilişkin olasılıklar da belirlenebilir. Bu yaklaşım ile olasılık belirlemeye klasik yaklaşım denilir.
12
13 Olasılık belirlemede klasik yaklaşım kullanırken dikkat edilmelidir. Atomik olaylar kümesi yanlış olarak tanımlanırsa yanlış sonuçlar elde edilir. Örnek 2.8 de iki zarın yüzeyindeki sayıların toplamının farklı olmasına karşın bu toplamları atomik olaylar olarak belirlenebilirdi. Pr 2 Pr 3 Pr 12 1/11 (5) Oysa oyunlarla uğraşan herkes bilir ki zarlar toplamının 2 gelmesi olasılığı 7 gelmesi olasılığından çok daha küçüktür. Buradaki problem belirlenen atomik olayların en temel sonuçlar olmaması ve bunların daha basit olaylara ayrıştırılabilmeleridir. Klasik yaklaşımda karşılaşılan tek problem bu değildir. Sınıftan rastgele seçilen bir öğrencinin boyunun ölçülmesi deneyini göz önüne alalım. Ölçüm sonucu en yakın değere yuvarlanıyor olsun. Bu deneye ilişkin atomik sonuçlar sınıftaki tüm öğrencilerin boyları olacaktır. Ancak her boya eşit olasılık atamak pek doğru olmayacaktır çünkü çok uzun yada çok kısa boylu olma olasılığının orta boylu olma olasılığına göre çok daha küçük olması gerekir. Bu durumda boylara ilişkin olasılık atamaları nasıl yapılmalıdır. Klasik yaklaşımla olasılık belirlemeye ilişkin sorunlar nispi (relative) frekans yaklaşımı ile çözümlenebilir. Nispi frekans yaklaşımı deneyin tekrarlanabilmesini gerektirir. Yani bir A olayı yapılan deney sonucu elde ediliyorsa bir çok deney sonucu A olayının kaç kez gözlemlendiğini ölçmek gerekir. Eğer n deneyin tekrarlanma sayısını ve A olayının görülme sayısını gösteriyorsa A olayının olasılığı aşağıdaki gibi belirlenebilir. Pr lim (6) Olasılık belirlemede kullanılan bu yaklaşım deneysel sonuçlara dayalıdır.
14 Bir olayın olasılığını tam bir şekilde nispi frekans yaklaşımı ile ölçmek istiyorsak sonsuz sayıda tekrara ihtiyacımız olacaktır. Bu yöntemin en önemli eksiği de budur. Öte yandan ilgilenilen çoğu rastlantısal oluş tekrarlanabilir değildir. Durum bir kez oluşabilir ve biz buna nispi frekans yaklaşımı ile olasılık belirleyemeyiz. 2.4 Bileşik ve Koşullu Olasılık A ve B gibi iki kümenin olduğunu varsayalım. Daha önceki kısımda iki kümenin bileşimine ( ) ilişkin olasılığın nasıl hesaplandığını gösteren birkaç örnek çözülmüştü. En az bileşime ilişkin olasılığa olan ihtiyaç kadar iki kümenin kesişiminin ( ) olasılığını da hesaplama ihtiyacı duyulur. Bu olasılığa bileşik (joint) olasılık (Pr denilir. Genellikle Pr, notasyonu ile gösterilir. Bu tanım ve notasyon herhangi bir sayıdaki küme için genişletilebilir.,,,.olaylarının bileşik olasılığı Pr olur ve daha basit bir notasyonla Pr,,, biçiminde gösterilir. Bileşik olasılığın ne olduğunu gösterdikten sonra sıra nasıl hesaplandığını göstermeye geldi. Aksiyom 3.a ve teorem 1 karşılaştırıldığında A ve B nin birbirini dışlaması durumunda bileşik olasılıklarının 0 olduğu görülür. Yani A ve B birbirini dışlıyor ise Pr, Pr 0. Bu ise asla olmayacak olan bir olay anlamına gelir. Genel olarak A ve B ye ilişkin bileşik olasılığını hesaplamak için olasılık kuramında 2 yol bulunmaktadır. Birincisi olarak klasik yaklaşım kullanılabilir. İki olay (A ve B) atomik sonuçlar olarak ifade edilir ve daha sonra yi atomik sonuçların bir kümesi olarak yazılabilir. Alternatif olarak nispi frekans yaklaşımını kullanılabilir. Eğer, yapıaln n adet
15 denemede A ve B nin aynı anda oluşmasının sayısını gösteriyorsa bileşik olasılık aşağıdaki gibi yazılabilir. Pr, lim, (7) Örnek 2.11: Standart bir deste oyun kartında 52 kart bulunur. 13 er adet maça, kupa, karo ve sinek şeklindeki 4 takım (as,2,3,4,,10,vale,kız,papaz); iki kırmızı takım (kupa ve karo) ve iki siyah takım (maça ve sinek). Öte yandan valeler, kızlar ve papazlar suratlı kağıtlar diğerleri rakamlı kağıtlar olarak isimlendirilir. Kartların iyi bir şekilde karıştırıldığını ve desteden bir kart seçildiğini varsayalım. Deney seçilebilecek 52 farklı karta ilişkin 52 atomik sonuca sahiptir. Bu durumda her bir atomik sonuç 1/52 olasılığına sahip olur. Olaylar A={kırmızı kart seçilmesi}, B={rakamlı kart seçilmesi} ve C={kupa seçilmesi}. 26 kırmızı kart olduğundan A 26 atomik sonuca sahiptir ve Pr 1/2 dir. Benzer şekilde Pr 10/13, Pr 1/4 tür. A ve B olayının birlikte gerçekleştiği 20 sonuç vardır; Pr, 5/13. Benzer şekilde Pr, 1/4, Pr, 5/26 olur. Bu örnekte ilginç bir sonuçta Pr, Pr olmasıdır çünkü ve bunun sonucu dir. Bir olayın görülmesi başka bir olayın görülmesine bağlı olabilir. Önceki örnekte A={kırmızı kart seçilmesi} olayının olasılığı Pr 1/2. Eğer C={kupa seçilmesi} olayının gerçekleştiği biliniyorsa A kesindir yani olasılığı 1 dir çünkü tüm kupalar kırmızı renklidir. Benzer şekilde C olayının gerçekleşmediği biliniyor ise geriye 39 kart kalır ve bunların 13 tanesi kırmızıdır (hepsi karo) ve bu durumda A nın olasılığı 1/3 olur. Açıktır ki A nın olasılığı C olayının olmasına bağlıdır. C olayının gerçekleşmesi bilgisi ile A nın olaslığı; A nın C ile koşullu olasılığı olarak isimlendirilir. Tanım: A nın B nin gerçekleşmesine bağlı koşullu olasılığı aşağıdaki gibi tanımlanmaktadır. Pr, (8) Bazı durumlarda koşullu olasılığı hesaplama bileşik olasılığı hesaplamaktan daha kolay olmaktadır ve aşağıdaki denklemler bileşik olasılığı hesaplamak için daha uygun bir yol olmaktadır. PrA, B Pr Pr Pr Pr (9) Buradan hareketle ikiden fazla olay için denklemler genişletilebilir. Pr,, Pr, Pr,, Pr (10) Daha genel bir biçimde,,, ile gösterilen M adet olayın bileşik olasılığı Pr,,,,,, Pr,,, Pr (11)
16 Örnek 2.12: İskambil kağıtları deneyine geri dönelim. Bu sefer desteden rastgele 2 kart seçildiğini varsayalım. İkinci kart seçildiğinde ilk kartın desteye geri konulmadığını varsayalım. İlk seçimde hangi kartın seçildiği biliniyorsa ikinci kartın seçilmesindeki olasılıklar biraz daha farklı olacaktır. Bu durumu açıklamak için A={ilk kart maça} ve B={ikinci kart maça} olduğunu kabul edelim. A olayının olasılığı bir önceki örnekteki gibi Pr 1/4 hesaplanabilir. Benzer şekilde ilk kartın ne seçildiğini bilmiyorsak Pr 1/4 tür. A ve B nin bileşik olasılığını hesaplamak için biraz saymamız gerekir. İlk kart seçildiğinde 52 olası sonuç vardır. Geriye hiçbir kart konulmadığından ikinci kart seçildiğinde 51 olası sonuç olacaktır. Bu deneyde desteden iki kart çekildiğinden 52x51 olası sonuç bulunur ve bunların hepsi eşit olasılıklıdır (1/(52x51)). Benzer şekilde 13x12 sonuç olayına aittir. A ve B nin bileşik olasılığı Pr, 1/17 olur. İkinci kartın; ilk kartın maça olması durumunda, maça olma olasılığı, / 4/17 olur. Öte yandan bu koşullu olasılığı doğrudan hesaplamak bileşik olaslığı hesaplamaktan daha kolaydır. Eğer ilk seçilen kartın maça olduğu biliniyorsa destede 51 kart kalmış olduğuna göre ikinci kartın maça olması olasılığı 4/17 dir. Bir kez koşullu olasılık hesaplandıktan sonra Pr, Pr Pr 1/17 olarak bulunur. Örnek 2.13: Poker oyununda standart 52 kartlık destedeki 5 kart ile uğraşılır. Maçalarla floş yapma olasılığı nedir? (Floş 5 kartında aynı takımdan oluşması.) Herhangi bir takımla floş yapma olasılığı nedir? Bu sorulara cevap verebilmek için önceki örneğin biraz daha genişletilmesi gerekir. i inci kartın maça olduğu olayı göstersin 1,2,,5. Pr 1/4 Pr, Pr Pr 12 51 1 4 1/17 Pr,, Pr, Pr, 11 50 1 17 11/850 Pr,,, Pr,, Pr,, 10 49 11 850 11/4165 Pr,,,, Pr,,, Pr,,, 9 48 11 4165 33/66640 Herhangi bir takımdan floş yapma olasılığını bulabilmek için aşağıdaki adımlar takip edilebilir. Prş Prç ş ş ş ş Prç ş Pr ş Pr ş Pr ş Dört olayın da olması olasılığı eşit olduğundan Prş 4ç ş 433 66640 33 16660
17 2.5 Bayes Teoremi Bu kısımda koşullu olasılıkla ilgili birkaç sonuç elde edilecektir. Bu sonuçlar oldukça basit ancak çok kullanışlı olduklarından burada ayrı bir kısımda inceleneceklerdir. Aşağıda belirtilen teorem aslında bir önceki kısımda ispat edilmiştir. Teorem 4: A ve B ile gösterilen herhangi iki olay için Pr 0 olmak üzere (12) İspat: Pr, Pr Pr olduğu daha önce gösterilmişti (denklem (9)). Teorem 4 Pr nin hesaplanmasının Pr ya göre zor olduğu durumlarda kullanışlı olmaktadır. Teorem 5:,,, ile gösterilen olayların birbirini dışlayan ( )ve eksiksiz ( ) olduklarını varsayalım. Pr 1 (13) Buradan da; Pr Pr (14) elde edilir. İspat: Aşağıda gösterilen Venn diyagramını inceleyelim. Şekil 6. Toplam olasılık teoremini ispatlamak için kullanılan Venn diyagramı Venn diyagramından da görüleceği gibi A olayı aşağıdaki gibi yazılabilir. A (15) Pr Pr (16)
18 ler birbirini dışladığından ler de birbirini dışlar. Buna göre denklem (16) aşağıdaki gibi yazılabilir. Pr Pr, (17) Pr Pr (Teorem 5) (18) Son olarak teorem 4 ve 5 teki sonuçlar birleştirilirse Bayes teoremi elde edilir. Teorem 6 (Bayes Teoremi):,,, ile gösterilen olayların birbirini dışlayan ( )ve eksiksiz ( ) olduklarını varsayalım. (19) Terminolojik olarak Pr, olayının priori olasılığı ise posteriori olasılığı olarak bilinir. Priori: Bilinen bir modelle elde edilen olasılık Posteriori: Bazı belli olayları gözlemledikten sonra elde edilen olasılık. Daha ileride mühendislik uygulaması olarak Bayes teoreminin sinyal sezimlemede nasıl kullanıldığı gösterilecektir. Örnek 2.14: Bir konser salonunda 30 sıra sandalye bulunmaktadır. Sıra 1 de 11 sandalye, sıra 2 de 12 sandalye, sıra 3 te 13 sandalye olacak şekilde artarak sıra 30 da 40 sandalye olacak şekilde bir dağılım yapılmıştır. Rastgele olarak seçilecek bir sıradan rastgele olarak seçilecek olan bir sandalyenin sahibine bir ödül verilecektir. Sandalye 15 in sıra 20 nin seçilmiş olmasından sonraki seçilme olasılığını ve sıra 20 nin sandalye 15 seçilmiş olmasından sonraki seçilme olasılığını bulunuz. Çözüm: Sorunun ilk kısmının çözümü daha kolaydır. Sıra 20 nin seçilmiş olduğu biliniyorsa Pr 15 20 1/30 olur. Bayes teoremine başvurmadan sandalye 15 in seçildiğini bilerek sıra 20 nin seçilme olasılığını bulmak oldukça zor olacaktır. Bayes teoremi kullanıldığında, Pr 15 20Pr 20 20 15 Pr 15 Pr 15 1 1 1030 0.0342 Pr 20 15 1 30 1 30 0.0342 0.0325
19 Sıra 20 nin seçilmiş olmasının priori olasılığı 1/30=0.0333 dür. Sandalye 15 in de ek olarak sıra 20 den seçilmiş olması olasılığı ise daha düşüktür. Bazı bakışa göre bu pek mantıklı olmayabilir çünkü eğer sandalye 15 in seçilmiş olduğunu biliniyorsa bazı sıraların seçilme olasılığı kalmamış olur (sıra 1-4 te 15 ten az sandalye vardır). Bundan dolayı sıra 20 nin seçilmiş olması olasılığının; hangi sandalyenin seçilmiş olduğu hakkında bir bilgi sahibi olunmadığı duruma göre daha büyük olması gerektiği beklenebilir. Olasılığın neden düştüğünü anlamak için sandalye 15 in seçilmiş olduğunun biliniyor olmasından sonra sıra 5 in seçilmiş olma olasılığını hesaplamaya çalışın. Sandalye 15 in seçilmiş olması olasılığı bazı sıraların seçilmesini daha olası yaparken bazı sıraların seçilmesi olasılıklarını düşürmekte bazılarını ise imkansız yapmaktadır. 2.6 Bağımsızlık Örnek 2.14 te bir olayın gözlemlenmesinin başka bir olayın görülmesi olasılığı üstünde etkisi olduğu görülmüştür. Örnekteki durumda sandalye 15 in seçilmiş olması durumunda sıra 20 nin seçilmiş olma olasılığı düşmektedir. Buna 20 ç olayının 15 ç olayına istatiksel olarak bağlı olması denilir. Eğer konser salonunun düzeni her sırada eşit sayıda sandalye olacak şekilde değişirse, 15 ç olayının 20 ç olayının olasılığı üzerinde bir etkisi olmayacaktır. Bu durumda A ve B olayları istatistiksel olarak bağımsızdır denilir. Matematiksel olarak A ve B olayları bağımsız ise Pr olur. Yani A nın priori olasılığı posteriori olasılığı ile aynıdır. Pr (20) Pr, Pr Pr (21) Eğer Pr ise denklem (20) ve (21) deki eşitliklerde sağlanmaz. Buradan da belirtilen bu üç koşulun herhangi birinin bağımsızlığı test etmede kullanılabileceği sonucuna varılabilir. Tanım: Aşağıdaki ifade geçerli olursa iki olay için bağımsızdır denilir. Pr, Pr Pr (22) Örnek 2.15: İki zarın aynı anda atılması deneyini göz önüne alalım. Birinci zarın kırmızı ikinci zarın ise beyaz olduğunu varsayalım. ü 2 üçü 2 ş ü 4 üü 4 ş ü 3 Az sonrada görüleceği gibi bağımsızlığı ispatlamak çeşitli yollar bulunmaktadır. Olası yolardan biri Pr, ile Pr Pr yi kıyaslamaktır. Tanımlanan olaylarda Pr 1/3, Pr 1/2, Pr 1/18 dir. 36 olası atomik olaydan 6 sı ye aittir yani
20 Pr, 1/6 dır. Pr Pr 1/6 olduğundan A ve B olaylarının bağımsız olduğuna karar verilebilir. Olay A ve C için durum incelenirse 36 atomik sonuçtan ye ait 2 sonuç bulunur ve Pr, 1/18 olur. Pr Pr 1/54 olduğundan A ve C olayları bağımsız değildirler. Son olarak B ve C olaylarını inceleyelim. Açıkça görülmektedir ki B ve C olayları birbirini dışlamaktadır (Pr, 0). Pr Pr 1/36 olduğundan bu iki olayda birbirine bağlıdır. İncelenen örnekteki bir noktadan özellikle bahsetmekte fayda vardır. Genellikle birbirini dışlama ile bağımsızlık birbirine eşdeğer gibi düşünülerek hata yapılmaktadır. Birbirini dışlama ile bağımsızlık aynı şey değildir. A ve B gibi iki olay asla hem birbirini dışlayıp hem de bağımsız olamazlar (,). Yani birbirini dışlayan olayların istatistiksel olarak birbirine bağlı olması gerekir. Tanım: A, B ve C olayları eğer ikişerli olarak bir birinden bağımsızlar ise bu olayların hepsi birbirinden bağımsızdır. Pr, Pr Pr (23) Pr, Pr Pr (24) Pr, Pr Pr (25) Pr,, Pr Pr Pr (26) Tanım: Eğer,,, olaylarının bir alt kümesi bağımsız ise bu olayların tümü de bağımsızdır. Pr,,, Pr Pr Pr (27) İki yolla bağımsızlık bulunabilir. Bunlardan biri örnek 2.15 te olduğu gibi bileşik yada koşullu olasılıklar hesaplanabilir ve bağımsızlık testi yapılabilir. Alternatif olarak bağımsız olduğu kabulü ile bileşik yada koşullu olasılıklar hesaplanabilir çünkü diğer türlü hesaplama zor olabilir. İkinci yaklaşım mühendislik uygulamalarında yoğun bir biçimde kullanılmaktadır. Örneğin gürültü sinyallerinin belli çeşitleri bu yolla modellenebilir. Bir zaman dalga biçimi ye sahip olunduğunu varsayalım. gürültülü bir sinyal olsun ve,,, anlarında sinyalden örnekler alınıyor olsun. Alınan örneklerin bir eşik değerini aşması olasılığı ile ilgileniliyor olabilir. Bu durumda Pr, 1,2,, olan olaylar tanımlanabilir. Pr,,, bileşik olasılığı nasıl hesaplanabilir? Bazı durumlarda gürültünün zamandaki bir noktadaki değerinin zamandaki diğer bir noktadaki değerini etkilemediğini kabul etmek için birçok sebep bulunur. Bundan dolayı bu olayları bağımsız kabul ederek; Pr,,, Pr Pr Pr biçiminde hesaplanabilir.
21 2.7 Ayrık Rastlantısal Değişkenler Bir E deney yapıldığını ve bu deneye ilişkin örnek uzayının S ile gösterildiğini varsayalım. Öte yandan de bu deneye ilişkin bir sonucu gösteriyor olsun. Sonuçların biçiminde bir fonksiyonunu tanımlamak kullanışlı olmaktadır. Tanımlanan bu f fonksiyonu E deneyine ilişkin olası tüm sonuçları içeren bir domene sahiptir. Fonksiyonun kapsadığı alan sonuçları sayısal olarak nasıl ifade ettiğine bağlıdır ancak genellikle gerçel sayıların yada gerçel sayıların bir alt kümesinin kümesi olmaktadır. Tanım 1: Rastlantısal bir değişken örnek uzayı S nin elemanlarının gerçel değerli bir fonksiyonudur. Örnek uzayı S olan bir E deneyinde rastlantısal X değişkeni olası tüm sonuçları biçiminde bir kurala göre haritalandırır. Rastlantısal X değişkeni sonlu yada sayılabilir sonsuz sayıda değerler alırsa X e ayrık rastlantısal değişken denilir. Öte yandan sayılamaz sonsuz sayıdaki noktadan oluşuyorsa X e sürekli rastlantısal değişken denilir. bir deneyin sonuçlarına bağlı olarak değerler alan bir rastlantısal değişken olduğundan, bu rastlantısal değişken aldığı değere göre tanımlanamaz. X in aldığı belli değer yada değerlere ilişkin olasılıkları belirterek bir tanım yapılmalıdır (Pr 3, Pr 8). Şimdilik ayrık değerler alan rastlantısal değişkenler üzerine yoğunlaşılacak ve rastlantısal değişkenler Pr biçiminde tanımlanacaktır. Daha sonraki konularda ise sürekli rastlantısal değişkenler de incelenecektir ve o zaman görülecektir ki burada yapılan tanımlar yetersizdir ve diğer tanımlar o zaman yapılacaktır. Tanım 2: Olasılık kümelenme fonksiyonu (probability mass function) PMF, rastlantısal değişken X in olası tüm değerlerine bir olasılık atayan bir fonksiyondur. Rastlantısal değişken X in aldığı x değeri PMF deki x değeridir ( =x). Büyük harfler rastlantısal değişkenleri küçük harfler ise rastlantısal değiikenin aldığı varsayılan sabit bir değeri ifade eder. Örnek 2.16: Ayrık bir rastlantısal değişken bir bozuk paranın fırlatılması ile tanımlanabilir. Sonuçların örnek uzayı, biçimindedir. Rastlantısal X değişkeni 0 ve 1 biçiminde tanımlanabilir. Yani T,Y örnek uzayı {0,1} kümesine X rastlantısal değişkeni ile haritalandırılmıştır. Hilesiz bir para olduğunu varsayarsak olasılık kümelenme fonksiyonu 0 1/2 ve 1 1/2 olur. Dikkat edilecek olursa haritalandırma tek bir şekilde değil birçok şekilde yapılabilir yani örnek uzayı T,Y gerçel sayılardan herhangi ikisine haritalandırılabilir (mesela {1,2}). Örnek 2.17: Hilesiz bir bozuk parayı atma eyleminin n kez tekrarlandığını ve tura, yazı ların gözlemlendiğini varsayalım. Rastlantısal bir Y değişkeni, n denemede gelen yazıların sayısını ifade edecek biçimde tanımlanabilir. Bu fonksiyon için olasılık kümelenme fonksiyonu, 0,1,, biçiminde olur. Bu PMF nin nasıl elde edildiğine ilişkin ayrıntılar daha sonra gösterilecektir. Örnek 2.18: Tekrar bozuk para atma deneyi ancak bu kez bozuk para ilk tura gelinceye kadar atılmaya devam ediyor. Rastlantısal Z değişkeni ilk tura gözlemleninceye kadar yapılan