İki Rastgele Değişken

Transkript

1 İki Rastgele Değişken K ve K kesikli rastgele değişkenlerdir K i = i. bit ten sonra oluşan hata sayısı. Başlangıçta Pr[E] =0. ve Pr[E c ]=0.8 K K olasılık (0.)(0.6)=0. (0.)(0.4)= (0.8)(0.)= (0.8)(0.9)=0.7 İki r.d. nin oluşumu ortak olasılığın tanımlanmasını gerektirir.

2 Ortak OKF, [k [ k, k ] = Pr[ [K K = k,, K K K = k ] ] K, K K K probability (0.)(0.6)=0. (0.)(0.4)= (0.8)(0.)= (0.8)(0.9)=0.7 K, K [k, k ] = Marjinal OKF: K K [[k k ] = K K,, K [k [ k,, k ] ] k

3 3 Rastgele Değişkenlerin Bağımsızlığı İki rd bağımsız ise K, K [k, k ] = K [k ] K [k ] K [k ] 0.8 k K 0 [k ] 0.7 k k k k k k bu rd ler bağımsız mı?

4 4 Şartlı OKF Tanım:, [ k, k ] Pr[ K k K k K K ] K K [k k ] = Pr K = k K = k Deinition: [ ] [ k, k ] K [k k ] = [k, k ], K K, K k K k [, ] K K [ k[k ] ] K K K K [k 0] K K [k ] K K [k ] k k k Bağıntılar: K K K [k = K[ k k] k k K K K [k = K[ k k]??!!? k k

5 5 OKF ları için Bayes Kuralı [ k ] K [k k ] = [k k ] [k ] K K K K k K K, K K K [ k k ] [ k ] K [ k ] [k ] K K [ k k] K [ k] [ ] [ ] K K [k ] K [k ] K k k K k = k K K [k k ] K [k ] k K Check this out or the present eample!

6 6 İki Rastgele Değişken Sürekli rastgele değişkenler., gibi iki rastgele değişken olsun, Ortak oy F (, ), (, ) ( ), F (, ),,, = Ortak kd F, (, ) = = F (, ) Pr Pr [,, ], ( ( zz, z, z) dz ) dz dz dz,,

7 KDF ve OYF 7

8 8 Ortak oy nin özellikleri,,, dd,. (, ) d d =, (, ) 0. (, ), (, ) 0 b b. Pr a b, a b. Pr [a < b, a < b ] = b b, (, ) d a d a (, ) d d a a, 3. Pr a a, a a ( a, a ), 3. Pr [a < a + δ, a < a + δ ], (a, a )δ δ Not: Benzer özellikler kesikli rastgele değişkenler için de geçerlidir.

9 9 Ortak OYF nin olasılık olarak yorumu (, ) Pr a b, a b, (, ) Pr [a < b, a < b ] b b b b (, ) d d = a a, a a (, ) d d, a b δ a δ b Pr a a, a a ( a, a ),

10 0 Marjinal oy ler ( ), (, ) ( ) = (, ) d d ( ), (, ) ( ) = (, ) d d Hatırlatma: ( ( ) ) d = ( ) ( ) d = d d

11 Marjinal oy nin projeksiyon olarak yorumu: ( ) ( ) (, ) ( ) = (, ) d (, ), (, ) d

12 Örnek: (a) c nedir? ce (, e ce e ) =,, 0 < (, ) 0, 0, otherwise diğer, c e e d d c ( e ) e d = c e e d d e e c 3 c c 6 e 6 = c 0 e 3 = c ( e ) e d 0 6 c =

13 3 Örnek: (devam) 6e e 0 < 6 e e, 0 ( (, ) = 0, 0, otherwise diğer, (b) ( ) nedir? (b) ( )'i bulun = 3e 3, 3 0 < ( ) = 6 e e d (c) Find ( ) ( ) 6 e e d 3 e, 0 (c) ( )'yi bulun ( ) 6 6 ( ), 0 e e d e e 0

14 4 Ortak kd nin özellikleri. (, ) (, ) (, ) 0. F, (, ) = F F, (, ) F= F, (, ) = 0,,, F F,, (, ) = (, ). Marginal cds. Marjinal kd ler F ( ) = F, (, ) ( )= F, (, ) F ( ) = F, (, ) F ( )= F (, ), 3. I a > a and b > b 3. Eğer a a ve b b F (a, b ) F (a, b ) F ( a, b ) F ( a, b ),,,, monotonically monotonik olarak non-decreasing azalmayan unction onksiyon

15 5 Ortak kd nin özellikleri (devam) 4. lim F (, ) = F (a, + ), Sağdan sürekli a b lim F ((, ) = F ((, b )), Üstten sürekli b +,, b 5. Pr [a a < bb, a, a < b b F ] = F, (b, b ) F, (a, b ), ( b, b ) F, ( a, b ) F, ( b, a ) F F, ( a, (b a, a) ) + F, (a, a ) (a,b ) (b,b ) a (a,a ) (b,a ) a b

16 6 Örnek: (, = 0.5, 0, 0 < 0.5, 0, 0, (, ), (, ) 0, 0, otherwise diğer diğer a kd'yi bulun Ortak kd'yi bulun Find the joint cd. 0.5, 0, 0 b b 4ac F (, ) = Pr [, ] = F (, ) Pr, ( z, z ) dz dz,, F, ( z z ) dz dz, (, ) Pr,,, ( z, z ) dz dz (i) (iii) (ii) (v) (iv) (i) (i) Durum i < 0 veya < 0 veya, < 0 F (, ) 0 F (, ) = 0,

17 7 Durum ii 0, 0 F dz dz F, (, ) = (, ) dz dz =, Durum iii 0, > F, (, ) = (, ) F dz dz, Durum iv >, 0 dz dz = 0 0 F, (, ) =, (, ) Durum v >, > (iii) (v) (i) (ii) (iv) 0 0 (i) (i) dz dz = F dz dz F (, ), dz dz F (, ) =, dz dz =

18 8 Rastgele değişkenlerin bağımsızlığı, gibi iki rastgele değişken aşağıdaki özellik sağlanırsa bağımsızdır denir or veya (, ) ( ) ( ),, (, ) = ( ) ( ),, or all, F (, ) = F ( ) F ( ) F (, ) F ( ) F ( ),, or all,,,

19 9 Örnek: 6e e, 0 < ( = 6 e e, 0, (, ) 0, 0, otherwise diğer 0 ( < ( ) = 6 e e d 3 e, 0 3 ( ) = 6 e e d = 6e ( e ), 0 < 0 0 ( ) 6 e e d 6 e ( e ), 0 (a), bağımsız mı?? (, )= ( ) ( ) 6e 8e 3 e ( e 3 e 8 e e ( e ) bağımzsız değil

20 0 Örnek: F a e a b e b + ( a b e (a +b ) e e e,) 0, 0, 0 ( 0,, )) = 0, 0 otherwise diğer,, (a) Marjinal kd leri bulun F ( ) F (, ) e, 0 a F ( ) = F (, ) = e a, 0 b F ( ) F (, ) e, 0 F ( ) = F (, ) = e b, 0 (b) Marginal oy leri (a) şıkkından bulun df df ( ) ( ( ) ae, 0 0 ) ( ) = = ae a a d d df df ( ) ( ( ) ) b = = be b ( 0 ) be, 0 dd

21 Örnek: (devam) (c), bağımsız mı? kd leri kullanın? F, ((, ) = F ( ) F) F ( ( ) ) ( )( ) a e a b e b + ( a b e (a +b ) ) a = ( e a ) b e e e e e( e b ) (d) Bağımsızlığı oy leri kullanarak gösterin Evet, bağımsız... Yes, they are independent F F, (, ) a b,, (, ) abe e, 0, 0 ) = ( ) = abe a e b 0, 0??, (,, )) = ( ( ) ) ( ( ) ) a b e b = ae a b be b abe e ae be Evet, Yes, they bağımsız... are independent

22 Şartlı oy Verilen ve gibi iki rastgele değişken için şu şartlı yoğunluklar yazılabilir: Note that: Burada ( ) = ( (,, )) ( ),, ( ) =, (, ), (, ) ( ) ( ) ( ) ( ) d = while d =??? ( ) ( ) ( ) d, ( ) d??? ( )

23 3 Şartlı oy nin ortak oy den bir dilim olarak yorumu: (, ) 0 Kesit ( ( ) 0 0 = ( ) ( 0 ) (, )

24 4 Örnek: 6e < (, = 6 e e, 0 0,, (, ) 0, otherwise diğer 6 e e d 3 ( = = 3e 3 ( ) 6 e e d 3 e,, 0 0 < 0 ( = = 6e ( ( ) 6 e e d 6 e ( e ), ), 0 < Şartlı oy leri bulun (, ) 6e e e ( ) = (, ) 6e e e, ( ) =, 0 ( ) 6 e ( e ) e =, 0 ( ) 6e ( e ) e (, ) 6e e ( ) e e, e, ( ) = (, ) 6e = 3 ( ( ) 3e 3 ) 3e = e e, <

25 5 Yoğunluklar için Bayes kuralı ve gibi iki rd için şu yazılabilir: Now since: ( ) = ( ) ( ) ( ) ( ) ( ) ( ) = (, )d = we have: ( ) ( ) ( )( = ) ( ) ( )d ( ) ( ( ) )d ( ) d ( ) ( ) ( ) (, ) d ( ) ( ) d olduğundan ( ) ( )

26 6 Örnek: Şartlı oy ve marjinal oy ler biliniyorsa: e e ( ( ) =, 0 e ), 0 e 6 e e d ( ) = = 3e 3 ( ) 6 e e d 3 e,, 0 0 < 0 ( ) = 6 e e = 6e ( ( ) 6 e e d 6 e ( e ), ), 0 0 < Bayes kuralını kullanarak ters şartlı oy yi bulun: ( ) = ( ( ( ) ) ( ) ( ) ( ( ) ) ) = 6e ( e 6 e e ( e ) = e e e e,, < 3e 3 3 ) 3 e ( e )

27 7 İki rastgele değişkenin. ve. Momentleri ortalama m variance ilinti i i m E (, ) d d, i, i i i i i i Var [ ] = E ( m ) i i =, j ] = Var E m, i, r E (, ) d d, i, j, i, (, j i = j, )d i id j j ij i j i j i j i j covariance c Cov, E m m, i, j, c ij ij= Cov i i, j j = E ( i i im i )( j j jm j ) i, j =,

28 8 İlinti/Kovaryans Bağıntıları Cov i, c ij = r ij ij ij i j j m i m j c r m m Cov i, j = EE i j E i E j i j E [ i ] E j Cov[ i, j ] = 0 olmasi durumunda then i ve j ilintisizdir denir. Bu durumda E [ ] = E [ ] E [ ] olur. (E[ i j ] = 0 olması durumunda rastgele değişkenler ortogonal dir denir.)

29 9 İki rastgele değişken için diğer bağıntılar Bağımsız rastgele değişkenler ilintisizdir: Proo: İspat E [ ] = (, ) d d ( ) = ( ) ( ) d d ( ) ( ) d d E d d E [ ] = E vice versa is not true (ecept or Gaussian random variables) ( since, are independent ) (bağımsızlıktan dolayı) ( ) d ( ) d ( ) d E E ve ilintisizdir ( ) d = E [ ] E [ ] tersi doğru değildir (Gausyen rastgele değişkenler hariç)

30 30 İlinti Bağıntılarının Özeti Cov [, ] =0 ve ilintisizdir E [ ] =0 ve ortogonaldir ve nin ilinti katsayısı şu şekilde tanımlanır Cov, E m m