Multithreading & Asynchronous Programlama

Transkript

1 Multithreading & Asynchronous Programlama

2 Concurent : Aynı zamanda olan olayları tanımlamak için kullanılır. Multithreaded : Çoklu yürütme içeriklerini tanımlar. Parallel : Aynı anda gerçekleşen işlemler paralel işlemler olrak isimlendirilir. Asynchronous : Bekleme gerektirmeyen işlemlerde kullanılır.

3 Multithreading

4 Process in Yapısı Process bir tür depodur. Kendi sanal adres uzayı (virtual address space) vardır. Bir process in içeriği diğer bir process tarafından adreslenmez. Kod kütüphaneleri bu adres uzayına haritalanırlar.

5 Process ve Thread Thread ler kodu icra ederler (execution). Thread, bir process deki tüm kod boyunca var olan icra yoludur. Bir process deki tüm dataya veya hiçbirine erişebilir. Her bir thread in kendi callstack ı ve CPU registerlerinin kopyası vardır. Thead i olmayan process çalışmasını bitirir.

6 Çoklu Threadlerin Kullanım Alanları CPU ya bağlı işlemlerin paralelleştirilmesine olanak verir. (multi-core / multi-processor desteği ile) I/O işlemleri nedeniyle bekleme yaşanırken CPU ya bağlı işlemlerin gerçekleşmesini sağlar. UI nin kullanıcıya cevap verebilen (responsive) şekilde olmasına olanak sağlar.

7 Sanılanın aksine tek işlemci tek bir core a sahip olan makine üzerinde de çok thread li yapı kullanılabilir. Böyle bir durumda ise;

8 Çok thread li program yazımı aşağıdaki sonuçları doğurur. Program karmaşıklığını arttırır. Kod sayısı artar. Okunabilirlik ve yönetilebilirliğin önüne geçer. Debug yapmak zorlaşır. Test etmek zorlaşır.

9

10 Thread olarak çalıştırılacak olan metotların imzası aşağıdaki şekilde olmalıdır: void EntryPointMethod() void EntryPointMethod(object statearg)

11

12 Nesne üzerinden tanımlanmış olan metotlar da farklı bir thread şeklinde çalıştırılabilirler.

13 Thread lerin Yaşam Süreleri (Lifetime) Yürütme, thread in çalışmaya başladığı noktaya dönünceye kadar devam eder. Thread çalışmasını 3 tür şekilde sonlandırır. Görevini tamamlayıp çalışmaya başladığı noktaya geri döndüğünde, Çalışmasını sırasında thread in kendinden meydana gelecek bir exception meydana geldiğinde, Diğer herhangi bir thread in çalışmakta olan thread i Interrupt() ve Abort() metotlarını çağırmasıyla. IsAlive özelliği ile thrad in hangi evrede olduğu öğrenilebilir.

14

15 Sonlandırırken Koordinasyon

16 Thread Pool CLR her process için bir thread pool sağlar. Eş zamanlı işlemler için bu havuzdan threadleri ödünç alır. Gelen istekler doğrultusunda havuzdan threadler alınır veya iade edilir. Havuzdan alınan threadlerin IsBackground özellikleri true olarak belirtilir. Thread havuzu ile 3 farklı şekilde etkileşime girmek mümkündür. ThreadPool.QueueUserWorkItem Delegate.BeginInvoke Asynchronous I/O

17 ThreadPool.QueueUserWorkItem

18 Delegate Temsilciler thread havuzuna arayüzler sağlar. Hatırlanacağı gibi delegate ler fonksiyon göstericileridir. BeginInvoke metotdu ile delegate ile işaret edilmiş metot Thread havuzundan istekte bulunur.

19 Senkronizasyon (Synchronization)

20 Birçok kaynağa eş-zamanlı olarak (concurrently) erişmek mümkün değildir. Kaynaklar; Kolleksiyonlar(diziler, linked-list ler, vd.) Dosyalar Intgeter gibi temel veri türleri olabilir.

21 Böyle bir durumda, program ekrana hangi değeri basmalıdır? Gerçekte hangi değeri basmaktadır?

22

23 Yarış Durumu (Race Condition) HATA

24 Çözüm 1 Birçok işlemci kelime boyutunda atomik güncellemeleri desteklemektedir.

25 FCL, işlemciden bağımsız olarak atomik güncellemeleri gerçekleştirebilir. Bunun için System.Threading.Interlocked sınıfı içerisindeki metotlar kullanılır.

26 Çözüm 2 Bazen, veri seti bir çok thread in çalışmasına imkan verecek şekilde parçalara ayrılır (data partitioning). Bu tekniğin uygulanabilmesi için problemin bu tarz bir çözüme uygun olması gerekmektedir.

27 Çözüm 3 (Bekleme temelli zamanlama) (Wait-Based Synchronization) Bazen, threadler aynı kaynağa (parçalara ayrılamayan) erişime ihtiyaç duyarlar. Verideki bağımlılıklar (data dependency) veri setini parçalanmasını olanaksız kılar. Örn: Fibonacci işlemi islem[0] = islem[1]=1 islem[n] = islem[n-1]+ islem[n-2] Bu gibi durumlarda wait-based yaklaşımıyla senkronizasyon sağlanır. Thread izin verilinceye kadar bloklanmak durumunda kalınır.

28 Bu teknik programcı tarafından isteyerek gerçekleştirilir. Öncelikli olarak paylaşılan kaynak (shared resource) belirlenir. Senkronizasyonu sağlayacak araç belirlenir (Monitor, Mutex vb) Belirlenen bu aracın bir örneği (instance) kullanılarak bloklama işlemi gerçekleştirilir. Kaynağa erişmek isteyen bir thread; Kaynağın sahipliğini elde etmeli Ardından kaynağa ulaşmalı Sonrasında ise sahipliği bırakır.

29

30 CLR da pek çok wait-based senkronizasyon tekniği bulunmaktadır. Monitor Mutex ReaderWriterLockSlim ManualResetEvent, AutoResetEvent Semaphore System.Threading namespace inde bulunan sınıflar

31 System.Threading.Monitor CLR, belirli bir zamanda sadece tek bir threadin monitöre girmesine izin verir. Diğer threadler bloklanır. Thread kaynak ile işi bittiğinde monitor den çıkar.

32

33

34

35 Tut ve Bekle Hold & Wait Bazen bir thread bir kilidi tutarken beklemesi gerekebilir. Kaynağın yeniden beslenmesi vb. Diğer bir anahtar Bu gibi senaryolar Hold&Wait senaryosu olarak nitelendirilir.

36

37 Ölümcül Kilitlenmeler (DeadLocks) Hold-wait senaryosunun olduğu bütün durumlarda deadlock oluşabilir. Örn: bir thread bir kilide sahipken, diğer bir kilide de sahip olmak isteyebilir. Eğer iki veya daha fazla thread aynı kilit için yarışıyorlarsa deadlock oluşabilir. Sistemde çok fazla sayıda thread, işlemci veya core varsa deadlock oluşması muhtemeldir. Eğer kilitlerde zamanlama faktörü kullanılırsa deadlock geçici süreyle oluşur.

38

39

40

41 Mutex Mutex, Win32 kernel nesnesidir. System.Threading.Mutex, yönetilebilir kod için FCL wrapper sağlar. Zaman aşımı limitli kilit edinimlerini destekler. Aynı makine üzerinde processler arası thread senkronizasyonuna izin verir. Elde edilmesi ve salınması için kernel mode ile etkileşime geçmeyi gerektirir.

42 Zamanlamaya bağlı olaraktan bir kilit başka bir thread tarafından ele geçirilmiş olabilir. Böyle bir durum ise ölümcül kilitlenmeye neden olacaktır.

43

44 Asenkron Programlama ve Task Parallel Library (TPL)

45 Asynchronous Programlama Yükleme sembolünü ekranda göster Asenkron işlemi başlat Büyük boyutlu bir CSV dosyasını diskten oku Her bir satırı say Asenktron işlemi bitir Sonucu ekranda göster Yükleme sembolünü ekrandan kaldır.

46 Asynchronous ve Parallel Programlama Yükleme sembolünü ekranda göster Asenkron işlemi başlat Büyük boyutlu bir CSV dosyasını diskten oku Her bir satırı paralel bir şekilde say Asenktron işlemi bitir Sonucu ekranda göster Yükleme sembolünü ekrandan kaldır.

47 Amaç

48 Async & Parallel Programlama Her ikisi de Tasklara ve TPL kütüphanesini temel alır..net 4.0 dan itibaren desteklenmektedir. TPL in alternatifleri nelerdir? Threadler Asenkron delegate çağrıları (Async delegate invocation) Arka planda çalışan sınıflar QueueUserWorkItem TPL in avantajı nedir? Kolay exception yönetimi Kolay iptal edilebilme Daha az deadlock

49 Thread & Task İş parçacığı (thread), processin en küçük yürütme birimidir. Bir processin çok sayıda threadi olabilir. Diğer bir deyişle iş parçacığı (thread), bir process deki tüm kod boyunca var olan icra yoludur. Task, iş birimidir (unit of work). Sürmekte olan bir işleme veya hesaplamaya işaret eden bir nesnedir.

50 Task Oluşturmak(En Basit Yöntem)

51 Code-based task lar threadler tarafından icra edilirler. Thread task bitinceye kadar ilgili taskla ilişkilidir.

52 Task ın Sonlandırılması Task, code bloğu sonlandığında veya exception fırlatarak sonlanır.

53 Continuation

54 Task Oluşturmak(Yöntem 2)

55 TPL i kullanırken lambda ifadelerinden yararlanmak mümkündür.