İşletim Sistemleri (Operating Systems)

Transkript

1 İşletim Sistemleri (Operating Systems) 1

2 Thread (İşlemcik)

3 Thread (İşlemcik) Nedir? Thread (işlemcik-iplik); Belli bir process e bağlıdır. Bağlı bulundukları process in adres uzayını kullanırlar, Thread ler, program kodunu, data kısmını, dosyalar gibi işletim sistemi kaynaklarını ortak kullanır. Kendi program sayacına sahiptirler, Eğer bir process, birden fazla thread e sahipse, thread ler birden fazla görevin paralel yürütülmesini sağlayabilirler. Günümüzdeki modern bilgisayarlarda çalışan yazılım uygulamalarının çoğu multithread çalışırlar. Uygulamalar, çok sayıda thread e sahip tek process şeklinde geliştirilirler.

4 Thread (İşlemcik) Nedir? Thread lar processler gibi birbirlerinden bağımsız değillerdir. Multi-thread yazılım geliştirmede thread ların aynı adres uzayına erişmeleri sonucunda oluşabilecek kilitlenmelerin sezilmesi ve giderilmesi zorunludur. Thread lar arasında koruma yoktur. Yürütülecek işlerin birbirine çok bağlı olduğu, birlikte yürütüldüğü ve paylaşıldığı durumlarda thread yapısı tercih edilebilir. Yürütülecek işlerin birbirinden büyük oranda bağımsız olduğu durumlarda process yapısı tercih edilebilir.

5 Thread (İşlemcik) Nedir? Thread (işlemcik-iplik): İcra edilmekte olan bir process in, aynı kodunu ve adres boşluğunu kullanarak işlemlerini gerçekleştiren birbirinden bağımsız hafif ağırlıklı (light-weight) process lere " thread" adı verilir, Thread ler process lerin içinde yer alır, onları oluştururlar. Bir process tek bir thread veya birden fazla thread e sahip olabilir.

6 Thread (İşlemcik) Nedir? Single and Multithreaded Processes Multithreading kullanımında User Address Space tektir, process in sahip olduğu tüm thread ler bu process için ayrılan aynı adres alanını paylaşırlar.

7 Thread (İşlemcik) Nedir? Çoklu thread yapısı (multithread) programın bir bölümü bloke olsa yada uzun bir işlem yürütüyor olsa bile çalışmaya olanak sağlar. Single Threading Multi-Threading

8 Thread (İşlemcik) Nedir?

9 Thread (İşlemcik) Nedir? Her thread kendine ait stack, PC ve registers lara sahiptir.

10 Thread (İşlemcik) Nedir? Single Threaded and Multithreaded Process Models

11 Thread Kullanımı: Chat programı Örnek olarak; bir chat programı oluşturulmak istensin. Bir chat programı ancak thread mantığı ile yapılabilir. İki tane thread metodu oluşturulmalıdır, bir tanesi soketi dinleyen metod, diğeri ise kullanıcıdan giriş bekleyen metod olacaktır. Thread i oluşturma sırasında thread lardan birine klavyeden giriş alan metodu çalıştırması istenir, diğerinin de soket metodunu çalıştırması sağlanır.

12 Thread Kullanımı: Kelime İşlemci Örneğin, bir kelime işlemci programında, yazma işlemi gerçekleştirilirken, klavyeden bilginin alınması, ekrana basılması ayrı ayrı gerçekleşen iki thread dır. Bunun yanında bir diğer thread yazım hatalarını kontrol ediyor olabilir. Bu yüzden Thread kullanışlıdır, çünkü bir kelime işlemcide farklı mantıksal olarak paralel bir şekilde çalıştırılan görevler bulunur.

13 Thread Kullanımı: Web Server Bir web server, her client (istemci) ile ayrı ayrı ilgilenmelidir. Bir Web browser, bir thread ile veri aktarımı yapabilir, başka thread ile verileri ekranda görüntüleyebilir. Bir Web sunucu process i multi-thread çalışırsa, her gelen istek için ayrı bir thread oluşturulur ve process portu dinlemeye devam eder. Fakat bu yöntem bazı sorunlar da içermektedir:thread oluşturma ve iptal etmenin getirdiği yük. Thread sadece o bağlantı için kullanılmış olacak. Sınırsız sayıda thread sonucu web sunucusu çökebilir. Daha iyi çözüm: sabit bir boyut bir thread havuzu kullanımı.

14 Thread Kullanımı: Web Server

15 Thread Modeli: Context Switch Process oluşturmak işletim sistemi için bellek tahsisi, durum değiştirme veya context switching işlemleri gibi sebeplerden dolayı çok maliyetli bir iştir. Aynı processe ait threadler arasında context switching pahalı değildir. Kod, veri, dosya vs. için kaydetme veya geri yükleme şartı yoktur. Aynı process içindeki thread ler arasında gerçekleşen context switching zamanı, process ler arasında gerçekleşen context switching zamanından oldukça küçüktür.

16 Thread Modeli: Context Switch Thread context switching şunları yine de gerektirir. Register set switch, Program Counter-PC değişimi, stack değişimi vs. Ama bellek yönetimi ile ilgili bir iş yok! Kısmen Verimli Farklı processlere ait threadler arasında context switching pahalıdır.

17 Thread (İşlemcik) kullanımının avantajları Thread lerin sağladığı faydalar 4 kategori halinde ifade edilebilir: 1. Cevap Verme (Responsiveness): Kullanıcı etkileşimli uygulamalarda, bir kısım bloklanmış, kilitlenmiş veya uzun süren işlem yürütüyorsa, kullanıcı ile etkileşim yapan başka bir kısım çalışmasını sürdürür. Sistemin cevap verebilirlik özelliği artmış olur.

18 Thread (İşlemcik) kullanımının avantajları 2. Kaynak Paylaşımı (Resource sharing): Process ler kaynaklarını shared memory veya message passing teknikleri aracılığıyla paylaşabilirler. Thread ler ait oldukları process in sahip olduğu hafıza alanını ve diğer kaynakları paylaşabilirler.

19 Thread (İşlemcik) kullanımının avantajları 3. Maliyet (Economy): Bir process oluştururken hafıza ve kaynak tahsis edilmesi maliyeti yüksek bir iştir. Thread ler ait oldukları process in kaynaklarını paylaştıklarından dolayı context switching daha düşük maliyetle yapılır. (Solaris işletim sisteminde, thread oluşturma 30 kat daha hızlıdır ve thread lerde context switch 5 kat daha hızlıdır.)

20 Thread (İşlemcik) kullanımının avantajları 4. Ölçeklenebilirlik (Scalability): Çok işlemcili mimarilerde thread ler farklı işlemci çekirdekleri üzerinde eşzamanlı çalışabilir. Ancak, tek thread yapısına sahip process sadece bir işlemci çekirdeği üzerinde çalışabilir.

21 Thread (İşlemcik) kullanımının avantajları Environment (resource) execution (a) Tek threadli üç process (b) Üç threadli bir process İşletim sisteminde bir iş yaparken çok fazla process kullanmak yerine daha az process ve daha çok thread kullanmak, daha çok tercih edilir.

22 ÖZET olarak Thread kullanım avantajları Bir process in tüm thread ları process in durumunu ve kaynaklarını paylaşır. Process ve içinde bulunan thread aynı adres alanlarında bulunduğundan aynı verilere erişebilirler. Bir thread bir dosyayı okuma için açarsa, aynı işlemdeki diğer thread larda bu dosyadan okuyabilir. Thread oluşturma, UNIX'te process oluşturma işleminden on kat daha hızlıdır. Bir thread sonlandırılması (terminate) bir process sonlandırılmasından daha az zaman alır. İki thread arasındaki contex switching, iki process arasındaki contex switching işleminden daha az zaman alır. Thread lar çok çekirdekli/işlemcili sistemlerde faydalıdır. Her çekirdek/işlemciden eş zamanlı yararlanmayı sağlar.

23 Thread (İşlemcik) kullanımının zorlukları İşletim sistemi tasarımcıları multicore sistemlerin performansını artırmak için scheduling algoritmaları yazmak zorundadır. Uygulama geliştiricilerin mevcut programları değiştirmeleri ve yeni programları multi-threaded şekilde tasarlamaları gerekmektedir. Multicore programlamada 5 önemli zorluk vardır: 1. Görevleri tanımlama (Identifying tasks): Uygulamaları eşzamanlı olarak gerçekleştirebilecek etkinlikleri bulmaya yönelik inceleme.

24 Thread (İşlemcik) kullanımının zorlukları 2. Denge (Balance): Programcılar görevleri ayrıştırırken iş yükünün eşit dağıtılması gereklidir. 3. Veri bölme (Data splitting): Verilerin farklı core lar üzerinde çalışan görevler tarafından erişilecek ve işlem yapılacak şekilde ayrıştırılması gereklidir. Farklı thread lar tarafından erişilen veriyi farklı önbellek satırlarına bölmek gerekir.

25 Thread (İşlemcik) kullanımının zorlukları 4. Veri bağımlılığı (Data dependency): Bir görevin erişeceği verinin diğer görevlerle bağımlılığının incelenmesi gereklidir. Bir görev diğerinin sonuçlarına bağlıysa, doğru sırayla erişim sağlamak için görevlerin senkronize edilmesi gerekir. 5. Test etme ve hata ayıklama (Testing and debugging): Multi-threaded çalışan programların test ve debug işlemi daha zordur. Çünkü yarış koşulları (race condition) çok daha karmaşık ve belirlenmesi zorlaşıyor.

26 Thread lerin çakışması Aksi belirtilmedikçe bir thread, başka bir thread ın çalışmasına karışamaz, bu yüzden birçok thread ın aynı anda, aynı verileri kullanma ihtimalleri vardır ki, bazen bu durum tehlikeli sonuçlara neden olabilir. Bu şekilde birçok thread tarafından paylaşılabilen verilere, kritik bölge verileri (critical region) adı verilir. Kritik bölgeye birden çok thread erişmek istediğinde, thread ların çakışmadan çalışabilmeleri için senkronize edilmeleri şarttır.

27 Multi-tasking Multi-tasking, işletim sisteminin aynı anda birden fazla program çalıştırabilmesidir, (aslında bir anda sadece tek bir process işlem görür) Birden fazla program mantıksal olarak aynı anda çalışmakta iken fiziksel olarak sıralı olarak çalışmaktadır. Multitasking process ler üzerinden işler. Process ler zamanı paylaşır ve bir process in işinin bittiği yerde diğeri başlar. İşletim sistemi, çalışacak process leri öncelikle sıraya sokar ve sonra sırası geleni çalıştırır. Bu işlem sonucunda programları aynı anda çalışıyorlarmış gibi görürüz. Multitasking yapılabilmesi için illaki çok işlemci gereksinimi yoktur.

28 Multi-threading Multi-threading aynı adres alanında birden çok thread'in aynı anda çalışmasıdır. Process lerin zaman paylaşımında olduğu gibi thread lar kendi aralarında bir zaman paylaşımı oluştururlar. Tek işlemcili sistemlerde, bir process e adanan sürede, process in sahip olduğu thread ler zaman paylaşımlı olarak çalışırlar dolayısıyla gerçek paralel çalışma (parallel execution) sağlanamaz. Tek işlemci farklı thread lar arasında çok hızlı geçiş yapar ve bu durumda process ler gerçekte olmasa bile eş zamanlı çalışıyormuş izlenimi verir.

29 Multi-threading Çoklu thread oluşturmak için iki farklı strateji kullanılmaktadır: Asenkron threading: Parent, yeni bir child thread oluşturduğunda eşzamanlı olarak çalışmasını sürdürür. Senkron threading: Parent, child thread oluşturduğunda çalışmasını durdurur ve tüm child thread ler sonlandığında çalışmasına devam eder. Asenkron threading, thread ler arasında veri paylaşımı az olduğunda, senkron threading ise threadler arasında veri paylaşımı çok olduğunda kullanılır.

30 Multi-threading Tek işlemci üzerinde, çoklu programlama sayesinde, birden çok process içindeki birden çok thread dönüşümlü çalıştırılabilir. Şekil'deki örnekte, iki process deki üç thread işlemcide dönüşümlü çalışmaktadır. Yürütme, o sırada çalışan thread bloke edildiğinde veya çalışma zamanı bittiğinde bir thread dan diğerine geçer. Multithreading on a Uniprocessor

31 Multi-threading Bilgisayar tasarımındaki en önemli gelişmelerden birisi, çok işlemcili/çekirdekli sistemlerin geliştirilmesidir. Son zamanlarda, tek chip içerisine birden fazla çekirdek yerleştirilmektedir ve bu tür sistemler multicore olarak adlandırılır. Her bir çekirdek işletim sistemi için ayrı bir işlemci olarak görünür. Bir çekirdek üzerinde çalışan 4 thread e sahip bir uygulama için eşzamanlı çalışma, thread lerin belirli aralıklarla çalıştırılmasını ifade eder (Görüntüde Paralellik). Çok işlemci veya çekirdeğe sahip sistemlerde eşzamanlı çalışma, her çekirdeğe bir thread atanarak thread lerin paralel çalışmasını ifade eder (Gerçek Paralellik).

32 Multi-threading Bir process içerinde üç adet thread bulunsun. Eğer bilgisayarda tek işlemci çekirdeği var ise, bu threadlerin her biri CPU nun 1/3 hızında çalışabilir. Eğer sistemde birden fazla işlemci çekirdeği var ise, her thread farklı işlemci çekirdeğinde çalıştırılır, bu şekilde uygulama işlemci çekirdeği ve thread sayısına bağlı olarak hızlanır. Çok işlemcili/çekirdekli sistemlerde farklı thread lar farklı işlemciler/çekirdekler üzerinde eş zamanlı olarak çalışabilir. Böylece gerçek paralel çalışma sağlanabilir. Pek çok modern işletim sistemi çok işlemcili/çekirdekli thread kullanımını desteklemektedir.

33 Multi-threading CPU nun sahip olduğu çekirdek sayısı arttıkça eşzamanlı gerçekleştirilen işlem sayısı da artacaktır.

34 Multi-threading Amdahl kuralına (Gene Amdahl) göre çekirdek sayısına göre bir sistemdeki performans artışı aşağıdaki gibi ifade edilir: Burada, S uygulamada seri çalışması zorunlu olan kısmın oranını, N ise çekirdek sayısını ifade eder. Bir uygulamada, %75 paralel ve %25 seri çalışıyorsa (S=0,25), 2 çekirdeğe (N=2) sahip sistemde bu uygulamayı çalıştırınca 1,6 kat hız artar. Çekirdek sayısı 4 olduğunda, 2.28 kat hız artışı sağlanır. Çekirdek sayısı sonsuza giderken hız artışı (1/S) e doğru gider. Intel CPU lar her çekirdek için 2 thread, Oracle T4 CPU ise 4 thread destekler.

35 Multi-thread Modelleri Thread lar user thread lar ve kernel thread lar olmak üzere ikiye ayrılır. User level thread: Kernel katmanının üstünde olup kullanıcı işlemleri tarafından oluşturulurlar. Bu thread ların oluşturulması, çizelgelemesi ve yönetilmesi kernel den bağımsız olarak gerçekleştirilir. User thread larının tamamı kullanıcı adres boşluğu içerisinde koşturulur. Kernel level thread: Doğrudan doğruya işletim sistemi tarafında oluşturulur. Kernel thread larının oluşturulması, çizelgelemesi ve yönetimi işletim sistemi tarafında gerçekleştirilir.

36 User-Level and Kernel-Level Threads

37 User Level Thread User level thread ler user level thread kütüphaneleri kullanılarak yapılırlar, sistem çağrılarıyla değil. Yani OS çağrısı ve kernel interrupt yoktur. Kullanıcı alanında Thread tablosu tutulur. Kullanıcı alanındaki tüm thread yönetimi kütüphane ile yapılır. Kernel thread leri bilmez, sadece process lerden haberdardır. Üç temel thread kütüphanesi: POSIX Pthreads Win32 threads Java threads

38 Kernel Level Thread o Kernel, her process deki ayrı thread lerden haberdardır. o Thread tablosu, kernel tarafından yönetilir. Yeni thread oluşturmak için kernel e sistem çağrısı yapılır. o Çok sık thread oluşturma, yoketme gibi işlemler varsa vakit kaybı çoktur. - Windows 95/98/NT/ Solaris - Tru64 UNIX - Mac OS X - Linux

39 Hybrid Thread User ve kernel uzayının birlikte çalıştığı yapıdır. Birkaç user thread inin, bir kernel thread üzerine yönlendirilmesidir. Bir kernel level thread birden fazla user level thread i sırasıyla çalıştırır. Kernel sadece kernel level threadlar dan haberdardır.

40 Hybrid Thread Hybrid yapıda modelleme user ve kernel uzayı arasındaki ilişkiye göre üç sınıfa ayrılmaktadır. Many-to-one model (Çoktan-Bire Modeli) One-to-one model (Bire Bir Modeli) Many-to-many model (Çoktan Çoğa Modeli)

41 Many-to-one model (Çoktan-Bire Modeli) Many-to-one modelinde, çok sayıda user thread i bir tane kernel thread i ile eşleştirilir. Thread yönetimi user alanında yapılır, yani verimlidir. Aynı anda sadece bir tane user thead i kernel thread e erişebilir. Aynı anda kernel katmanında sadece bir thread bulunabildiği için işlemci üzerinde sadece bir thread koşturulabilir.

42 Many-to-one model (Çoktan-Bire Modeli) Sadece bir kernel thread i kullanıldığı için multicore sistemlerde birden fazla thread için eşzamanlı çalışma yapılamaz. Eğer thread lerden biri bloke olur ise, kernel işlemin sadece bir thread tarafından yapıldığını düşündüğünden threadler arası geçiş yapamaz, böylece process içerisindeki tüm threadler bloke olur. Solaris Green Threads GNU Portable Threads

43 One-to-one model (Bire Bir Modeli) One-to-one modelinde, bir user thread i bir kernel thread i ile eşleştirilir. Bu nedenle işlemci üzerinde birden fazla thread multicore sistemlerde eşzamanlı koşturulabilir. Bir user thread için bir kernel thread oluşturulması gereklidir. Kernel thread oluşturmanın getirdiği ek yük performansı bir derece etkiler. Many-to-one modeline göre daha fazla concurrency. (Concurrency, birden fazla görev arasında kısa aralıklarla geçiş yaparak birlikte ilerletilmesini sağlar.) Windows NT/XP/2000 Linux Solaris 9 and later

44 Many-to-many model (Çoktan Çoğa Modeli) Many-to-many modelinde, çok sayıda user thread i ile aynı sayıdaki veya daha az sayıdaki kernel thread i eşleştirilir. Uygulama, gerektiğince user thread oluşturabilir. Kernel threadler multicore sistemler üzerinde paralel çalışır. Solaris version 9 öncesi Windows NT/2000 with the ThreadFiber package

45 Thread kütüphaneleri Thread kütüphanesi, programcıya thread oluşturmak ve yönetmek için API sağlar. Thread kütüphanesi oluşturulurken iki farklı yaklaşım kullanılır: Tüm thread kütüphanesi kullanıcı alanında oluşturulur ve kernel desteği yoktur. İşletim sisteminin doğrudan desteklediği kernel seviyesinde kütüphane oluşturulur.

46 Thread kütüphaneleri Günümüzde 3 temel thread kütüphanesi kullanılmaktadır: POSIX Pthreads Windows Java Pthreads,user-level veya kernel-level thread kütüphanesi sağlar. Windows threads, kernel-level thread kütüphanesi sağlar. Java threads, user-level thread kütüphanesi sağlar.

47 Intel Hyper-Threading Teknolojisi Hyper Threading özelliğine sahip olmayan bir işlemcide Thread işlenmesi. Hyper Threading teknolojisini desteklemeyen herhangi bir işlemcide thread ler First in First out mantığı ile sırasıyla işlenecektir. 47

48 Intel Hyper-Threading Teknolojisi Hyper Threading özelliğine sahip bir işlemcide iş parçacığının işlenmesi Eğer işlemci Hyper Threading teknolojisini desteklediğinde, thread ler aynı anda sanki iki ayrı işlemci varmış gibi işlenir. Ancak Hyper Threading teknolojisine sahip işlemci, fiziksel iki işlemci olmadığından, tek bir işlemcinin mantıksal iki işlemcisi gibi davranacaktır. 48

49 Intel Hyper-Threading Teknolojisi Hyper-Threading özelliğine sahip olmayan fiziksel iki çekirdekli işlemcide iki thread ınişlenmesi iki thread işlemcilerde ayrı ayrı işlenir. İki farklı işlemcinin performansı Hyper Threading teknolojisini destekleyen işlemciden daha üstündür. Ancak thread ler arasında bir işlem önceliğinin olmaması gereklidir. 49

50 Intel Hyper-Threading Teknolojisi Hyper-Threading özelliğine sahip fiziksel iki çekirdekli işlemcide 4 thread ın işlenmesi Bu durumda 4 thread den 2 tanesi bir işlemcide, diğer 2 tanesi de diğer işlemcide işlem görecektir. 50