BIL410 GELİŞMİŞ BİLGİSAYAR MİMARİLERİ. Kayhan İmre

Transkript

1 BIL41 GELİŞMİŞ BİLGİSAYAR MİMARİLERİ Kayhan İmre

2 KONULAR Ön Bellek Görüntü Bellek Pipeline Vektör Bilgisayarlar Koşut Bilgisayarlar

3 Neden Mimari? İşlemci Düzeyi Mikro İşleyiciler İşlevsel Düzey Gelişmiş Bilgisayar Mimarileri Mantıksal Düzey Mantıksal Tasarım Transistör Düzeyi Elektronik

4 Ön Bellek İşlemci Bellek İkincil Bellek ÖN BELLEK GÖRÜNTÜ BELLEK

5 BELLEKLER YAZMAÇ ÖN BELLEK ANA BELLEK DİSK ÖN BELLEĞİ DİSK HIZ MALİYET KAPASİTE

6 Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

7 Bellek erişim performansı teff = tcache + (1-h) tmain h=ön bellekten erişim sayısı / toplam erişim sayısı

8 Ön Bellek Sınıflandırmaları İçeriklerine Göre (Unified / Split) Yazma Yöntemine Göre (WriteThrough / CopyBack) Erişim Yöntemine Göre (Fully Associative / Set Associative / Direct Mapping)

9 Split ve Unified Ön Bellek İşlemci Komut Ön Belleği Veri Ön Belleği İşlemci Komut/Veri Ön Belleği Sadece Okuma Komutlar Ardışık Küçük Döngülerin İyileştirilmesi

10 Read hit WriteThrough Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

11 Read miss WriteThrough Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

12 Write hit WriteThrough Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

13 Write miss WriteThrough Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

14 Read hit CopyBack Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

15 Write hit CopyBack Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

16 Read miss CopyBack Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

17 Write miss CopyBack Ön Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek

18 Erişim yöntemine göre Fully Associative Ön Bellek Set Associative Ön Bellek Direct Mapping Ön Bellek

19 Adres Fully Associative Ön Bellek Adresler = = = = Veriler = = = hit/miss

20 Set Associative Ön Bellek Adres Adres Ekleri 1 2 N-1 = Veriler 1 2 N-1 = 1 2 N-1 = 1 2 N-1 = hit/miss

21 Direct Mapping Ön Bellek Adres Adres Ekleri 1 2 N = Veriler hit/miss

22 Adres Fully Associative Ön Bellek L=4 Adresler = = = = Veriler = = = hit/miss

23 Set Associative Ön Bellek L=4 Adres Adres Ekleri 1 2 N-1 = Veriler 1 2 N-1 = 1 2 N-1 = 1 2 N-1 = hit/miss

24 Direct Mapping Ön Bellek L=4 Adres Adres Ekleri 1 2 N-1 = Veriler hit/miss

25 Ön bellek ve adres bitleri Ön bellek sığası = KLN Adres log2n log2l Satır içi adresi Set Numarası Adres eki N = 1 Fully Associative ön bellek K = 1 Direct Mapping ön bellek

26 İşlemci Adres Bilgileri bit veri Ana Bellek

27 Ön belleğe yeni gelen veriye yer açma stratejileri LRU Least Recently Used Geliştirilmiş LRU

28 Least Recently Used (LRU) Adres Ekleri Veriler Most Recently Used N-1... Least Recently Used

29 Geliştirilmiş LRU Adres Ekleri 1 2 Veriler Gölge Adres Ekleri 1 2 Geçici N N Geçici miss = Hem ön bellekte hem de gölge adres eklerinde yok Gölge miss = ön bellekte yok, gölge adres eklerinde var Geçici olarak işaretlenmiş veriler çıkarılmaya aday.

30 Ön belleklerde tutarlılık Adres Adres DMA Denetleyici İşlemci Adres Bilgileri Veriler Veri G/Ç Birimi Ana Bellek Ön bellekteki veriyi geçersiz kılma eklentisi write through : çözüm? copy back : DMA öncesi güncelle

31 Ön belleklerde tutarlılık Geçerli (valid) İkili Değişmiş (dirty) İkili Durum X Geçersiz ön bellek satırı 1 Geçerli ön bellek satırı. Ana bellekteki değerle aynı. 1 1 Geçerli ön bellek satırı. Ön bellekteki değer daha güncel. Copy back türü ön bellekteki verilerin durum bilgileri

32 Ön belleklerde tutarlılık DMA Denetleyici G/Ç Birimi Adres İşlemci Adres Bilgileri Veriler Veri Ana Bellek Ön bellek aracılığıyla DMA gerçekleştirilmesi

33 Ön belleklerde tutarlılık Adres DMA Denetleyici İşlemci Adres Bilgileri Veriler Adres İzleme Bilgileri Veri G/Ç Birimi Ana Bellek Ön bellekteki verileri dışardan izleyebilmek için kullanılan ek

34 Ön belleklerde tutarlılık Adres DMA Denetleyici İşlemci Adres Bilgileri Veriler Adres İzleme Bilgileri Veri G/Ç Birimi Ana Bellek Ön bellekteki verilerin dışardan koşut olarak izlenmesi

35 Ön belleklerde tutarlılık İşlemci 1 Adres Adres Bilgileri Veriler İşlemci 2 Veri Ana Bellek İki işlemci tarafından ortak kullanılan ön bellek

36 Ön belleklerde tutarlılık Adres Adres İşlemci Adres Bilgileri Veriler Adres İzleme Bilgileri Adres İzleme Bilgileri Veriler Adres Bilgileri İşlemci... Adres İşlemci Adres Bilgileri Veriler Adres İzleme Bilgileri Ana Bellek Çok işlemcili bir sistemde ön belleklerin izlenmesi

37 Görüntü Bellek İşlemci Bellek İkincil Bellek ÖN BELLEK GÖRÜNTÜ BELLEK

38 Görüntü Bellek Görüntü Adres Adres Dönüştürücü Sayfa Hatası Fiziksel Adres Ana Bellek

39 Görüntü Bellek Filozofisi Sık kullanılan kod kesimleri ana bellekte tutulur. Kod kesimleri az kullanılmaya başladıkça daha yavaş belleklere taşınır. Eğer yönetim algoritması başarılıysa maliyeti yavaş belleğin maliyetine, performansı da hızlı belleğin performansına yakın olacaktır.

40 Görüntü ve Ön bellek farklılıkları Aranan verinin veya sayfanın bulunup bulunmaması Ön bellekte verinin bulunamaması bulunmasından 4-2 kez daha pahalı Sayfanın bellekte bulunamaması bulunmasından 1-1 kez daha pahalı.

41 Görüntü ve ön bellek farklılıkları Teknolojilerdeki ilerleme 2 yılda bellek teknolojisi 1 kat hızlanmış. Aynı sürede diskler 1 kat hızlanmış. Yer değiştirme sürecinin uzunluğu Ön bellekte verinin bulunamaması durumunda işlemciye başka görev atanamaz. Aranan sayfanın bellekte bulunamaması durumunda sayfa diskten kopyalanırken işlemciye başka görevler atanabilir.

42 Görüntü ve ön bellek farklılıkları Gecikme Bellekte bulunamayan bir verinin belleğe getirilmesi 1-1 komut süre tutabilir. Ön bellekte bulunmayan bir verini ana bellekten getirilmesi bir komut işletimi kapsamındadır.

43 Görüntü adres fiziksel adres dönüşümü GörüntüAdres Sayfa içi adres Sayfa Numarası Adres Dönüştürücü Sayfa başlangıç adresi Sayfa Bulunamadı Sayfa

44 Hızlı adres dönüşümü GörüntüAdres Sayfa içi adres Sayfa Numarası Hızlı Adres Dönüştürücü Sayfa Bulunamadı Adres Dönüştürücü Sayfa başlangıç adresi Sayfa Bulunamadı Sayfa

45 GörüntüAdres Hızlı adres dönüşümü Sayfa içi adres Segment Numarası Sayfa Numarası Sayfa başlangıç adresi Sayfa

46 Görüntü Bellekte Yer Değiştirme Sayfa hataları çok pahalı. Hangi sayfanın çıkarılacağı kararı çok önemli. Sayfa hatası oluştuğunda karar vermek için yeterince zaman var. Sayfa hatası oluştuğunda başka görevler işlemciye anahtarlanabilir.

47 Görüntü ve Fiziksel Adres Evrenleri Fiziksel Adres Evreni Görüntü Adres Evreni

48 Sayfa Numarası Adres Dönüştürme Sayfa başlangıç adresleri 1 2 N - 2 N - 1 N : Görüntü Adres Evrenindeki Sayfa Sayısı

49 Sayfa Numarası Adres Dönüştürme Fiziksel bellekteki sayfa sayısı kadar Sayfa Numaraları = = = = = = = Sayfa başlangıç adresleri Sayfa Bulundu/Bulunamadı

50 Pipeline Pipeline Aşamaları

51 Pipeline Pipeline Aşamaları Zaman A B C D A B C D A B C D A B C D A B C D A B C D A B C D

52 Pipeline Performansı A B A Pipeline Aşamaları C B A Zaman D C D B C A B A D C B A D C B A D C B D C D

53 Bir Komutun Evreleri Komut Getir Komut Yorumla Adres Hesapla İşlenenleri Getir Komut Uygula Sonucu Sakla Program Sayacını Güncelle

54 Komut uygulama pipeline için sorun yaratan durumlar: Koşullu sapmalar. Bir komutun sonraki komutun kullanacağı veriyi üretmesi. Bir komutun önceki komut tarafından kullanılan yazmaca yazması. Ardışık iki komutun aynı yazmaca yazması.

55 Çok Fonksiyonlu Pipeline Çarpma Add Exponents Form Partial Products Accumulator Normalize Round Renormalize Subtract Exponents Partial Shift Add Mantissas Find Leading 1 Partial Shift Round Renormalize Toplama

56 Çok Fonksiyonlu Pipeline Add/Subtract Exponents Partial Shift Form Partial Products Add Mantissas Find Leading 1 Partial Shift Round Renormalize

57 Çok Fonksiyonlu Pipeline Çarpma için rezervasyon tablosu Ex. Add x Mult x x Man. Add x x Renorm x x Round x Shift A Lead 1 Toplama için rezervasyon tablosu Ex. Add x Mult Man. Add x Renorm x Round x Shift A x x x Lead 1 x x

58 Çok Fonksiyonlu Pipeline Çarpma işleminden sonra çarpma için çakışma vektörünün hesaplanması Adım Ex. Add x y Mult x x Man. Add x x Renorm x x Round x Shift A Lead 1 çakışma vektörü =1 Adım Ex. Add x y Mult x x y y Man. Add x x y y Renorm x x Round x Shift A Lead 1 Adım Ex. Add x y Mult x x y y Man. Add x x y y Renorm x x Round x Shift A Lead 1 çakışma vektörü =11 çakışma vektörü =11

59 Çok Fonksiyonlu Pipeline Çarpma işleminden sonra çarpma için çakışma vektörünün hesaplanması Adım Ex. Add x y Mult x x y y Man. Add x x y Renorm x x Round x Shift A Lead 1 Adım Ex. Add x y Mult x x y Man. Add x x Renorm x x Round x Shift A Lead 1 Adım Ex. Add x y Mult x x Man. Add x x Renorm x x Round x Shift A Lead 1 çakışma vektörü =11 çakışma vektörü =11 çakışma vektörü =11

60 Çok Fonksiyonlu Pipeline Çarpma ve Toplama işlemleri için Çakışma vektörleri Çarpma işleminden sonra Çarpma işlemi gelmesi durumunda çakışma vektörü =11 Toplama işleminden sonra Çarpma işlemi gelmesi durumunda çakışma vektörü =111 Çarpma işleminden sonra Toplama işlemi gelmesi durumunda çakışma vektörü = Toplama işleminden sonra Toplama işlemi gelmesi durumunda çakışma vektörü =1

61 Pipeline Performansının Analizi En iyi Performans = 4 / ( ) =.377 işlem/birim zaman

62 Koşullu Sapmalar ve pipeline İşlemcilerin komut al-getir ve işletimini gerçekleştiren pipeline, koşullu sapmalarda boşaltılmak durumunda kalabilir. Verimlilik düşüren bu durumu önlemek için kullanılan yöntemlerden bazıları: Gecikmeli Sapma Çoklu Durum Yazmacı kullanımı Sabit Sapma kestirimi Eski Sapmaların Kayıtları

63 Koşullu Sapmalar ve pipeline Gecikmeli Sapma Sapma gerçekleşsin veya gerçekleşmesin koşullu sapma komutundan sonraki belirli sayıda komutun uygulanması esasına dayanır. Koşullu sapmalarda pipeline ın boşaltılmasına gerek kalmaz. Koşullu sapma komutundan sonra uygulanabilecek komutlar gereklidir. cmp d,e mov a,b je xxx cmp d,e je xxx mov a,b

64 Koşullu Sapmalar ve pipeline Çoklu Durum Yazmacı kullanımı Birden fazla durum yazmacı kullanılarak durum yazmacını kuran komut ile koşullu sapma komutu arasında belirli bir uzaklık sağlanır. Koşullu sapma komutu pipeline a girerken koşullu sapmanın sonucu kesin bellidir. cmp 1,d,e cmp 2, f,g mov a,b je 1,xxx je 2,yyy Durum Yazmacı 1 Durum Yazmacı 2

65 Koşullu Sapmalar ve pipeline Sabit Sapma kestirimi Döngülerde kullanılan koşullu sapmaların iyileştirilmesini sağlayan bu yöntemde koşullu sapmanın yönüne göre bir sapma kestirimi yapılır. Örneğin, bulunduğu adresten daha öncesine sapmanın gerçekleşeceği varsayımıyla çalışan bir işlemci için döngülerde bu varsayıma uygun kod üretilmişse, döngünün sonu hariç pipeline ın boşaltımasına gerek kalmayacaktır. xxx: mov a, 1 decrement a jnz xxx

66 Koşullu Sapmalar ve pipeline Eski Sapmaların Kayıtları Koşullu sapma komutlarının bir önceki uygulanışlarındaki durumun (sapmanın olup olmaması) aynısının şimdiki uygulamada da ortaya çıkacağını varsayan bu yaklaşımla döngülerin iyileştirilmesi mümkündür. Döngünün kontrolunda kullanılan koşullu sapma komutları, döngünün sonu hariç aynı biçimde davranacaklardır. Örneğin, 1 kez sapma gerçekleşecek, döngünün sonunda sapma olmayacaktır. Bu yöntemde, ön bellek benzeri bir yapıda, her koşullu sapma komutunun bir önceki uygulanışındaki durum bilgisi tutulur.

67 Sırasız Komut İşletme Sırasız komut işletiminde sorun yaratan durumlar: Komutlar arasında OKU/YAZ, YAZ/OKU ve YAZ/YAZ türü bağımlılıklar "Pipeline" çakışmaları Koşullu sapmalar

68 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç Değer Serbest Sayaç

69 Sırasız Komut İşletme Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5

70 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç A 2 DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5 1

71 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç 5 2 A 5 2 DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5 2 1

72 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç 5 2 A 5 2 DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5 2 1

73 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç A Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5 1 1

74 Sırasız Komut İşletme TOP TOP ÇRP ÇRP BÖL MNT OKU YAZ Y[1] Y[2] Y[3] Y[4] Gösterge Rezervasyon Durakları İşlenen 1 İşlenen 2 S Değer S Değer Sonuç DY[1] DY[2] DY[3] DY[4] DY[5] DY[6] DY[7] DY[8] Değer Serbest Sayaç A 5 Ax Y[1]:=A Y[2]:=Y[1]x5 Y[1]:=5

75 Pipeline - Ön bellek - Görüntü Bellek Görüntü Adres Adres Dönüştürücü Adres bilgileri Veri Yastık Yastık Yastık Karşılaştır Karşılaştır

76 Vektör Bilgisayarlar Vektör birimi yardımcı işlemcidir Vektör işlemleri içeren programların hızlandırılmasını amaçlar... for(i= ; i < N ; i++) c[i]=a[i]+b[i]; C=A+B;...

77 Vektör Bilgisayarlar Koşut erişim sağlayan bellek sistemi M M M Vektör 1 Vektör 2 Vektör Birimi (Pipeline) M Sonuç Vektörü

78 Vektör Bilgisayarlar Modül 7 A7 A15 B7 B15 C7 C15 Modül 6 A6 A14 B6 B14 C6 C14 Modül 5 A5 A13 B5 B13 C5 C13 Modül 4 A4 A12 B4 B12 C4 C12 Modül 3 A3 A11 B3 B11 C3 C11 Modül 2 A2 A1... B2 B1... C2 C1... Modül 1 A1 A9 A17 B1 B9 B17 C1 C9 C17 Modül A A8 A16 B B8 B16 C C8 C16

79 Vektör Bilgisayarlar A A1 B A2 B1 1 A3 B2 1 2 A4 B A5 B A6 B5 C A7 B6 C B7 C2 A C3 A9 B C4 A1 B C5 A11 B1 P4 P3 P2 P1 M7 M6 M5 M4 M3 M2 M1 M

80 Vektör Bilgisayarlar Koşut erişim sağlayan bellek sistemi M M1... A B Yastık Bellek P1 P2 P3 P4 M7 C

81 Koşut Bilgisayarlar Bilgisayarlar Flynn in Sınıflaması Tek Komut/Tek Veri Single Instruction/Single Data (SISD) Çok Komut/Tek Veri Multiple Instruction/Single Data (MISD) Tek Komut/Çok Veri Single Instruction/Multiple Data (SIMD) Çok Komut/Çok Veri Multiple Instruction/Multiple Data (MIMD) Paylaşımlı Bellekli MIMD Shared Memory MIMD Dağıtık Bellekli MIMD Distributed Memeory MIMD

82 Koşut Bilgisayarlar Dağıtık Bellekli MIMD Bilgisayar Bellek Bellek Bellek Bellek... İşlemci İşlemci İşlemci İşlemci Sistem Alan Ağı (System Area Network SAN)

83 Koşut Bilgisayarlar İşlemci İşlemci Paylaşımlı Bellekli MIMD Bilgisayar İşlemci... İşlemci Ön Bellek Ön Bellek Ön Bellek Ön Bellek Sistem Alan Ağı (System Area Network SAN) Bellek Bellek Bellek Bellek

84 Koşut Bilgisayarlar Paylaşımlı Bellekli MIMD Bilgisayar Örneği İşlemci Adres Bilgileri Denetim Birimi Veriler Ana Bellek İşlemci Adres Bilgileri Denetim Birimi Veriler

85 Koşut Bilgisayarlar Bellek SIMD Bilgisayar İşlemci Bellek Bellek Bellek Bellek Bellek İşlemci İşlemci İşlemci İşlemci İşlemci... Bellek İşlemci Sistem Alan Ağı (System Area Network SAN)

86 Koşut Bilgisayarlar İşlemci İşlemci Paylaşımlı Bellekli MIMD Bilgisayar İşlemci... İşlemci Ön Bellek Ön Bellek Ön Bellek Ön Bellek Sistem Alan Ağı (System Area Network SAN) Bellek Bellek Bellek Bellek

87 Koşut Bilgisayar Ağ Topolojileri Ortak Yol (Bus) İki bilgisayar arasındaki uzaklık sabit (1) Bilgisayar sayısı arttıkça yolun trafiği yavaşlar

88 Koşut Bilgisayar Ağ Topolojileri Crossbar

89 Koşut Bilgisayar Ağ Topolojileri Çok aşamalı ağlar (Multistage) n = log p

90 Koşut Bilgisayar Ağ Topolojileri Complete omega network P C C a. Pass-trough b. Cross-over

91 Koşut Bilgisayar Ağ Topolojileri Complete omega network 1 1 From the Neighbors To the Core INPUTS OUTPUTS From the Core To the Neighbors

92 Koşut Bilgisayar Ağ Topolojileri

94 Koşut Bilgisayar Ağ Topolojileri Tam ve yıldız bağlantı

95 Koşut Bilgisayar Ağ Topolojileri Doğrusal ve halka bağlantı

96 Koşut Bilgisayar Ağ Topolojileri Hasır Dokusu (Mesh)

97 Koşut Bilgisayar Ağ Topolojileri Simit (2D Torus)

98 Koşut Bilgisayar Ağ Topolojileri North bi-directional crossing Gateway Detectors East Gateway Modulators 1x2 switch with No crossing West 4x4 Nonblocking Switch South