Albert Long Hall, Boğazi

Transkript

1 Beyin-Bilgisayar Arayüzü ve Yazılım Karmaşıklığı Bilgi İşleyen Makina Olarak Beyin Nisan 2008 Boğ, İstanbul M. Ufuk Çağlayan Bilgisayar Mühendisliği Bölümü Boğ 4 Nisan 2008 Motivasyon Bilgisayar gelişiminde nerelerdeyiz? Beyin-Bilgisayar arayüzleri gelişiminde nerelerdeyiz? Konunun yazılım (hesaplama) karmaşıklığı ile ilgisi nedir? Sayfa 1 / 35 Sayfa 2 / 35 Genel Bakış Bilgisayarlarda/İşlemcilerde Gelişmeler Beyin-Bilgisayar Arayüzlerinde Gelişmeler Hesaplanabilirlik ve Yazılım Karmaşıklığı Kognitif Nörolojide Matematik Modeller Modern İşlemcilerin Özellikleri 64 bit aritmetik işlemler 4-20 seviyeli mikrokomut pipeline lar Komut seviyesinde paralel işlemler ve birden fazla (2-8) Aritmetik-Mantık Birimi, olası komut yollarında paralel işlemler Yüksek sayıda (256) register lar ve büyük cep (Cache) bellek (Itanium, 9MB L2) Daha geniş bellek erişim veriyolu (>256 bit) Sayfa 3 / 35 Sayfa 4 / 35 Modern İşlemcilerin Özellikleri Superscalar işlemciler: Aynı anda birden fazla komut ve birden fazla Aritmetik-Mantık Birimi (ALU) vb birimler Multi-core işlemciler: Aynı cep bellek ve veri yolunu paylaşan birden çok işlemci (2-8 core) Örnek: Intel Itanium Tukwila, 4 core, 30MB cep bellek, 2 milyar transistör, 65nm, 2GHz, 2 threads/core, 21.5x32.5mm2 de 170W (üretim 2008 sonu) Intel Itanium Tukwila Sayfa 5 / 35 Sayfa 6 / 35 1

2 Günümüz ve Gelecekte İşlemci Teknolojileri Günümüz: - 45nm ticari üretim (Intel 5400-series Xeon Kasım 07, AMD 2008 de) - Test üretimi/lab ortamı: 32nm, 29.9nm UV optik litografi, IBM, yıl içinde: - 32nm (2010), 22nm, 16nm, 11nm (2022) - 6 milyar+ kapı? Moore Kanunu - 1 Intel eş-kurucusu Gordon Moore un Nisan 1965 de Electronics Magazine de yayınladığı bir makalede Aynı maliyette, entegre devrelerdeki transistör (kapı) sayısı (işlemcilerde) her 24 ayda ikiye katlanmakta (belleklerde 18 ayda) İşlemci ve bellek transistör sayılarında günümüze kadar olan gelişmeler Moore Kanunu nu doğrulamakta Sayfa 7 / 35 Sayfa 8 / 35 Moore Kanunu - 2 Gelecek 10 yılda transistor sayılarında 10 misli artış kestirimi (20-100GHz işlemciler) yıl içinde transistör minyatürizasyonunda fiziksel limitlere erişileceği kestirimi (Moore, 2005) Atomic seviyeye yaklaşılması, CMOS sızma akımı, direnç, kapasitans, malzeme saflığı, soğutma, güç dağıtım problemleri İşlemci Gücü Ölçüm Birimleri - 1 MIPS: Milyon Tamsayı Komut/Saniye MFLOPS: Milyon FP (Kayan Nokta) Komut/Saniye SPEC CPU2006 ölçümü (benchmark) İşlemci, bellek erişimi ve derleyici (compiler) dikkate alınmakta CINT2006 ve CFP2006 ölçümleri, her bir ölçüm için speed, base, rate, base-rate ölçüm türleri CINT2006 : SPECint2006, SPECint_base2006, SPECint_rate2006, SPECint_rate_base2006 olarak 4 tür ölçüm, 12 program ortalaması CFP2006: SPECfp2006, SPECfp_base2006, SPECfp_rate2006, SPECfp_rate_base2006 olarak 4 tür ölçüm, 17 program ortalaması Bir çok farklı ölçüm metodu Sayfa 9 / 35 Sayfa 10 / 35 İşlemci Gücü Ölçüm Birimleri - 2 Günümüzden Örnekler: Intel Extreme QX6700, 2.66 GHz, 4 core: 49,161 MIPS Intel Extreme QX9770, 3.2 GHz, 4 core: 59,455 MIPS Intel Extreme QX9650, 3.0 GHz, 4 core: CINT2006=25.5, CFP2006=22.3 MIPS/MHz deki gelişmeler: 2008 teknolojisi: Yaklaşık 18 MIPS/MHz (QX9770 ve QX6700) 2003 teknolojisi: Yaklaşık 3 MIPS/MHz (P4 Extreme) 1992 teknolojisi: Yaklaşık 0.82 MIPS/MHz (486DX) Daha Çok İşlemci Gücü? Çok işlemcili/paralel bilgisayarlar: Ortak ana bellek ve bellek erişim anahtarı Ayrı ana bellek ve bilgisayarlar arası anahtar (Beowulf clusters) Azami işlemci: Tera/Peta komut/s IBM-DARPA Projesi: 2010 a kadar petaflops (peta=10 15 ) gücünde işlemci geliştirilmesi (POWER7 işlemci) (günümüzün 100 misli) Sayfa 11 / 35 Sayfa 12 / 35 2

3 Bilgisayar-Dış Dünya İlişkisi Elektromekanik Anahtarlar (klavye, fare, vb) Floppy, harddisk, vb Optoelektronik Yarı-iletken ışık kaynakları (LED, LCD, Laser diyot) Yarı-iletken ışık algılayıcılar (ışığa hassas direnç, diyot ve transistörler) Diğer CRT ekran, mikrofon, hoparlör, anten, basınç/ısı/kimyasal madde algılayıcılar, analog/sayısal çeviriciler, vb Bilgisayar-Beyin Arayüzü - 1 Beyine Bilgi Aktarımı Amaçlı Nöron/Sinir Sistemi Implantları İşitme algılayıcı-işitme sinir sistemi arayüzü (cochlear duyma özürlüler) Görme algılayıcı-görme sinir sistemi arayüzü (retina problemleri yüzünden görme özürlüler). Örnekler: Boston Retinal Implant Project ve Argus II Retinal Implant Sayfa 13 / 35 Sayfa 14 / 35 Bilgisayar-Beyin Arayüzü - 2 Boston Retina Implant Projesi (eski) 2.2 mm2 büyüklüğünde, sadece 12 foto-diyot ve bunun retina arayüzü Bilgisayar-Beyin Arayüzü - 3 Boston Retina Implant Projesi (yeni) Gözlükte kamera, kamera görüntüsünün işlenip telsizle göz içi implant a ve implant tan retina altına aktarımı Sayfa 15 / 35 Sayfa 16 / 35 Bilgisayar-Beyin Arayüzü - 4 Argus II Retinal Implant Gözlükte kamera, kamera görüntüsünün işlenip telsizle göz içi implant a ve implant tan 60 elektrot ile retinabeyin sinirine aktarımı (Klinik deneme, 2008) Bilgisayar-Beyin Arayüzü - 5 Beyinden Bilgi Aktarımı Amaçlı Beyin Implantları Beyin yüzeyinde spesifik bölgelere implant edilen algılayıcılar ve bunların arayüzleri Örnek: Cyberkinetics (Brown U., MIT, Emory U., U. of Utah işbirliği), - BrainGate: mikro-elektrot array (100 elektrot), kol/bacak (motor sistem arayüzü) kontrolu amaçlı - NeuroPort: beyin elektrik aktivitesi algılanması, işlenmesi ve uzun süreli (30 gün) kaydedilmesi amaçlı - Halen sadece klinik test aşamasında Sayfa 17 / 35 Sayfa 18 / 35 3

4 Bilgisayar-Beyin Arayüzü 6 BrainGate ve NeuroPort Bilgisayar-Beyin Arayüzü - 7 Çok gelişmiş implant lar aracılığıyla, detaylı ve karmaşık bilgiler/veriler beyin dışına aktarılabilirse: Bu bilgileri/verileri modelleyebilecek miyiz? Bu bilgileri/verileri bilgisayarlar yardımıyla, beyin fonksiyonlarına benzer bir şekilde işleyebilecek miyiz? Sayfa 19 / 35 Sayfa 20 / 35 Hesaplanabilirlik - 1 Hesaplanabilirlik - 2 Deterministik Makinalar Belli bir girdi için aynı şekilde işleyiş Normal bilgisayarlar, sınırlı zaman ve bellek Deterministik Olmayan Makinalar Belli bir girdi için bir çok farklı şekilde işleyiş ve olası çözümlerin birine en hızlı ulaşım Sonsuz sayıda paralel işlemci modeli Sadece teorik olarak var olan bir makina Örnek: Nondeterministic Turing Machine Problemlerin Karmaşıklık sınıfları P sınıfı: deterministik makinalarla kolaylıkla (polinom zamanda) çözülebilen problemler NP sınıfı: deterministik olmayan makinalarla polinom zamanda çözülebilen problemler (deterministik makinalarla üstel zamanda) P, NP nin alt kümesi P=?NP problemi: P=NP olduğunu ya da olmadığını gösterenlere $1M var Sayfa 21 / 35 Sayfa 22 / 35 Hesaplanabilirlik - 3 Problemlerin karmaşıklık sınıfları NP-hard problemler NP sınıfındaki her problem kolaylıkla (yani polinom zamanda) NP-hard problemlerin birine indirgenebilir NP-complete problemler NP kümesinin bir alt kümesinde olan NP-hard problemler Kolay polinom zaman, zor üstel zaman Hesaplama Karmaşıklığı -1 Hesaplamada zaman/mekan karmaşıklığı Bir fonksiyonun hesaplanmasında kullanılan algoritmanın/yazılımın, fonksiyonun bir (ya da daha çok) parametresine göre harcayacağı - zaman (adım sayısı) veya - mekan (bellek) büyüklüğü ( Time/Space Complexity ) Sayfa 23 / 35 Sayfa 24 / 35 4

5 Hesaplama Karmaşıklığı -2 Karmaşıklığın O(.) ile gösterimi: Örnekler f(n)=5n+1 O(n) doğrusal zaman f(n)=5n 3 +7n 2 +9 O(n 3 ) polinom zaman f(n)=5*2 (n+1) +500 O(2 n ) üstel (exponential) zaman Tercihimiz: O(n), O(log n) Üstel zaman: O(n c ), O(2 cn ), sabit c (iyi değil..!) O(n!), üstel zamandan daha kötü Hesaplama Karmaşıklığı -3 Üstel ya da daha kötü zaman karmaşıklığı olan problemler, teorik olarak çözülebilir fakat pratikte çözülemeyen zor (intractable) problemlerdir Örnek: O(2 n ) problem, n=100, 10 giga işlem/s (QX9770, 60 giga komut/s, 6 komut/işlem,) işlemci, yaklaşık çözüm süresi 3.2*10 12 yıl 60 peta komut/s işlemci olsa? 3.2*10 6 yıl n=100 zaten çok küçük, RSA: n= Sayfa 25 / 35 Sayfa 26 / 35 Hesaplama Karmaşıklığı -4 Örnek zor problemler Şifrelemede anahtar arama, n bit şifre, O(2 n ) zorluk Seyahat eden satıcı problemi (Traveling Salesman Problem): Aralarındaki mesafeler belli n tane şehri sadece bir kere ziyaret ederek minimum zamanda dolaşma, O(n!) zorluk RSA şifreleme tam sayıların asal çarpanlarının hesaplanması için polinom zamanlı bir çözüm bulunamasına bağlı Gerçek Dünya Problemi Konumuzla İlgisi Ne? Soyutlama (Abstraction) Matematik Model Analiz Konuyla İlgili Bilim Dalları Nörobilim, hesaplanabilir nörobilim Nöropsikoloji Kognitif bilimler (kognitif nörobilim, psikoloji) Bilgisayar bilimleri, yapay zeka, dilbilim, vb Sayfa 27 / 35 Sayfa 28 / 35 Matematik Modeller Alt Seviye Modeller Alt Seviye Modeller Akson ve tek hücre olarak nöron Orta Seviye Modeller Dinamik ve adaptif sistemler olarak nöron ağları Üst Seviye Modeller Sinir sistemi, beyin, beyin bölgeleri/katmanları, davranış, mental fonksiyonlar Tek hücre olarak nöron ve bağlantıları McCullogh & Pitts nöron modeli, 1943 (neuron as a binary discrete time element) Hodgkin & Huxley, aksiyon potansiyel aktarımı ve akson modeli, 1952 W. Rall, dandrit bağlantıları geometrisinin nöron fonksiyonuna etkileri modeli, 1964 Devamlı zaman (continuous-time) nöron modelleri (leaky integrator models) Spiking nöron modelleri Sayfa 29 / 35 Sayfa 30 / 35 5

6 Orta Seviye Modeller Nöron ağları modelleri Dinamik sistemler olarak nöron ağları - deterministik/stokastik modeller - devamlı zaman modeller - devamsız zaman modeller (Hopfield Ağları) Adaptif sistemler olarak nöron ağları (öğrenme ve tanıma ağ modelleri) Üst Seviye Modeller Sinir sistemi, beyin, beyin bölgeleri ve katmanları, davranış ve mental fonksiyon modelleri Şema teori: Fonksiyonel tanım ve nöron ağı arasında ilişki, birbiriyle ilişkili olarak ve paralel çalışan fonksiyonel birimler Sayfa 31 / 35 Sayfa 32 / 35 Tüm Modellerde Ortak Hesaplanabilirlik Problemi Modellerde çok detay (fine resolution) : özellikle gerçeğe biraz yakın ölçeklerdeki modellerde (örneğin nöron başına bağlantı, nöron), analizde üstel zaman karmaşıklığı Modellerde az detay (coarse resolution) : Modellenen fonksiyona ve birime bağlı olarak hala üstel zaman karmaşıklığı Sonuçlar Bilgisayar/işlemci teknolojisinde çok ileri gittiğimizi zannediyoruz..! Bilgiyi/verileri, beyin fonksiyonlarına benzer bir şekilde modellemekten ve bilgisayarlarla işlemekten hala çok uzağız..! Üstel zaman karmaşıklığını yenebilmek için beyin benzeri paralel işleme kapasitesine yakın bir gelecekte ulaşmamız zor..! Sayfa 33 / 35 Sayfa 34 / 35 Bilgi ve İletişim İçin Prof. Dr. M. Ufuk Çağlayan Bilgisayar Mühendisliği Bölümü Boğaziçi Universitesi Bebek, İstanbul Tel : +90 (212) Faks: +90 (212) E-posta : caglayan@boun.edu.tr Web: Sayfa 35 / 35 6