Naive Bayes Sınıflandırıcısı

Transkript

1 Naive Bayes Sınıflandırıcısı Basit haliyle bir sınıflandırma-kategorilendirme algoritmasıdır. İsmini 17.yy da yaşamış Thomas Bayes adında bir matematikçiden alır. Verilerin sınıflandırılmasından daha çok nasıl sınıflandırıldığı önemlidir bu algoritmada. En sade hali ile bir olayın herhangi bir kategoriye ait olmasinin olasılığını hesaplamada kullanilir. En önemli kuralı niteliklerin birbirinden bağımsız olduğudur çünkü nitelikler birbirini etkiliyorsa burada olasılık hesabı zordur.niteliklerinin hepsinin aynı derecede önemli olduğu kabul edilir. Sonucun çıkma olasılığı o sonuca etkiyen tüm niteliklerin olasılıklarının çarpımıdır. Koşullu Olasılık ve Naive Bayes Olasılık Gösterimi Naive Bayes teoremine girmeden önce koşullu olasılık kavramını anlamak gerekir. Koşullu olasılık ise daha önce olmuş bir olaya bakarak bir sonraki olayın gerçekleşme olasılığını bulur. Örneğin bir demokrat senatörün kadın olma olasılığını hesaplayalım. Bir senatör ya demokrat ya da cumhuriyetçi olabiliyor. Yani demokrat olma olasılığı 1/2. Bir insan da erkek veya kadın olabildiğine göre 1/2 olasılığımızda buradan gelir. Sonuçları çarptığımızda da cevabımız olan 1/4 ü elde etmiş oluruz. Naive Bayes için kullanacağımız formül ise P ( A B )= P ( B A ) x P(A) / P(B) yani B olayı gerçekleştiğinde A nın olma olasılığı demektir. Açıklamalı hali ise : (Kategorinin olma olasılığı * elimizdeki niteliklerin olma olasılığı) / küme sayısı). Naive Bayes in tam olarak nasıl kullanıldığına bir örnekle bakalım.

2 Günler Hava Durumu Sıcaklık Nem Oranı Rüzgar Şiddeti Tenis oynanıyor mu? 1.Gün Güneşli Sıcak Yüksek Zayıf Hayır 2.Gün Güneşli Sıcak Yüksek Güçlü Hayır 3.Gün Bulutlu Sıcak Yüksek Zayıf Evet 4.Gün Yağmurlu Ilık Yüksek Zayıf Evet 5.Gün Yağmurlu Soğuk Normal Zayıf Evet 6.Gün Yağmurlu Soğuk Normal Güçlü Hayır 7.Gün Bulutlu Soğuk Normal Güçlü Evet 8.Gün Güneşli Ilık Yüksek Zayıf Hayır 9.Gün Güneşli Soğuk Normal Zayıf Evet 10.Gün Yağmurlu Ilık Normal Zayıf Evet 11.Gün Güneşli Ilık Normal Güçlü Evet 12.Gün Bulutlu Ilık Yüksek Güçlü Evet 13.Gün Bulutlu Sıcak Normal Zayıf Evet 14.Gün Yağmurlu Ilık Yüksek Güçlü Hayır Bizden istenen koşullar şunlar : 15.günde ; Hava durumu : Güneşli Sıcaklık : Soğuk Nem : Yüksek Rüzgar : Güçlü Tenis oynanıyor mu : Evet İşlemleri yaparken her niteliğin kendi olasılık kümesinin büyüklüğüne bölündüğüne dikkat etmeliyiz. Önce toplam sayılarımızı yazalım. Toplam veri sayısı : 14 Toplam Evet sayısı : 9 Toplam Hayır sayısı : 5

3 Evet çıkma olasılığı P(y) = 9/14 x 2/9 x 3/9 x 3/9 x 3/9 = 0,0053 Hayır çıkma olasılığı P(n) = 5/14 x 3/5 x 1/5 x 4/5 x 3/5 = 0,0205 Yani tenis oynanmama olasılığı daha yüksek. Örneğin Weka Üzerinde Gösterimi Şekil 1. Datasetimiz

4

5

6

7 Ve sonucumuz karşımıza çıkıyor. Sıfır-Frekans (Zero Frequency) Nedir? Yani kayıtlarımız arasında 0 olsaydı? Burada Laplace Correction yöntemini kullanarak sorunu çözeriz. Her değere 0-1 arasında bir değer eklenerek bu sorun çözülüyor ve bu sorunun sonucuna pek etki etmeyecektir yani çok değiştirmeyecektir. Bununla ilgili Sadi Evren Şeker in videosunda bahsettiği kısmı buraya tıklayarak izleyebilirsiniz.

8 Naive Bayes günlük yaşantımızda nerelerde kullanılıyor? Makine öğrenmesindeki temel sınıflandırıcılardandır. Spam filtrelemede çoğunlukla kullanılır. Robotik çalışmalar,görüntü işleme,veri Madenciliği,Metin ayrıştırılması ve Ürün sınıflandırma gibi alanlarda kullanılır. Naive Bayes in Avantajları ve Dezavantajları Avantajları Nispeten de olsa kolay anlaşılabilir ve yapılandırılabilir. Küçük bir veri kümesiyle bile kolayca eğitilir yapıdadır. Rakiplerine göre hızlı çalışır. Dezavantajları Her niteliğin birbirinden bağımsız olduğunu kabul eder ama bu her durum karşısında geçerli değildir. Değişkenler arası ilişki gösterilemiyor. Referanslar : /naif-bayes-siniflandiricisi-naive-bayes/ oritmasi/ goritmas.html 7.

9 8. yazilimcorbasi.blogspot.com.tr/2012/02/naive-bayesclassifier.html 9. planation-of-naive-bayes-classification 10. Veri Madenciliği Yöntemleri by Dr. Yalçın Özkan sf bayes-classifier/ XUUnJQwxrZq/wiki/Naive_Bayes_sınıflandırıcı.html Soyut Sınıflar (Abstract Class) Nesne tabanlı programlamada sınıf hiyerarşisi oluşturulurken, bazen en tepede bulunan sınıf türünden nesneler programcılar için anlamlı olmayabilir. Hiyerarşinin en tepesinde bulunan sınıfın kendisinden türetilecek olan alt sınıflar için ortak bir arayüz (interface) görevi yapması istenebilir. Bunun için çözüm olarak oluşturulan metotlara ve sınıflara soyut metot (abstract method) ya da soyut sınıf (abstract class) denir. Soyut sınıflar büyük projelerde kullanılırlar ve kalıtım özelliğini kullanarak kod tekrarını azaltırlar. Soyut sınıflar diğer sınıflara taban olmak için kullanılırlar.önlerine abstract sözcüğü yazılarak soyutlaştırılırlar. Dikkat edilmesi gerekenler :

10 Soyut sınıflar abstract türünden nesneler tanımlamazlar. Soyut sınıflar içerilerinde soyut olmayan metotlar da barındırabilir ancak soyut metotlar sadece soyut sınıflar içerisinde bildirilebilir. Soyut metotlar türeyen sınıfta mutlaka bildirilmelidir. Soyut metotlar override edilmek zorundadırlar, aksi takdirde derleyici hatası alınır. Static metotlar soyut olarak tanımlanamazlar. Soyut sınıflar private olarak tanımlanamazlar ama public ve protected olarak tanımlanabilirler. Soyut sınıflar sealed anahtar sözcüğü ile ifade edilemezler. Soyut sınıflarda yapılandırıcılar(contructor),static metotlar soyut metot olamazlar ve bu sınıflardan nesne üretilemez. Java da soyut sınıf gösterimi abstract anahtar sözcüğü ile yabılmaktadır.extends kelimesiylede alt sınıfı super sınıfa bağlarız (inherit etmesini sağlarız).kullanımı şu şekildedir: [crayon-5ca633c2c1f /] Şimdi de örnek bir uygulama yazalım.oldukça basit bit bir örnek.şekill adında super soyut sınıfımız var ve alt sınıfları kare ve dikdörtgendir(istediğimiz kadar şekil ekleyebiliriz.).alt sınıfların ortak yaptıkları işlev alan hesaplamadır.bu nedenle alan metodumuzu soyut metot yapacağız. [crayon-5ca633c2c1f /] Şekil sınıfımızdan nesne oluşturamayız bu nedenle sekil adında instance yapıp buna Kare nesnesi atadık.böylece artık sekill instance artık Kare gibi davranacaktır ve alan metodu çağrıldığında Kare nin alanını hesaplayacaktır.dikdörtgen için de aynı şeyleri yaptık Program çıktısı ise : [crayon-5ca633c2c1f9d /] Yazar : Ahmet Burak Tektaş Kaynakçalar : inifabstract-class.html t-s%c4%b1n%c4%b1f-(abstract-class)

11 Alfasayısal İşlem Komutları Karakter ve karakter grupları(kelime,cümle,vb) üzerinde işlem yapan komutlardır. ALGORİTMA BASIC PASCAL C C++ C# JAVA UZUNLUK LEN Lenght strlen lenght Lenght lenght KOPYALA MID$ Copy copy Substring substring ASCIIKOD ASC Ord ASCIIKAR CHR$ Chr toascii toascii BÜYÜK UpCase toupper toupper ToUpper touppercase KÜÇÜK tolower tolower ToLower tolowercase SAYISAL (tamsayı) VAL Val atoi atoi Tolnt32 Int32.Parse parseint ALFASAYISAL STR$ Str itoa itoa ToString tostring (tamsayı) Seçkin YayıncılıkKAYNAK Algoritma Geliştirme ve programlamaya giriş Doç.Dr. Fahri VATANSEVER SEMA SERDAROĞLU

12 Yapay Zeka Teknolojisi Nedir? Çağdaş dünyada bilgisayarlar ve bilgisayar sistemleri yaşamın vazgeçilmez bir parçası haline gelmiştir. Elimizdeki cep telefonlarından, mutfaklardaki buzdolaplarına kadar birçok alet bilgisayar sistemi ile çalışmaktadır. İş dünyasından kamu işlerine, çevre ve sağlık organizasyonlarından askeri sistemlere kadar hemen hemen her alanda bilgisayarlardan faydalanmak olağan hale gelmiştir. Bunun aksini düşünmek bile teknolojinin nimetlerini hiçe saymak olarak görülmektedir. Teknolojinin gelişmesi izlendiğinde önceleri sadece elektronik veri transferi yapmak ve karmaşık hesaplamaları gerçekleştirmek üzere geliştirilen bilgisayarların zaman içerisinde büyük miktarlardaki verileri filtreleyerek özetleyebilen ve mevcut bilgileri kullanarak olaylar hakkında yorumlar yapabilen nitelikler kazandığı görülmektedir. Günümüzde ise bilgisayarlar hem olaylar hakkında karar verebilmekte hem de olaylar arasındaki ilişkileri öğrenebilmektedir. Matematiksel olarak formülasyonu kumlamayan ve çözülmesi mümkün olmayan problemler sezgisel yöntemler yolu ile bilgisayarlar tarafından çözülebilmektedir. Bilgisayarları bu özelliklerle donatan ve bu yeteneklerinin gelişmesini sağlayan çalışmalar yapay zeka çalışmaları olarak bilinmektedir. İlk defa 1950 li yıllarda ortaya atılan yapay zeka terimi zaman içinde oldukça yoğun ilgi görmüş ve yıllık bir zaman diliminde hayatın vazgeçilmez parçası olan sistemlerin doğmasına neden olmuştur. Bu sistemler hem araştırmacılar hem de ticari olarak satıcılar tarafından Zeki Sistemler olarak adlandırılmaktadır. Zeki sistemlerin geliştirilmesinde yapay zeka biliminin katkısı çok fazladır. Benzer şekilde de zeki sistemlerdeki gelişmeler de yapay zeka biliminde gelişmelere neden olmaktadır. Zeki sistemlerin en temel özellikleri olaylara ve problemlere çözümler üretirken veya çalışırken bilgiye dayalı olarak karar verebilme özelliklerinin olması ve eldeki bilgiler ile

13 olayları öğrenerek, sonraki olaylar hakkında kararlar verebilmeleridir. Yapay zeka bilimindeki gelişmeler bu sistemlerde çeşitlendirmeye neden olmaktadır. Bir taraftan donanım teknolojisi gelişmekte ve daha hızlı çalışabilen, daha çok bilgiyi saklayabi- len, daha karmaşık sistemleri ve fonksiyonları yerine getiren bilgisayarlar ve bilgisayar sistemleri oluşturulmakta iken diğer taraftan yazılım teknolojisi gelişmekte ve bilgi işleme yetenekleri, öğrenme, karar verebilme, problem çözme, muhakeme yapabilme yöntemleri ve bu yöntemlere dayalı yazılım sistemleri geliştirilmektedir. Bu gelişmeler ise zeki sistemlerin her geçen gün daha yaygın olarak bilinmesine ve gerçek hayatta insanların kullanımına alınmasına neden olmaktadır. Artık bilgisayarlar eskiden olduğu gibi sadece bilgi iletişiminin ve hesaplamaların otomasyonunu yapan sistemler olarak görülmemektedir. İnsan karar verme sürecine oldukça benzer bir karar verme sürecine kavuşmakta ve daha karmaşık fakat kullanışlı sistemler ortaya çıkmaktadır. Çalışmalar laboratuardan çıkmakta ve her geçen gün daha fazla ticari sistemler ortaya çıkmaktadır. İnsanlar olayları çözmek için her gün biraz daha zeki sistemler geliştirmek için yarışmaktadırlar. Bazı sistemler ise zeki olmadıkları halde işlemleri otomatik olarak gerçekleştirdiklerinden, zeki sistem diye tanıtılmakta ve pazarlanmaktadır. Bunlara otomasyon sistemleri demek daha doğru olur. Yeni çıkan zeki sistemler bu otomasyon sistemlerinin yerini almaktadır. Her geçen gün gerçek zeki sistemlerin sayısı artmakta ve zeki olmayan otomasyon sistemleri ortadan kalkmaktadır. Artık eskisi gibi otomasyon sistemlerine zeki sistemler denmemektedir. Sadece zeka ürünü olan fonksiyonları gerçekleştiren sistemler zeki sistemler olarak adlandırılmaktadır. Bu gelişmeler ve ticari sistemlerin başarılı şekilde uygulanması yapay zeka teknolojisinin gelişimine ilgileri daha çok çekmiş ve yapay zeka önceleri sadece bir ilgi odağı iken bugün artık bir bilim dalı haline gelmiştir. Günümüzde üniversitelerde yapay zeka bölümleri açılmıştır. Yapay zeka

14 mühendisleri (bilgi mühendisleri) yetiştirilmektedir. Yapay zeka bilimine genel bir bakış yapılırsa; Bu bilimin, bilginin organizasyonu, öğrenme, problem çözme, teorem ispatlama, bilimsel buluşların modellenmesi gibi bir çok konu ile ilgilendiği görülmektedir. Bu yetenekler ile donatılan bilgisayar sistemleri problemlere çözüm üretirken insanın problemleri çözme sürecini taklit etmektedir. Özellikle belirli bir algoritma veya formülasyon kullanılarak çözülemeyen problemlerin çözülmesi için yapay zeka sistemleri geliştirilmektedir. Problemin çözümünü sağlayan bir algoritma geliştirilmiş ise geleneksel bilgisayar sistemleri problemi çözmek için yeterli olmaktadır. Önemli olan problemin çözümünü veren bir formülün olmadığı durumlarda bilgisayarlara problemleri çözdürmektir. Yapay zeka bu görevi üstlenmiş bir bilim dalıdır. UML ile Nesneye Yönelik Modelleme Herşeyden önce UML(Unified Modeling Language) bir progralama dili değildir. UML daha çok Nesneye Dayalı Programlama için kullanabileceğimiz bir modelleme dilidir. Grady Blooch, James Rumbaugh ve Ivar Jacobson tarafından geliştirilmiştir. Yazılım teknolojisi geliştikçe yazılan programların karmaşıklığı ve zorluğu giderek artmaktadır. Yazılan programların karmaşıklığı arttığı için kod organizasyonu önem kazanmıştır. Bu sebeple üretilen modelleme ve analiz dili olan UML. Programlama aşamasında olabilecek sorunların en aza indirilmesini sağlamaktadır. UML yazılımların hem maliyetini hem etkisini hemde ömürünü artırır. UML ile dokümantasyonu yapılan bir programın sonradan düzenlenmesi daha kolay olur.

15 UML in faydalarından bahsedersek : Kodlama işlemini kolaylaştırır. Çünkü programdan ne beklediğimizi ve programlama ile neler yapacağımızı belirleriz. Programda beklenmedik mantıksal hataları (bug) minimuma indirgemiş oluruz. Tasarım aşaması düzgün yapıldıysa, programın daha kolay geliştirilebilmesi sağlanacaktır. Bellek kullanımının daha iyi belirlenmesini sağlar. Programın kararlılığını artırır. Ortak çalışılan projelerde programcıların iletişimini daha kolay hale getirir. UML 9 Diyagram Türünden Oluşur : Class Diagram: Sınıfları baz alarak yapılan diyagramdır. Object Diagram: Sınıfın yerine gerçek nesneler kullanılır. State Diagram: Nesnelerin zamanlara ayrılmış durumlarını gösteren diyagramdır. Sequence Diagram: Gerçek zamanlı sistemlerde zaman içinde değişen interaktiviteleri gösterir. Activity Diagram: Bir nesnenin durumunun değişim sırasını gösterir. Use Case Diagram: Programın davranışlarının kullanıcı gözüyle incelenmesidir. Collaboration Diagram: Bir sistemin bütün parçalarının birbirleriyle olan ilişkilerini gösterir. Component Diagram: Birden çok geliştiricinin birlikte çalıştığı projelerde program componentlere ayrılır. Bu tür projelerde bu diagram kullanılır. Deployment Diagram: Sistemin, bilgisayarlar arasındaki bağlantılar, programın kurulacağı makinalar ve sistemdeki aletler gibi fiziksel incelenmeleri yapılır. Nesne kavramında önemli olan özellikler vardır. Bunlar:

16 Kimlik(identity): Nesneyi unique olarak tanımlar ve onu diğer nesnelerden ayırır. Durum(state): Özellikler(fields veya attributes) ile belirtilir. Davranış(behavior): Metot, metot adı, aldıüı parametre türleri ve döndürdüğü tür ile tanımlanır. [crayon-5ca633c2c2b /] Sınıf kavramının önemli özellikleri : Alanlar(fields): Nesne özelliklerini tanımlayan değişkenler, adları ve türleri ile. Metotlar(methods): Metot adları, döndürdüğü tür, parametreleri, ve metotu gerçekleştiren program kodu. [crayon-5ca633c2c2b6e /] Erişim Belirleyicilerin Gösterimi Public: UML de + sembolü ile gösterilir. Protected: UML de # sembolü ile gösterilir. Package: UML de ~ sembolü ile gösterilir. Private: UML de sembolü ile gösterilir. UML de Nesne Gösterimi

17 UML de Paket Gösterimi Assocation (Sınıflar arası ilişki) Sınıflar arasındaki ilişkiyi göstermek için iki sınıf arasına düz bir çizgi çekilir. İlişkiyi gösteren çizginin üzerine ilişkinin türü yazılır. Bir İnsan sınıfı gerçek nesnesi olan Ali ile kitap sınıfı gerçek nesnesi olan UML kitabı arasında okuma ilişkisi vardı.kısaca şöyle deriz. Ali, UML kitabı okur. Bazı durumlarda sınıflar arasındaki ilişki, bir çizgiyle belirtebileceğimiz şekilde basit olmayabilir.bu durumda ilişki

18 sınıfları kullanılır.ilişki sınıfları bildigimiz sınıflarla aynıdır. Özellik ve işlev elemanları olabilir. Sınıflar arasındaki ilişki eğer bir sınıf türüyle belirleniyorsa UML ile gösterimi aşağıdaki şekildeki gibi yapılır. Şu ana kadar gördüğümüz ilişkiler bire bir ilişkilerdi.ilişkiler bire bir olmak zorunda değildir.bir sınıf, n tane başka bir sınıf ile ilişkiliyse buna bire çok ilişiki denir.mesela Yüzbaşı ile Er arasında bire yüz bir ilişki vardır. Diyagramda bunu gösterirken Yüzbaşı sınıfına 1 Er sınıfına ise 100 yazacağız. Gösterimi aşağıdaki gibidir: Kalıtım(Inheritance) Kalıtım UML de şu şekilde gösterilir:

19 İçerme (Aggregations) Bazı sınıflar birden fazla parçadan oluşur.bu tür özel ilişkiye Aggregation denir.mesela,bir TV yi ele alalım.bir televizyon çeşitli parçalardan oluşmuştur.ekran,uzaktan Kumanda,Devreler vs.. Bütün bu parçaları birer sınıf ile temsil edersek TV bir bütün olarak oluşturulduğunda parçalarını istediğimiz gibi ekleyebiliriz. Aggregation ilişkisini bütün parça yukarıda olacak şekilde ve bütün parça nın ucuna içi boş elmas yerleştirecek şekilde gösteririz. Örnek bir şekil aşağıdaki gibidir. Arayüz(Interface) Sınıf ile arayüz arasındaki ilişkiyi kesik çizgilerle ve çizginin ucunda boş üçgen olacak şekilde gösteririz. Sınıf ile arayüz arasındaki bu ilişkiye gerçekleme(realization) denir. Sınıfla, arayüz arasında UML gösterimi açısından fazla bir

20 fark yoktur.tek fark arayüzde özellik(attribute) yoktur.diğer bir fark ise arayüz adlarını yazarken adın üstüne <interface> yazısını eklemektir.aşağıda bir arayüz sınıf ilişkisi mevcuttur. Kapsülleme (Encapsulation) Şimdi ise kalıtım kullanarak hayvanları oluşturalım:

21 Böylece kalıtım olmadan: 9 dosya, 200 satır tutan kodun, Kalıtım Kullanarak: 13 dosya, 167 satır koda, %15 tasarruflu bir şekilde nasıl dönüştüğünü UML kullanarak daha iyi kavramış oluyoruz. Use Cases Diyagramları Sistem gereksinimleri UML Use Case (kullanım şekilleri) diagramları ile belirtilir. Yazılım geliştirme için gerekli değildir, fakat gereksinimler ve nesnel modeller arasında önemli bir bağlantıdır.

22 Ücretsiz bir UML programı için : ArgoUML Yazar: Hasan Alp ZENGİN Kaynaklar: sibelsomyurek.com/veritabani/11_uml.pptx univera-ng.blogspot.cz/2009/12/uml-ve-modelleme-bolum-4- class-snf.html slideshare.net/aselmanb/uml-ile-modelleme

23 Sabit (Static) Değişkenler: Sabit (Static) Değişkenler: Eğer fonksiyonun içinde bildirimini yaptığımız değişkenin değerinin, program çalıştığı sürece fonksiyon tekrar tekrar çalıştırıldığında değişmesini istemiyorsak sabit (static) değişkenler kullanmamız gerekir. DipNot: Program yazarken eğer yerel değişken tanımlamak mümkünse (işimizi) görüyorsa değişkenleri yerel tanımlamalıyız. Çünkü yerel değişkenler işi bittikten sonra atılır. Global değişkenler ise hep kalır. Sabitler Program çalışması süresince değişmeyecek olan değerlerin saklanması için kullanılırlar. const ile ifade edilirler. Örneğin, pi sayısı şöyle tanımlanır: double const pi = 3.14; Sabit olması nedeniyle tanımını const olarak yaptık. Program içerisinde pi değişkeninin değeri hiçbir şekilde değiştiremeyiz. DipNot: Eğer const (veri_tipi)(değişken_adi) şeklinde bir tanım yaparsak, bu defa da program içerisinde pi değişkeninin veri tipini değiştiremeyiz. const double pi = 3.14; Bu tanımlamada double veri tipini int yapamayız artık. Sabitler programın en başında main( ) fonksiyonunun önünde tanımlanır ve program içerisinde değiştirilmezler.sabitlerin tanımında # define indirektifi kullanılır. Örnek= #define True 1 #define False 0

24 #define Max 20 #define Harf a Bu örneklerde define direktifi kullanılarak programdaki sabitler tanımlanmıştır.bu tanımlamalardan sonra define Max 20 ifadesi 20 sayısını ifade edecektir.harf sabitide programın herhangi bir yerinde kullanıldığında a harfini ifade edecektir. İkinci bir tür sabit tanımlama şekli değişkenlerin tanımlandığı bölümde tanımlanan değişkene bir değer atamaktır. Örnek= int a=25; char cr= r ; Dairenin alanını hesaplayan programı yazınız örnek: #include using namespace std; int main(){ double coats pi=3.14; int r; cout<< "yaricapi girin:"<