Açık Kaynak Kodlu Veri Madenciliği Yazılımlarının Bir Veri Seti Üzerinden Karşılaştırılması

Transkript

1 Açık Kaynak Kodlu Veri Madenciliği Yazılımlarının Bir Veri Seti Üzerinden Karşılaştırılması Yrd.Doç.Dr.Abdullah BAYKAL Dicle Üniversitesi Fen Fakültesi Matematik Bölümü Özet: Veri madenciliği, büyük miktardaki mevcut veri içinden anlamlı, potansiyel olarak kullanışlı, gelecekle ilgili tahmin yapılmasını sağlayan bağıntı ve kuralların bilgisayar programları kullanarak bulunmasıdır. Günümüzde bu konuyla ilgili ticari ya da açık kaynak kodlu bir çok program kullanılmaktadır. Bu çalışmada özellikle açık kaynak kodlu programlardan Weka, Orange, KNIME, RapidMiner ve Tanagra üzerinde 1728 kayıttan oluşan Araç Değerlendirme Veri Seti[1] üzerinde Kümeleme Analizi (Cluster Analysis) karşılaştırılmaları yapılmaktadır. Anahtar Kelimler: Veri Madenciliği, Kümeleme Analizi,Açık Kaynak Veri Madenciliği Araçları Comparison of Open Source Data Mining Software Tools Over a Data Set Abstract: Data mining is to find correlations and rules which ensure meaningful and potentially useful estimations to be carried out for future among vast amount of existing data through computer programs. Today, many commercial or open source software tools are used regarding this matter. In this study, Cluster Analysis comparisons were carried out over the car evaluation data set [1] consisting of 1728 registers especially on Weka, Orange, KNIME, RapidMiner and Tanagra as open source software tools. Keywords: Data Mining,Cluster Analysis, Open Source Data Mining Tools 1.Giriş Güney Kalifornia da bir üniversitede görev yapan bilim insanları 2011 yılında yaptıkları araştırmada insanlığın şimdiye dek da 295 exabayt bilgiyi depoladığı sonucuna ulaşmışlardır. Her 20 ayda bir, dünyadaki bilgi miktarının iki katına çıktığı tahmin edildiğine göre bilgi toplama ve toplanan bilgileri saklama olanaklarında büyük bir artış olmaktadır. Günümüzde, kredi kartı kullanımı, tıbbi test sonuçları, telefon konuşmaları, süper marketlerde bir kerede satın alınan ürünler gibi en basit hareketler bile bilgisayar ortamına kaydedilmektedir. Her geçen gün işletmeler ve devlet kurumları veri tabanı sistemine daha fazla yatırım yapmakta ve daha fazla oranda veriyi bu sistemlerde depolamaktadır. Bu büyük boyuttaki verilerden yararlanmak için, bu veriler üzerinde yöntem ve kurallar uygulanarak değerli bilginin keşfedilmesine gerek duyulmuştur. Veri madenciliği, büyük miktardaki mevcut veri içinden anlamlı, potansiyel olarak kullanışlı, gelecekle ilgili tahmin yapılmasını sağlayan bağıntı ve kuralların bilgisayar programları kullanarak bulunmasıdır. Birçok sektörde kullanımı giderek yaygınlaşan veri madenciliğinin uygulama alanlarından biri de süpermarketlerdeki müşteri, ürün ve satış bilgilerinden yararlanarak ilişki ve kuralların elde edildiği market sepet analizidir. Market sepet analizinde ürünlerin birbiriyle olan satış ilişkilerinin elde edilmesi ve veri madenciliği konularından biri olan birliktelik kurallarının çıkarılması, şirketlerin kârını arttırıcı etkenlerdir. Birliktelik kuralları, satış hareket verileri içinde birlikte hareket eden nesnelerin ve nesneler arasındaki bağıntıların keşfedilerek geleceğe yönelik tahminlerin üretilmesini sağlar. Bu kuralların elde edilebilmesi için 90 lı yılların basından itibaren birçok algoritma geliştirilmiştir. Bu algoritmaların birbirine göre farklı koşullar altında üstünlükleri ve farklı çalışma yöntemleri mevcuttur. Veritabanının taranması, birleştirme, budama yöntemlerinin uygulanması ve minimum destek değeri yardımı ile nesneler arasındaki birliktelik ilişkilerinin bulunması, algoritmaların genel mantığını teşkil eder. Veri Madenciliği konusunda çalışma yapabilmek için bu konuda geliştirilmiş programları kullanmak gerekir. Bu kapsamda, pek çok ticari ve açık kaynak program geliştirilmiştir. Ticari programların başlıcaları SAP Kxen, SPSS Clementine, SAS, Angoss, SQL Server, MATLAB, açık kaynak yazılımlarından ilk 5 ise Orange, RapidMiner, Weka,JHepWork, KNIME, Tanagra [2] şeklinde sıralanmaktadır. 2. Veri Madenciliği Süreçleri

2 Veri madenciliği işlemciliği bir çok aşamadan oluşmaktadır. Veri madenciliği süreçleri başlıca aşamaları aşağıda verilmiştir. Bunlar; 1) İlgi alanını anlama 2) Veri seçimi 3) Ayıklama ve Uygulama öncesi işlemler 4) Modelin Kurulması 5) Yorumlama 2.1. İlgi Alanını Anlama İlgi alanını anlama aşaması veri madenciliği uygulamalarının çalışma hedeflerini öğrenmenin yanında konuyla ilgili önceki bilgileri toplamayı da gerektirir. Veri madenciliği tekniklerinin gerekli ilgi alanı bilgisine sahip olmadan, anlamadan kullanılması çoğunlukla alakasız ya da anlamsız örneklerin bulunmasıyla sonuçlanır Veri Seçimi Veri seçimi aşaması kullanıcının bir veri tabanını hedeflemesini ya da bir alanın veya veri kayıtlarının alt başlıklarını seçmesini gerektirmektedir. Bu aşamada yeterli ilgi alanı bilgisine sahip olmak yararlı verilerin seçilmesine yardımcı olur. Bazen bir şirketin bünyesinde bütün gerekli veriler bulunmayabilir. Bu durumlarda veriler bir dış kaynaktan alınır Ayıklama ve Uygulama Öncesi İşlemler Bütün veri madenciliği işleminin en çok zaman alan aşaması bu aşamadır. Veriler hiçbir zaman ayıklanmış ve de veri madenciliği için uygun formda değildir. Kuruluşların veri tabanlarındaki tipik veri karışıklığı örnekleri arasında şunlar bulunmaktadır: Ayıklama Tekrarlama: Bu tür bir veri karışıklığı, bir kayıt örneğin bir veri tabanında bir çok kez görüldüğünde ortaya çıkar. Bu kredi kartı firmaları gibi müşterilerle şahsen ilgilenen firmaların veri tabanlarında görülen veri karışıklığı sorunlarından en yaygın olanıdır. Eksik Veri Alanları: Çok çeşitli nedenlerden ötürü bir veri tabanında eksik alanlar olabilir. Örneğin müşteri istenen bilgileri doldurmaktan sıkılmış olabilir ya da bir alana yanlış veri girişi yapılmasıyla o alanda veri giriş hatası oluşması nedeniyle de bir alan eksik kalabilir. Taşma: Taşma, aynı alandaki başka verilerden çok farklı olan bir alandaki veri değeridir. Buna örnek olarak bir kamu kuruluşundaki müşteriler için aylık enerji tüketimi alanını düşünün. Eğer bu alan tipik olarak KW aralığındaysa ve bizim bazı müşteriler için 10,000KW lık bir girişimiz varsa; bu durumda bu giriş taşma olarak nitelendirilir Uygulama Öncesi İşlemler Bu adımda kurulacak modele bağlı olarak veri seçimi yapılır. Örneğin tahmin edici bir model için bu adım, bağımlı ve bağımsız değişkenlerin ve modelde kullanılacak veri kümesinin seçilmesi anlamını taşımaktadır. Sıra numarası, kimlik numarası gibi anlamlı olmayan değişkenlerin modele girmemesi gerekmektedir. Çünkü bu tip değişkenler, diğer değişkenlerin modeldeki ağırlığının azalmasına ve veriye ulaşma zamanlarının uzamasına neden olabilmektedir. Bazı veri madenciliği algoritmaları konu ile ilgisi olmayan bu tip değişkenleri otomatik olarak elese de, pratikte bu işlemin kullanılan yazılıma bırakılmaması daha akılcı olacaktır. Örneğin; her bir müşterinin gerçek doğum tarihinin uygulama aşamasında gösterilmesi verimliliğe ters etki yapabilir. Bunun yerine müşterileri farklı yaş gruplarına ayırıp, gruplandırmak daha iyi olabilir Modelin Kurulması Modelin kurulması aşaması bütün veri madenciliği uygulamanın merkezidir diyebiliriz. Bu verilerdeki gizli örneklerin ve eğilimlerin açığa çıktığı aşamadır. Modelin kurulması aşamasıyla ilgili pek çok yaklaşım vardır. Bunlar birleştirme, sınıflandırma, kümeleme, sıra analizi ve görüntüleme bulunmaktadır. Bu yaklaşımlardan her biri istatistik veri analizi, bilgisayarla öğrenme, sinirsel çalışmalar ve model onaylama gibi birbiriyle rekabet eden çok çeşitli yöntemlerden biri kullanılarak uygulamaya geçirilebilir. Veri madenciliğinin çoğu zaman disiplinler arası bir alan olarak görülmesinin nedeni de çok çeşitli yöntemler kullanılıyor olmasıdır Yorumlama Veri madenciliği uygulamasının yorumlama aşaması kullanıcı tarafından daha önceki aşamalara geri dönülmesi gerekip gerekmediğini belirlemek için bulduklarının niteliğini ve değerini değerlendirmek amacıyla kullanılır. Bu aşamada bulunan örneklere bir değer yüklemek için konunun iyi anlaşılması çok önemlidir.

3 3. Örnek Veri Seti Aşağıdaki Tablo-1 de verildiği gibi örnek Araç değerlendirme veri seti 1728 kayıttan oluşmakta ve araba satın alma, bakım gideri, kapı sayısı, yolcu kapasitesi, bagaj genişliği ve araç güvenliği bir alanlardan oluşmaktadır. Araç Değerlendirme Veri Seti : Alan :6 Kayıt:1728 Class : unacc,acc,good,vgood (4 değer) Araç kabul durumu Alan Tür İçerik Bilgi Buying Ayrık vhigh,high,med,low Alım Fiyatı Maint Ayrık vhigh,high,med,low Bakım Fiyatı Doors Ayrık 2,3,4,5more Kapı sayısı Persons Ayrık 2, 4, more Taşıma Kapasitesi Luggage Ayrık Small, med, big Bagaj Kapasitesi Safety Ayrık Low, med, high Güvenlik Düzeyi Tablo 1. Araç Değerlendirme Veri Deseni Tablosu 4. Açık Kaynak Kodlu Veri Madenciliği Yazılımları 4.1 WEKA Waikato Üniveristesi tarafından java üzerinde açık kaynak kodlu olarak geliştirilen ve halen gelişimi devam eden Weka yazılımı veri sınıflandırma, kümelenme, ilişki kuralı oluşturma ve görüntüleme özelliklerine Sahiptir. Weka ismi, "Waikato Environment for Knowledge Analysis" kelimelerinin baş harflerinden oluşmuş bir yazılımdır. Weka, tamamen modüler bir tasarıma sahip olup, içerdiği özelliklerle veri kümeleri üzerinde görselleştirme, veri analizi, iş zekası uygulamaları, veri madenciliği gibi işlemler yapabilmektedir. Weka yazılımı, kendisine özgü olarak bir.arff uzantısı desteği ile gelmektedir. Ancak Weka yazılımının içerisinde CSV dosyalarını da ARFF formatına çevirmeye yarayan araçlar mevcuttur. [3] Herhangi bir text dosyasındaki verileri Weka ile işlemek olanaksızdır, Arff, Csv, C4.5 formatında bulunan dosyalar. Ayrıca Jdbc kullanılarak veritabanına bağlanıp burada da işlemler yapılabilir.[4] Veri Ön işleme (Data Pre-Processing) Görselleme (Visualization) Son olarak Weka Kütüphanesinde veri kümelerini içeren dosyalar üzerinde çalışan çok sayıda hazır fonksiyon bulunmaktadır Simple K-Means Uygulaması Weka K-Means uygulaması 4 sınıf oluşturması için çalıştırılmış, aşağıdaki Şekil 1 de göründüğü gibi değerler elde edilmiştir. Weka daki k-means işlemi ayrık değerlerle de çalışabildiği için orjinal ver seti üzerinde çalıştırılmıştır. Bunun için kayıtlar aşağıda gösterildiği gibi arff formatına çevrilerek Weka programına aktarılmış ve Şekil 1 deki sonuçlar bulunmuştur. ARFF formatındaki araba değerlendirme veri seti kayıt Buying Maint Doors Persons Luggage Safety Class {unacc,acc,good,vgood} Temel olarak aşağıdaki 3 Veri Madenciliği işlemi Weka ile yapılabilir: Şekil 1. Weka yazılımındaki K-Means sonuçları Sınıflandırma (Classification) Bölütleme (Clustering) İlişkilendirme (Association) Ayrıca yukarıdaki işlemlere ilave olarak, veri kümeleri üzerinde ön ve son işlemler yapılabilir

4 4.2 ORANGE ORANGE yazılımı Slovenya Ljubljana Üniversitesi Bilgisayar ve Enformatik Bilimleri bölümü yapay zeka araştırmaları ekibi tarafından geliştirilmiştir. Orange, C++ ve Python kullanılarak yazılan, grafiksel arayüz için ise Qt framework çapraz-platformu kullanan bir veri madenciliği ve makine öğrenmesi uygulamasıdır. Kullanıcı dostu güçlü ve esnek, veri önişleme, özellik skorlama ve filtreleme,modelleme, model değerlendirme ve keşif teknikleri gibi geniş kapsamlı bileşen seti içerir. Orange ; *.tab, *.txt, *.basket, *.names, *.csv, *.tsv, *.arff, *.xml, *.svm dosya türlerinden veri okuyabilmektedir. Orange yazılımında, K-means uygulaması Weka programında olduğu gibi ayrık veriler üzerinden çalışabildiğinden orijinal verileri içeren text dosyasından kayıtlar aktarılmıştır. Orange yazılımında Şekil 2 de verilen sonuçlar bulunmuştur formatta yazmaya yarayan Data Write bileşenine de sahiptir.k-means çalışmasında Knime programı ayrık verilerşe çalışmadığı için veriler sayısal değerlerle değiştirilerek aktarılmış ve Şekil 3 d verilen sonuçlar bulunmuştur. Şekil 3. Knime yazılımındaki K-Means sonuçları 4.4 Tanagra Şekil 2. Oranage yazılımındaki K-Means sonuçları Tanagra Veri analizi, istatistiksel ve makine öğrenme gibi bir çok veri madenciliği metotlarını sağlar. Tanagra, kümeleme, faktöriyel analiz, parametrik ve nanparametrik istatistik, birliktelik kuralı, özellik seçimi ve yapı algoritması gibi bazı denetlenmiş öğrenme, ayrıca diğer paradigmaları içerir. [7]. Tanagra *.txt, *.xls, *.arff ve *.dat uzantılı dosyalardan veri okuyabilmektedir. Tanagra yazılımı da Knme yazılımında olduğu gibi K-means uygulamasında ayrık veri kabul etmediğinden, Knime de uygulanan kullanılan veri dosyası kullanılmış ve Şekil 4 verilen değerler bulunmuştur. 4.3 KNIME Konstanz Üniversitesi görsel veri madenciliği araştırma grubu tarafından Eclipse Rich Client Platform üzerinde geliştirilmiştir.[5] Bu yazılımda sık kullanılan veri madenciliği yöntemlerinin tamamına yakını mevcuttur. Bunlar arasında Destek vektör makinaları, Bayes ve Multi dimensional Scaling (MDS) gibi yöntemler de bulunmaktadır. Knime *.txt., *.csv,*.arff dosyalarından veri okuyabilmekte ayrıca veritabanı sunuculardan SQL sorgulama ile veri alma işlemini ve veri madenciliği ve istatistik uygulamaları arasında veri transferine olanak sağlayan PMML (Predictive Model Markup Language) adlı XML tabanlı dilde veri okuma işlemini de desteklemektedir. Bu programda benzer programlarda bulunmayan okuduğu veri farklı bir Şekil 4. Tanagra yazılımındaki K-Means sonuçları

5 5. Sonuç Araç Değerlendirme veri seti üzerinde yapılan Weka, Orange, Knime ve Tanagra yazılımların K-Means uygulamasında 4 sınıfa ayrılmış aşağıdaki sonuçlar elde edilmiştir, Yazılım C-1 C-2 C-3 C-4 Weka Orange Knime Tanagra Kaynaklar [1] Internet : [2] Internet : [3] Internet: [4] Tekerek A, Veri Madenciliği Süreçleri ve Açık Kaynak Kodlu Veri Madenciliği Araçları Akademik Bilişim Konferansı 2011, İnönü Üniversitesi, Malatya [5] Bilgin T., Veri Akışı Diyagramları TabanlıI Veri Madenciliği Araçları Ve Yazılım Geliştirme Ortamları, Akademik Bilişim Konferansı 2009 Harran Üniversitesi, Şanlıurfa