Makine Öğrenmesi Teknikleriyle Parkinson Hastalığının Belirlenmesi

Transkript

1 Makine Öğrenmesi Teknikleriyle Parkinson Hastalığının Belirlenmesi Özal Bizal Yalova Üniversitesi, Mühendislik Fakültesi Bilgisayar Mühendisliği Bölümü, YALOVA Özet Parkinson hastalığı, hastanın yaşam kalitesini etkileyen, önemli sosyal, ekonomik etkileri bulunan, belirtileri kademeli olarak ortaya çıktığından dolayı erken teşhisi zor olan Alzheimer hastalığından sonra ikinci en çok yaygın görülen nörodejeneratif(beyin hücrelerinde kayıp) bir nörolojik bozukluktur. [1,2].Türkiye de yaklaşık 100 bin, tüm dünyada 10 milyon Parkinson hastası olduğu bilinmektedir. Her yıl yaklaşık 10 bin hastaya yeni teşhis konulmaktadır. Bu çalışmada Makine Öğrenmesi teknikleri kullanılarak Parkinson Hastalığı verileri üzerinde incelemeler yapılmış ve buna dayalı bulgular ortaya konulmuştur. 1. Giriş Parkinson Hastalığı (PH) ilerleyici bir hareket bozukluğudur. [3] İlk defa 1817 yılında James Parkinson tarafından tanımlanan PH,esas olarak nigrostriyatal dopaminerjik nöronların harabiyeti sonucu gelişmektedir. [4] Bu çalışmada Parkinson Hastalığını belirlemede üzerinde durulan dysphonia(ho, Iansek, Marigliani, Bradshaw, and Gates 1999),bir çeşit fonasyon bozukluğudur. Bir dysphonic kişi tam anlamıyla normal bir ses çıkaramaz. Sesi boğuk, kısık, sert, hırıltılı ve zor çıkar. Dysphonic belirtiler temel frekans salınımlarıyla ölçülerek Parkinson hastalarına ait seslerin akustik ölçümleri, hastaya zarar vermeden kolayca yapılabilmektedir. Literatürde, seslerin akustik ölçümüne ait pek çok değişik yöntemler önerilmiştir. Bunlar; hastanın sürdürülmüş hecelerinden temel frekanstaki kısa süreli düzensizlikler, jitter, shimmer gibi akustik ölçümlerin kullanılması [5], ses kısıklığının ölçümü için harmonik gürültü oranı parametresi kullanılması önerilmiştir [6]. Ayrıca Mel frekansı kepstrum katsayıları [7], doğrusal öngörü modelleme [8, 9], işitsel modelleme [10] ve kepstral tepe önem ölçümleri [11], sesin akustik ölçümlerinde kullanılmıştır. Son zamanlarda disfonik sesin şiddetini belirlemek için doğrusal olmayan dinamiklerden analiz yöntemleri türetilmiştir [12, 13]. Little ve ark., doğrusal olmayan dinamiklerin analizinin ses bozukluklarını belirlemede geçerli bir metot olarak önermektedir [14]. Ene [15], çalışmasında olasılıksal sinir ağını (PNN) Parkinson hastalığının teşhisinde sınıflandırıcı olarak kullanmıştır. Little ve ark. [16], SVM sınıflandırıcı ve süzgeç temelli ilişkisiz ölçme (STİÖ) ile öznitelikleri seçerek Parkinson hastalığı verisetindeki hasta ve normal kişileri sınıflandırmıştır. Sakar ve Kursun [17] çalışmalarında, BBDB doğrulama yöntemi ve karşılıklı bilgi temelli bir öznitelik seçme yöntemi (MRMR) ile seçilen öznitelikleri kullanmışlardır. Diğer bir çalışmada [18], bir sinir ağı temelli sınıflandırıcı (NN) Parkinson hastalarını ayırmak için kullanılmıştır ve % 92,9 doğru sınıflandırma başarımı elde edildiği rapor edilmiştir. Çağlar ve arkadaşları [19], dilsel kuvvetli adaptif sinir-bulanık sınıflayıcıyı (ANFC+LH), PHV örnekleri için uygulamıştır. Bu yöntem aynı zamanda veri setinden öznitelik seçimi için kullanılarak % test başarı oranı elde edilmiştir. Başka bir çalışmada Polat [20], bulanık c-ortalamalı (FCM) öznitelik ağırlıklandırma yöntemini

2 önermiştir. Yazar çalışmada ağırlıklandırılmış Parkinson hasta veri grubu için k-nn sınıflandırma algoritması kullanarak değişik k değerleri için % e varan başarı oranları elde etmiştir. Luukkka [21] ise benzerlik sınıflandırıcı (SC) ve bulanık entropi (FE) öznitelik seçme yöntemleri ile % başarı oranı elde etmiştir. Kihel ve Benyettou [22], yapay bağışıklık sistem uygulaması (AIS) ve klon öznitelik seçme için % başarıma ulaşmıştır. Daha önceki çalışmalarda öznitelik seçme ve sınıflandırma yöntemleri ile elde edilen sonuçlar bu çalışma sonuçları ile karşılaştırma amaçlı Tablo-1 de gösterilmiştir Tablo 1.Parkinson Hastalığı veri seti üzerinde farklı sınıflandırma yöntemleri ile elde edilen başarı oranları Yazar Sınıflandırıcı+Öznitelik seçme (Doğrulama) Ene[15] PNN (%70 eğitim, %30 test) Das [18] NN (%65 eğitim, %35 test) Çağlar ve ark. [19] Luukka [21] Sakar ve Kursun [17] Sakar ve Kursun [17] Little ve ark. [16] 2. Yöntemler ANFC+LH (%50 eğitim, %50 test) SC+FE (%50 eğitim, %50 test) Doğruluk SVM+MRMR (BBDB) SVM+MRMR (ÖTÖ) SVM+ STİÖ (ÖTÖ) Veri Seti Ve Kaynağı Bu çalışmada kullanılan Parkinson Hastalığı veri seti Max Little [16] tarafından konuşma sinyalleri kaydedilerek Oxford üniversitesi ve ulusal ses ve konuşma merkezi işbirliği ile oluşturulmuştur (Little et al. 2008).Bu veri seti 23 tanesi Parkinson hastalığı tanısı olan 31 kişiden oluşan 195 adet ses kaydından oluşmaktadır.veri setinde 195 örnekten oluşan 48 normal ve 147 Parkinson hastalığı durumu bulunmaktadır.tanı süresi 0 ile 28 yıl arasında değişirken deneklerin yaşları 46 ile 85 arasında değişmektedir. 2.2 Sınıflandırma Teknikleri Naive Bayes Naive Bayes sınıflandırma yönteminde, öznitelik vektörünü oluşturan özniteliklerin tamamının istatistiksel olarak bağımsız olduğu kabul edilir.[23] Naive Bayes sınıflandırıcı belirli bir sınıfa ait her bir örneğin olasılığını bulmak için Bayes istatistik ve Bayes teoremi kullanır. Varsayımların bağımsızlığı üzerine vurgu yapılması nedeniyle tecrübesiz,saf anlamına gelen Naive denilir. Naive Bayes sınıflandırıcı belirli bir sınıfa ait her örneğin o sınıfa ait olasılığını bulur.[24] Bayes ağları, rassal değişkenler kümesi üzerinde ortak olasılık dağılımının etkin ve etkili temsilini sağlayacak döngüsüz grafikler yönlendirmektedir. Grafikteki her köşe rastgele değişkeni temsil eder ve kenarları değişkenler arasındaki direkt korelasyonu temsil eder. Daha doğrusu, ağ aşağıdaki koşullu bağımsızlık ifadeleri kodlar: her bir değişken kendi ebeveynlerinin durumu verilen grafikte onun olmayan soyundan bağımsızdır. Bu bağımsızlıkların sayısını azaltmak, olasılık dağılımını karakterize etmek için ve gerekli parametrelerin verimli bir şekilde posterior olasılıkları hesaplamak için verilen kanıt buradadır (Friedman, Geiger, and Goldszmidt 1997). [25] K-En Yakın Komşuluk (KNN) KNN algoritması sorgu vektörünün en yakın k komşuluktaki vektör ile sınıflandırılmasının bir sonucu olan denetlemeli, oldukça basit bir öğrenme algoritmasıdır [27]. Buna göre; tanıma yapılacak öznitelik vektörüne en yakın k komşu bulunur. Daha sonra bu k komşu en fazla hangi sınıfa ait ise, o sınıf tanıma sonucu olarak atanır. K sayısını belirlemenin en pratik yolu k yı toplam eğitim örnekleri sayısının karekökünden daha az olarak seçmektir[28]. Yöntemin performansını k en yakın komşu sayısı, eşik değer, benzerlik ölçümü ve öğrenme kümesindeki normal davranışların yeterli sayıda olması kriterleri etkilemektedir. KNN algoritmaları büyük boyutlu öznitelik vektörlerinde etkin olmamakla [29], [30], [31]

3 birlikte düşük boyutlu öznitelik vektörleri ile etkin olabilmektedirler [32], [33] Destek Vektör Makineleri (SVM) Destek vektör makineleri çok çeşitli görevler için uygulanan son zamanların en yaygın sınıflandırıcılarından birisidir. Bu sınıflandırma yöntemi, hastalık teşhisi [16, 34], konuşmacı tanıma [35] ve yazılan sayıyı tanıma [36] gibi değişik alanlarda uygulanmıştır. SVM, Cortes ve Vapnik [36] tarafından önerilmiş olup yapısal risk minimizasyonu prensibini kullanmaktadır. Bu yöntemde, iki sınıf arasındaki birbirine en yakın örneklerin uzaklıkların maksimumlaştırıldığı yüksek bir düzlem araştırılır. Doğrusal olarak ayrılamayan veriler için, SVM yardımıyla giriş vektörü yüksek boyutlu bir uzaya doğrusal olmayan bir fonksiyon yardımıyla eşleştirilir. SVM eğitiminde ikinci dereceden bir optimizasyon problemi kullanılabilir [36]. SVM, öznitelik seçme işleminde de kullanmaktadır. Bir çeşit geriye doğru öznitelik eleme şekli olan SVM-RFE [37] öznitelik seçme yöntemi, gen seçimi [38] ve örüntü tanımada [39, 40] başarıyla uygulanmıştır. Bu yöntem performansı optimize eden öznitelik alt kümesi bulmak için şu şekilde uygulanır. İlk olarak tüm öznitelikler bir amaç fonksiyonuna bağlı olarak derecelendirilir ve en düşük skoru alan özellik veya özellikler öznitelik kümesinden çıkarılır [40, 41]. Bu işlem en yüksek sınıflandırma başarımı elde edilene kadar tekrar edilir Lojistik Regresyon Analizi (LRA) Bağımsız değişkenlerin bağımlı değişken üzerindeki etkisi çok değişkenli problem olarak tanımlanır. Bu problemlerin analizinde değişkenler arasındaki karmaşık ilişkilerin kullanılması için LRA ile matematiksel modelleme yapılır. Diğer modelleme yaklaşımlarını da kullanma olanağı vardır ancak hastalığın ikili olarak tespitinde, epidemiyolojik verilerin analizinde LRA oldukça popüler bir modelleme prosedürüdür[42]. Lojistik Regresyon Analizi ile istatistikte kullanılan diğer model yapılandırma teknikleri ile aynıdır. En az değişkeni kullanarak en iyi uyuma sahip olacak şekilde bağımlı ile bağımsız değişkenler arasındaki ilişkiyi tanımlayabilen ve biyolojik olarak kabul edilebilir bir model kurmaktır. Bağımlı değişken (yanıt değişkeni) 0 ve 1 gibi ikili değerler alıyorsa, bu ikili cevap değerleri ile bağımsız değişkenler arasındaki ilişkiyi araştırılırken lojistik regresyon kullanılır. Lojistik regresyon daha çok durum kontrolü çalışmalarında kullanılmaktadır. Özellikle tahmin edilmek istenen değişken iki durum alıyorsa yani başarılı-başarısız, hastasağlıklı, makine çalışır-çalışmaz, bu durumlarda lojistik regresyon modelleri kullanılmaktadır. Literatürde bu modellerin kullanıldığı pek çok çalışma mevcuttur. (Fırat ve Onay, 1999; Gujarati, 1999; Jalkanen ve Mattila, 2000; Kosmeli ve Vandal, 2003; Srivastava, 2005; Thomas vd., 2006) çalışmalarında, lojistik regresyonun farklı farklı alanlarda uygulamaları bulunmaktadır. Lojistik modelin biyolojik deneylerin analizi için kullanımı ilk olarak Berkson (1944) tarafından önerilmiş, Cox (1970) bu modeli gözden geçirerek çeşitli uygulamalarını yapmış, özet gelişmeler ise ilk Andersson (1979, 1983) tarafından verilmiş tir. Ayrıca verilerin lojistik modele uyumu ile ilgili birçok çalışmalar da yapılmıştır. Bunlar arasında Aranda-Ordaz (1981) ve Johnson(1985) tarafından yapılan çalışmalar en önemlileridir. Pregibon (1981) iki grup lojistik modelde etkin (influential), aykırı (outlier) gözlemleri ve belirleme ölçütlerini (diagnostic), Lesaffre (1986), Lesaffre ve Albert (1989) ise çoklu grup lojistik modellerde etkin ve aykırı gözlemlerle belirleme ölçütlerini incelemişlerdir Diskriminant Analiz Diskriminant Analizi, veri setindeki değişkenlerin iki veya daha fazla gerçek gruplara ayrılmasını belirlemek amacıyla yararlanılan bir yöntemdir. Diskriminant Analiz veri setini en az iki gruba ayırabilen danışmanlı bir sınıflandırma yöntemidir. Diskriminant Analiz ile elde edilen doğrusal bileşen ile p adet özellik ayrılır. Burada doğrusal bileşen elde edilirken gruplar arası kareler toplamının maksimum, gruplar içi kareler toplamının minimum olması amaçlanır [43]. Diskriminant analiz aracılığıyla elde edilen

4 ayrıştırıcı fonksiyonları, tahmin değişkenlerinin doğrusal bileşenlerinden oluşur. Diskriminant analiz, gruplar arası farklılığa etki eden tahmin değişkenlerinin hangileri olduğunu ortaya çıkarır. Gruplar arası farklılığa etki eden bu değişkenlere ayrıştırıcı değişkenler denir. Diskriminant analizinin bir diğer işlevi ise, gruplardan herhangi birisine ait olan fakat hangi gruptangeldiği bilinmeyen bir birimin ait olduğu grubu en az hata ile saptamaktır. Diskriminant analizi, değişken üzerindeki farklılıkların değişkenliklerin yoğunluk bölgelerinin belirlenmesini ve farklılaşmada etkili etkenlerin belirlenmesini sağlar. 3. Sonuçlar Bu çalışmada biyomedikal ses parametreleri kullanılarak Makine Öğrenmesi tekniklerini ile Parkinson hastalığı veri seti üzerinde testler yapılmıştır.parkinson hastalığının var/yok durumunun sınıflandırılması ve başarı oranlarının tespiti yapılmıştır. Çalışma Matlab ortamında yapılmış olup cross validation cvpartition fonksiyonu kullanılarak verinin %80 ı eğitim %20 si test için kullanılmıştır.22 öznitelik ve 1 adet etiket sütunu bulunmaktadır. Sınıflandırma Tipi Accuracy Mcc F-Score Naive Bayes KNN Diskriminant Analiz Lojistik Regresyon Analizi SVM Tablodan çıkan sonuçlara da bakacak olursak Knn diğer sınıflandırma tekniklerine göre bu veri seti üzerinde en başarılı sınıflandırıcı olmuştur. 4. Kaynaklar [1] Hilker, Ruediger, et al. "Nonlinear progression of Parkinson disease as determined by serial positron emission tomographic imaging of striatal fluorodopa F 18 activity." Archives of neurology 62.3 (2005): 378. [2] Jankovic, Joseph, and L. Giselle Aguilar. "Current approaches to the treatment of Parkinson s disease." Neuropsychiatric disease and treatment 4.4 (2008): 743. [3] Hilker, Ruediger, et al. "Nonlinear progression of Parkinson disease as determined by serial positron emission tomographic imaging of striatal fluorodopa F 18 activity." Archives of neurology 62.3 (2005): 378. [4] Jankovic, Joseph, and L. Giselle Aguilar. "Current approaches to the treatment of Parkinson s disease." Neuropsychiatric disease and treatment 4.4 (2008): 743. [5] Umapathy, Karthikeyan, et al. "Discrimination of pathological voices using a time-frequency approach." Biomedical Engineering, IEEE Transactions on 52.3 (2005): [6] Yumoto, Eiji, Wilbur J. Gould, and Thomas Baer. "Harmonics to noise ratio as an index of the degree of hoarseness." The Journal of the Acoustical Society of America 71 (1982): [7] Godino-Llorente, Juan Ignacio, and P. Gomez-Vilda. "Automatic detection of voice impairments by means of short-term cepstral parameters and neural network based detectors." Biomedical Engineering, IEEE Transactions on 51.2 (2004): [8] Umapathy, Karthikeyan, et al. "Discrimination of pathological voices using a time-frequency approach." Biomedical Engineering, IEEE Transactions on 52.3 (2005): [9] Eskenazi, Laurent, Donald G. Childers, and

5 Douglas M. Hicks. "Acoustic correlates of vocal quality." Journal of Speech, Language and Hearing Research 33.2 (1990): 298. [10] Shrivastav, Rahul. "The use of an auditory model in predicting perceptual ratings of breathy voice quality." Journal of Voice 17.4 (2003): [11] Balasubramanium, Radish Kumar, et al. "Cepstral analysis of voice in unilateral adductor vocal fold palsy." Journal of Voice 25.3 (2011): [12] Williams, G. P. "Chaos theory tamedtaylor & Francis." (1997). [13] Lee, Victoria S., et al. "Perturbation and nonlinear dynamic analysis of acoustic phonatory signal in Parkinsonian patients receiving deep brain stimulation." Journal of communication disorders 41.6 (2008): [14]Little, Max A., et al. "Exploiting nonlinear recurrence and fractal scaling properties for voice disorder detection." BioMedical Engineering OnLine 6.1 (2007): 23. [[15] Ene, Marius. "Neural network-based approach to discriminate healthy people from those with Parkinson's disease." Annals of the University of Craiova-Mathematics and Computer Science Series 35 (2008): [16] Little, Max A., et al. "Suitability of dysphonia measurements for telemonitoring of Parkinson's disease." Biomedical Engineering, IEEE Transactions on 56.4 (2009): [17] Sakar, C. Okan, and Olcay Kursun. "Telediagnosis of Parkinson s disease using measurements of dysphonia." Journal of medical systems 34.4 (2010): [18] Das, Resul. "A comparison of multiple classification methods for diagnosis of Parkinson disease." Expert Systems with Applications 37.2 (2010): [19] Caglar, Mehmet Fatih, Bayram Cetisli, and Inayet Burcu Toprak. "Automatic Recognition of Parkinson s Disease from Sustained Phonation Tests Using ANN and Adaptive Neuro-Fuzzy Classifier." Journal of Engineering Science and Design 1.2 (2010): [20] Polat, Kemal. "Classification of Parkinson's disease using feature weighting method on the basis of fuzzy C-means clustering." International Journal of Systems Science 43.4 (2012): [21] Luukka, Pasi. "Feature selection using fuzzy entropy measures with similarity classifier." Expert Systems with Applications 38.4 (2011): [22] Kihel, Badra Khellat, and Mohamed Benyettou. "Parkinson's Disease Recognition Using Artificial Immune System." JSEA 4.7 (2011): [23] S. Theodoridis and K. Koutroumbas, Pattern Recognition, Fourth Edition: Academic Press, Channel Coding and Modulation for Digital Terrestrial Television, [24] Bahrepour, Majid, et al. "Sensor fusionbased activity recognition for Parkinson patients." (2011): [25] Friedman, Nir, Dan Geiger, and Moises Goldszmidt. "Bayesian network classifiers." Machine learning (1997): [26] Bo Li, A Survey on Mobile WiMAX, IEEE Communications Magazine,70-75 December 2007 [27] Duda, Richard O., Peter E. Hart, and David G. Stork. Pattern classification. John Wiley & Sons, (2012). [28] Rosa, J. L. A. ve Ebecken N. F. F., Data Mining for Data Classification Based on the KNN-Fuzzy Method Supported by Genetic Algorithm, LectureNotes In Computer Scıence, issue: 2565, 2003, pp [29] Blankertz, Benjamin, et al. "Boosting bit rates and error detection for the classification of fast-paced motor commands based on single-trial EEG analysis." Neural Systems and Rehabilitation Engineering, IEEE Transactions on 11.2 (2003): [30] Blankertz, Benjamin, et al. "The noninvasive Berlin brain computer interface: fast

6 acquisition of effective performance in untrained subjects." NeuroImage37.2 (2007): [31] Schlögl, Alois, et al. "Characterization of four-class motor imagery EEG data for the BCI-competition 2005." Journal of neural engineering 2.4 (2005): L14. [32] Renard, Yann, et al. "OpenViBE: an open-source software platform to design, test, and use brain-computer interfaces in real and virtual environments."presence: teleoperators and virtual environments 19.1 (2010): [33] Borisoff, Jaimie F., et al. "Brain-computer interface design for asynchronous control applications: improvements to the LF-ASD asynchronous brain switch."biomedical Engineering, IEEE Transactions on 51.6 (2004): [34] Güven, Ayşegül, et al. "The effect of generalized discriminate analysis (GDA) to the classification of optic nerve disease from VEP signals." Computers in Biology and medicine 38.1(2008): [35] Campbell, William M., et al. "SVM based speaker verification using a GMM supervector kernel and NAP variability compensation." Acoustics, Speech and Signal Processing, ICASSP 2006 Proceedings IEEE International Conference on. Vol. 1. IEEE, [36] Cortes C., V. Vapnik, Mach. Learn. 20 pp , machines." Machine learning (2002): [38] Zhou, Xin, and David P. Tuck. "MSVM- RFE: extensions of SVM-RFE for multiclass gene selection on DNA microarray data." Bioinformatics 23.9 (2007): [39] Parimala, R., and R. Nallaswamy. "Classification of Spam Data Using SVM- RFE." Advances in Computational Sciences and Technology 3.1 (2010): [40] MASOTTI, Matteo. Exploring ranklets performances in mammographic mass classification using recursive feature elimination. In: Machine Learning for Signal Processing, Proceedings of the th IEEE Signal Processing Society Workshop on. IEEE, p [41] Youn, Eun Seog. Feature selection and discriminant analysis in data mining. Diss. University of Florida, [42] Kleinbaum, D.G., Klein, M., Logictic Regression A Self-Learning Text Third Edition, Springer New York Dordrecht Heidelberg, London, 4-6,18 (2010). [43] Alkan, Ahmet, and Mücahid Günay. "Identification of EMG signals using discriminant analysis and SVM classifier." Expert Systems with Applications 39.1 (2012): [37] Guyon, Isabelle, et al. "Gene selection for cancer classification using support vector