LOJİSTİK REGRESYON VE CART ANALİZİ TEKNİKLERİYLE SOSYAL GÜVENLİK KURUMU İLAÇ PROVİZYON SİSTEMİ VERİLERİ ÜZERİNDE BİR UYGULAMA. Zeynep Burcu KIRAN

Transkript

1 LOJİSTİK REGRESYON VE CART ANALİZİ TEKNİKLERİYLE SOSYAL GÜVENLİK KURUMU İLAÇ PROVİZYON SİSTEMİ VERİLERİ ÜZERİNDE BİR UYGULAMA Zeynep Burcu KIRAN YÜKSEK LİSANS TEZİ İSTATİSTİK GAZİ ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ MAYIS 00 ANKARA

2 Zeynep Burcu KIRAN tarafından hazırlanan LOJİSTİK REGRESYON VE CART ANALİZİ TEKNİKLERİYLE SOSYAL GÜVENLİK KURUMU İLAÇ PROVİZYON SİSTEMİ VERİLERİ ÜZERİNDE BİR UYGULAMA adlı bu tezn Yüksek Lsans tez olarak uygun olduğunu onaylarım. Yrd. Doç. Dr. Necla GÜNDÜZ TEKİN Tez Danışmanı, İstatstk Anablm Dalı.. Bu çalışma, jürmz tarafından oy brlğ le İstatstk Anablm Dalında Yüksek Lsans tez olarak kabul edlmştr. Prof. Dr. Cevrye GENCER Endüstr Mühendslğ Anablm Dalı, G.Ü.. Yrd. Doç. Dr. Necla GÜNDÜZ TEKİN İstatstk Anablm Dalı, G.Ü. Prof. Dr. Semra ORAL ERBAŞ İstatstk Anablm Dalı, G.Ü.. Tarh: 4./ 05 / 00 Bu tez le G.Ü. Fen Blmler Ensttüsü Yönetm Kurulu Yüksek Lsans derecesn onamıştır. Prof. Dr. Blal TOKLU Fen Blmler Ensttüsü Müdürü.

3 v TEZ BİLDİRİMİ Tez çndek bütün blglern etk davranış ve akademk kurallar çerçevesnde elde edlerek sunulduğunu, ayrıca tez yazım kurallarına uygun olarak hazırlanan bu çalışmada bana at olmayan her türlü fade ve blgnn kaynağına eksksz atıf yapıldığını bldrrm. Zeynep Burcu KIRAN

4 v LOJİSTİK REGRESYON VE CART ANALİZİ TEKNİKLERİYLE SOSYAL GÜVENLİK KURUMU İLAÇ PROVİZYON SİSTEMİ VERİLERİ ÜZERİNDE BİR UYGULAMA (Yüksek Lsans Tez) Zeynep Burcu KIRAN GAZİ ÜNİVERSİTESİ FEN BİLİMLERİ ENSTİTÜSÜ Mayıs 00 ÖZET Ver madenclğ teknkler çersnde en yaygın kullanıma sahp olan yöntemlerden br tanes sınıflama ve regresyon modellerdr. Bu çalışmada ver madenclğ metotları çersnde, sınıflama ve regresyon modellernden en çok kullanılan karar ağacı algortmalarından br olan sınıflama ve regresyon ağaçları (CART) algortması le lojstk regresyonun sınıflama özellklernn karşılaştırılması amaçlanmaktadır. Bu kapsamda yılları arası Sosyal Güvenlk Kurumu laç provzyon sstemnden alınan solunum sstem hastalıklarında reçeteye yazılan antbyotkler çersnden, pensln gurubu antbyotk kullanan hastaların profln belrlemek amacıyla br uygulama yapılmış ve çalışmaya alınan ver set çn CART analznn lojstk regresyon analzne göre daha y br doğru sınıflandırma oranına sahp olduğu görülmüştür. Blm Kodu : Anahtar Kelmeler : Ver madenclğ, CART, Lojstk Regresyon Sayfa Aded : 94 Tez Yönetcs : Yrd. Doç. Dr. Necla GÜNDÜZ TEKİN

5 v AN APPLICATION ON PHARMACY PROVISION SYSTEM DATA OF SOCIAL SECURITY INSTITUTION BY LOGISTIC REGRESSION AND CART ANALYSIS TECHNICS (M.Sc.Thess) Zeynep Burcu KIRAN GAZİ UNIVERSITY INSTITUTE OF SCIENCE AND TECHNOLOGY May 00 ABSTRACT One of the most wdely used method of data-mnng techncs s classfcaton and regresson models. In ths study, t was amed at comparng the classfcaton features of logstc regresson, wth Classfcaton and Regresson Trees (CART) algorthm whch s one of the most wdely used decson tree algorthm n data mnng methods. In ths context, an applcaton are made wth the am of determnng patent profle usng penclln group of antbotcs n antbotcs fllng prescrpton for respratory system dseases wth the years of data ensurng from pharmacy provson system of Socal Securty Insttuton. For the data set ncluded, CART analyss was found to have a beter correct classfcaton rato than the logstc regresson analyss. Scence Code : Key Words : Data mnng, CART, Logstc regresson Page Number : 94 Advser : Assstant Prof. Dr Necla GÜNDÜZ TEKİN

6 v TEŞEKKÜR Çalışmalarım boyunca değerl yardım ve katkılarıyla ben yönlendren Hocam Yrd. Doç. Dr. Necla GÜNDÜZ TEKİN e, çalışmamda uygulama bölümü çn verler sağlayan ve analzler yapmamda yardımlarını esrgemeyen Sosyal Güvenlk Kurumu çalışanlarından Dr. Rasm KÖSELERLİ ye teşekkür ederm. Ayrıca aynı dönemde tez yazdığımız ve brbrmze destek olduğumuz arkadaşlarım Tuna GENÇ, Nadde YİĞİTELİ ve Vel AĞÖREN le yazım sürecnde ben teşvk eden Altuğ GÜNER e her koşulda yanımda oldukları çn teşekkür ederm. Bugüne kadar manev destekleryle hep yanımda olan canım aleme de teşekkürü borç blrm.

7 v İÇİNDEKİLER Sayfa ÖZET...v ABSTRACT...v TEŞEKKÜR...v İÇİNDEKİLER... v ÇİZELGELERİN LİSTESİ...x ŞEKİLLERİN LİSTESİ...x KISALTMALAR... x. GİRİŞ.... VERİ MADENCİLİĞİ Ver Madenclğne Genel Br Bakış Ver Madenclğnn Uygulama Alanları Bankacılık ve sgortacılık Pazarlama Telekomünkasyon Endüstr ve mühendslk Sağlık ve laç Ver Madenclğ Modeller Sınıflama ve regresyon modeller Ver Madenclğnde Karar Ağaçları Karar ağaçlarında kullanılan bazı algortmalar LOJİSTİK REGRESYON ANALİZİ... 34

8 v Sayfa 3.. Lojstk Regresyon le Yapılmış Çalışmalar Doğrusal Model ve Lojstk Regresyon Arasındak İlşk Doğrusal Olasılık Model ve Lojstk Fonksyon Lojstk Regresyon Model ve Varsayımları Parametrelern Anlamlılık Testler ve Modeln Uyum İylğ Olablrlk oran test Wald ve score test Modeln uygunluğunun belrlenmesnde kullanılan dğer uyum ylğ testler Lojstk Regresyon Modelnn Katsayılarının Açıklanması UYGULAMA CART Analz Uygulaması Lojstk Regresyon Analz Uygulaması CART ve Lojstk Regresyon Analzlernn Karşılaştırılması SONUÇ VE ÖNERİLER KAYNAKLAR ÖZGEÇMİŞ... 94

9 x ÇİZELGELERİN LİSTESİ Çzelge Sayfa Çzelge.. Eğtm verler Çzelge.. Ntelk değerlernn kl gruplandırıldığı eğtm vers 4 Çzelge.3. Her ntelk çn hesaplanan Gn ndeks değerler 6 Çzelge.4. (,7) satırları çıkarıldıktan sonra oluşturulan yen eğtm vers 7 Çzelge.5. Yen eğtm versnn gruplandırılmış hal Çzelge.6. Yen eğtm versnde her ntelk çn hesaplanan Gn ndeks değerler. 9 Çzelge.7. Üçüncü bölünme çn oluşturulan eğtm vers Çzelge 3.. Bağımsız değşken k sınıflı olduğunda lojstk modele lşkn değerler...54 Çzelge 4.. Hastaların pensln kullanma durumlarına göre dağılımı 63 Çzelge 4.. Hastaların tanı koduna göre dağılımı.63 Çzelge 4.3. Antbyotk kullanan hastaların hastane türüne göre dağılımı.. 64 Çzelge 4.4. Hastaların cnsyete göre dağılımı..64 Çzelge 4.5. Hastaların kullandığı lacın fyata göre dağılımı...64 Çzelge 4.6. Reçeteye yazılan pensln grubu antbyotklern en öneml belrleycler ve profller.69 Çzelge 4.7. CART analz sonucu elde edlen doğru sınıflandırma oranı tablosu..73 Çzelge 4.8. Test vers üzernden elde edlen doğru sınıflandırma oranı tablosu..74 Çzelge 4.9. Lojstk regresyon analz sonuçları.77

10 x Sayfa Çzelge 4.0. Modeln anlamlılığına lşkn test sonucu.79 Çzelge 4.. Lojstk regresyon analz sonucu elde edlen doğru sınıflandırma oranı tablosu...80 Çzelge 4.. Test vers üzernden elde edlen doğru sınıflandırma oranı tablosu...8 Çzelge 4.3. Lojstk regresyon model le olasılık tahmn...8 Çzelge 4.4. Analzler karşılaştırma krterler...83

11 x ŞEKİLLERİN LİSTESİ Şekl Sayfa Şekl.. Ver madenclğ modeller...8 Şekl.. Örnek karar ağacı..4 Şekl.3. Brnc bölünme sonucu oluşan karar ağacı...6 Şekl.4. İknc bölünme sonucunda karar ağacının görünümü..9 Şekl.5. Üçüncü bölünme sonucunda elde edlen karar ağacı..30 Şekl 3.. Lojstk fonksyon (S-Shape)...4 Şekl 4.. CART analz sonucu karar ağacı...67

12 x KISALTMALAR Bu çalışmada kullanılmış bazı kısaltmalar, açıklamaları le brlkte aşağıda sunulmuştur. Kısaltmalar Açıklama CART CHAID EKK MARS QUEST ÇGOHK Sınıflama ve Regresyon Ağaçları (Classfcaton and Regresson Trees) Otomatk K-Kare Etkleşm Belrleme (Ch-Squared Automatc Interacton Detector) En Küçük Kareler Çok Değşkenl Uyumlu Regresyon Uzanımları (Multvarate Adaptve Regresson Splnes) Hızlı, Yansız, Etkn İstatstksel Ağaç (Quck, Unbased, Effcent Statstcal Tree) Çapraz Geçerllk Ortalama Hata Karekökü

13

14 . GİRİŞ Blmsel çalışmalarda kullanılan verlern analznde dskrmnant, kümeleme ve lojstk regresyon analz gb sınıflama ve regresyon modeller sıklıkla kullanılmaktadır. Modellerde kullanılan karmaşık verlern sınıflandırılması, her ne kadar çok değşkenl statstksel analzlern öneml br bölümünü oluştursa da sağlık başta olmak üzere çeştl blm dallarında çok genş br kullanım alanına sahptr. Özellkle tıp ve byoloj alanında yapılan çalışmalarda, ver setler oldukça karmaşık br yapı teşkl etmektedr. Bu noktada ver madenclğ sağlık ve tıp alanındak büyük ver tabanlarından faydalı blgler ortaya çıkararak hem tıp hem de hzmet kaltesnn artırılması bakımından büyük katkılar sağlamaktadır. Genellkle araştırmalarda büyük ver kümelern sınıflandırarak öneml ver sınıflarını ortaya koyan veya gelecek ver eğlmlern tahmn etmede faydalanılan yöntemlerden ver madenclğ teknkler çersnde en yaygın kullanıma sahp olanlarından br tanes de sınıflama ve regresyon modellerdr. Bu modeller çersnden se sıklıkla terch edlen yöntemler lojstk regresyon, karar ağaçları ve yapay snr ağları gb teknklerdr. İstatstksel uygulamalarda sınıflama ve regresyon yöntemler, bağımlı ve bağımsız değşken arasındak lşky tanımlamaya yönelk ver analzlernn öneml br parçası olmaya başlamıştır. Uygulamada genellkle modelleme örneklernn en yaygın olanları bağımlı değşkennn sürekl olduğu doğrusal regresyon modeller olsa da, son yıllarda bağımlı değşkenn kategork olması halnde normallk varsayımının bozulması ve tpk doğrusal modeln uygulanamadığı durumlarda lojstk regresyon modelnn kullanımı standart br yöntem halne gelmştr []. Lojstk regresyon le en az değşkenn kullanılmasıyla en y uyuma sahp olacak bçmde bağımlı ve bağımsız değşkenler arasındak lşky tanımlayablen ve statstksel olarak kabul edleblr br model kurmak amaçlanmaktadır.

15 Bağımsız değşkenler çn herhang br varsayım olmaksızın kategork bağımlı değşken tahmn etmek çn sadece lojstk regresyon değl aynı zamanda karar ağaçları da kullanılmaktadır []. Çeştl şekllerde elde edlmş very analz ederek anlaşılır ve faydalı br yapıya dönüştürmey hedefleyen ver madenclğ metotlarından br olan karar ağaçları, kolay anlaşılır olması, görsel sunumunun ön planda olması gb nedenlerle sıklıkla terch edlmektedr. Bu çalışmada, ver madenclğ metotları çersnde sınıflama ve regresyon modellernden en çok kullanılan karar ağaçları le lojstk regresyonun sınıflama özellkler karşılaştırılarak gerçek br ver set üzernde uygulama yapılmış ve söz konusu k yöntemn başarısını göstermek amaçlanmıştır. Bu nedenle çalışmanın knc bölümünde, öncelkle ver madenclğ ve uygulama alanları hakkında genel blgler verlerek ver madenclğ modeller tanıtılmıştır. Sınıflama ve regresyon modellernden karar ağaçları ve karar ağaçlarında en çok kullanılan analzlern yapısı ve algortmaları genel olarak tanımlanmıştır. Üçüncü bölümde se, çalışmanın dğer konusu olan lojstk regresyon le lgl son yıllarda yapılan çalışmalar, doğrusal olasılık model ve lojstk fonksyonla brlkte lojstk regresyon model ve varsayımlarının neler olduğuna değnlmştr. Sınıflandırma analzlernn sıklıkla terch edlenlernden br olan ve brçok konuda uygulama alanı bulunan lojstk regresyonun parametrelernn anlamlılık testler ve modeln uyum ylğ de detaylı br şeklde ncelenmştr. Uygulamanın yapıldığı dördüncü bölümde, lojstk regresyon le karar ağacı algortmalarından en çok kullanılan Classfcaton and Regresson Trees (CART) algortmasının, Sosyal Güvenlk Kurumu laç provzyon sstemnden alınan solunum sstem hastalıkları çn yazılan antbyotk ver set üzernde,

16 3 pensln grubu antbyotklern analz yapılmış ve çalışma yapılan analzlern karşılaştırılmasının ve açıklanmasının yer verldğ beşnc bölüm olan sonuç ve önerler le sona erdrlmştr.

17 4. VERİ MADENCİLİĞİ.. Ver Madenclğne Genel Br Bakış Blşm teknolojlernde yaşanan hızlı gelşmeler ve blgsayarların blg saklama kapastelernn artmasıyla brlkte depolanan verler çok daha büyük boyutlara ulaşmaktadır. Yaşanan bu gelşmeler doğrultusunda blg mktarı hızla artarak karşımıza çıkmakta ve blg kaydı yapılan alanların sayısı da gderek artmaktadır. Dünyadak blg mktarının her 0 ayda br kye katlandığı tahmn edlmektedr [3]. Ver tabanı sstemlernn artan kullanımı ve sakladıkları ver mktarlarındak böylesne büyük artış organzasyonları elde toplanan bu verlerden nasıl faydalanılableceğ problem le karşı karşıya bırakmıştır [4]. Blgsayar sstemler le üretlen bu verler kend başına değerszdr çünkü tek başlarına herhang br anlam fade etmemektedr. Verler belrl br amaca yönelk olarak şlenerek blgye dönüştürüldüğünde br anlam fade etmeye başlamaktadır. Bu nedenle çok büyük ver yığınlarını blgye dönüştürerek anlamlı hale dönüştüren teknkler son yıllarda büyük önem kazanmıştır. 990 lı yılların başından tbaren kullanılmaya başlanan, büyük ver kümeler çnde saklı durumda bulunan ve şlenmemş blgy anlaşılablr ve yorumlanablr hale getren şlemlerden br ver madenclğdr. Malyetl ve zahmetl br süreç olan ver toplama yatırımlarından en yüksek faydayı sağlamak ver madenclğ le mümkündür [5]. Ver madenclğ br ver kümes çersnde keşfedlmemş örüntüler bulmayı hedefleyen teknkler bütününü fade etmektedr. Ver madenclğnn amacı, geçmş faalyetlern analzn göz önünde bulundurarak gelecektek davranışların tahmnne yönelk karar verme modeller yaratmaktır [6]. Ver madenclğne lşkn yapılan tanımlardan br tanes, verlerden daha önceden blnmeyen ve muhtemelen faydalı enformasyonun monoton olmayan br süreçte çıkartılması şlemdr [7]. Dğer br tanımlama se büyük

18 5 mktarlardak vernn çnden geleceğn tahmn edlmesnde yardımcı olacak anlamlı ve yararlı bağlantı ve kuralların blgsayar programları aracılığıyla aranması ve analzdr. Ayrıca Ver Madenclğ, çok büyük mktardak verlern çndek lşkler nceleyerek aralarındak bağlantıyı bulmaya yardımcı olan ver analz teknğdr [8]. Sınıflama problemler ve örüntü tanıma (pattern recognton) üzernde yoğunlaşan yapay zeka ve amacı yığın hakkında anlamlı blg elde etmek ve yorumlamak olan statstk blmndek gelşmeler ver madenclğnn temellern oluşturmaktadır. Benzer şeklde ver madenclğ; dsplnler arası doğasından dolayı ver tabanları, makne öğrenmes, blg toplama, görselleştrme, paralel ve dağıtık hesaplama ve optmzasyon gb brçok dsplnden etklenmektedr [9]... Ver Madenclğnn Uygulama Alanları Operasyonel kararların ötesnde, stratejk ve poltk karar verme süreçlernde öneml br yere sahp olan ver madenclğ günümüzde gerek kamuda gerekse özel sektörde karar verme sürecne htyaç duyulan brçok alanda kullanılmaktadır. İstatstk le olan yakın lşks, ver madenclğn tıp ve ekonom gb blm dalları çn de öneml kılmaktadır. Blgnn bu denl değerl olduğu çağımızda blgye ulaşmak çn katedlen yolda ver madenclğ oldukça öneml br safhadır. Ver madenclğ astronom, byoloj, bankacılık, fnans, pazarlama, sgorta, tıp ve brçok başka alanda başarılı br şeklde kullanılmaktadır. Ver madenclğnn yaygın olarak kullanıldığı alanlardan bazıları ana başlıklar halnde aşağıda özetlenmştr.

19 6... Bankacılık ve sgortacılık Kred kartı ve nternet üzernden yapılan şlemlerdek dolandırıcılıkların tesptnde, kred taleplernn değerlendrlmesnde, bell gruplara farklı çeşt hzmet sağlamak adına kred kartı harcamalarına göre müşter gruplarının belrlenmesnde, müşter kazanma ve mevcut müşterler elde tutma analzlernde, rsk yönetm ve rsk analznde, flas ve kaza sgortası gb yüksek meblağlı taleplerdek örüntülern ncelenmesyle sahtekarlıkların azaltılması, polçe fyatlarının ve yen polçe talep edecek müşterlern tahmn edlmesnde kullanılmaktadır.... Pazarlama Müşterlern satın alma örüntülernn belrlenmesnde, müşter lşkler yönetm ve müşter değerlendrmesnde, satış tahmnlernde, müşterlern hang malları brlkte satın alma eğlmnde olduğunu açıklayan pazar sepet analzlernde, mağaza yerleşm optmzasyonu ve çeştl pazarlama kampanyalarında kullanılmaktadır...3. Telekomünkasyon Hatların yoğunluk tahmnnde, müşter gruplarına göre cazp fyatlandırma programı gelştrme le kalte ve hzmet gelştrme analzlernde kullanılmaktadır...4. Endüstr ve mühendslk Lojstk, üretm süreçlernn optmzasyonu, kalte kontrol analzler ve amprk verler üzernde modeller kurularak blmsel ve teknk problemlern çözümlenmesnde kullanılablmektedr.

20 7..5. Sağlık ve laç İnsanların ortalama ömürlernn uzaması ve sağlık sektöründek gelşmeler berabernde bazı sorunları da getrmştr. Örneğn pek çok nsan kalp, astım ve dyabet gb kronk hastalıklarla yaşamak zorundadır. Bu gb hastalıkların hem tıbb yönden hem de hastane malyetler açısından ele alınarak doğru yönetlmes gerekmektedr. Blg sstemlernn klask yöntemlernn yetersz kaldığı bu analzlerde yardıma ver madenclğ teknkler yetşmektedr. Sağlık alanında yapılan brçok ver madenclğ araştırmasında elektronk tıbb kayıtlar ve dar şlem belgelerne at verler kullanılmaktadır. Söz konusu bu verler doğrultusunda yapılan ver madenclğ; tıbb teşhs ve tanı koymada, belrl br hastalığa sahp kşlern ortak özellklernn tahmn edlmesnde, uygun tedav sürecnn belrlenmesnde, hastane malyetlernn ve test sonuçlarının tahmn edlmesnde ve ürün gelştrmede kullanılmaktadır. Tıbbın öneml araştırma konularından br olan laçlar çn de, laç etkler analz, laç üretm ve gelştrlmes gb konularda da ver madenclğ teknklernden sıklıkla faydalanılmaktadır. İlaç alanında yapılan antpskotk laçların kalp kası hastalıkları üzerne etks, laç yan etklernn tanımlanması gb çeştl çalışmalar ver madenclğ uygulamalarına örnek olarak verleblr [0,]..3. Ver Madenclğ Modeller Ver Madenclğnde kullanılan modeller, temel olarak şekl. de görüldüğü üzere tahmn edc (predctve) ve tanımlayıcı (descrptve) olmak üzere k ana başlık altında ncelenmektedr [].

21 8 Şekl.. Ver madenclğ modeller Tahmn edc modellern amacı, verlerden hareket ederek br model gelştrmek ve kurulan bu model yardımıyla sonuçları blnmeyen ver kümelernn sonuç değerlern tahmn etmektr. Eğer tahmn edlecek değşken sürekl br değşkense tahmn problem regresyon, kategork br değşkense sınıflama problem olarak ntelendrlmektedr [3]. Tanımlayıcı modellerde se karar vermeye rehberlk etmede kullanılablecek mevcut verlerdek örüntülern tanımlanması sağlanmaktadır. Ver Madenclğ modeller fonksyonlarına göre se; Sınıflama (Classfcaton) ve Regresyon, Kümeleme (Clusterng), Brlktelk kuralları (Assocaton Rules)

22 9 şeklnde sınıflandırılmaktadır. Şekl. de gösterlen ver madenclğ modellernden sınıflama ve regresyon modeller tahmn edc, kümeleme, brlktelk kuralları ve ardışık zamanlı örüntüler se tanımlayıcı modellerdr [8]. Ver madenclğ teknkler çersnde en yaygın kullanıma sahp olan, büyük ver kümelern sınıflandırarak öneml ver sınıflarını ortaya koyan veya gelecek ver eğlmlern tahmn etmede faydalanılan yöntemlerden br tanes sınıflama ve regresyon modellerdr. Tezn konusuyla bağlantısından dolayı söz konusu bu modeller bölüm.3. de detaylı olarak anlatılacaktır. Ver madenclğnn en öneml alanlarından br olan kümeleme, nesneler brbrlerne olan benzerlklerne göre gruplara ayırmaktadır. Yan kümeleme modellernde amaç, küme üyelernn brbrlerne çok benzedğ ancak özellkler brbrlernden çok farklı olan kümelern bulunması ve ver tabanındak kayıtların bu farklı kümelere bölünmesdr. Böylece nesneler, örneklenen ktle özellklern y yansıtan etkl br temsl gücüne sahp olacaktır. Ver madenclğ araştırmalarında özel br uygulama alanı olan ve tcaret, mühendslk, fen ve sağlık sektörlernn çnde bulunduğu brçok alanda da uygulanan brlktelk kuralları; aynı şlem çnde çoğunlukla beraber görülen nesneler çeren kurallar olup büyük ver kümeler arasında brlktelk lşkler bulurlar. Bu anlamda brlktelk kuralı belrl türlerdek ver lşklern tanımlayan br modeldr. Herhang br ver tabanında brlktelk kurallarının tanımlanması ver tabanı blg keşf sürecnn lk adımıdır [3]. Çok sayıda vernn depolandığı br ver tabanı çnde nesneler arasında lk anda fark edlmeyen lşklern ortaya çıkartılması stratejk kararların alınmasına da yardımcı olablr. Genellkle satın alma eğlmlernn tanımlanmasında kullanılan brlktelk kuralları ver madenclğnde yaygın olarak pazar sepet çözümlemesnde kullanılmaktadır. Pazar sepet çözümlemesnde müşter le lgl ver

23 0 hareketlernden gelecekte müşternn nasıl br terch yapacağına dar sonuçlar tahmn edlmektedr. Ayrıca tıp, fnans ve farklı olayların brbrleryle lşkl olduğunun belrlenmes sonucunda değerl blg kazanımının söz konusu olduğu alanlarda da bu teknkler öneml br yere sahptr [4]..3.. Sınıflama ve regresyon modeller Sınıflama en çok blnen ver madenclğ teknklernden brsdr; resm, örüntü tanıma, hastalık tanıları, dolandırıcılık tespt, kalte kontrol çalışmaları ve pazarlama konuları sınıflama teknklernn sıklıkla kullanıldığı alanlardır. Sınıflama tahmn edc br model olup, havanın br sonrak gün nasıl olacağı veya br kutuda kaç tane mav top olduğunun tahmn edlmes br sınıflama şlemdr [3]. Matematksel olarak sınıflama; D = { t, t,..., t n} br ver tabanı ve her br t br kayıt (gözlem), C = C, C,..., C } se m adet sınıftan oluşan sınıflar kümesn temsl etmek üzere, { m f : D C ve her br t br sınıfa dahldr. Ayrıca her br Yan, C j ayrı br sınıftır ve her br sınıf kendsne at kayıtları çerr. C = { t / f ( t ) = C, n ve t D} olarak tanımlanmaktadır. j j, Ver madenclğ yöntemler çersnde en yaygın kullanıma sahp olan sınıflama ve regresyon modeller arasındak temel farklılık bağımlı değşkenn kategork veya sürekllk gösteren br değere sahp olmasıdır. Daha önce de bahsedldğ gb, eğer bağımlı değşken sürekl se problem regresyon

24 problem, değl se problem sınıflama problem olarak adlandırılır. Ancak bölüm 3 de ayrıntılı anlatılacak olan lojstk regresyon gb kategork değerlern de tahmn edlmesne mkan veren teknklerle, her k model gderek brbrne yaklaşmakta ve bunun br sonucu olarak aynı teknklerden yararlanılması mümkün olmaktadır. Sınıflama ve regresyon modellernde kullanılan başlıca teknkler; Yapay snr ağları (Artfcal Neural Networks), Karar ağaçları (Decson Trees), Lojstk regresyon (Logstc Regresson), Genetk algortmalar (Genetc Algorthms), K-en yakın komşu (K-Nearest Neghbor), Bellek temell nedenleme (Memory Based Reasonng), Naïve-Bayes, Bulanık Küme Yaklaşımı (Fuzzy Set Approach) dır. Çalışmanın kapsamında yukarıda sayılan söz konusu teknklerden sadece karar ağaçları ve lojstk regresyon üzernde durulacaktır..4. Ver Madenclğnde Karar Ağaçları Sınıflama ve regresyon modellernn br yöntem olan karar ağaçları, kurulmasının ucuz olması, yorumlanmalarının kolay olması, vertabanı sstemler le kolayca entegre edleblmeler ve güvenlrlklernn y olması nedenler le sınıflama modeller çersnde en yaygın kullanıma sahp olup ağaç yapısı le kolay anlaşılablen kurallar yaratablen, blg teknolojler şlemler le kolay entegre olablen en popüler sınıflama teknğdr [5]. Karar ağaçları, bast karar verme adımları uygulanarak, çok sayıda kayıt çeren br ver kümesn çok küçük kayıt gruplarına bölmek çn kullanılan br yapıdır

25 [6]. Her başarılı bölme şlemyle, sonuç gruplarının üyeler br dğeryle çok daha benzer hale gelmektedr. Bu teknkte sınıflandırma çn br ağaç oluşturulur, daha sonra ver tabanındak her br kayıt bu ağaca uygulanır ve çıkan sonuca göre de bu kayıt sınıflandırılır. Karar ağaçları ver setnn çok karmaşık olduğu durumlarda ble, bağımlı değşken etkleyen değşkenler ve bu değşkenlern modeldek önemn bast br ağaç yapısı le görsel olarak sunablmektedr. Karar ağacı yöntemn kullanarak vernn sınıflanması temel olarak k adımdan oluşmaktadır. Brnc adım; önceden blnen br eğtm versnn model oluşturmak amacı le sınıflama algortması tarafından çözümlendğ öğrenme basamağıdır. Öğrenlen model, sınıflama kuralları veya karar ağacı olarak gösterlr. İknc adım se eğtm versnn sınıflama kurallarının veya karar ağacının doğruluğunu belrlemek amacıyla test edlerek kullanıldığı sınıflamadır. Eğer doğruluk kabul edleblr oranda se, kurallar yen verlern sınıflanması amacıyla kullanılır. Karar ağaçlarının kök, dallar ve yapraklardan oluşan ağaca benzeyen br yapısı olup, örnektek tüm gözlemler kapsayan br kök le başlayıp aşağıya doğru nldkçe very alt gruplara ayıran dallara ayrılırlar. Bu kökten dallara doğru büyüyen ağaç yapısında her boğum düğüm dür, oluşan ağaçlarda homojen olmayan düğümlere çocuk düğümü (chld node), homojen düğümlere se termnal düğüm (parent node) adı verlr [7]. Düğümler üzernde ntelklern test şlem yapılmakta ve test şlemnn sonucu ağacın ver kaybetmeden dallara ayrılmasına neden olmaktadır. Her düğümde test ve dallara ayrılma şlemler ardışık olarak gerçekleşmekte ve sonuç olarak ağaç sınıflar le son bulmaktadır. Karar ağacında, tanımlanmış olan soruya lşkn cevap gruplara ayrılmaktadır. Cevaplar soruya verlecek br ölçüt belrlendkten sonra setler arasındak rsk maksmze edecek şeklde bölünmekte ve en y bölünmey bulmak çn her

26 3 soruda aynı şlem tekrar edlmektedr. Br soru çn grup oluşturulduktan ve gruplar arasındak rsk maksmze edldkten sonra oluşan k grup çn bu şlemler devam ettrlmektedr. Bu şlemlere statstksel olarak anlamlı br fark bulunana kadar devam edlmekte, statstksel olarak anlamlı br fark bulunmadığında se son verlmektedr. Ayrıştırma şlem tamamlandıktan sonra se o grup çersnde yer alan gözlemlern oranına göre grup değerlendrlmektedr [8]. D = { t,..., t n } br ver tabanı olmak üzere, her t, t = { t... tn} den ve bu ver tabanı A, A,..., A } alanlarından oluşmaktadır. { n Bunun dışında C = C,..., C } kadar da sınıf verlmş olduğunda, { n Her br düğümü A alanıyla tanımlanmış, Her düğümden ayrılan kollar bu alanla lgl br soruya yanıt veren ve Her yaprağın br sınıf olduğu karar ağacı şekl. de gösterlmştr [3].

27 4 Şekl.. Örnek karar ağacı Şekl. de görülen karar ağacındak A, A,..., A den her br br düğümü oluşturmakta ve her düğüm kendnden sonra k dala ayrılmaktadır. Bu ayrılma şlem sürecnde, n A düğümü hakkında cevabı ver tabanında bulunacak br soru sorulmakta ve verlen yanıta göre de br dal zlenmektedr. Ağaçtak etmektedrler. C, C,..., C lern her br brer yaprağı aynı zamanda sınıfı temsl n Karar ağaçları oluşturulurken kullanılan algortmanın ne olduğu öneml br husustur. Kullanılan algortmaya göre ağacın şekl değşeblr. Bu durumda değşk ağaç yapıları da farklı sınıflandırma sonuçları verecektr. Kök denlen lk düğümü oluşturan A nn farklı olması, en uçtak yaprağa ulaşırken zlenecek yolu ve dolayısıyla sınıflandırmayı da değştrecektr [3].

28 5 Değşkenlern seçmnde ynelemel olan algortmanın döngüden çıkması çn o düğümdek tüm öğelern aynı sınıfa dahl olması şartı vardır. Eğer kalan değerler sadece br sınıfa atse veya sınıflandırılablecek değer kalmadıysa döngüsel algortma sonlanır ve karar ağacı oluşturulmuş olur. Sonuçta oluşan sınıflardak her br eleman aynı sınıfın dğer elemanları le benzer özellkler gösterr. Ağaç yapısı heterojen yapıdak ver kümesnn daha küçük ve homojen br yapıya dönüşmes çn kurallar tanımlar. Ağaç nşası sonunda elde edlen ağaç maksmum ağaç olarak adlandırılır ve öğrenme kümesndek deney üntelerne en uygun ağaçtır. Ancak maksmum ağaç pratkte k dezavantaja sahptr [9]. Maksmum ağaç başlangıç ver setn (öğrenme kümesn) kusursuz bçmde tanımlar çünkü eklenen her bağımsız değşken hatalı sınıflama oranını düşürür. Bu durumda, maksmum ağaç ver çn olması gerekenden daha y br tahmn model sunar. Ancak, başlangıç ver setne aşırı uyumlu maksmum ağaçlar farklı br ver set söz konusu olduğunda y br tahmn sağlayamazlar. Br sınıflama ağacının karmaşıklık ölçüsü o ağacın termnal düğüm sayısına eşttr. Termnal düğüm sayıları ve dolayısıyla karmaşıklığı yüksek olan maksmum ağacın anlaşılması ve yorumlanması güçtür. Maksmum ağacın pratkte ortaya çıkardığı bu sorunların çözümü çn maksmum ağacın budanması gerekldr. Maksmum ağacın budanması daha küçük ağaçlar dzs oluşturur ve oluşturulan bu dz çersnden optmum ağaç seçlr. Optmum ağaç maksmum ağaçtan daha az karmaşıklığa sahptr ancak öğrenme kümesne maksmum ağaçtan daha az uyumludur ve hatalı sınıflama oranı da daha yüksektr [9].

29 6 Karar ağacı temell analzlern yaygın olarak kullanıldığı alanlar ve bell başlı uygulamalar; Belrl br sınıfın olası üyes olacak elemanların belrlenmes (Segmentaton), Çeştl vakaların yüksek, orta, düşük rsk grupları gb bazı kategorlere ayrılması (Stratfcaton), Sadece belrl alt gruplara özgü olan lşklern tanımlanması, Kategorlern brleştrlmes ve sürekl değşkenlern keskl değşkenlere dönüştürülmes, Parametrk modellern kurulmasında kullanılmak üzere çok sayıdak değşkenden en önemllernn seçlmes, Gelecektek olayların tahmn edleblmes çn kurallar oluşturulmasıdır [8]. Breylern kred geçmşlern kullanarak kred kararlarının verlmes (Credt Scorng), Tıbb gözlem verlernden yararlanarak en etkn kararların verlmes, Geçmşte şletmeye en faydalı olan breylern özellklern kullanarak şe alma süreçlernn belrlenmes, Satışları etkleyen değşkenlern belrlenmes, Üretm verlernn ncelenmesyle ürün hatalarına yol açan değşkenlern belrlenmesdr [0]. Karar ağaçlarına dayalı olarak gelştrlen brçok algortma vardır. Bu algortmalar kök, düğüm ve dallanma krter seçmlernde zledkler yol

30 7 açısından brbrlernden ayrılırlar. Karar ağacı oluşturmak çn gelştrlen bu algortmalar arasında; CHAID (Ch-Squared Automatc Interacton Detector : Otomatk K-Kare Etkleşm Belrleme), CART (Classfcaton and Regresson Trees: Sınıflama ve Regresyon Ağaçları), MARS (Multvarate Adaptve Regresson Splnes: Çok Değşkenl Uyumlu Regresyon Uzanımları), QUEST (Quck, Unbased, Effcent Statstcal Tree: Hızlı, Yansız, Etkn İstatstksel Ağaç), SLIQ (Supervsed Learnng n Quest), SPRINT (Scalable Parallelzable Inducton of Decson Trees) ID3, C4.5 ve C5.0 yer almaktadır. Bu tezdek uygulamada CART algortması kullanılmış olup br sonrak bölümde ayrıntılı olarak anlatılmıştır..4.. Karar ağaçlarında kullanılan bazı algortmalar C4.5 algortması C4.5 algortması lk olarak 993 yılında Qunlan tarafından ortaya atılmıştır []. Verlern ynelemel olarak alt kümelere ayrılmasıyla br sınıflama karar ağacı oluşturulur. Karar ağacı oluşturulurken kayıp verler hesaba katılmaz

31 8 yan sadece verler eksk olmayan kayıtlar kullanılır. Algortma budama şlemler yapablmekte ve karar üretlmes gerçekleştreblmektedr. SLIQ algortması SLIQ algortması 996 yılında Uluslararası İş Maknaları Şrket (Internatonal Busness Machnes Corporaton) Almaden Araştırma merkeznde Mehta M. ve dğ. tarafından önerlmştr []. Algortma hem sayısal hem de kategork verlern sınıflandırılmasında kullanılablmektedr. Sayısal verlern değerlendrlmesnde malyet azaltmak çn ağacın oluşturulması sırasında önceden sıralama teknğ kullanılır. SLIQ algortmasında en y dallara ayırma krternn bulunmasında teknk; verlern sıralama şlemnn her düğümde yapılması yerne öğrenme verlernn sadece br kere, o da ağacın büyüme aşamasının başlangıcında yapılarak gerçekleştrlmesdr [3]. SPRINT algortması SPRINT algortması sınıf ve sıra (kayıt) numarasını tutan farklı br ntelk lstes yapısı kullanarak her br değşken çn ayrı br değşken lstes hazırlar. Dolayısıyla her tabloda kullanılacak olan değşken, sınıf ve sıra numarası bulunacağından ver tabanındak değşken sayısı kadar tablo oluşturmaktadır. Algortmada br lste bölümlendğnde lstedek kayıtların sıraları da yenden düzenlenmekte ve sürekl değerler taşıyan tablolar sürekl değşkene göre sıraya dzlrken, kategork değer taşıyan dğer tablolar sıra numarasına göre sıralı olarak kalmaktadır. MARS algortması MARS algortması temel regresyon analzne dayanan, büyük ve karmaşık ver tabanlarına uygulanablen br yöntemdr. MARS çok boyutlu verlern çnde gzl kalmış karmaşık ver yapısını, en uygun ver dönüşümlern ve verlern karşılıklı etkleşmlern belrleyeblme avantajı bakımından regresyon

32 9 modellemesnde yen br yaklaşımdır. MARS algortmasıyla genş ver tabanları ve çok karmaşık ver yapıları çn regresyon modeller kolayca gelştrleblmektedr [3]. CART algortması ve CART le yapılan çalışmalar Blmsel çalışmalardan elde edlen verlern analznde sınıflama ve regresyon ağaçları, kümeleme, dskrmnant ve lojstk regresyon analzlern çeren sınıflama teknkler ve regresyon modeller sıklıkla kullanılmaktadır [4]. Ancak bu tür modellern gerektrdğ varsayımlar pek çok alanda statstksel analz mkanlarını kısıtlamaktadır. İncelenen ver set üzernde hçbr varsayım gerektrmemes nedenyle, sınıflama ve regresyon ağaçları (CART) bu tür parametrk teknklere karşı güçlü br alternatf olarak ortaya çıkmaktadır [9]. CART hem kategork hem de sürekl değşkenler kullanarak sınıflama ve regresyon problemlernn çözümünde karar ağaçlarını kullanan parametrk olmayan statstksel br metottur. Ele alınan bağımlı değşken kategork se yöntem sınıflama ağaçları (Classfcaton Tree), sürekl se regresyon ağaçları (Regresson Tree) olarak adlandırılmaktadır [5]. Bu yönüyle CART, hem çoklu regresyon analzn hem de bağımlı değşkenn kategork olduğu durumlarda kullanılan lojstk regresyon analzn kapsamaktadır. CART algortması 984 yılında Breman tarafından gelştrlmştr [6]. Deconnck ve dğerler (005), laçlar üzernde yaptıkları çalışmada CART algortmasını kullanarak mde ve bağırsaklarda emlm özellklerne göre laçları sınıflandırmıştır [5]. Benzer şeklde Temel G. ve dğerler (005), CART algortması yardımıyla mevcut verlern sınıflandırarak Restless Legs Syndrome (RLS) hastalarına tanı koymayı kolaylaştırmışlardır. Çalışmada Mersn Ünverstes Tıp Fakültes Nöroloj bölümünde 06 denek hasta üzernde yapılan anket çalışmasının sonuçları kullanılmış ve deneklern RLS

33 0 hastası olup olmama durumunu belrleyen değşkenler sınıflama ağaçları analz le tespt edlmştr [9]. Haughton ve Oulab (006), çalışmalarında doğrudan pazarlama modeln CHAID ve CART algortmaları le gerçekleştrmş, CART ve CHAID analzlernn sonuçlarını karşılaştırmıştır [7]. Lemon ve dğerler (003), halk sağlığı üzernde yaptıkları çalışmada, rskl grupta olan ve benzer özellkler gösteren hastaları sınıflandırmak çn CART le lojstk regresyon analzn kullanmış ve k analzn sonuçlarını karşılaştırmıştır [8]. Çamdevren ve dğerler (007), farklı doğum sonrası dönemlernde 447 kadının depresyon durumunu etkleyen sosyo-demografk rsk faktörlernn tespt edlmesnde CART ve lojstk regresyon analzlern kullanmıştır [9]. Türe ve dğerler (009), 500 meme kanserl hasta üzernde ynelemesz sağkalım süresn etkleyen rsk faktörlernn belrlenmesnde karar ağacı yöntemlernden CART, CHAID, QUEST, C4.5 ve ID3 le Kaplan-Meer analzn brlkte kullanmıştır [30]. Kayr ve Boysan (008), CART algortması yardımıyla yaptıkları çalışmalarında, Yüzüncü Yıl Ünverstes nden 437 öğrencye uygulanan sınırlılık şemaları envanter, genel öz yeterllk ölçeğ ve beck depresyon envanter kullanarak, sınırlılık algısının depresyon çn br blşsel yatkınlık faktörü olduğunu tespt etmştr [3]. Albayrak ve Akbulut (008), İstanbul Menkul Kıymetler Borsası (İMKB) sanay ve hzmet sektörlernde faalyet gösteren frmaların sermaye yapılarını etkleyen en öneml faktörler CART analz le araştırmıştır. Çalışmada seçlen 38 farklı fnansal göstergeden, şletmelern sermaye yapılarının en öneml belrleyclernn lkdte, varlık kullanım etknlğ ve şletme rsk olduğunu göstermştr [3]. Yapılan çalışmalarda kullanılan CART algortması, her aşamada lgl kümey kendnden daha homojen olan k alt kümeye ayırarak kl karar ağaçları oluşturan br yapıya sahptr. Dğer br fadeyle CART, k çocuk düğümü

34 oluşturup bütün bağımsız değşkenler kullanarak very alt gruplara ayırmak üzerne kurulmuştur. En y bağımsız değşken safsızlık (mpurty) ve değşm ölçülerndek (gn, twong, en küçük kareler sapması) değşkenlğ kullanarak seçlr. Burada amaç hedef değşkene lşkn mümkün olablen en homojen ver alt gruplarını üretmektr [33]. CART, sadece bağımlı değşken le bağımsız değşken arasındak lşknn yapısını araştırmakla kalmayıp, aynı zamanda bağımsız değşkenlern brbrler le olan etkleşmlern de ortaya koymaya çalışmaktadır. CART algortmasının, bağımsız değşkenlern bağımlı değşkenle lşksn değerlendrmede ve model çndek etkleşm yapısını çözümlemede öneml avantajları mevcuttur. CART ın sahp olduğu algortma, benzerlk gösteren değşkenlern aynı ağaç düğümünde toplanmasına dayalı olup, bütün oluşturduğu alt dalları bağımlı değşken olan kök düğüme bağlamayla son bulmaktadır [4]. CART analz genellkle 3 adımdan oluşmaktadır. Brnc adım ver setn tanımlayan maksmum ağacın oluşturulmasıdır. İknc adım; oluşturulan ağaçlar çersnden bağımlı değşkenle öneml lşks olan ağaçları seçmek çn yapılan budama şlem ve son adım se en uygun ağaç yapısının seçmdr [6]. Maksmum ağacın oluşturulması Maksmum ağaç, ağacın kökünde başlayan br kl bölme şlem kullanan yapıdır. Ağacın kökü, ver set çersndek her nesney çermekte ve her br sevyede kendne özgü k alt düğüm halnde bölünen br ana düğüm olarak düşünülmektedr. Sonrak adımda, her alt grup br ana grup olmaktadır. Her bölünme br alt gruptak tüm nesnelern benzer bağımlı değşken değerlerne sahp olacak şeklde seçlen br açıklayıcının değer le tanımlanmaktadır.

35 Sürekl değşkenlern bölünmes x nn seçlmş açıklayıcı değşken ve onun bölünme değer olan x < a j le fade edlmektedr. a j nn Br bölünme ve onun bölünme değer çn en uygun tanımlayıcıyı seçmek çn CART, çnde tüm tanımlayıcıların ve tüm bölünme değerlernn düşünüldüğü br algortma kullanmakta ve test koşulunun ne kadar y uygulandığını belrlemek çn ana düğümün safsızlık derecesn alt düğümlern safsızlık derecesyle karşılaştırmaktadır. Ana ve alt düğümlern safsızlıkları arasındak fark ne kadar büyükse test koşulu o kadar daha y olduğundan, ana düğüm ( t p ) ve alt düğümler ( t L ve t R ) arasındak safsızlık ölçüsünü en y azaltan bölünme seçlmektedr. Matematksel olarak bu durum aşağıdak gb fade edlmektedr: st (, ) = ( t) PLt ( ) PRt ( ) (.) p p p L R Burada safsızlığı, s aday bölünme değern ve PL le PR sırasıyla sağ ve soldak alt düğümlerdek nesnelern bölünmelern fade etmektedr. Bu eştlkte s, t ) değern maksmze edecek s değernn seçlmes ( p amaçlanmakta ve t p düğümünde bütün kayıtların katılımıyla hesaplanan bu değer, CART ağacında gelşme (mprovement) kavramı le fade edlmektedr. CART algortması ağacı gelştrrken s, t ) y maksmze eden br test p ( p ( p koşulu seçtğnden ve t ) bütün test koşulları çn aynı olduğundan, ( s, t p ) y maksmze etmek alt düğümlern safsızlık ölçülernn ağırlıklı ortalamalarını mnmze etmekle eşdeğer olmaktadır [5]. Her br düğümün her aşamada kye ayrıldığı CART algortmasında, her br bölünme noktasının belrlenmesnde Gn, Twong gb en y bölmey seçmek çn gelştrlen söz konusu safsızlık ölçütlernden Gn ndeks kullanılmaktadır.

36 3 Çzelge. de verlen İşe başvuru sırası, eğtm durumu, yaş, cnsyet ve şe kabul edlp edlmeme durumu sml 5 ntelkten oluşan br eğtm versnde, very daha küçük alt kümelere bölmek çn en y bölünmenn seçlmesnde kullanılan Gn ndeks aşağıdak gb hesaplanmaktadır [34]. Çzelge.. Eğtm verler İşe Başvuru Sırası Eğtm Durumu Yaş Cnsyet İşe Kabul Durumu Ortaokul Yaşlı Erkek Evet İlkokul Genç Erkek Hayır 3 Yüksekokul Orta Kadın Hayır 4 Ortaokul Orta Erkek Evet 5 İlkokul Orta Erkek Evet 6 Yüksekokul Yaşlı Kadın Evet 7 İlkokul Genç Kadın Hayır ) Her ntelk değerler kl olacak bçmde gruplanmakta ve bu şeklde elde edlen sol ve sağ bölünmelere karşılık gelen sınıf değerler gruplandırılmaktadır. ) Her br ntelkle lgl olarak sol ve sağ taraftak bölünmeler çn Gn sol ve Gn sağ değerler; k : Sınıfların sayısı, T : Br düğümdek örnekler, T sol : Sol düğümdek örneklern sayısı, T sağ : Sağ düğümdek örneklern sayısı, L : Sol düğümde kategorsndek örneklern sayısı,

37 4 R : Sağ düğümde kategorsndek örneklern sayısı olmak üzere; k L Gn = sol, (.) = Tsol Gn sağ k R =, (.3) = Tsağ şeklnde hesaplanmakta ve her j ntelğ çn, eğtm versndek satır sayısı n olmak üzere genel Gn ndeks değer se; ( T Gn + T Gn ) Gn j = sol sol sağ n sağ (.4) formülü le hesaplanmaktadır. Çzelge. e göre şe kabul durumu ntelğnde Evet sınıfına lşkn olarak eğtm durumu ntelğnn lkokul değernden br tane bulunmaktadır. Benzer şeklde ortaokul ve yüksekokul değerlernden se üç tane bulunmaktadır. Bu şeklde dğer değerler de hesaplanarak ntelk değerlernn kl gruplandırılması sonucunda çzelge. oluşmaktadır. Çzelge.. Ntelk değerlernn kl gruplandırıldığı eğtm vers İşe Kabul Durumu Eğtm Durumu Yaş Cnsyet İlkokul Ortaokul Yüksekokul Genç Orta Yaşlı Kadın Erkek Evet Hayır Ntelk değerlernn kl gruplandırılmasından sonra Gn ndeks değerler se aşağıdak gb hesaplanmaktadır:

38 5 Eğtm Durumu çn: 0, = + = sol Gn 0, = + = sağ Gn 0, , ,444 3 = + = egtm Gn Yaş çn: 0 0 = + = sol Gn 0, = + = sağ Gn 0,9 7 0, = + = yaş Gn Cnsyet çn: 0, = + = sol Gn 0, = + = sağ Gn

39 6 Gn cnsyet 3 0, ,375 = = 0, ) Son olarak her j ntelğ çn hesaplanan Gn j değerler arasından en küçük olanı seçlmekte ve bölünme bu ntelk üzernden gerçekleştrlmektedr. Çzelge.3. Her ntelk çn hesaplanan Gn ndeks değerler İşe Kabul Durumu Gn sol, sağ Eğtm Durumu Yaş Cnsyet Ortaokul Orta İlkokul Genç Kadın Erkek Yüksekokul Yaşlı Gn 0,444 0, ,3 0,444 0,375 Gn j 0,405 0,9 0,405 Yukarıdak çzelgede hesaplanan değerler göz önüne alındığında Gn yaş = 0,9 değernn Gn j değerler çnde en küçüğü olduğu anlaşılmaktadır. Bu durumda kök düğümünden tbaren bölünme Yaş=Genç ve Yaş={Orta, Yaşlı} bçmnde olacaktır. Bölünmey elde etmek çn çzelge. üzernde yaşa lşkn değerler aranarak, bölünme Yaş=Genç olan (,7) satırları ve ger kalan (,3,4,5,6) satırlarından oluşacak ve bölünme şekl.3 de gösterldğ gb olacaktır. Kök Düğüm (Kayıtlar:,,3,4,5,6,7) Yaş=Genç Yaş={Orta, Yaşlı} Hayır (Kayıtlar:,7) A düğümü (Kayıtlar:,3,4,5,6) Şekl.3. Brnc bölünme sonucu oluşan karar ağacı

40 7 Brnc bölünme sonucu oluşan ağaç yapısından sonra yukarıda üç madde halnde sayılan adımlar tekrarlanmakta ve knc bölünmenn hang ntelğe göre olacağı belrlenmektedr. Bunun çn öncelkle eğtm versnden (,7) satırları çıkarılmakta ve hesaplamalar yen oluşturulan çzelge.4 e ve eğtm versnn gruplandırılmış hal olan çzelge.5 e göre tekrarlanmaktadır. Çzelge.4. (,7) satırları çıkarıldıktan sonra oluşturulan yen eğtm vers İşe Başvuru Sırası Eğtm Durumu Yaş Cnsyet İşe Kabul Durumu Ortaokul Yaşlı Erkek Evet 3 Yüksekokul Orta Kadın Hayır 4 Ortaokul Orta Erkek Evet 5 İlkokul Orta Erkek Evet 6 Yüksekokul Yaşlı Kadın Evet Çzelge.5. Yen eğtm versnn gruplandırılmış hal İşe Kabul Durumu İlkokul Eğtm Durumu Yaş Cnsyet Ortaokul Yüksekokul Orta Yaşlı Kadın Erkek Evet 3 3 Hayır Ntelk değerlernn kl gruplandırılmasından sonra yen bölünme çn Gn ndeks değerler se aşağıdak gb hesaplanmaktadır: Eğtm Durumu çn: Gn sol = 0 + = 0

41 8 0, = + = sağ Gn 0, , = + = egtm Gn Yaş çn: 0, = + = sol Gn 0 0 = + = sağ Gn 0, ,444 3 = + = yaş Gn Cnsyet çn: 0,500 = + = sol Gn = + = sağ Gn 0, ,500 = + = cnsyet Gn Çzelge.6 da gösterlmş olan hesaplanan bu yen j Gn değerler arasından en küçük olanı seçlmekte ve yen bölünme de en küçük değere sahp olan ntelk üzernden ynelenmektedr.

42 9 Çzelge.6. Yen eğtm versnde her ntelk çn hesaplanan Gn ndeks değerler İşe Kabul Durumu Gn sol, sağ Eğtm Durumu Yaş Cnsyet İlkokul Ortaokul Yüksekokul Orta Yaşlı Kadın Erkek Gn 0,00 0,375 0,444 0,00 0,500 0,00 Gn j 0,300 0,67 0,00 Yukarıdak çzelgede hesaplanan yen değerler göz önüne alındığında Gn cnsyet = 0,00 değernn Gn j değerler çnde en küçüğü olduğu anlaşılmaktadır. Bu durumda yen bölünme cnsyet ntelğnn kadın ve erkek değerlerne göre olacaktır. Bölünmey elde etmek çn çzelge. üzernde cnsyete lşkn değerler arandığında, bölünmenn (3,6) ve (,4,5) satırları bçmnde gerçekleşeceğ anlaşılmakta olup söz konusu bölünme şekl.4 de gösterldğ gb olacaktır. Şekl.4. İknc bölünme sonucunda karar ağacının görünümü Şekl.4 üzernde görüldüğü gb (,4,5) satırları Evet le sonlanmıştır. Bu durumda bu satırların da eğtm versnden çıkarılması sağlanarak çzelge

43 30.7 de sunulan üçüncü bölünme çn oluşturulan eğtm vers elde edlmektedr. Çzelge.7. Üçüncü bölünme çn oluşturulan eğtm vers İşe Başvuru Sırası Eğtm Durumu Yaş Cnsyet İşe Kabul Durumu 3 Yüksekokul Orta Kadın Hayır 6 Yüksekokul Yaşlı Kadın Evet Elde edlen son tablo k satırdan oluşmakta ve k ayrı sınıfı tanımlamaktadır. Bu durum sonucunda se şekl.5 de gösterlen karar ağacı elde edlmektedr [34]. Şekl.5. Üçüncü bölünme sonucunda elde edlen karar ağacı

44 3 Ağaç budama Maksmum ağaç genellkle aşırı öğrenme (overfttng) eğlm göstermektedr. Dğer modelleme teknklernde olduğu gb ağacın karmaşıklığı ve tahmn gücü arasında br orta yol bulmak çn budama şlem gerekmektedr. Budama şlem esnasında maksmum ağaçtan türetlen br ser daha küçük alt ağaçlar arka arkaya gelen uç dallardan elde edlmekte böylece farklı alt ağaçlar en uygun olanla karşılaştırılmaktadır. Bu karşılaştırma, hem ağaç doğruluğu hem de karmaşıklığın düşünüldüğü br malyet-karmaşıklık ölçüsü üzerne kurulmaktadır. Malyet-karmaşıklık parametres R α (T ) olmak üzere her br alt ağaç T çn aşağıdak gb tanımlanmaktadır: Rα ( T ) = R( T ) +α T (.5) R (T ) ortalama düğüm (node) ç kareler toplamı, T alt ağacın toplam düğüm sayısı olarak tanımlanan ağaç karmaşıklığı ve α her br lave termnal düğüm çn br ceza olan karmaşıklık parametresdr. Budama şlem sırasında α, derecel olarak 0 dan e doğru artmakta ve α nın her br değer çn R α (T ) mnmze eden ağaç seçlmektedr. α nın 0 a eşt olduğu değer çn R α (T ) maksmum ağaç tarafından mnmze edlmekte ve böylece derecel olarak artan br α le karmaşıklığı azalmış br ser ağaç elde edlmş olmaktadır [5]. y Optmum ağacın seçm Elde edlmş alt ağaçlar sersnden optmal olanı seçlmek zorundadır ve seçm şlem de tahmn hatasının değerlendrlmes üzerne kuruludur. Tahmn hatası se sıklıkla çapraz geçerllk test kullanarak değerlendrlmektedr. Çapraz geçerllk testnde pek çok sayıda nesne, ver setnden rastgele olarak çıkarılmakta ve ger kalan ver le uyumlu şeklde ağacın tahmn gücünü Ağaç çok büyük ve eğtm örneklerne at hata oranı düşük olduğu halde, test vers çn sınıflandırma hatası büyük se bu duruma aşırı öğrenme (overfttng) denr.

45 3 değerlendrmek çn br test grubu olarak kullanılmaktadır. Genellkle terch edlen test se 0 katlı çapraz geçerllk testdr. 0 katlı çapraz geçerllk test sırasında ver set her br bağımlı değşkenn benzer dağılımını çeren 0 alt gruba bölünmektedr. Böylece bu alt gruplardan br, dğer dokuz alt grupla uyumlu ağacın tahmn hatasını değerlendrmek çn kullanılmaktadır. Bu şlem her defasında br dğer alt grubu test grubu olarak kullanarak on defa tekrarlanmaktadır. En doğru ağaç, aşağıda Eş. (.6) le verlen çapraz geçerllk ortalama hata karekökü (ÇGOHK) olarak tanımlanan, ortalama en küçük çapraz geçerllk hatasına sahp olandır. ÇGOHK = n = ( y y ) n (.6) Eş..6 da yer alan y, nesnesnn bağımlı değşken değern, y, nesnes çn tahmn edlen bağımlı değşken değern ve n se toplam nesne sayısını göstermektedr. Bu durumda en doğru ağacın br standart hata sınırları çnde ÇGOHK le brlkte en az karmaşık olan optmum ağacı tespt ederek en doğru olan ağacın yan, tahmn hatasıyla karşılaştırılablr daha az karmaşık olan ağacın seçlmes amaçlanmaktadır [5]. CHAID algortması CHAID, CART algortmasına benzemektedr ancak CART kl ağaçlar türetrken CHAID çoklu ağaçlar türetmektedr. CHAID algortmasında kategork değşkenlere lşkn ver kümes, bağımlı değşken en y açıklayacak şeklde detaylı homojen alt gruplara bölünmektedr. Vernn bölümlere ayrılmasında se en uygun bölümler seçmek çn kullanılan

46 33 entropy ve gn gb ölçütler yerne K-Kare testne dayanan br ölçme teknğ kullanılmaktadır. CHAID hem sürekl hem de kategork değşkenler üzernde çalışablmes, ağaçta her düğümü kden fazla alt gruba ayırablmes gb nedenler dolayısıyla günümüzde de terch edlen br algortmadır. QUEST algortması Hızlı, yansız, etkn statstksel ağaç olarak blnen QUEST algortmasının CART algortmasında olduğu gb kl karar ağaçları oluşturmak üzerne kurulu br yapısı vardır. Algortmanın kl ağaç türetme neden; bölme, CART ta olduğu gb maksmum ağacı budama ve durdurma kuralları gb teknklere zn veren kl ağaçların kullanılmasıdır.

47 34 3. LOJİSTİK REGRESYON ANALİZİ 3.. Lojstk Regresyon le Yapılmış Çalışmalar Son yıllarda tıp, byoloj, tarım ve ekonom gb alanlarda kolay kullanımı ve yorumlanması nedenyle lojstk regresyon yaygın olarak kullanılan ve terch edlen br yöntem halne gelmştr. Lojstk regresyon modelnn kullanımına lşkn lk çalışmalar Berkson (944) tarafından yapılmış ve model Fnney (97) tarafından byolojk deneylerde probt analze br alternatf olarak önerlmştr [35]. Cox (970) lojstk modele lşkn çeştl uygulamalar yapmıştır, onu zleyen yıllarda Anderson (979, 983) tarafından gelşmeler verlmştr [36 37]. Daha sonra Lesaffre (986), Lesaffre ve Albert (989) n ncelemş olduğu çoklu grup lojstk modellerde etkn ve aykırı gözlemlerle belrleme ölçütler lojstk modeller üzerne yapılan dğer çalışmalar arasındadır [38]. Lojstk regresyon seyrek gerçekleşen olayların ortaya çıkmasını ya da bu olayların ortaya çıkma sıklıklarının olasılıklarını tahmn etmek çn de kullanılmaktadır [39]. Bu doğrultuda George Washngton Ünverstes nden Langche Zeng ve Harward Ünverstes nden Gary Kng (00) çok seyrek gerçekleşen olaylar karşısında lojstk regresyonun ve ver seçmnn nasıl uygulanması gerektğn açıklamaya çalışmışlardır [40]. Daha önce lojstk regresyon analzyle (Bergh, Bag, Mansson, Mattsson, & Marklund,007; Chen, Rosenheck, Greenberg, & Sebyl, 007) veya probt model le (Huberman, Iyengar, & Jang, 007) emekllk sstem üzerne de pek çok çalışma yapılmıştır [4]. Benzer şeklde Amerka da Robn Fsher ve Jennfer Campbell (00) tarafından sağlık sgortasıyla lgl olarak sgortası olmayanların yaş, cnsyet ve ekonomk durumlarına göre sınıflandırılmasında lojstk regresyon modelnden yararlanılmıştır. Avustralya da Jeromey Temple (00) tarafından Avustralyalı hane halkının yıllar tbaryle özel sağlık

48 35 sgortasına ekonomk, sağlık ve sosyal olarak geçş nedenler çoklu lojstk regresyon analzyle açıklanmıştır [4]. Harward Ünverstes nden Amtabh Chandra ve Dartmouth Kolej nden Andrew A. Samwck (005) Amerka dak malullük rskn ve malullük rsk sgortalarını ncelemş, bu çalışmada lojstk regresyon kullanarak malulen emekl olanları çalışablme sınırlarına, çalışamama durumlarına ve sağlık yardımı almak zorunda olmalarına göre sınıflandırmıştır [43]. 3.. Doğrusal Model ve Lojstk Regresyon Arasındak İlşk İstatstksel uygulamalarda araştırmacılar tarafından genellkle bağımsız değşkenlerle bağımlı değşken arasında lşk olup olmadığı analz edlmek stenr. Yapılan statstksel analz yöntemlernde, verlern yapısına göre en uygun yöntemn belrlenmes büyük önem arz etmektedr. Bağımlı değşken sürekl olduğunda, genellkle doğrusal regresyon model kullanılmaktadır. Doğrusal modellern öneml br varsayımı hata termlernn normal dağılıma sahp olmasıdır. Tpk doğrusal regresyon model: Y = Xβ + ε, (3.) bçmnde tanımlanmaktadır. Belrtlen doğrusal regresyon modelnde bağımsız değşkenlern keskl veya sürekl olmaları modeln tahmnnde kullanılacak yöntem ve bu yöntemle elde edlen parametre tahmnlernn özellklern etklemez. Bu nedenle modele grecek bağımsız değşkenler hem keskl hem de sürekl değşkenler olablrler. Buna karşın modeldek bağımlı değşkenn keskl br yapıya sahp olmasının etks büyüktür. Bağımlı değşkenn kategork olması durumunda normallk varsayımı bozulmakta ve tpk doğrusal model uygulanamamaktadır. Bağımlı değşken k değer aldığında model çeştl dağılımlara dayalı olarak doğrusal regresyon modelnden farklı bçmde tanımlanmaktadır. Bağımlı

49 36 değşkenn kategork değşken olması durumunda yaygın olarak kullanılan modellerden brs lojstk regresyon modeldr. Lojstk regresyon analzn, doğrusal regresyon analznden ayıran en belrgn özellk de lojstk regresyon analznde bağımlı değşkenn k ya da çok sınıflı olmasıdır. Lojstk regresyon ve doğrusal regresyon analz arasındak bu farklılık hem parametrk model seçmne hem de varsayımlara yansımaktadır []. Doğrusal regresyon analznde olduğu gb lojstk regresyon analznde de bazı değşken değerlerne dayanarak tahmn yapılmaya çalışılır. Fakat söz konusu bu k yöntem arasında temel olarak üç öneml fark mevcuttur. ) Doğrusal regresyon analznde tahmn edlecek bağımlı değşken sürekl ken lojstk regresyon analznde bağımlı değşken keskl (kategork) br değer almaktadır. ) Doğrusal regresyon analznde bağımlı değşkenn değer, lojstk regresyon analznde se bağımlı değşkenn alableceğ değerlerden brnn gerçekleşme olasılığı tahmn edlmektedr. 3) Doğrusal regresyon analznde bağımsız değşkenlern çoklu normal dağılım göstermes şartı aranırken lojstk regresyon analznde böyle br şart bulunmamaktadır [35] Doğrusal Olasılık Model ve Lojstk Fonksyon Regresyon analznde bağımlı değşkenn kategork olması bast doğrusal regresyon analznn bazı varsayımlarının yerne getrlememesne yol açmaktadır. Doğrusal olasılık model yardımıyla bu durum aşağıdak gb açıklanablr: