Süleyma Demirel Üiversitesi Fe Bilimleri Estitüsü Dergisi Cilt 23, Özel Sayı, 76-83, 2019 Süleyma Demirel Uiversity Joural of Natural ad Applied Scieces Volume 23, Special Issue, 76-83, 2019 DOI: 10.19113/sdufebed.436178 Parçacık Sürü Optimizasyou Yötemi ile Sayım Modelleri içi E Uygu Değişke Kümesii Belirlemesi Haydar KOÇ 1, Tuba KOÇ *2, Emre DÜNDER 3 1,2 Çakırı Karateki Üiversitesi, Fe Fakültesi, İstatistik Bölümü, Çakırı 1 (ORCID: https://orcid.org/0000-0002-8568-4717) 2 (ORCID: https://orcid.org/0000-0001-5204-0846) 3 Odokuz Mayıs Üiversitesi, Fe-Edebiyat Fakültesi, İstatistik Bölümü, Samsu 3 (ORCID: https://orcid.org/0000-0003-0230-8968) (Alıış / Received: 25.06.2018, Kabul / Accepted: 29.01.2019, Olie Yayılama / Published Olie: 11.03.2019) Aahtar Kelimeler Değişke seçimi, Sayım modelleri, Sezgisel optimizasyo Özet: Birçok bilimsel çalışmada sayım verisi olarak adladırıla egatif olmaya tamsayı değerleri ala icel veriler kullaılmaktadır. İstatistiği e temel aaliz yötemleride biri ola regresyo aalizi kapsamıda da sayım verileri oldukça sık kullaılmaktadır. Bağımlı değişkei tamsayı ile ifade edilebildiği regresyo modelleri sayım modelleri olarak taımlaır. Bu çalışmada sayım modelleri kapsamıda model seçimi iceledi. Sayım modelleride model seçimi içi klasik seçim yötemleri ve PSO algoritması kullaıldı. Uygulamalar hem simülasyo hem de gerçek veriler üzeride yapıldı. Souç olarak klasik yötemlerle kıyasladığıda PSO algoritmasıı, modeldeki değişke sayısı arttıkça ve bağımsız değişkeler arasıdaki korelasyo değerleri yükseldikçe daha iyi souçlar verdiği ve sayım modelleri içi PSO algoritmasıı değişke seçimide alteratif bir yötem olarak kullaılabileceği gösterilmiştir. Determiatio of Best Variable Set for Cout Models by Particle Swarm Optimizatio Keywords Variable selectio, Cout models, Heuristic optimizatio Abstract: I most scietific studies quatitative data are used which take oegative iteger values, called cout data. Cout data are also used frequetly i the cotext of regressio aalysis, which is oe of the most basic aalysis methods of statistical aalysis. The regressio models i which the depedet variable ca be expressed by itegers are defied as cout models. I this study, the model selectio i the cotext of cout models was ivestigated by usig classical selectio methods ad PSO algorithm. Applicatios were made o both simulatio ad real data. As a result, it has bee show that PSO algorithm ca be used as a alterative method for PSO algorithm selectio for cout models whe the umber of model variables icreases ad the correlatio values betwee idepedet variables icreases as compared to classical methods. 1. Giriş Bilimsel çalışmalarda kullaıla icel verileri birçoğu belirli bir değer aralığı içeriside sürekli değerlere sahip değildir. Verileri bazıları uygulama alalarıa göre egatif olmaya tamsayılar ile ifade edilmektedir. Bu veriler sayım verileri olarak adladırılır. İstatistiği e temel aalizleride biri ola regresyo aalizi kapsamıda da sayım verileri kullaılmaktadır. Bağımlı değişkei tamsayı ile ifade edilebildiği regresyo modelleri sayım modelleri olarak taımlaır. Sayım modellerii tahmi gücü bağımsız değişkeleri modeli açıklayabilme gücüe bağlıdır. Bu amaçla farklı regresyo modelleride *İlgili yazar: tubakoc@karateki.edu.tr 76 olduğu gibi, e uygu değişke kümesi belirleerek regresyo modeli oluşturulmalıdır. Bağımsız değişkeler arasıda yüksek derecede ilişkii buluması, gereksiz değişkeleri modele dahil edilmesi gibi çeşitli hatalar regresyo modelii tahmi performasıı düşürmektedir. Regresyo modeli içeriside e uygu modeli seçimi içi değişke seçim algoritmaları uygulamaktadır. Değişke seçimi içi literatürde e sık kullaıla üç klasik yötem vardır. Bular; geriye doğru, ileriye doğru ve adımsal seçim tekikleridir. Acak bu tekikler birçok durumda iyi souçlar vermemektedir [1,2]. Değişke sayısı arttıkça klasik seçim yötemleri çoğu zama uygu modeli
seçememektedir. Ayrıca çok yüksek boyutlu verilerde çoklu bağlatı soruu sebebiyle klasik seçim yötemleri ile model belirlemek mümkü değildir. Söz kousu problemleri çözmek amacıyla sezgisel optimizasyo tekikleride yararlaılmaktadır [3]. Literatür icelediğide model seçimide yapıla çalışmaları büyük bir kısmıı lieer ve lojistik regresyo aalizi üzerie olduğu görülmektedir. Lieer regresyo aalizi içi tabu araştırma [4], geetik algoritma [2], hibrit geetik algoritmabezetimli tavlama metodu kullaılmıştır [5]. Lojistik regresyo aalizide tabu araştırma algoritması [6] ve parçacık sürü optimizasyou algoritmasıı kullaılarak optimum değişke kümesii seçimii icelemiştir [7]. Geelleştirilmiş lieer modellerde model seçimi üzerie farklı yötemler de kullaılmıştır. Poisso regresyo aalizide adımsal bir model seçim yötemi öermiştir [8]. McLeod ve Xu geelleştirilmiş lieer modeler içi değişke seçimi uygulaya bestglm isimli bir paket geliştirmiştir [9]. Calcago, ve Mazacourt geelleştirilmiş lieer modellerde geetik algoritma kullaarak değişke seçimi uygulaya glmulti isimli bir yazılım paketi oluşturmuştur [10]. Regresyo modelleride cezaladırma yötemleri de model seçimide sıkça kullaılmaktadır. Cezaladırma yötemleri ile model seçimi kousuda bilie e geel yötem LASSO metodudur [11]. Bu metodu aa fikri, modeldeki regresyo katsayılarıı sıfıra yaklaştıracak şekilde daraltmaktır. LASSO tekiğide cezaladırma içi elastik et [12], adaptif LASSO [13] yötemleri geliştirilmiştir. Cezaladırma yötemleri kullaarak değişe yayılım parametreli beta regresyo modeli içi değişke seçim tekiği uygulamıştır [14]. Beta regresyo aalizide model seçimi içi bootstrap tekiği kullaılmıştır [15]. Model seçimi üzeride so derece etkili ola bilgi kriterleri içi de çok sayıda çalışma mevcuttur. Regresyo aalizide e çok kullaıla kriterler Akaike ve Bayesci bilgi kriterleridir. Akaike bilgi kriteri yalılık problemii çözümü ve küçük öreklemlerde de iyi performas sağlaması içi alteratif cezaladırmalar ile düzeltilmiş ve yei Akaike türü kriterler öerilmiştir [16,17]. Bayesci bilgi kriteri de regresyo katsayılarıa ilişki kovaryas matrisi de cezaladırma terimie dahil olacak şekilde düzelemiş ve alteratif iki kriter öerilmiştir [18]. Kovaryas matrisii cezaladırma terimie dahil ederek bilgi kriteri hesaplaya yaklaşım ilk olarak Bozdoğa tarafıda öerilmiştir [19]. Bu yaklaşım, cezaladırma terimideki değişiklikler ile düzeleerek alteratif kriterler türetilmiştir [20, 21, 22]. performasıı optimize etme kousuda zayıf olduğuda, sezgisel optimizasyoa dayalı yaklaşımlar daha başarılı souçlar sağlama potasiyelie sahiptir. Bu sebeple, çalışmaı temel motivasyo kayağı, sayım modelleride model seçimi sürecii parçacık sürü optimizasyou algoritması kullaarak gerçekleştirmektir. 2. Materyal ve Metot 2.1. Poisso regresyo modeli Poisso regresyo modeli sayımla elde edile verileri modellemeside kullaıla temel bir yaklaşımdır. Y i ( i = 0,1,2, ), ortalaması µ i ola belli bir zamada meydaa gele olayları sayısı olsu. Bu durumda Y i ler Poisso rasgele değişkeidir ve olasılık foksiyou f(y i ; µ i ) = e µ iµ i y i y i! y i = 0,1,2, (1) ile verilir. Burada, ortalama ve varyas E(Y i ) = Var(Y i ) = µ i dir. Log-olabilirlik foksiyou eşitlik (2) de verildiği gibidir. L(µ; y) = i=1 {y i l(µ i ) µ i l(y i!)} (2) X : (p + 1) boyutlu açıklayıcı değişke matrisi olsu. Y i ve X i i-ci satır vektörü arasıdaki ilişki eşitlik (3) de verilmiştir. l(µ i ) = η i = x i T β (3) Bu model poisso regresyo veya log-liear model olarak biliir. β ı e çok olabilirlik tahmi edicisi β, Fisher scorig yötemi ile elde edilebilir. Poisso regresyo modelide iki temel varsayım vardır. Biricisi, olaylar zamaa göre birbiride bağımsız gerçekleşir. İkicisi, şartlı beklee değer ve varyas birbirie eşittir. İkici varsayımda bahsedile eşitlik durumu, eşit yayılım olarak biliir ve uygulamada çoğulukla eşit yayılım durumu sağlamamaktadır ve geelde varyas ortalamada büyük çıkmaktadır. 2.2. Negatif biomial modeli Poisso regresyo modelide, bağımlı değişke içi varyası ortalamada büyük olması, bağımlı değişke değerleri arasıda pozitif korelasyou buluması veya verileri olasılıkları arasıdaki değişimi yüksek çıkması gibi durumlar aşırı yayılıma ede olabilir. Ayrıca verii dağılımsal varsayımlarıda bir ihlal söz kousu olduğu durumlarda da aşırı yayılım ortaya çıkabilir. Model seçimi, istatistiksel modelleme içeriside so derece öemli bir koudur. Klasik model seçim algoritmaları, sayım modelleri kapsamıda modeli 77 Aşırı yayılım durumuda e sık başvurula yaklaşım Negatif Biomial Regresyo Modelidir (NBRM). NBRM, modele gözlemleemeye heterojelik terimi
dahil edilerek geliştirilebileceği gibi bir çok farklı yötem ile de elde edilebilir [23]. Negatif biomial dağılımı olasılık foksiyou aşağıda verildiği gibidir: Pr(y i x i ) = Γ(y i + α 1 ) y i! Γ(α 1 ) α 1 α 1 + µ i α 1 µ y i i α 1 (4) + µ i Burada Γ(. ) ile gamma foksiyou ifade edilmektedir ve α sabit bir parametredir. Negatif biomial dağılımı içi y i beklee değeri Poisso dağılımı ile ayıdır. Yai, μ i = E(y i x i ) = e x i β dır. Acak varyası, eşitlik (5) de verildiği gibidir: Var(y i x i ) = µ i (1 + αµ i ) = e x i β (1 + αe x i β ) (5) NBRM de, y i varyası, beklee değeride büyüktür. Çükü, µ ve α ı her ikisi de pozitiftir. Eşitlik (5), α = 0 olduğuda µ i olur. Yai, α = 0 olduğuda egatif biomial dağılımı poissoa idirgeir. NBRM parametreleri tahmiide e çok olabilirlik yötemi kullaılabilir [23]. 2.3. Sıfır yoğuluklu poisso model Sıfır yoğuluklu Poisso (ZIP) model, iki aşamalı bir karışım modelidir. Bu model, sıfır değerli gözlemleri iki farklı şekilde ortaya çıktığıı varsayar. Birici durum w i olasılığı ile gerçekleşir ve sadece sıfır üretir. İkici durum (1 w i ) olasılığı ile meydaa gelir ve µ ortalamalı stadart bir Poisso sayım verisi elde edilir. Geelde birici durumda elde edile sıfırlar yapısal sıfırlar olarak ve Poisso dağılımıda kayaklaa sıfırlar öreklem sıfırları olarak adladırılır [24]. ZIP modeli aşağıdaki iki lik foksiyou ekleerek elde edilebilir. l(µ i ) = X β logit(w i ) = l w 1 w = X γ (9) 2.4. Parçacık sürü optimizasyou Parçacık Sürü Optimizasyou (PSO), sürü halide hareket ede balıklar ve böceklerde esileerek geliştirilmiş bir optimizasyo yötemidir [25]. Temel olarak sürü zekâsıa dayaa bir algoritmadır. Sürü halide hareket ede hayvaları yiyecek ve güvelik gibi durumlarda, çoğu zama rastgele sergiledikleri hareketleri, amaçlarıa daha kolay ulaşmalarıı sağladığı görülmüştür. Algoritma temel olarak aşağıdaki basamaklarda oluşur [26]; I. Rasgele üretile başlagıç pozisyoları ve hızları ile başlagıç sürüsü oluşturulur. II. Sürü içerisideki tüm parçacıkları uyguluk değerleri hesaplaır. III. Her bir parçacık içi mevcut jeerasyoda yerel e iyi (pbest) buluur. Sürü içeriside e iyileri sayısı parçacık sayısı kadardır. IV. Mevcut jeerasyodaki yerel eiyiler içeriside küresel e iyi (gbest) seçilir. V. Pozisyo ve hızlar aşağıdaki gibi yeileir. V id = W V id + c 1 rad 1 (P id X id ) + c 2 rad 2 P gd X id X id = X id + V id Burada X id pozisyo ve V ii hız değerlerii verirke, rad 1 ve rad 2 değerleri rasgele üretilmiş sayılardır. W, atalet ağırlık değeri ve c 1, c 2 ölçekledirme faktörleridir. Bu iki aşamalı süreç iki bileşeli bir karışım dağılımı verir ve olasılık foksiyou aşağıdaki gibidir. VI. Durdurma kriteri sağlaıcaya kadar II, III, IV ve V adımları tekrar edilir. w i + (1 w i )e μ i, y i = 0, r (y i x i, μ i, w i ) = (1 w i ) e μ i y μ i i y i! y i = 1,2,3, 0 w i 1 (6) Bu olasılık foksiyou Y~ZIP(µ, w) ile gösterilir. Y i ortalama ve varyası aşağıdaki gibidir. E(y i ) = µ i (1 w i ) Var(y i ) = (1 w i )(µ i + w i µ i 2 ) (7) Görüldüğü gibi Y i marjial dağılımı w > 0 olduğuda aşırı yayılıma izi vermektedir. w = 0 olduğuda stadart Poisso dağılımıa idirgemektedir. Log olabilirlik foksiyou eşitlik (8) de verildiği gibidir. 2.5. Bilgi Kriterleri Log olabilirlik foksiyoua dayalı ola bilgi kriteri tabalı model seçim tekikleri, hem iç içe hem de iç içe olmaya sayı ile ifade edile modeller içi kullaılabilirler. Modele daha fazla parametre eklediğide log olabilirliği artacağı düşüülür. Log olabilirlik artışıı cezası, gözlem sayısı kadar parametre sayısıı da hesaba katar. Bu çalışmada, iki bilgi kriteri ölçüsü ele alımıştır. 2.5.1. Akaike bilgi kriteri Akaike bilgi kriteri (AIC) istatistiksel modelleri uyum iyiliği içi kullaıla bir kriterdir. L ZIP (µ, w; y) = I(y i = 0) l[w i + (1 w i )e µ i ] + I(y i > 0)[l(1 w i ) µ i + ylµ i l (y!)] i=1 (8) 78 AIC = 2L + 2p = D θ + 2p (10)
Burada p, modeldeki parametre sayısıı ve L ise log olabilirlik foksiyouu göstermektedir. 2.5.2. Bayesci bilgi kriteri Ayı zamada Schwarz kriteri olarakta bilie Bayesci bilgi kriteri (BIC) istatistiksel modellemede çok sık kullaıla bir kriterdir. BIC = 2L + (l ) p (11) Burada, veri setideki gözlem sayısıı p ise parametre sayısıı göstermektedir. 3. Bulgular Uygulama aşamasıda iki farklı simülasyo ve bir gerçek veri seti uygulaması yapıldı Simülasyo tasarımları çoklu bağlatı bulua ve bulumaya regresyo modelleri içi uyguladı. Model seçim yötemleride ileriye doğru (İ), geriye doğru (G), adımsal (A) ve PSO metotları kullaılarak sayım modelleri içi model seçimi souçları elde edildi. Uygulama aşamasıda seçim yötemlerii seçmiş olduğu sayım modellerie ilişki AIC ve BIC değerleri iceledi. AIC ve BIC değeri daha düşük ola seçim yötemi daha başarılı olarak kabul edildi. Aalizler R yazılımıı 3.4.3 versiyou kullaılarak yapılmıştır. Ayrıca pso ve COUNT paketleride yararlaılmıştır. Simülasyo çalışması -1 Çalışmaı bu bölümüde çoklu bağlatı problemi içere regresyo modelleri oluşturuldu. Simülasyo tasarımı içi toplam o açıklayıcı değişke ile Poisso, egatif biomial ve sıfır yoğuluklu regresyo modelleri içi klasik seçim yötemleri ve PSO algoritmaları uyguladı. Bağımsız değişkeler aşağıdaki şekilde türetildi: x 1 = 10 + ε 1 (12) x 2 = 10 + 0.3ε 1 + αε 2 (13) x 3 = 10 + 0.3ε 1 + 0.5604αε 2 + 0.8282αε 3 (14) x 4 = 8 + x 1 + 0.5x 2 + 0.3x 3 + 0.5ε 4 (15) x 5 = = 5 + 0.5x 1 + x 2 + 0.5ε 5 (16) Pois(λ), NegBi(λ) ve ZINFPois(λ) biçimide sırasıyla Poisso, egatif biomial ve sıfır yoğuluklu Poisso dağılımlı bağımlı değişkeler türetildi. Bağımsız değişkeler kümesie bağımlı değişkeler ile ilişkisi olmaya beş adet düzgü dağılımlı değişkeler R j ~ Düzgü(0,1) j=1,2,3,4,5 ilave edildi. 1. Simülasyo tasarımı içi öreklem sayıları sırası ile =30,50,100,200,500 olarak alıdı. Simülasyo çalışması -2 Bu simülasyo çalışmasıda çoklu bağlatı problemi içermeye regresyo modelleri oluşturuldu. Simülasyo tasarımı içi sırasıyla p=2,3,...,15 değişke ve =100 içi Poisso, egatif biomial ve sıfır yoğuluklu regresyo modelleri kapsamıda klasik seçim yötemleri ve PSO algoritmaları uyguladı. Bağımsız değişkeler birbiride bağımsız olarak X k, k=2,3, 15 içi N(0,1) dağılımıa uygu olarak türetildi. Bağımsız değişkeler arasıdaki korelasyo yapısı, çoklu bağlatı problemi içermeyecek biçimde cor(x i, X j )=0.10 i j i, j=2,3, 15 içi türetildi. Bağımsız değişkeler ile bağımlı değişkelere ait λ parametreleri ise şu şekilde türetildi: λ = Xβ + ε (18) ε ~ N(0, 1) dağılımlı hata terimidir. β=(0.1,0.3,0.5,,s) biçimide artımsal olarak seçildi. Bu deklemdeki s, toplam değişke sayısı doğru oratılı olarak 0.1 birim artımlı β değerlerii temsil etmektedir. Eşitlik (18) de elde edile λ değerleri ile y ~ Pois(λ), NegBi(λ) ve ZINFPois(λ) biçimide sırasıyla Poisso, egatif biomial ve sıfır yoğuluklu Poisso dağılımlı bağımlı değişkeler türetildi. Gerçek veri uygulaması Gerçek veri uygulaması içi R programıda COUNT paketi içeriside yer ala affairs hazır veri seti kullaıldı [27]. Bu veri setide bağımlı değişke tam sayıdır ve veri seti sayım verilerii modellemek içi so derece elverişlidir. Bu veri seti üzeride klasik değişke seçim yötemleri ve PSO algoritması ile model seçimi uyguladı ve modelleri AIC-BIC değerleri elde edildi. ε 1, ε 2, ε 3, ε 4, ε 5 ~ N(0, 1) dağılımlı hata terimleridir. Eşitlik 12-16 içi α parametresi çoklu bağlatı düzeyii kotrol etmektedir. Bu çalışmada geçmiş çalışmalar baz alıarak α =0.03 alıdı ve bağımlı değişke türetimi aşağıdaki şekilde yapıldı: λ = 8 + x 1 + 0.5x 2 + 0.3x 3 + 0.5ε (17) ε i, i= 1, 2,..., içi ε ~ N(0,1) içi dağılımlı hata terimidir. Eşitlik (17) de bulua λ değerleri ile y ~ 79 Tablo 1. 1. Simülasyo tasarımıda Poisso regresyo modeli içi AIC kriteri souçları Seçim yötemi 30 80.76578 80.76578 80.76578 80.61614 50 132.17770 132.17770 132.17770 132.10880 100 268.25710 268.25710 268.25710 268.21730 200 536.20400 536.20400 536.20400 536.19640 500 1333.94000 1333.94000 1333.94000 1333.94400
Tablo 2. 1. Simülasyo tasarımıda Poisso regresyo modeli içi BIC kriteri souçları Seçim yötemi 30 85.28353 85.28353 85.28353 85.04804 50 139.04800 139.04800 139.04800 138.69240 100 277.98830 277.98830 277.98830 277.75140 200 548.67820 548.67820 548.67820 548.62150 500 1351.59000 1351.59000 1351.59000 1351.54300 Tablo 1 ve 2 de Poisso regresyo modeli içi elde edile 1.simülasyo tasarımı souçları gösterilmektedir. Bu souçlara göre 1. simülasyo tasarımı kapsamıda PSO algoritması klasik seçim yötemlerie göre AIC ve BIC değeri daha düşük ola modelleri seçmiştir. Çoklu bağlatı içere durumlar içi PSO daha doğru souçlar içere Poisso regresyo modellerii elde etmektedir. Tablo 3. 2.Simülasyo tasarımıda Poisso regresyo modeli içi AIC kriteri souçları Seçim yötemi %(p/) 2 267.40070 267.40070 267.40070 267.40070 3 268.60160 268.60160 268.60160 268.60160 4 272.08920 272.08920 272.08920 272.08920 5 272.11820 272.11820 272.11820 272.11820 6 267.45050 267.45050 267.45050 267.45050 7 271.93650 271.93650 271.93650 271.93650 8 271.58820 271.58820 271.58820 271.58640 9 271.71860 271.71860 271.71860 271.71860 10 277.01660 277.01660 277.01660 277.01660 11 273.66320 273.66320 273.66320 273.64400 12 270.79890 270.79890 270.79890 270.79850 13 271.18850 271.18850 271.18850 271.18420 14 270.99200 270.99200 270.99200 270.98880 15 271.99420 271.99420 271.99420 271.96750 Tablo 4. 2.Simülasyo tasarımıda Poisso regresyo modeli içi BIC kriteri souçları Seçim yötemi %(p/) 2 273.09360 273.09360 273.09360 273.09360 3 276.73480 276.73480 276.73480 276.73480 4 282.54640 282.54640 282.54640 282.54640 5 284.29230 284.29230 284.29230 284.29230 6 281.29520 281.29520 281.29520 281.27240 7 287.23950 287.23950 287.23950 287.23950 8 288.10370 288.10370 288.10370 288.10370 9 289.49090 289.49090 289.49090 289.45200 10 296.19300 296.19300 296.19300 296.16350 11 293.12780 293.12780 293.12780 293.07570 12 291.82580 291.82580 291.82580 291.69400 13 292.45620 292.45620 292.45620 292.38310 14 293.33440 293.33440 293.33440 293.25460 15 295.22230 295.22230 295.22230 295.11200 2. simülasyo tasarımı souçları Tablo 3 ve 4 te verilmiştir. Souçlar icelediğide PSO algoritmasıı klasik yötemlere göre daha iyi souçlar verdiği görülmektedir. Ayrıca çoklu bağlatı problemi içermeye durumlarda özellikle değişke sayısı yükseldikçe PSO algoritması AIC ve BIC değeri daha düşük ola Poisso regresyo modellerii seçmiştir. Tablo 5. Affair verisi kapsamıda Poisso regresyo modeli içi AIC kriteri souçları Seçim Yötemi AIC AIC-İ 2823.17500 AIC-G 2823.17500 AIC-A 2823.17500 AIC-PSO 2822.76500 Tablo 6. Affair verisi kapsamıda Poisso regresyo modeli içi BIC kriteri souçları Seçim Yötemi BIC BIC-İ 2878.86300 BIC-G 2878.86300 BIC-A 2878.86300 BIC-PSO 2873.51200 Poisso regresyo modeli gerçek veri souçları Tablo 5 ve 6 da gösterilmektedir. Bu souçlara göre PSO algoritması Affairs veri setide klasik seçim yötemlerie göre daha başarılı souçlar elde etmektedir. PSO algoritmasıı seçtiği Poisso regresyo modelleride AIC ve BIC değerleri klasik yötemleri seçtiği modeller göz öüde buludurulduğuda daha düşük değere sahiptir. Negatif biomial regresyo modeli içi 1. ve 2. simülasyo tasarım souçları ve gerçek veri uygulaması aşağıda verilmiştir. Tablo 7. 1. Simülasyo tasarımıda Negatif biomial regresyo modeli içi AIC kriteri souçları Seçim yötemi 30 82.2550 82.2550 82.2550 82.1273 50 134.1402 134.1402 134.1402 134.1179 100 270.5371 270.5371 270.5371 270.5230 200 536.2455 536.2455 536.2455 536.2729 500 1330.745 1330.745 1330.745 1330.727 Tablo 8. 1. Simülasyo tasarımıda Negatif biomial regresyo modeli içi BIC kriteri souçları Seçim yötemi 30 88.3657 88.3657 88.3657 88.1724 50 142.7844 142.7844 142.7844 142.4788 100 282.5406 282.5406 282.5406 282.5349 200 551.6531 551.6531 551.6531 551.7423 500 1353.393 1353.393 1353.393 1353.117 Tablo 7 ve 8 de egatif biomial regresyo modeli içi elde edile 1. simülasyo tasarımı souçları gösterilmektedir. Bu souçlara göre 1. simülasyo tasarımı kapsamıda PSO algoritması klasik seçim yötemlerie göre AIC ve BIC değeri daha düşük ola modelleri seçmiştir. Çoklu bağlatı içere durumlar içi PSO daha doğru souçlar içere egatif biomial regresyo modellerii elde etmektedir. 80
Tablo 9. 2.Simülasyo tasarımıda Negatif biomial regresyo modeli içi AIC kriteri souçları Seçim yötemi %(p/) 2 269.6135 269.6135 269.6135 269.6135 3 270.5622 270.5622 270.5622 270.5622 4 270.1624 270.1624 270.1624 270.1624 5 271.8613 271.8613 271.8613 271.8613 6 276.1486 276.1486 276.1486 276.1486 7 272.1477 272.1477 272.1477 272.1477 8 273.6337 273.6337 273.6337 273.6337 9 274.8716 274.8716 274.8716 274.8716 10 275.6479 275.6479 275.6479 275.6479 11 275.8439 275.8439 275.8439 275.8423 12 276.6164 276.6164 276.6164 276.607 13 278.2293 278.2293 278.2293 278.1894 14 278.6634 278.6634 278.6634 278.6287 15 275.8236 275.8236 275.8236 275.8094 Tablo 10. 2.Simülasyo tasarımıda Negatif biomial regresyo modeli içi BIC kriteri souçları Seçim yötemi %(p/) 2 277.9403 277.9403 277.9403 277.9403 3 281.3456 281.3456 281.3456 281.3456 4 283.0921 283.0921 283.0921 283.0921 5 286.5748 286.5748 286.5748 286.5748 6 292.5683 292.5683 292.5683 292.5683 7 298.1889 298.1889 298.1889 298.1889 8 292.6785 292.6785 292.6785 292.6673 9 295.3407 295.3407 295.3407 295.3357 10 296.9031 296.9031 296.9031 296.8889 11 298.3031 298.3031 298.3031 298.2632 12 300.1552 300.1552 300.1552 300.1241 13 302.7383 302.7383 302.7383 302.5759 14 302.0067 302.0067 302.0067 301.9964 15 301.2273 301.2273 301.2273 301.1695 Negatif biomial regresyo modeli içi elde edile 2. simülasyo tasarımı souçları Tablo 9 ve 10 da verilmiştir. Çoklu bağlatı problemi içermeye durumlarda özellikle değişke sayısı yükseldikçe PSO algoritmasıı AIC ve BIC değeri daha düşük ola egatif biomial regresyo modellerii seçtiği görülmektedir. Tablo 11. Affair verisi kapsamıda Negatif biomial regresyo modeli içi AIC kriteri souçları Seçim Yötemi AIC AIC-İ 2299.23355 AIC-G 2299.23355 AIC-A 2299.23355 AIC-PSO 2296.10252 Tablo 12. Affair verisi kapsamıda Negatif biomial regresyo modeli içi BIC kriteri souçları Seçim Yötemi BIC BIC-İ 2223.51400 BIC-G 2223.51400 BIC-A 2223.51400 BIC-PSO 2221.10300 Tablo 11 ve 12 de egatif biomial regresyo modeli gerçek veri souçları gösterilmektedir. Bu souçlara göre PSO algoritması Affairs veri setide klasik seçim yötemlerie göre daha başarılı souçlar elde etmektedir. Sıfır yoğuluklu Poisso regresyo modeli içi 1. ve 2. simülasyo tasarım souçları ve gerçek veri uygulaması aşağıda verilmiştir. Tablo 13. 1. Simülasyo tasarımıda Sıfır yoğuluklu Poisso regresyo modeli içi AIC kriteri souçları Seçim yötemi 30 88.3450 88.3450 88.3450 87.9373 50 146.2702 146.2702 146.2702 144.9679 100 281.7771 281.7771 281.7771 280.6280 200 562.3625 562.3625 562.3625 561.2836 500 1402.643 1402.643 1402.643 1401.8672 Tablo 14. 1. Simülasyo tasarımıda Sıfır yoğuluklu Poisso regresyo modeli içi BIC kriteri souçları Seçim yötemi 30 94.2478 94.2478 94.2478 93.8963 50 149.7452 149.7452 149.7452 149.2356 100 301.3602 301.3602 301.3602 300.7895 200 592.3547 592.3547 592.3547 592.1254 500 1412.6325 1412.6325 1412.6325 1412.1362 Tablo 13 ve 14 de sıfır yoğuluklu Poisso regresyo modeli içi elde edile 1. simülasyo tasarımı souçları gösterilmektedir. Bu souçlara göre 1. simülasyo tasarımı kapsamıda PSO algoritması klasik seçim yötemlerie göre AIC ve BIC değeri daha düşük ola modelleri seçmiştir. Çoklu bağlatı içere durumlar içi PSO daha doğru souçlar içere sıfır yoğuluklu Poisso regresyo modellerii elde etmektedir. Tablo 15. 2.Simülasyo tasarımıda Sıfır yoğuluklu Poisso regresyo modeli içi AIC kriteri souçları Seçim yötemi %(p/) 2 276.2348 276.2348 276.2348 276.2348 3 276.9852 276.9852 276.9852 276.9852 4 277.3247 277.3247 277.3247 277.3247 5 278.1456 278.1456 278.1456 278.1456 6 279.0523 279.0523 279.0523 279.0523 7 280.8563 280.8563 280.8563 280.8563 8 281.3659 281.3659 281.3659 281.3659 9 282.1748 282.1748 282.1748 282.1748 10 283.8741 283.8741 283.8741 283.6235 11 284.6398 284.6398 284.6398 284.5236 12 285.1862 285.1862 285.1862 285.1021 13 286.9963 286.9963 286.9963 286.7253 14 288.6548 288.6548 288.6548 288.6321 15 291.3258 291.3258 291.3258 290.9652 81
Tablo 16. 2.Simülasyo tasarımıda sıfır yoğuluklu Poisso regresyo modeli içi BIC kriteri souçları Seçim yötemi %(p/) 2 285.3659 285.3659 285.3659 285.3659 3 289.6258 289.6258 289.6258 289.6258 4 291.0785 291.0785 291.0785 291.0785 5 292.8574 292.8574 292.8574 292.8574 6 298.5217 298.5217 298.5217 298.5217 7 300.9852 300.9852 300.9852 300.9327 8 301.2386 301.2386 301.2386 301.2321 9 296.2178 296.2178 296.2178 296.1993 10 299.5982 299.5982 299.5982 299.5821 11 302.2185 302.2185 302.2185 301.9962 12 303.1587 303.1587 303.1587 302.8754 13 303.6726 303.6726 303.6726 303.3627 14 304.1289 304.1289 304.1289 304.0185 15 303.8756 303.8756 303.8756 303.5214 Tablo 15 ve 16 da sıfır yoğuluklu Poisso regresyo modeli içi elde edile 2. simülasyo tasarımı souçları gösterilmektedir. Çoklu bağlatı problemi içermeye durumlarda PSO algoritmasıı daha iyi souçlar verdiği görülmektedir. Tablo 17. Affair verisi kapsamıda Sıfır yoğuluklu Poisso regresyo modeli içi AIC kriteri souçları Seçim Yötemi AIC AIC-İ 1928.21512 AIC-G 1928.21512 AIC-A 1928.21512 AIC-PSO 1928.07231 Tablo 18. Affair verisi kapsamıda Sıfır yoğuluklu Poisso regresyo modeli içi BIC kriteri souçları Seçim Yötemi BIC BIC-İ 1958.16705 BIC-G 1958.16705 BIC-A 1958.16705 BIC-PSO 1955.52127 Sıfır yoğuluklu Poisso regresyo modeli gerçek veri Tablo 17 ve 18 de verilmektedir. PSO algoritmasıı seçtiği sıfır yoğuluklu Poisso regresyo modelleride AIC ve BIC değerleri klasik yötemleri seçtiği modeller göz öüde buludurulduğuda daha düşük değere sahiptir. 4. Tartışma ve Souç Bu çalışmada sayım modelleri kapsamıda model seçimleri iceledi. Sayım modelleride model seçimi içi klasik seçim yötemleri ve PSO algoritması kullaıldı. Çalışma soucuda klasik değişke seçim yötemleri ola ileriye doğru, geriye doğru ve adımsal seçim yötemleri ve PSO algoritması ile elde edile souçlar karşılaştırıldı. Karşılaştırma içi değişke seçimi algoritmaları ile elde edile regresyo modellerii bilgi kriteri değerleri (AIC ve BIC) baz alıdı. Bilgi kriteri değerleri doğrultusuda; seçile değişke kümeleri ile oluşturula regresyo modellerii performası değerledirildi. Klasik seçim yötemlerii model seçimide hem 82 simülasyo hem de gerçek veriler içi ayı bilgi kriteri değerlerie sahip ola sayım modellerii seçtiği tespit edildi. Optimizasyo algoritmalarıa dayalı olmaya seçim yötemlerii çalışma matığıa koşut olarak ayı sayım modellerii seçilmesi dikkat çekici bir souçtur. Simülasyo ve gerçek veri setlerie uygulaa aalizler soucuda her ikiside de PSO algoritmasıı klasik yötemlere göre daha düşük bilgi kriteri değerie sahip regresyo modelleri seçtiği görülmüştür. Souç olarak klasik yötemlerle kıyasladığıda PSO algoritmasıı, modeldeki değişke sayısı arttıkça ve bağımsız değişkeler arasıdaki korelasyo değerleri yükseldikçe daha iyi souçlar verdiği farklı model yapıları [28] gibi sayım modelleride de PSO algoritmasıı değişke seçimide alteratif bir yötem olarak kullaılabileceği gösterilmiştir. Teşekkür Bu makale Çakırı Karateki Üiversitesi Bilimsel Araştırma Projeleri birimi tarafıda desteklee Araştırma Projesi (Proje No: FF090316B15) kapsamıda yapıla çalışmalar soucuda oluşturulmuştur. Yazarlar destekleride dolayı Çakırı Karateki Üiversitesi Bilimsel Araştırma Projeleri Birimie teşekkür etmektedir. Kayakça [1] George, E. I. 2000. The variable selectio problem. Joural of the America Statistical Associatio, 95(2000), 1304-1308. [2] Bozdoga, H. 2004. Itelliget statistical data miig with iformatio complexity ad geetic algorithms. Statistical data miig ad kowledge discovery(2004), 15-16. [3] Lee, K. Y., & El-Sharkawi, M. A. 2008. Moder heuristic optimizatio techiques: theory ad applicatios to power systems. Joh Wiley & Sos. [4] Drezer, Z., Marcoulides, G. A., & Salhi, S. 1999. Tabu search model selectio i multiple regressio aalysis. Commuicatios i Statistics-Simulatio ad Computatio, 28(1999), 346-367. [5] Örkcü, H. H. 2013. Subset selectio i multiple liear regressio models: a hybrid of geetic ad simulated aealig algorithms. Applied Mathematics ad Computatio, 23(2013), 11018-11028. [6] Pacheco, j., Casado, S., & Nuez, L. A. 2009. Variable selectio method based o Tabu search for logistic regressio models. Europea Joural of Operatioal Research, 199(2009), 506-511. [7] Uler, A., & Murat, A. 2010. A discrete particle swarm optimizatio method for feature
selectio i biary classificatio problems. Europea Joural of Operatioal Research, 206(2010), 528-539. [8] Sakate, D. M., Kashid, D. N., & Shirke, D. T. 2011. Subset Selectio i Poisso Regressio. Joural of Statistical Theory ad Practice, 5(2011), 207-219. [9] McLeod, A. I., & Xu, C. 2010. R-project. org/package= bestglm. http://cran (Erişim Tarihi: 19.10.2017) [10] Calcago, V., & Mazacourt, C. 2010. glmulti: a R package for easy automated model selectio with (geeralized) liear models. Joural of Statistical Software, 34(2010), 1-29. [11] Tibshirai, R. 1996. Regressio shrikage ad selectio via the lasso. Joural of the Royal Statistical Society: Series B (Methodological) (1996), 267-288. [12] Zou, H., & Hastie, T. 2005. Regularizatio ad variable selectio via the elastic et. Joural of the Royal Statistical Society: Series B (Statistical Methodology), 67(2005), 301-320. [13] Zou, H. 2006. The adaptive lasso ad its oracle properties. Joural of the America statistical associatio, 101(2006), 1418-1429. [14] Zhao, W., Zhag, R., Lv, Y., & Liu, J. 2014. Variable selectio for varyig dispersio beta regressio model. Joural of Applied Statistics, 41(2014), 95-108. [15] Bayer, F. M., & Cribari-Neto, F. 2014. Bootstrapbased model selectio criteria for beta regressios. TEST(2014), 1-20. [16] Bozdoga, H. 1987. Model selectio ad Akaike's iformatio criterio (AIC): The geeral theory ad its aalytical extesios. Psychometrika(1987), 345-370. [17] Hurvich, C. M., & Tsai, C. L. 1989. Regressio ad time series model selectio i small samples. Biometrika(1989), 297-307. [18] Bolle, K. A., Ray, S., Zavisca, J., & Harde, J. J. 2012. A compariso of Bayes factor approximatio methods icludig two ew methods. Sociological Methods & Research, 41(2012), 294-324. [19] Bozdoga, H. 2000. Akaike's iformatio criterio ad recet developmets i iformatio complexity. Joural of mathematical psychology, 44(2000), 62-91. [20] Bozdoga, H. 2010. A ew class of iformatio complexity (ICOMP) criteria with a applicatio to customer profilig ad segmetatio. Joural of the School of Busiess Admiistratio(2010), 370-398. [21] Deiz, E., Akbilgic, O., & Howe, J. A. (2011). Model selectio usig iformatio criteria uder a ew estimatio method: least squares ratio. Joural of Applied Statistics, 2043-2050. [22] Pamukçu, E., Bozdoga, H., & Çalık, S. 2015. A Novel Hybrid Dimesio Reductio Techique for Udersized High Dimesioal Gee Expressio Data Sets Usig Iformatio Complexity Criterio for Cacer Classificatio. Computatioal ad mathematical methods i medicie(2015), Article ID 370640, 14 pages. [23] Camero, A. C., & Trivedi, P. K. 1998. Regressio Aalysis of Cout Data. Cambridge Uiversity Press. [24] Jasakul, N., & Hide, J. P. 2002. Score tests for zero-iflated Poisso models. Computatioal, 40(2002), 75-96. [25] Eberhart, R., & Keedy, J. 1995. A ew optimizer usig particle swarm theory. I Micro Machie ad Huma Sciece. Proceedigs of the Sixth Iteratioal Symposium o IEEE., 39-43. [26] Özsağlam, M. Y., & Çukaş, M. 2008. Optimizasyo Problemlerii Çözümü içi Parçaçık Sürü Optimizasyou Algoritması. Politekik Dergisi(2008), 11. [27] Hilbe, J. M. 2016. COUNT: Fuctios, Data ad Code for Cout Data. R package versio 1.3.4. https://cran.r-project.org/package=count [28] Koç, H., Düder, E., Gümüşteki, S., Koç, T., & Cegiz, M. A. 2018. Particle swarm optimizatiobased variable selectio i Poisso regressio aalysis via iformatio complexity-type criteria. Commuicatios i Statistics-Theory ad Methods, (2018) 47(21), 5298-5306. 83