Uzaktan algılama görüntülerinin sınıflandırılması için sınır özniteliklerinin belirlenmesi ve adaptasyonu algoritması

Transkript

1 itüdergisi/d mühendislik Cilt:7, Sayı:4, Ağustos 2008 Uzaktan algılama görüntülerinin sınıflandırılması için sınır özniteliklerinin elirlenmesi ve adaptasyonu algoritması N. Gökhan KASAPOĞLU *, Bingül YAZGAN, Okan K. ERSOY İTÜ Fen Bilimleri Enstitüsü, Elektronik ve Haerleşme Mühendisliği Programı, 34469, Ayazağa, İstanul Özet Geleneksel görüntü işleme tekniklerinin direkt olarak uzaktan algılamaya uygulanması, sadece multispektral datalar için geçerli olailir. Öznitelik vektörü oyutu civarında olan hiperspektral dataların analizi için gelişmiş algoritmalara ihtiyaç vardır. Bununla irlikte, uzaktan algılamada, genellikle sınırlı sayıda eğitim örneğinin olması, özellikle öznitelik vektörünün oyutunun üyük olduğu hiperspektral datalarda, parametrik sınıflayıcıların kullanımını kısıtlar. Bu çalışmanın amacı, istatistiksel dağılıma ağlı olmayan, sadece eldeki eğitim örneklerine dayanan ir algoritma geliştirerek yukarıda özetlenen uzaktan algılama için genel sınıflandırma prolemlerinin üstesinden gelmektir. Önerilen Sınır Özniteliklerinin Belirlenmesi ve Adaptasyonu (SÖBA) algoritması, karar yüzeylerine yakın sınır öznitelik vektörlerini kullanır ve u sınır öznitelik vektörleri, maksimum marin prensiini sağlayacak şekilde adapte edilerek, öznitelik uzayında doğru ölütlemenin yapılmasını sağlar. SÖBA algoritması iki ölümden oluşur. İlk aşamada sınır öznitelik vektörlerinin aşlangıç değerleri uygun eğitim kümesi elemanlarından, yönetileilir sayıda atanır. Daha sonra uygulanan adaptasyon işlemiyle, öğrenme süreci gerçekleştirilerek sınır özniteliklerinin, sonuç değerlerine ulaşması hedeflenir. Sınıflandırma sonuç sınır öznitelik vektörlerine olan en yakın komşuluk (-EK) kuralı uyarınca yapılır. Ek olarak, SÖBA algoritmasının sınır öznitelik vektörlerinin aşlangıç değerlerine ve eğitim kümesi elemanlarının eğitimde kullanılma sırasına ağlı olarak her çalışmasında kaul edileilir derecede farklı sınır karar yüzeyleri oluşturması, konsensüs yapılarda kullanılması için elverişli ir özelliktir. Böylece irçok defa çalıştırılan SÖBA kararlarının uygun kurallarla irleştirilmesiyle tek ir sınıflayıcının aldığı karardan çok daha doğru kararlar elde edileilir. Anahtar Kelimeler: Uzaktan algılama, hiperspektral data sınıflandırma, konsensüs. * Yazışmaların yapılacağı yazar: N. Gökhan KASAPOĞLU. gokhank@itu.edu.tr; Tel: (22) Bu makale, irinci yazar tarafından İTÜ Fen Bilimleri Enstitüsü, Elektronik ve Haerleşme Mühendisliği Programında tamamlanmış olan "Sınır özniteliklerinin elirlenmesi ve adaptasyonu: Uzaktan algılama görüntülerinin sınıflandırılması için yeni ir algoritma" adlı doktora tezinden hazırlanmıştır. Makale metni tarihinde dergiye ulaşmış, tarihinde asım kararı alınmıştır. Makale ile ilgili tartışmalar tarihine kadar dergiye gönderilmelidir.

2 Border feature detection and adaptation for classification of remote sensing images Extended astract Various types of sensors collect very large amounts of data from the earth surface. The characteristics of the data are related to sensor type with its own imaging geometry. Consequently, sensor types affect processing techniques used in remote sensing. In general, image processing techniques used in remote sensing are usually valid for multispectral data which is relatively in a low dimensional feature space. Therefore, advanced algorithms are needed for hyperspectral data which have at least features (attriutes/ands). Additionally, the training process is very important and affects the generalization capaility of a classifier in supervised learning. Enough numer of training samples is required to make proper classification. In remote sensing, collecting training samples is difficult and costly. Consequently, a limited numer of training samples is often availale in practice. Conventional statistical classifiers assume that the data have a specific distriution. For real world data, these kinds of assumptions may not e valid. Additionally, proper parameter estimation is difficult, especially for hyperspectral data. Normally, when the numer of ands used in the classification process increases, precise detailed class determination is expected. For high dimensional feature space, when a new feature is added to the data, classification error decreases, ut at the same time, the ias of the classification error increases. If the increment of the ias of the classification error is more than the reduction in classification error, then the use of the additional feature decreases the performance of the decision algorithm. This phenomenon is called the Hughes effect, and it may e much more harmful with hyperspectral data than with multispectral data. Our motivation in this study is to overcome some of these general classification prolems y developing a classification algorithm which is directly ased on the availale training data rather than on the underlying statistical data distriution. Our proposed algorithm, Border Feature Detection and Adaptation (BFDA), uses order feature vectors near the decision oundaries which are adapted to make a precise partitioning in the feature space y using maximum margin principle. The BFDA algorithm well suited for classification of remote sensing images is developed with a new approach to choosing and adapting order feature vectors with the training data. This approach is especially effective when the information source has a limited amount of data samples, and the distriution of the data is not necessarily Gaussian. Training samples closer to class orders are more prone to generate misclassification, and therefore are significant feature vectors to e used to reduce classification errors. The proposed classification algorithm searches for such error-causing training samples in a special way, and adapts them to generate order feature vectors to e used as laeled feature vectors for classification. The BFDA algorithm can e considered in two parts. The first part of the algorithm consists of defining initial order feature vectors using class centers and misclassified training vectors. With this approach, a manageale numer of order feature vectors is achieved. The second part of the algorithm is adaptation of order feature vectors y using a technique which has some similarity with the learning vector quantization (LVQ) algorithm. In this adaptation process, the order feature vectors are adaptively modified to support proper distances etween them and the class centers, and to increase the margins etween neighoring order features with different class laels. The class centers are also adapted during this process. Susequent classification is ased on laeled order feature vectors and class centers. With this approach, a proper numer of feature vectors for each class is generated y the algorithm. In supervised learning, the training process should e uniased to reach more accurate results in testing. In the BFDA, accuracy is related to the initialization of the order feature vectors and the input ordering of the training samples. These dependencies make the classifier a iased decision maker. Consensus strategy can e applied with cross validation to reduce these dependencies. In this study, maor performance analysis and comparisons were made y using the AVIRIS data. Using the BFDA, we otained satisfactory results with oth multispectral and hyperspectal data sets. The BFDA is also a roust algorithm with the Hughes effect. Additionally, rare class memers are more accurately classified y the BFDA as compared to conventional statistical methods. Keywords: Remote sensing, hyperspectral data classification, consensual classification. 96

3 Sınır özniteliklerinin elirlenmesi ve adaptasyonu Giriş İstatistiksel sınıflandırmada genellikle datanın sahip olduğu istatistiksel dağılımın önceden elli ir istatistiksel dağılıma uyduğu varsayımı altında sınıflandırma işlemi yapılır. Bu varsayım genellikle eğitim için kullanılan örneklerin sayısı istatistiksel olarak doğru ir yargıya varmamız için yeterli olmayacağından iyi sonuçlar almamıza engel olailir. Bu durum hiperspektral datalar için daha da önemli ir prolem olarak karşımıza çıkmaktadır. AVIRIS gii 220 and içeren sensörlerden elde edilen dataların sınıflandırılmasında her ir sınıf için en azından öznitelik uzayının oyutu kadar eğitim kümesi elemanına ihtiyaç olacaktır. Bu durum sağlansa ile sınıflandırmada nadir görülen (az sayıda örnek içeren) sınıfların doğru sınıflandırılması pek mümkün olmayacaktır. Bu açıdan sınıfların aşlangıç olasılık kaullerine ihtiyaç duymayan, parametrik olmayan sınıflayıcılara ihtiyaç vardır. Bu amaçla u çalışmada Sınır Özniteliklerinin Belirlenmesi ve Adaptasyonu algoritması tanıtılmıştır (SÖBA). Burada tanıtılan SÖBA algoritması iki ölüme ayrılailir. Algoritmanın ilk kısmı iteratif olarak sınır özniteliklerinin aşlangıç değerlerini varolan eğitim kümesi elemanlarından seçer. Bu elirleme işleminde uygun seçilecek sınır elemanının sayısı daha sonra uygulanacak adaptasyon süreci için önemlidir. Gereğinden fazla sayıda seçilecek sınır elemanlarının sayısı adaptasyon aşarımını azaltacaktır. Sınır elemanlarının aşlangıç değerleri atandıktan sonra temelde Learning Vector Quantization (LVQ) algoritmasına (Kohonen, 990) enzeyen yeni ir adaptasyon yapısı kullanılır. Bu adaptasyon öznitelik uzayını daha önce elirlenmiş geometrik kısıtlar altında uygun şekilde ölütleyerek geleneksel yöntemlerle karşılaştırıldığında iyi aşarımlar sağlar. SÖBA algoritmasının sınır öznitelik elemanlarının aşlangıç değerlerine ve eğitim kümesi elemanlarının eğitimde kullanılma sırasına ağlı olarak her çalışmasında kaul edileilir derecede farklı sonuçlar vermesi, konsensüs yapılarda kullanılması için elverişli ir özelliktir. Böylece irçok defa çalıştırılan SÖBA kararlarının irleştirilmesiyle tek ir sınıflayıcının aldığı karardan çok daha doğru kararlar elde edileilir. Sınır özniteliklerinin elirlenmesi ve adaptasyonu algoritması Öznitelik uzayının eğitim kümesinden seçilmiş azı referans vektörler yardımıyla ölütlenmesi doku tanıma prolemlerinde sıklıkla kullanılan ir yöntemdir. Gereğinden fazla sayıda seçilen referans vektörlerinin sınıflandırmada kullanılması genelleme aşarımını düşüreilir. Çoğu kez genelleme aşarımını arttırmak için gereksiz vektörlerin elirlenmesi ve referans vektör olarak kullanılmaması gerekir. Gereksiz vektörlerin elirlenmesi için ise udama yöntemleri uygulanailmektedir (Alpaydın, 99). Bu çalışmada sınır özniteliklerinin elirlemesi adı verilen yeni ir referans vektör seçme yaklaşımı önerilmiştir. Bu yaklaşımda referans vektörlerin seçimi elirli geometrik kısıtlar altında yapılır. Destek Vektör Makinalarında (DVM) olduğu gii (Cristianini ve Taylor, 2000) seçilen referans vektörler öznitelik uzayında karar yüzeylerinin oluşmasını sağlar. Böylece seçilen referans vektörlerinin adaptasyon sonunda karar yüzeyine yakın olması sınıflandırma aşarımını etkiler. Referans vektörlere eğitim kümesi içinden seçilen elemanların aşlangıç değeri olarak atanması işlemine sınır özniteliklerinin elirlenmesi, referans vektörlere ise sınır öznitelik vektörleri adı verilir. Daha sonra uygulanan adaptasyon süreciyle sınır öznitelik vektörlerinin sonuç değerlerine ulaşarak öznitelik uzayını elirlenen geometrik kısıtlar altında düzgün ölütlemesi amaçlanır. Test için kullanılan örneklere, adaptasyon sonucunda elde edilen sonuç sınır öznitelik vektörlerine dayanan en yakın komşuluk (-EK) karar kuralı uygulanarak, en yakın komşuluklarındaki sınır öznitelik vektörlerinin etiketleri atanır. Sınır özniteliklerinin elirlenmesi Sınır özniteliklerinin elirlenmesi algoritması aşağıda elirtilen özellikler düşünülerek geliştirilmiştir.. Sınır öznitelik vektörleri adapte edileileceğinden mümkün olduğu kadar karar yüzeylerine yakın olacak şekilde seçilmelidirler. 97

4 2. Sınır öznitelik vektörleri seçimi otomatik olarak yapılmalı ve uygun sayıda aşlangıç öznitelik vektörü seçileilmelidir. 3. Herir sınıfı öznitelik uzayında dengeli içimde temsil etmek için herir sınıf uygun sayıda sınır öznitelik vektörüne sahip olmalıdır. Sınır öznitelik vektörlerinin aşlangıç değerlerinin seçimi için sınıf merkezleri kullanılır. Belirli ir sınıf merkezi ilgili sınıf ortalamasına en yakın vektör olarak tanımlanır. Sınıf ortalaması yerine sınıf merkezinin kullanılması, eğitim örneklerinin öznitelik uzayında içükey şekilde dağılması durumu için ir önlemdir. Etiketleriyle irlikte ir eğitim kümesi {( x, y),( x2, y2),...,( x n, yn)} şeklinde gösterilirse ve uradaki n adet eğitim kümesi vektörlerinin N oyutlu olduğu ve etiketlerinin yi {, 2,, m} şeklinde değiştiği kaul edilirse, m toplam sınıf sayısı olmak üzere sınıf ortalamaları aşağıdaki denklemde gösterildiği gii hesaplanailir: n i m = x,{ x y = i, i =,, m} () i n i = Bu denklemde n i i. sınıf için toplam örnek sayısıdır. i. sınıf için sınıf merkezi c i aşağıdaki denklemde gösterildiği gii hesaplanailir: c = x, i k k = arg min { D },( i m),( n) D ( m, x ) = m x = i i N 2 = ( m ( d)- x ( d) ),{ y i} d i x = = (2) Sınır özniteliklerinin elirlenmesi algoritmasında herir sınıf için uygun eğitim kümesi elemanları sınır öznitelik vektörlerinin aşlangıç değeri olarak sınıf merkezleri yardımıyla seçilir. Sınır öznitelik vektörlerinin aşlangıç değerleri t=0 Β, sınıf merkezleri B 0 ve herir sınıf için sınıf merkezleri yardımıyla seçilen örnekler kümesinin, B i, i= m, irleşimidir. 0 Β = B (3) 0 i m i Sınır öznitelik vektörü, m için = c olarak tanımlanır. Böylece toplam elirlenen sınır öznitelik vektörü sayısı, sınıf merkezleri sayısı m 0 = m ve sınıf merkezleri yardımıyla herir sınıf için elirlenen sınır öznitelik vektörleri sayısının, mi, i =,..., m, toplamı olur. m m = mi = m+ mi i= 0 i= (4) Sınır öznitelik elirleme algoritmasındaki amacımız öznitelik uzayını uygun sayıda sınır öznitelik vektörüyle temsil etmektir. Bu amaçla herir sınıf için aşlangıçta yalnızca sınıf merkezlerini referans vektörler olarak kaul eden ir elirleme algoritması uygulanır. R( t=0 )=B B B (5) i 0 i = 0 Hangi sınıfa ait sınır öznitelikleri elirleniyorsa ilgili sınıfın tüm elemanları sadece ir kez olmak üzere rastgele seçilerek elirleme algoritmasında denenir. Seçilen eğitim kümesi örneğinin etiketi, u eğitim kümesi örneğine en yakın ir komşuluğunda olan referans kümesi elemanının etiketinden farklı ise, kendi sınıfına ait yeni sınır öznitelik elemanı olarak B i kümesine ART algoritmasına enzer şekilde atanır (Carpenter ve Groserg, 987). Örnek olarak ir ikili sınıflandırma prolemi, iki oyutlu öznitelik uzayında Şekil de gösterilmiştir. Bu şekilde. ve 2. sınıflara ait eğitim örnekleri sırasıyla + ve x semolleriyle gösterilmiştir. Sınır öznitelik vektörlerine aşlangıç değeri olarak atanan örnekler şekilde daire ile gösterilmiştir. Sadece sınıf merkezlerine, B 0, dayanan aşlangıç karar yüzeyi ise iki oyutlu 98

5 Sınır özniteliklerinin elirlenmesi ve adaptasyonu örnek uzayda ir doğru ile gösterilmektedir. Sınıf merkezleri dışındaki sınır öznitelik vektörleri, Şekil de görüldüğü gii hatalı karar verilen örnekler arasından seçilmiştir. öznitelik vektörlerinin adaptasyonudur. Ek olarak, adaptasyon sırasında yeni sınır öznitelik vektörleri ihtiyacı ortaya çıkarsa, yeni sınır öznitelik vektörleri, sınır öznitelik vektörleri kümesine eklenir. Adaptasyon işlemi Adaptasyon işleminde yarışmacı öğrenme prensipleri aşağıda açıklandığı şekilde uygulanır: Sınır öznitelik vektörlerinin aşlangıç değeri, 0 Β, sınır öznitelik vektörleri ve onların ortalamaları arasındaki mesafeyi maksimum yapmak, farklı etiketli komşu sınır öznitelik vektörleri arasındaki marini arttırmak için adaptif olarak güncellenir. Burada (3) numaralı denklemle tanımlanan sınır öznitelik elemanlarının ortalaması aşağıdaki denklemle elirlenir: Şekil. İkili sınıflandırma prolemi: sınıf merkezleri ve seçilen aşlangıç sınır öznitelikleri daire ile ve sadece sınıf merkezlerine dayanan karar kuralı, ir doğru ile gösterilmiştir. Şekil 2. İki oyutlu öznitelik uzayının, sınır özniteliklerinin elirlenmesi işleminden sonra elde edilen aşlangıç sınır öznitelik vektörleriyle ölütlenmesi Şekil 2 de ise aşlangıçta seçilen tüm sınır öznitelik vektörleri, Β, öznitelik uzayını 0 ölütlemede kullanıldığında oluşan karar sınırları görülmektedir. Bundan sonraki adım ise sınıf sınırlarını daha iyi temsil etmek için sınır mi =,{ y = i, i =,, m} m i + (6) = {(, y ),(, y ),,( m, y m )} 0 M = m m2 2 m (7) Normal olarak sınır öznitelik vektörlerinin ortalaması sonuç karar sürecinde kullanılmaz. Algoritmanın geometrik kısıtlarından ötürü sınır öznitelik vektörlerinin ortalamalarının kullanılması gereksizdir. Yani sonuç karar sürecinde, test örneklerinin sınıflandırılmasında kullanılıp kullanılmaması aşarımı etkilemez. Eğitim sırasında ise sınır öznitelik vektörlerinin ortalaması yeni sınır özniteliğine ihtiyaç olup olmadığını gösteren kontrol vektörleri olarak düşünüleilir. Eğitim sırasında sınır öznitelik vektörlerinin ortalaması hatalı karara neden oluyorsa sınırda ir açık olduğu düşünülerek eğitim sırasında hatalı karar verilen eğitim kümesi örneği sınırdaki açığı kapatmak için yeni sınır öznitelik vektörü olarak sınır öznitelik vektörleri kümesine eklenir. Sınır öznitelik vektörlerinin adaptasyonunda, sınır öznitelik vektörlerinin ortalaması da sınır öznitelik vektörlerinin değişimine ağlı olarak güncellenir. Adaptasyon için uygulanan stratei aşağıdaki gii açıklanailir: hatalı karara neden olan en yakın sınır öznitelik vektörü w () t hatalı karar verilen eğitim kümesi örneğinden uzaklaşmalı, seçilen eğitim kümesi 99

6 Rastgele Eğitim Örneği Seçimi ( x, y ) ( ( t), y ) w w t {( w( t), y ) ( ) } w w t Β y y w N t {( w( t), y ) ( ) } w w t M N Y t > t N t w() t Β t w() t M Β = Β {( x, y )} m ( t + ) t+ t y Y Y ( t + ) w m y w ( t + ) N t t+ ( t + ) l m y l ( t + ) t t+ Şekil 3. SÖBA algoritması adaptasyon aşaması akış diyagramı örneğiyle aynı etikete sahip sınır öznitelik elemanı l () t ise, seçilen eğitim elemanına yak- l Eğer y etiketli l () t, eğitim için seçilen ve hatalı karar verilen x laşmalıdır. Learning vector quantization (LVQ) ile aynı etikete sahip, algoritmasına enzeyen ir adaptasyon yapısı kullanılmaktadır. Adaptasyon işlemi akış diyagramı y = y, sınır öznitelik vektörleri içinde en yakında olan sınır öznitelik vektörü ise, adaptas- l şeklinde Şekil 3 te gösterilmiştir. x nin y yon işlemi aşağıda ifadelerle elirlendiği şekliyle uygulanır: etiketine sahip ir eğitim kümesi örneği olduğunu varsayalım. y etiketli sınır öznitelik vektörü w() t nin w x ye en yakın sınır öznitelik l( t+ ) = l( t) + η( t) ( x l( t)) (0) vektörü olduğunu kaul edelim. Bu durumda eğer y y ise adaptasyon aşağıda gösterildiği şekilde uygulanır: ( ) ( ) ( ) ( ( ) my t+ = my my t + η t x t ) m () y l w l l l l Adaptasyon ifadelerindeki η () t zamanla azalan ( t+ ) = ( t) η( t) ( x ( t)) (8) w w w ( ) ( ) y ( ) ( ) ( ) my t+ = m my t η t x t m (9) w y w w w w ir fonksiyon olup öğrenme hızı olarak adlandırılır. η () t için iyi ir seçim aşağıdaki ifade de verilmiştir

7 Sınır özniteliklerinin elirlenmesi ve adaptasyonu t / τ () t = e (2) η η 0 Adaptasyon sırasında t gii önceden elirlenmiş ir iterasyon sayısına ulaşıldıktan sonra, M t t ve Β kümelerinin irleşimi referans düğümler olarak giriş eğitim vektörlerinin sınıflandırılması için kullanılır. Eğer y etiketli seçilmiş x eğitim kümesi örneği için en yakın referans düğüm y m w etiketli ir sınır özniteliklerinin ortalaması kümesi elemanı m w ( t > t ) ise ve y ym durumunda hatalı karar verilen eğitim örneği x, yeni sınır öznitelik vektörü ola- w rak eklenir. t+ t Β = Β {( x, y )}, ( t > t ) (3) Bu durumda ilgili ortalama vektörü de aşağıdaki şekilde güncellenecektir. m ( t ) m y ( ) ( ) ( y ( ) ) t t y + = + m t + y m x (4) (4) ifadesinde my ( t ), t iterasyonu anında y etiketli sınır öznitelik vektörlerinin sayısıdır. Bundan dolayı my ( t+ ) eklenen yeni sınır öznitelik vektöründen sonra sonra y etiketli sınır öznitelik vektörleri sayısını gösterir. Şekil de gösterilen iki oyutlu öznitelik uzayında ikili sınıflandırma için adaptasyon neticesinde elde edilen sonuç karar sınırları, doğru parçalarının ir irleşimi şeklinde Şekil 4 de gösterilmiştir. Şekilde adaptasyon neticesinde elde edilen sınır öznitelik vektörleri ise daire şeklinde gösterilmişlerdir. Test kümesi örneklerinin sınıflandırılması, seçilen örneğin adaptasyon sonucunda elde edilen sınır öznitelik vektörlerine olan en yakın ir komşuluğu dikkate alınarak yapılır. Sadece ir komşuluğun dikkate alınması sınır öznitelik vektörlerinin sınırlarda karşılıklı olarak yer alması istendiğinden anlamlıdır. Yapılan denemelerden elde edilen sonuçlara göre u öngörünün gerçekleştiği gösterilmiştir. Şekil 4. İki oyutlu öznitelik uzayının, adaptasyon işleminden sonra elde edilen sonuç sınır öznitelik vektörleriyle ölütlenmesi SÖBA sonuçlarının konsensüs karar verici yapılarda kullanılması SÖBA algoritmasının sonucu, hem sınır özniteliklerinin elirlenmesi, hem de adaptasyonu sırasında kullanılan eğitim kümesi örneklerinin seçilme sırasıyla yakından ilgilidir. SÖBA nın farklı her koşturulmasında, rastgele seçilen eğitim kümesi örnekleri nedeniyle, öznitelik uzayı yaklaşık enzer aşarımlar sağlayarak farklı şekilde ölütleneilmektedir. Daha önce sıkça kullanılan hem parametrik hem de parametrik olmayan sınıflayıcıların kararlarının irleştirilmesiyle karşılaştırıldığında sistem yaklaşımı açısından, SÖBA nın farklı sonuçlarının irleştirilmesi tatminkar sonuçlar vermektedir. Konsensüs karar verici kuralları ise maksimum kuralı, minimum kuralı, ortalama kuralı ve çoğunluk oylaması kuralı olailmektedir (Benediktsson vd., 997; Jimenez vd., 999). Bunlara ek olarak en küçük kareler analizi yöntemiyle de irleştirilecek kararlar için optimal ağırlık katsayıları elirleneilmektedir (Lee ve Ersoy, 2006). Hatta yapay sinir ağları ve SÖBA algoritması da kararların irleştirilmesi için kullanılailir. Şekil 5 te, u çalışmada önerilen konsensüs yapısı gösterilmiştir. Konsensüs yapısında, çapraz sağlama yöntemi yansız kararlar verilmesi için 0

8 f= Sağlama Eğitim Örnekleri SÖBA λ Oriinal Eğitim Örnekleri f=2 Sağlama Eğitim Örnekleri SÖBA λ 2 Σ SONUÇ f=k Sağlama Eğitim Örnekleri SÖBA Şekil 5. k parçalı çapraz sağlama kullanılarak oluşturulan konsensüs strateisi lok şeması konsensüs ile irlikte kullanılmıştır. Yine kaç farklı kararın irleştirilmesi gerektiği, çapraz sağlama yöntemi sayesinde daha doğru ir içimde elirleneilmektedir. Konsensüs kuralı olarak çoğunluk oylaması yöntemi ile irlikte, güvenilirlik faktörüne ağlı olarak elde edilen her ir karar için farklı ağırlıkların kullanılması da çapraz sağlama sayesinde mümkün olmaktadır. Bu yöntemlere ek olarak ağırlık katsayılarının, λ i, i =... k ulunması için ortalama karasel hatanın minimize edilmesi de önerilen konsensüs yapısı sayesinde gerçekleneilir. Bu çalışmada çoğunluk oylaması kuralı sonuçları verilmiştir. Sonuçlarda görülen konsensüs SÖBA neticeleri, 0 parçalı çapraz sağlama yöntemiyle irlikte kullanılan SÖBA nın, 0 kez çalıştırılması ile elde edilen 0 farklı sonucun, herir piksel için karar verilirken, çoğunluk oylaması yöntemi kullanılarak elde edilmiştir. Deneysel Sonuçlar Kullanılan data ve kurulan deneyler Deneylerde, kuzeyatı Indiana dan 992 Haziran ayında toplanan AVIRIS datası kullanılmıştır (Langree ve Biehl, 992). Şekil 6 da gösterilen u data çok iyi ilinen ir test datasıdır ve sıklıkla hiperspektral dataların sınıflandırılma algoritmalarını test etmek için kullanılmaktadır. Kullanılan data setinin oyutları 45x45 piksel olup, iki farklı sınıf ve iki farklı spektral and kominasyonu için deneyler kurulmuştur. 7 sınıflık eğitim kümesi örnekleri (değişik sınıfların ir karışımı olan azı örnekler karışım tip sınıf örnekleri olarak ele alınmıştır) ve 9 sınıflık örnekler (istatistiksel olarak anlamlı 9 sınıf ele alınmıştır), 9 spektral and (multispektral dataları temsil etmesi için) ve 90 spektral and (30 spektral and oriinal and sayısı 220 olan AVIRIS datasından atmosferik etkilerden ötürü çıkarılarak kullanılmamıştır) için oluşturulmuştur. Özetle 7 sınıf, 9 ve 90 oyutlu örnekler data kümeleri ve 2, 9 sınıf, 9 ve 90 oyutlu örnekler ise data kümeleri 3 ve 4 olarak isimlendirilmiştir. Karşılaştırma SÖBA algoritmasının aşarımı, destek vektör makinalarının (Melgani, ve Bruzzone, 2004) yanında maksimum olailirlik, Fisher doğrusal olailirlik, ilinti ve uyumlu süzgeçleme gii istatistiksel sınıflayıcılar ve parametrik olmayan K en yakın komşuluk (K-EK) algoritması da dahil olmak üzere karşılaştırmalı olarak verilmiştir. Talo de ortalama eğitim, test aşarımları, 4 farklı data kümesi için, kappa istatistiği de 0 02

9 (a) () Şekil 6. AVIRIS datası a) 50, 27 ve 7. andlar için görüntü ) 7 sınıf için referans yer verisi Talo. Ortalama eğitim test aşarımları ve kappa istatistiği Eğitim Test Data Kümesi Metod Başarım Başarım κ % % κ Maksimum Olailirlik Fisher Doğrusal Olailirlik İlinti Uyumlu Süzgeçleme K-EK RTF-DVM SÖBA Konsensüs SÖBA K-EK RTF-DVM SÖBA Konsensüs SÖBA Maksimum Olailirlik K-EK RTF-DVM SÖBA Konsensüs SÖBA Maksimum Olailirlik Fisher Doğrusal Olailirlik İlinti Uyumlu Süzgeçleme K-EK RTF-DVM SÖBA Konsensüs SÖBA

10 Başarım [ % ] Data kümesi Data kümesi 2 Data kümesi 3 Data kümesi Sınır öznitelik vektörleri ile K komşuluk Şekil 7. K ya ağlı SÖBA aşarımı dahil olmak üzere gösterilmiştir. Kappa istatistiği genel sınıflandırma aşarımının yanında her ir sınıf için verilen kararların güvenilirliğinin de ir göstergesidir. Öyle ki azınlık sınıflarının korunup korunmadığı hakkında ize güvenilir ilgiler sunar. Talo de data kümesi 4 için maksimum olailirlik sınıflayıcı sonuçlarından anlaşılacağı gii kappa istatistiğinin test aşarımından çok düşük olduğu durumda sadece fazlaca eğitim örneği içeren sınıfların korunduğu anlaşılailir. Data kümeleri ve 2 için sınıflandırma proleminin karmaşıklığı data kümeleri 3 ve 4 e göre nispeten fazladır. Ayrıca data kümesi de karışım tipli ir sınıf da mevcuttur. Data kümeleri ve 2 için az sayıda örnek içeren azınlık sınıfları da ulunmaktadır. Data kümeleri 2 ve 4 için ise istatistiksel olarak anlamlı sınıfların ele alındığı söyleneilir. SÖBA algoritmasının aşarımı geleneksel istatistiksel yöntemlere nazaran tüm data kümeleri için oldukça iyidir. Özellikle azınlık sınıflarını da içeren karmaşık prolemlerde, data kümeleri ve 2 de olduğu gii, SÖBA algoritması destek vektör makinalarıyla irlikte en iyi sonuçları vermektedir. Prolemin karmaşıklığı azaldığında, radyal taanlı fonksiyon - destek vektör makinalarının (RTF-DVM) aşarımının yükseldiği söyleneilir. Elde edilen sonuçlar göstermiştir ki u çalışmada tanıtılan SÖBA algoritması hem multispektral hem de hiperspektral datalar için sınıfların istatistiğine ağlı kalmaksızın tutarlı sonuçlar üretmektedir. Konsensüs SÖBA için ise verilen sonuçlar, SÖBA nın 0 parçalı çapraz sağlama kullanılarak çalıştırılması sonucu elde edilen sonuçların çoğunluk oylaması yöntemiyle irleştirilmesiyle elde edilmiştir. Konsensüs SÖBA algoritması için sonuçlar, tüm data kümeleri için oldukça tatminkardır. Şekil 7 de ise adaptasyon sonucu elde edilen sonuç sınır öznitelik elemanlarına uygulanan K-EK de K ya ağlı aşarımın değişimi görülmektedir. Bu eklenen sonuç neticesinde SÖBA da K= alınmalıdır. Kaynaklar Alpaydin, E., (99). GAL: networks that grow when they learn and shrink when they forget, Technical Report 9-032, International Computer Science Institute, Berkeley, CA. Benediktsson, J.A., Sveinsson, J.R., Ersoy, O.K. ve Swain, P.H., (997). Parallel consensual neural networks, IEEE Transactions on Geoscience and Remote Sensing, 8,, Carpenter, G.A. ve Groserg, S., (987). A massively parallel architecture for a self organizing neural pattern recognition machine, Computer Vision, Graphics, and Image Processing, 37, Chee, H.M. ve Ersoy, O.K., (2005). A statistical self-organizing learning system for remote sens- 04

11 Sınır özniteliklerinin elirlenmesi ve adaptasyonu ing classification, IEEE Transactions on Geoscience and Remote Sensing, 432, Cristianini, N. ve Taylor, J.S., (2000). Support Vector Machines, Camridge University Press, Newyork. Duda, R.O., Hart, P.E. and Stork, D.G., (200). Pattern Classification, John Wiley & Sons, New York. Foody, G.M. ve Mathur, A., (2006). The use of small training sets containing mixed pixels for accurate hard image classification: Training on mixed spectral responses for classification y a SVM, Remote Sensing of Environment, 03, Fukunaga, K., (990). Introduction to Statistical Pattern Recognition, Academic Press, San Diego. Jimenez, L.O., Morell, A.M. ve Creus, A., (999). Classification of hyperdimensional data ased feature and decision fusion approaches using proection pursuit, maority voting, and neural networks, IEEE Transactions on Geoscience and Remote Sensing, 37, Joachims, T., (999). Making large-scale SVM Learning Practical. Advances in Kernel Methods in Schölkopf, B., Burges, C., ve Smola, A., eds, Support Vector Learning, MIT-Press, Newyork. Kasapoğlu, N.G., Ersoy, O.K. ve Yazgan B., (2006). Border feature detection and adaptation for classification of remote sensing images, Proceeding of IGARSS 06, Denver, USA. Kasapoğlu, N.G. ve Ersoy, O., (2007). Border feature detection and adaptation for classification of multispectral and hyperspectral remote sensing images, Technical Report TR-ECE-07-06, Purdue University, W. Lafayette, IN. Kohonen, T., (990). The self-organizing map, Proceedings of the IEEE, 78, 9. Langree D. ve Biehl, L., (992). Multispec and AVIRIS NW Indiana s Indian Pines data set. index.html. Landgree, D.A., (2003). Signal Theory and Methods in Multispectral Remote Sensing, John Wiley & Sons, New Jersey. Lee, J. ve Ersoy, O., (2006). Consensual and hierarchical classification of remotely sensed multispectral images, Proceedings of IGARRS 06, Denver, USA. Melgani, F. ve Bruzzone, L., (2004). Classification of hyperspectral remote sensing images with support vector machines, IEEE Transactions on Geoscience and Remote Sensing, 42, Richards, J.A., (993). Remote Sensing Digital Image Analysis, An Introduction, Springer-Verlag, New York. Vapnik, V.N., (998). Statistical Learning Theory, Wiley, New York. 05