İş Zekası Çözümleri için Çok Boyutlu Birliktelik Kuralları Analizi

Transkript

1 İş Zekası Çözümleri için Çok Boyutlu Birliktelik Kuralları Analizi Derya Birant 1, Alp Kut 1, Medi Ventura 2, Hakan Altınok 2, Benal Altınok 2, Elvan Altınok 2, Murat Ihlamur 2 1 Dokuz Eylül Üniversitesi, Bilgisayar Mühendisliği Bölümü, İzmir 2 NETSİS, NETLE, ANALYZER, İzmir derya@cs.deu.edu.tr, alp@cs.deu.edu.tr, medi.ventura@netsis.com.tr, hakan@e-analyzer.net, benal.altinok@netle.com.tr, elvan@e-analyzer.net, murat.ihlamur@netsis.com.tr Özet: Bu bildiri, iş zekası çözümlerinde kullanılabilecek, veri madenciliğindeki çok boyutlu birliktelik kuralları analizini içermektedir. Çalışmanın amacı, çok boyutlu verilerdeki gizli kalmış örüntüleri, ilişkileri ve değişimleri kurallar halinde keşfedebilmeyi sağlamaktır. Çalışmada, FP-Growth algoritmasının çok boyutlu birliktelik kuralları analizinde kullanılabileceği bir model önerilmektedir. Modelin kullanılabilirliğini arttırmak için geliştirilen OLAP küp yapısına dayalı bir yazılım çerçevesi de anlatılmaktadır. Çalışma, ayrıca çok boyutlu birliktelik kuralları analizi tekniğiyle gerçekleştirilen, pazar sepet analizi ile ilgili örnek bir uygulama da içermektedir. Anahtar Sözcükler: Veri Madenciliği, İş Zekâsı, Birliktelik Kuralları Analizi. A New Approach for Quality Function Deployment: An Application Abstract: This paper covers multi-dimensional association rule analysis in data mining which is able to use for business intelligent solutions. The purpose of the study is to discover hidden patterns, associations, and changes as rules. It proposes a model implemented with FP-Growth algorithm for multidimensional association rule analysis. A software framework based on OLAP cubes, which was developed to increase the usability of the model, is also explained. This paper also contains a case study for market basket analysis using multi-dimensional association rule mining technique. Keywords: Data Mining, Business Intelligence, Association Rule Mining. 1. Giriş Birliktelik kuralları analizi, yaygın olarak kullanılan veri madenciliği yöntemlerinden birisidir. Veriler arasındaki birlikteliklerin, ilişkilerin ve bağıntıların kurallar halinde bulunması işlemidir. Veri nesneleri arasındaki ilginç ilişkiler ve eş zamanlı gerçekleşen durumlar araştırılır. Bir birliktelik kuralına örnek olarak X ve Y ürününü satın alan müşterilerin %80 olasılıkla C ürününü de satın alması verilebilir. Bu tür birliktelik kuralları, söz konusu nesneler ile ilgili durumun sıklıkla tekrarlanması durumunda anlamlıdır. Birliktelik kuralları analizi; ticaret, finans, mühendislik, fen ve sağlık sektörlerinin birçok alanlarında kullanılmaktadır. Örneğin, pazar sepet analizlerinde sıklıkla birlikte satılan ürünleri tespit etmek, web sayfalarında ziyaretçilerin hangi sayfaları birlikte tıkladığını araştırmak, bağıntılı olarak geçirilen hastalıkları belirlemek için kullanılabilmektedir.

2 Bu çalışmada, iş zekası çözümlerinde kullanılabilecek, çok boyutlu birliktelik kuralları analizini içeren bir model önerilmektedir. OLAP küpleri üzerinde FP- Growth algoritmasının çalıştırılmasına dayalı olarak geliştirilmiş bir yazılım çerçevesi anlatılmaktadır. Çalışmada ayrıca gün, şube, satılan ürünler gibi çok boyutlu bir mağazacılık verisinde gerçekleştirilen pazar sepet analizi uygulaması da sunulmaktadır. Bu uygulamanın amacı, hangi şubelerde, hangi günlerde, hangi ürünlerin satıldığına yönelik gizli kalmış bilgileri keşfetmektir. Veri madenciliği ile elde edilebilecek bilgilerle, gün ve şubeler düzeyinde satış tahminleri, promosyon uygulamaları ve reyon dizilişleri yapılabilmektedir. Bildirinin ikinci bölümünde, konu ile ilgili yapılmış önceki çalışmalar hakkında bilgi verilmiştir. Üçüncü bölümde, tek boyutlu ve çok boyutlu birliktelik kurallarının temel kavramları ve farkları anlatılmaktadır. Dördüncü bölümde, algoritma detayları verilmektedir. Beşinci bölümde, örnek olarak gerçekleştirilen çok boyutlu pazar sepet analizi uygulaması sunulmaktadır. Bildiri, sonuçların aktarıldığı ve gelecek çalışmaların belirtildiği altıncı bölüm ile sona ermektedir. 2. Önceki Çalışmalar Çok boyutlu birliktelik kuralları analizi çeşitli çalışmalarda farklı algoritmalar kullanılarak gerçekleştirilmiştir. Örneğin; Xu ve Wang [12][13] bu konu ile ilgili yaptıkları çalışmalarında, 4 seviyeli bağlaçlı liste veri yapısı kullanan ve veritabanını sadece bir kere tarayan yeni bir algoritma geliştirmişlerdir. Algoritmada kullanılan indeks yapısı ve istatistiksel frekans hesaplamaları ile geleneksel yöntemlere göre daha hızlı bir model ortaya koymuşlardır. Lin, Tseng ve Wang [8] çevrimiçi olarak OLAM (On-Line Association Mining) küplerinden çok boyutlu birliktelik kurallarının bulunması konusunda çalışmalar yapmışlardır. Ayrıca bu küpleri kullanan OMARS adını verdikleri bir yazılım çerçevesi geliştirmişlerdir. Bu yazılım çerçevesi ile kullanıcıların OLAP benzeri sorgu oluşturmasını sağlayan bir arayüz hazırlamışlardır. Çok boyutlu birliktelik kuralları analizini başka metotlarla birleştirerek yapan çalışmalar bulunmaktadır. Örneğin; Khare ve arkadaşları [7] bulanık mantık ile çok boyutlu birliktelik kuralları analizi yaparken kuralları oluşturan kısıt değerlerinin bulanık değerler olarak ifade edilmesini ortaya atmışlardır. Bu yöntem ile daha geniş değerli kategorilerin işlenebilmesini sağlayarak, daha yüksek destek değerli birliktelik kuralları elde edebilmişlerdir. Sug [11] yaptığı çalışmada çok boyutlu birliktelik kuralları ile karar ağaçları yöntemini oluşturmuştur. Pandey ve Pardasani [10] yaklaşımlı küme modeli ile çok boyutlu birliktelik kurallarını iki adımda keşfedebilmektedirler. Birinci adımda, ilgili tablolar birleştirilerek yeni veri setini elde edilmiş, ikinci adımda ise seçilen boyutların ikili kodlama sistemine göre oluşturulması ve birliktelik kurallarının bulunması gerçekleştirilmiştir. Çok boyutlu birliktelik kuralları analizini değişik alanlarda uygulayan çalışmalar da bulunmaktadır. Örneğin; Song-Bai He ve arkadaşları [6] trafik kazalarına neden olan faktörleri çok boyutlu birliktelik kuralları yöntemiyle incelemişlerdir. Taşıt tipi, zaman, bölge, ehliyet süresi, hava şartları gibi faktörlerle trafik kazalarının ilişkilerini çok boyutlu araştırmışlardır. Doğan ve Çamurcu [3] eğitime yönelik veri madenciliği çalışması yaparak, çevrimiçi bir test değerlendirme aracı ile yanlış seçenekleri çok boyutlu analiz etmişler ve sıklıkla birlikte yapılan yanlışları bulabilmişlerdir. Bu bulgulara dayanarak testlerin temel ve alt kavramlarının yeniden güncellenebilmesi hedeflenmektedir.

3 3. Birliktelik Kuralları Temel Kavramları Bir veritabanını tablosunda, VT, yer alan tüm nesnelerin N = {n 1,n 2,n 3,...,n m } olarak ifade edildiğini düşünelim. Bu durumda veritabanı tablosunda VT={H 1, H 2, H 3,...,H t } yer alan bir hareket kaydındaki, k nesne, tüm nesneler kümesinin bir alt kümesi, H j N, H j = {n j1,n j2,n j3,...,n jk } olacaktır. Bir birliktelik kuralı, X ve Y, N tüm nesneler kümesinin bir alt kümesi, X N, Y N ve X Y= Ø olmak üzere X Y biçiminde bir bağımlılık ifadesidir. Bu ifade ile X nesnesi/nesneleri, Y nesnesini/nesnelerini belirler. Başka bir deyişle Y nesnesi/nesneleri, X nesnesine/ nesnelerine bağımlıdır denir. Veritabanı kayıtlarında, nesnelerin gruplandırılması ile elde edilen bağımlılık ilişkilerinin yüzde yüz geçerli olması beklenemez. Ancak, çıkarsaması yapılan kuralın, veritabanının önemli bir kısmı tarafından desteklenmesi, yani söz konusu durumun sıkça görülüyor olması gerekir. Bu nedenlerden dolayı, bir X Y birliktelik kuralı destek ve güven eşik değerlerini sağlayacak biçimde üretilir. Destek değeri, X ve Y nesnelerinin birlikte bulunduğu kayıt sayısının, veritabanındaki tüm kayıt sayısına oranı olarak hesaplanır. Güven değeri ise, X ve Y nesnelerinin birlikte bulunduğu kayıt sayısının, X nesnesinin (veya nesnelerinin) bulunduğu kayıt sayısına oranıdır. Destek ve güven ifadeleri 0 ile 1 arasında değişir ve ne kadar 1 e yakınlarsa nesneler arasında o kadar güçlü ilişki olduğunu gösterirler. Dolayısıyla, bağıntının önemli olması için her iki değerin de olabildiğince yüksek olması gereklidir. Destek, veri setinde bu bağıntının ne kadar sık olduğunu, P(X Y) ; güven de X nesnesinin olması durumunda hangi olasılıkla Y nesnesini de olacağını söyler, P (Y X). Destek(X Y) = P(X Y) (3) Güven(X Y) = P(Y X) = P(X Y)/P(X) 3.1. Tek Boyutlu Birliktelik Kuralları Analizi Tek boyutlu birliktelik kuralları, tek bir karşılaştırma elemanı yada özellik içeren birliktelik kurallarıdır. Örneğin; sadece satın alma önergesi içeren basit bir pazar sepet analizinde kullanılan kural türüdür. SatınAlma("A ürünü") SatınAlma("B ürünü") (%60) 3.2. Çok Boyutlu Birliktelik Kuralları Analizi Çok boyutlu birliktelik kuralları, birden fazla karşılaştırma elemanı yada özellik içeren birliktelik kurallarıdır. Örneğin; müşterilerin hangi şubeden, hangi gün, neler satın aldığı gibi birden fazla özelliği içeren kurallar, Şekil 1 de gösterilen örnek OLAP küpü üzerinden keşfedilebilmektedir. Şube("Cihan") Λ Gün("Salı") SatınAlma("A ürünü") (%15) Destek(X Y) = X Y / VT (1) Güven(X Y) = Destek(X Y) / Destek(X) X Y / VT = X / VT = X Y / X (2) Şekil 1. OLAP küp örneği

4 Yöneticiler ve analistler, çalışmaları sırasında çok boyutlu olarak tanımlanan verileri yatay veya düşey eksenlerde çakıştırarak görebilmektedirler. Örneğin; demografik veriler (yaş, cinsiyet, eğitim durumu vb.), sayısal veriler (adetler, işlem miktarları, bütçelenen değerler vb.), ürün özellikleri (renk, boyut vb.) ve zaman gibi farklı açılardan bakılarak daha ayrıntılı analizler yapabilmektedirler. Analizde göz önünde bulundurulacak veri boyutlarının, B={B 1,B 2,B 3,...,B t }, veritabanı tablosunun da VT={H 1, H 2, H 3,...,H t } olarak ifade edildiğini düşünelim. Bu durumda veritabanı tablosunda yer alan bir hareket kaydı H i ={b i1,b i2,b i3,...,b it } olacaktır. B i boyutunun içerdiği tanım kümeleri (domain) ile b ij ϵ B i ifadesi kullanılabilmektedir. Bu durumda VT veritabanı tablosu B 1 X B 2 X X B t çapraz çarpımının alt kümesi olmaktadır. Çok boyutlu birliktelik kuralları genel olarak iki türe ayrılır. Karşılaştırma elemanları tekrar etmeyen kurallar boyutlar arası birliktelik kuralları, tekrar eden kurallar ise hibrit birliktelik kuralları olarak adlandırılır. Boyutlar arası birliktelik kuralı örneği: Şube("Cihan") Λ Gün("Salı") SatınAlma("A ürünü") Hibrit birliktelik kuralı örneği: Şube("Cihan") Λ Gün("Salı") Λ SatınAlma("A ürünü") SatınAlma("B ürünü") 4. Algoritma Birliktelik kuralları analizi konusunda geliştirilmiş olan başlıca algoritmalar APRIORI [1], ECLAT [14], MAFIA [2] ve FP-Growth [5] algoritmalarıdır. Bu algoritmalar karşılaştırıldığında FP-Growth algoritmasının yüksek performans gösterdiği görülmüştür. [4] Bu algoritma büyük verisetlerinde hızlı çalışabilen ve sistem kaynaklarını verimli kullanabilen bir algoritmadır. Bunun en büyük nedeni, tüm veritabanını FP-Tree (Frequent Pattern Tree) adı verilen sıkıştırılmış bir ağaç veri yapısında tutmasıdır. Ayrıca algoritma tüm veritabanı sadece iki kez taramaktadır. Birinci tarama, tüm nesnelerin destek değerlerinin hesaplanması için, ikincisi tarama ise ağaç veri yapısının oluşturulması içindir. Şekil 2 de FP-Growth algoritmasının genel yapısı gösterilmektedir. Algoritmada öncelikle veritabanındaki her bir nesnenin destek değerleri hesaplanmaktadır. Destek değerleri, algoritmaya girdi olarak verilen destek eşik değerine büyük ve eşit olan nesneler büyükten küçüğe sıralanarak bir liste içerisine konulmaktadır. Bu eleme sayesinde yaygın olmayan nesnelerin hiçbir zaman ağaca eklenmemesi sağlanmış olur. Veritabanındaki her bir hareket kaydı nesnelerin destek değerlerine göre sıralanarak ağaca sıkıştırılmış biçimde eklenir. Sıralama işlemi sayesinde destek değeri daha büyük olan nesneler köke daha yakın olmaktadır. Sıkıştırma işlemi çok tekrarlı nesnelerin ilkekler olarak birleştirilmesi ile gerçekleştirilir. Bu metot arama maliyetini önemli ölçüde azaltır. Hareket kaydı içerisinde yer alan bir nesne ağaçta yoksa o nesne için yeni bir düğüm oluşturulur ve destek değeri 1 olarak atanır. Eğer o nesne daha önce ağaçta oluşturulmuş ise sadece o düğümün destek değeri 1 arttırılır. Nesnelerin ağaçtaki başlangıç noktaları başlık tablosu içerisinde tutulur. Aynı zamanda ağaç içerisinde aynı nesneyi içeren düğümler birbirine bağlanır. Ağaç oluşturulduktan sonra üzerinde Growth algoritması çalıştırılır. Şekil 3 de her bir nesne için çalıştırılan Growth algoritmasının genel yapısı gösterilmektedir. Öncelikle içerisinde o nesnenin geçtiği yollar belirlenir. Eğer tek bir dal varsa yaygın nesneler kümesi, dalı oluşturan nesnelerin kombinasyonudur. Eğer birden fazla yol varsa, destek değer o yoldaki minimum destek değeri olarak belirlenir. Daha sonra bu yollar o nesne için koşullu örüntü temelini (conditional pattern base)

5 oluşturur. Her bir koşullu örüntü temelinden koşullu örüntü ağacı (conditional pattern tree) oluşturulur. Daha sonra bu şartlı örüntü ağacı üzerinde algoritma özyinelemeli olarak yeniden çalıştırılır. Fp-Growth algoritması sonlandığında birlikte sıklıkla görünen nesneler kümesi belirlenmiş olur. Algoritma böl ve yönet yaklaşımına uygun olarak ana görevin kendi içinde daha küçük görevlere ayrılmasına olanak vermektedir. Ayrıca oluşturulan FPtree veri yapısı asıl veri kümesinden daha büyük olmamaktadır. 5. Pazar Sepet Analizi Uygulaması Birliktelik kuralları analizi, en yaygın olarak pazar sepet analizi uygulamalarında kullanılmaktadır. Bu uygulamalarda temel amaç marketlerde hangi ürünlerin birlikte satıldığını belirlemektir. Bu bildirideki uygulamada amaç, hangi şubede hangi gün hangi ürünlerin birlikte satıldığı belirlemektir. Çok boyutlu veriler üzerinden hibrit birliktelik kuralları çıkarılmaktadır. Şekil 2. FP-Growth algoritmasının genel yapısı Uygulama, önceki bölümlerde anlatılan modeli ve algoritmayı içerecek şekilde çalışma kapsamında geliştirilen "Analyzer" arayüzü kullanılarak gerçekleştirilmiştir. [9] 5.1 Veri Ambarı Uygulamada kullanılan veri ambarı, bir mağazanın 9 şubesine ait 6300 müşterinin 6 aylık alışveriş hareket verilerini içermektedir. Veri ambarı oluşturulurken veri indirgeme, temizleme, ön işleme ve dönüştürme işlemleri yapılmıştır. Örneğin, tarihler haftalık günlere dönüştürülmüş, geçersiz veriler çıkartılmıştır. Şekil 4 de veri ambarının kar tanesi şeması (snowflake schema) gösterilmektedir. Alışveriş hareketlerini içeren olgu tablosu (fact table) satış, şube ve zaman boyutlarını birleştirmektedir. Müşteri ve ürün tabloları alışveriş hareketlerini destekleyici konumdaki tablolardır. Şekil 3. Growth algoritmasının genel yapısı

6 Birliktelik analizi parametrelerinin tanımlanması: Verilen destek eşik değeri ile belli bir oranın üzerindeki birliktelikler bulunmaktadır. Ayrıca tüm birliktelik sonuçları yerine sadece istenilen sayıda nesne içeren örneğin sadece üçlü birliktelikler gösterilebilmektedir. (Şekil 5 Bölüm 3) Şekil 4. Kar tanesi şeması Tablo1 de uygulamada kullanılan veri setinin küçük bir örneği verilmektedir. Mağazanın sattığı ürünler A, B, C gibi harfler olarak kodlanmıştır. Tablo 1. Örnek veriseti Şube Gün Ürünler 01-Cihan Pazartesi A, B, C 02-Bilkent Pazartesi A, D 02-Bilkent Salı B, E, K 02-Bilkent Salı C, K, Y, Z 09-Keçiören Pazar A, C, E 5.2 Veri Madenciliği Verilerin hazırlanmasının ardından uygulama üç aşamada gerçekleştirilmektedir: Boyutların seçimi: OLAP küpünde bulunan boyutlardan, birliktelik analizine dahil edilmek istenen sahalar belirlenmelidir. (Şekil 5 Bölüm 1) Filtreleme: Çok büyük veri setlerinde filtreleme yapılarak sadece belli bir kısım veri için birliktelik analizi çalıştırılabilmektedir. Örneğin; haftanın günlerinin hepsi yerine bir yada birkaçı seçilebilmektedir. (Şekil 5 Bölüm 2) 5.3 Veri Madenciliği Sonuçları Hangi şubede, hangi gün, hangi ürünlerin satıldığını belirlemeye yönelik yapılan uygulama sonuçlarının bir kısmı hem tabloda hem de grafiksel olarak Şekil 5 in 4. bölümünde gösterilmektedir. Böylece müşterilerin satın alma alışkanlıkları çözümlenmiş olmaktadır ve satışları arttırmaya yönelik stratejiler geliştirilebilmektedir. Analiz sonuçlarının sağlayacağı başlıca yararlar şunlardır: Belirlenen gün ve şubede, X ürününü alanların Y ürününü de çok yüksek olasılıkla aldıkları biliniyorsa ve eğer bir müşteri X ürününü alıyor ama Y ürününü almıyorsa, o potansiyel bir Y müşterisidir denilebilir. Her ürün için şube bazında bir sonraki ayın satış tahminleri çıkarılabilir. Birlikte satın alınan ürünler için şube ve gün bazında promosyon uygulaması yapılabilir. Yeni bir ürün için potansiyel satış bölgesi belirlenebilir. Analiz sonuçlarına göre stok eritmeye gidilebilir. Ürün kataloglarında birlikte satılan ürünler aynı sayfaya konularak çekici hale getirilebilir. Web sitelerinde bir ürünle ilgilenen kişiye, bu ürünle birlikte en çok satılan

7 ürünün reklamı gösterilerek çapraz satış önerisi getirilebilinir. Şube ve gün bazında reyon ve raf dizilişleri değiştirilebilir. Bu konuda iki farklı strateji geliştirmek mümkündür. Birincisi strateji, sıklıkla birlikte satın alınan ürünlerin birbirine yakın iki farklı noktaya konulması ve böylece müşterilerin iki ürün arasında bulunan reyonlardaki ürünleri de alma ihtimalini yükseltmektir. İkinci strateji, birlikte çok fazla satılan ürünlerin yan yana koyulması ile müşteri beklentilerini sağlanmak, ürünlerden birisini alan müşterinin diğerini almayı unutmasını engellemek ve diğer ürünü de alma ihtimalini arttırmaktır. Kısacası, farklı semtlerde bulunan birden fazla mağaza için farklı eğilimleri tespit edip, mağaza bazında doğru satış ve stok politikaları izlenebilmektedir Şekil 5. "Open Analyzer" ekran görüntüsü 6. Sonuçlar ve Gelecek Çalışmalar Çalışmada, iş zekası çözümleri sunmaya yönelik olarak FP-Growth algoritmasını içeren bir yazılım çerçevesi geliştirilmiştir. Çalışmanın amacı, toplanan çok boyutlu büyük veri yığınlarından, veri madenciliği yöntemleri ile önceden bilinmeyen, yararlı ve kullanışlı olabilecek kuralların keşfedilmesidir. Veri madenciliği sonucunda elde edilecek bilgiler, mevcut durumu daha iyi görmeyi ve geleceğe yönelik akılcı ve stratejik kararlar almayı sağlayacaktır. Gelecek çalışmalarda, Analyzer yazılımı ile diğer veri madenciliği yöntemlerini (kümeleme, sınıflandırma, sıralı örüntü analizi, aykırı durum analizi) içeren uygulama çalışmalarının yapılması ve elde edilecek sonuçlarının sunulması hedeflenmektedir.

8 7. Kaynaklar [1] Agrawal, R., Imielinski, T., Swami, A., "Mining Association Rules between Sets of Items in Large Databases", SIGMOD 93, ACM Press, (1993). [2] Burdick, D., Calimlim, M., Gehrke, J., "MAFIA: A Maximal Frequent Itemset Algorithm for Transactional Databases", Proceedings of the 17th International Conference on Data Engineering, Heidelberg, Germany, (2001). [3] Dogan, B., Camurcu, Y., Association Rule Mining from an Intelligent Tutor, Journal of Educational Technology Systems, 36 (4): (2008) [4] Győrödi, C., Győrödi, R., Holban, S., "A Comparative Study of Association Rules Mining Algorithms", SACI 2004, 1st Romanian-Hungarian Joint Symposium on Applied Computational Intelligence, Timisoara, Romania, (2004). [5] Han, J., Pei, H., Yin, Y., "Mining Frequent Patterns without Candidate Generation". SIGMOD 00, ACM Press, New York, NY, USA, (2000). [6] He, S-B., Wang Y-J., Sun, Y-K., Gao, W- W., Chen, Q., An, Y-Q., "The Research of Multidimensional Association Rule in Traffic Accidents", Wireless Communications, Networking and Mobile Computing, 1-4 (2008). [7] Khare, N., Adlakha, N., Pardasani, K.R., "An Algorithm for Mining Multidimensional Fuzzy Assoiation Rules", International Journal of Computer Science and Information Security (IJCSIS), 5(1): (2009). [8] Lin, W-Y., Tseng, M-C., Wang, M-F., "OLAM cube selection in on-line multidimensional association rules mining system", Lecture Notes in Computer Science, 3214: (2004). [9] NETSİS iş zekası çözümleri, 10 Aralık [10] Pandey, A., Pardasani, K.R., "Rough Set Model for Discovering Multidimensional Association Rules", International Journal of Computer Science and Network Security (IJCSNS), 9(6): (2009). [11] Sug, H., "Comparison of Multidimensional Association Rules with Decision Trees for Large Database", Proceedings of the International Conference on Artificial Intelligence, Las Vegas, Nevada, USA, (2003). [12] Xu, W-X., Wang, R-J., "A Novel Algorithm of Mining Multidimensional Association Rules", Lecture Notes in Control and Information Sciences, 344/2006: (2006). [13] Xu, W-X., Wang, R-J., "A Fast Algorithm of Mining Multidimensional Association Rules Frequently", Proceedings of the Fifth International Conference on Machine Learning and Cybernetics, Dalian, (2006). [14] Zaki, M., Parthasarathy, S., Ogihara, M., Li, W., "New Algorithms for Fast Discovery of Association Rules", Proceedings 3rd Int. Conf. on Knowledge Discovery and Data Mining (KDD 97), AAAI Press, Menlo Park, CA, USA (1997).