數(shù)據(jù)挖掘的十種分析方法

2014-03-09 12:20:53來源:《市場研究網(wǎng)絡版》作者:謝邦昌教授

數(shù)據(jù)挖掘(Data mining),又譯為資料探勘、數(shù)據(jù)挖掘、數(shù)據(jù)采礦。它是數(shù)據(jù)庫知識發(fā)現(xiàn)中的一個步驟。數(shù)據(jù)挖掘一般是指從大量的數(shù)據(jù)中自動搜索隱藏于其中的有著特殊關系性的信息的過程?磾(shù)據(jù)挖掘(Data Mining)的十種分析方法:

數(shù)據(jù)挖掘(Data mining),又譯為資料探勘、數(shù)據(jù)挖掘、數(shù)據(jù)采礦。它是數(shù)據(jù)庫知識發(fā)現(xiàn)(英文:Knowledge-Discovery in Databases,縮寫:KDD)中的一個步驟。數(shù)據(jù)挖掘一般是指從大量的數(shù)據(jù)中自動搜索隱藏于其中的有著特殊關系性(屬于Association rule learning)的信息的過程。數(shù)據(jù)挖掘通常與計算機科學有關,并通過統(tǒng)計、在線分析處理、情報檢索、機器學習、專家系統(tǒng)(依靠過去的經(jīng)驗法則)和模式識別等諸多方法來實現(xiàn)上述目標。

數(shù)據(jù)挖掘(Data Mining)的十種分析方法:

1、記憶基礎推理法(Memory-Based Reasoning:MBR)

記憶基礎推理法最主要的概念是用已知的案例(case)來預測未來案例的一些屬性(attribute),通常找尋最相似的案例來做比較。
記 憶基礎推理法中有兩個主要的要素,分別為距離函數(shù)(distance function)與結合函數(shù)(combination function)。距離函數(shù)的用意在找出最相似的案例;結合函數(shù)則將相似案例的屬性結合起來,以供預測之用。記憶基礎推理法的優(yōu)點是它容許各種型態(tài)的數(shù) 據(jù),這些數(shù)據(jù)不需服從某些假設。另一個優(yōu)點是其具備學習能力,它能藉由舊案例的學習來獲取關于新案例的知識。

較令人詬病的是它需要大量的歷史數(shù)據(jù),有足夠 的歷史數(shù)據(jù)方能做良好的預測。此外記憶基礎推理法在處理上亦較為費時,不易發(fā)現(xiàn)最佳的距離函數(shù)與結合函數(shù)。其可應用的范圍包括欺騙行為的偵測、客戶反應預測、醫(yī)學診療、反應的歸類等方面。

2、市場購物籃分析(Market Basket Analysis)

購物籃分析最主要的目的在于找出什么樣的東西應該放在一起?商業(yè)上的應用在藉由顧客的購買行為來了解是什么樣的顧客以及這些顧客為什么買這些產(chǎn)品,找出相關的聯(lián)想(association)規(guī)則,企業(yè)藉由這些規(guī)則的挖掘獲得利益與建立競爭優(yōu)勢。

舉例來說,零售店可藉由此分析改變置物架上的商品排列或是設計吸引客戶的商業(yè)套餐等等。

購物籃分析基本運作過程包含下列三點:
(1)選擇正確的品項:這里所指的正確乃是針對企業(yè)體而言,必須要在數(shù)以百計、千計品項中選擇出真正有用的品項出來。
(2)經(jīng)由對共同發(fā)生矩陣(co-occurrence matrix)的探討挖掘出聯(lián)想規(guī)則。
(3)克服實際上的限制:所選擇的品項愈多,計算所耗費的資源與時間愈久(呈現(xiàn)指數(shù)遞增),此時必須運用一些技術以降低資源與時間的損耗。

購物籃分析技術可以應用在下列問題上:
(1)針對信用卡購物,能夠預測未來顧客可能購買什么。
(2)對于電信與金融服務業(yè)而言,經(jīng)由購物籃分析能夠設計不同的服務組合以擴大利潤。
(3)保險業(yè)能藉由購物籃分析偵測出可能不尋常的投保組合并作預防。
(4)對病人而言,在療程的組合上,購物籃分析能作為是否這些療程組合會導致并發(fā)癥的判斷依據(jù)。

3、決策樹(Decision Trees)

決策樹在解決歸類與預測上有著極強的能力,它以法則的方式表達,而這些法則則以一連串的問題表示出來,經(jīng)由不斷詢問問題最終能導出所需的結果。典型的決策樹 頂端是一個樹根,底部有許多的樹葉,它將紀錄分解成不同的子集,每個子集中的字段可能都包含一個簡單的法則。此外,決策樹可能有著不同的外型,例如二元樹、三元樹或混和的決策樹型態(tài)。

4、基因算法(Genetic Algorithm)

基因算法學習細胞演化的過程,細胞間可經(jīng)由不斷的選擇、復制、交配、突變產(chǎn)生更佳的新細胞;蛩惴ǖ倪\作方式也很類似,它必須預先建立好一個模式,再經(jīng)由 一連串類似產(chǎn)生新細胞過程的運作,利用適合函數(shù)(fitness function)決定所產(chǎn)生的后代是否與這個模式吻合,最后僅有最吻合的結果能夠存活,這個程序一直運作直到此函數(shù)收斂到最佳解。基因算法在群集 (cluster)問題上有不錯的表現(xiàn),一般可用來輔助記憶基礎推理法與類神經(jīng)網(wǎng)絡的應用。

5、群集偵測技術(Cluster Detection)

這個技術涵蓋范圍相當廣泛,包含基因算法、類神經(jīng)網(wǎng)絡、統(tǒng)計學中的群集分析都有這個功能。它的目標為找出數(shù)據(jù)中以前未知的相似群體,在許許多多的分析中,剛開始都運用到群集偵測技術,以作為研究的開端。

6、連結分析(Link Analysis)

連結分析是以數(shù)學中之圖形理論(graph theory)為基礎,藉由記錄之間的關系發(fā)展出一個模式,它是以關系為主體,由人與人、物與物或是人與物的關系發(fā)展出相當多的應用。例如電信服務業(yè)可藉 連結分析收集到顧客使用電話的時間與頻率,進而推斷顧客使用偏好為何,提出有利于公司的方案。除了電信業(yè)之外,愈來愈多的營銷業(yè)者亦利用連結分析做有利于企業(yè)的研究。

7、在線分析處理(On-Line Analytic Processing;OLAP)

嚴格說起來,在線分析處理并不算特別的一個數(shù)據(jù)挖掘技術,但是透過在線分析處理工具,使用者能更清楚的了解數(shù)據(jù)所隱藏的潛在意涵。如同一些視覺處理技術一 般,透過圖表或圖形等方式顯現(xiàn),對一般人而言,感覺會更友善。這樣的工具亦能輔助將數(shù)據(jù)轉變成信息的目標。

8、類神經(jīng)網(wǎng)絡(Neural Networks)

類神經(jīng)網(wǎng)絡是以重復學習的方法,將一串例子交與學習,使其歸納出一足以區(qū)分的樣式。若面對新的例證,神經(jīng)網(wǎng)絡即可根據(jù)其過去學習的成果歸納后,推導出新的結 果,乃屬于機器學習的一種。數(shù)據(jù)挖掘的相關問題也可采類神經(jīng)學習的方式,其學習效果十分正確并可做預測功能。

9、區(qū)別分析(Discriminant Analysis)

當所遭遇問題它的因變量為定性(categorical),而自變量(預測變量)為定量(metric) 時,區(qū)別分析為一非常適當之技術,通常應用在解決分類的問題上面。若因變量由兩個群體所構成,稱之為雙群體 — 區(qū)別分析 (Two-Group Discriminant Analysis);若由多個群體構成,則稱之為多元區(qū)別分析(Multiple Discriminant Analysis;MDA)。
(1) 找出預測變量的線性組合,使組間變異相對于組內(nèi)變異的比值為最大,而每一個線性組合與先前已經(jīng)獲得的線性組合均不相關。
(2) 檢定各組的重心是否有差異。
(3) 找出哪些預測變量具有最大的區(qū)別能力。
(4) 根據(jù)新受試者的預測變量數(shù)值,將該受試者指派到某一群體。

10、羅吉斯回歸分析(Logistic Analysis)

當區(qū)別分析中群體不符合常態(tài)分配假設時,羅吉斯回歸分析是一個很好的替代方法。羅吉斯回歸分析并非預測事件(event)是否發(fā)生,而是預測該事件的機率。 它將自變量與因變量的關系假定是S行的形狀,當自變量很小時,機率值接近為零;當自變量值慢慢增加時,機率值沿著曲線增加,增加到一定程度時,曲線協(xié)率開始減小,故機率值介于0與1之間。

贊助商鏈接: