本文來(lái)自：陳旸的專欄《數(shù)據(jù)分析實(shí)戰(zhàn) 45 講》

數(shù)據(jù)挖掘，從知識(shí)清單開(kāi)始

我列了一個(gè)數(shù)據(jù)挖掘的知識(shí)清單，分別是數(shù)據(jù)挖掘的基本流程、十大算法和數(shù)學(xué)原理，以此來(lái)開(kāi)啟我們的學(xué)習(xí)之旅。

以下是我對(duì)這篇文章的總結(jié)圖，要是沒(méi)時(shí)間的話，可以先看這張“數(shù)據(jù)挖掘的知識(shí)清單”。

數(shù)據(jù)挖掘的基本流程

數(shù)據(jù)挖掘的過(guò)程可以分成以下 6 個(gè)步驟：

1. 商業(yè)理解：數(shù)據(jù)挖掘不是我們的目的，我們的目的是更好地幫助業(yè)務(wù)，所以第一步我們要從商業(yè)的角度理解項(xiàng)目需求，在這個(gè)基礎(chǔ)上，再對(duì)數(shù)據(jù)挖掘的目標(biāo)進(jìn)行定義。

2. 數(shù)據(jù)理解：嘗試收集部分?jǐn)?shù)據(jù)，然后對(duì)數(shù)據(jù)進(jìn)行探索，包括數(shù)據(jù)描述、數(shù)據(jù)質(zhì)量驗(yàn)證等。這有助于你對(duì)收集的數(shù)據(jù)有個(gè)初步的認(rèn)知。

3. 數(shù)據(jù)準(zhǔn)備：開(kāi)始收集數(shù)據(jù)，并對(duì)數(shù)據(jù)進(jìn)行清洗、數(shù)據(jù)集成等操作，完成數(shù)據(jù)挖掘前的準(zhǔn)備工作。

4. 模型建立：選擇和應(yīng)用各種數(shù)據(jù)挖掘模型，并進(jìn)行優(yōu)化，以便得到更好的分類結(jié)果。

5. 模型評(píng)估：對(duì)模型進(jìn)行評(píng)價(jià)，并檢查構(gòu)建模型的每個(gè)步驟，確認(rèn)模型是否實(shí)現(xiàn)了預(yù)定的商業(yè)目標(biāo)。

6. 上線發(fā)布：模型的作用是從數(shù)據(jù)中找到金礦，也就是我們所說(shuō)的“知識(shí)”，獲得的知識(shí)需要轉(zhuǎn)化成用戶可以使用的方式，呈現(xiàn)的形式可以是一份報(bào)告，也可以是實(shí)現(xiàn)一個(gè)比較復(fù)雜的、可重復(fù)的數(shù)據(jù)挖掘過(guò)程。數(shù)據(jù)挖掘結(jié)果如果是日常運(yùn)營(yíng)的一部分，那么后續(xù)的監(jiān)控和維護(hù)就會(huì)變得重要。

數(shù)據(jù)挖掘的十大算法

為了進(jìn)行數(shù)據(jù)挖掘任務(wù)，數(shù)據(jù)科學(xué)家們提出了各種模型，在眾多的數(shù)據(jù)挖掘模型中，國(guó)際權(quán)威的學(xué)術(shù)組織 ICDM （the IEEE International Conference on Data Mining）評(píng)選出了十大經(jīng)典的算法。

按照不同的目的，我可以將這些算法分成四類，以便你更好的理解：

丨分類算法：C4.5，樸素貝葉斯（Naive Bayes），SVM，KNN，Adaboost，CART

丨聚類算法：K-Means，EM

丨關(guān)聯(lián)分析：Apriori

丨連接分析：PageRank

?1. C4.5

C4.5 算法是得票最高的算法，可以說(shuō)是十大算法之首。C4.5 是決策樹(shù)的算法，它創(chuàng)造性地在決策樹(shù)構(gòu)造過(guò)程中就進(jìn)行了剪枝，并且可以處理連續(xù)的屬性，也能對(duì)不完整的數(shù)據(jù)進(jìn)行處理。它可以說(shuō)是決策樹(shù)分類中，具有里程碑式意義的算法。

?2. 樸素貝葉斯（Naive Bayes）

樸素貝葉斯模型是基于概率論的原理，它的思想是這樣的：對(duì)于給出的未知物體想要進(jìn)行分類，就需要求解在這個(gè)未知物體出現(xiàn)的條件下各個(gè)類別出現(xiàn)的概率，哪個(gè)最大，就認(rèn)為這個(gè)未知物體屬于哪個(gè)分類。

?3. SVM

SVM 的中文叫支持向量機(jī)，英文是 Support Vector Machine，簡(jiǎn)稱 SVM。SVM 在訓(xùn)練中建立了一個(gè)超平面的分類模型。如果你對(duì)超平面不理解，沒(méi)有關(guān)系，我在后面的算法篇會(huì)給你進(jìn)行介紹。

?4. KNN

KNN 也叫 K 最近鄰算法，英文是 K-Nearest Neighbor。所謂 K 近鄰，就是每個(gè)樣本都可以用它最接近的 K 個(gè)鄰居來(lái)代表。如果一個(gè)樣本，它的 K 個(gè)最接近的鄰居都屬于分類 A，那么這個(gè)樣本也屬于分類 A。

?5. AdaBoost

Adaboost 在訓(xùn)練中建立了一個(gè)聯(lián)合的分類模型。boost 在英文中代表提升的意思，所以 Adaboost 是個(gè)構(gòu)建分類器的提升算法。它可以讓我們多個(gè)弱的分類器組成一個(gè)強(qiáng)的分類器，所以 Adaboost 也是一個(gè)常用的分類算法。

?6. CART

CART 代表分類和回歸樹(shù)，英文是 Classification and Regression Trees。像英文一樣，它構(gòu)建了兩棵樹(shù)：一顆是分類樹(shù)，另一個(gè)是回歸樹(shù)。和 C4.5 一樣，它是一個(gè)決策樹(shù)學(xué)習(xí)方法。

?7. Apriori

Apriori 是一種挖掘關(guān)聯(lián)規(guī)則（association rules）的算法，它通過(guò)挖掘頻繁項(xiàng)集（frequent item sets）來(lái)揭示物品之間的關(guān)聯(lián)關(guān)系，被廣泛應(yīng)用到商業(yè)挖掘和網(wǎng)絡(luò)安全等領(lǐng)域中。頻繁項(xiàng)集是指經(jīng)常出現(xiàn)在一起的物品的集合，關(guān)聯(lián)規(guī)則暗示著兩種物品之間可能存在很強(qiáng)的關(guān)系。

?8. K-Means

K-Means 算法是一個(gè)聚類算法。你可以這么理解，最終我想把物體劃分成 K 類。假設(shè)每個(gè)類別里面，都有個(gè)“中心點(diǎn)”，即意見(jiàn)領(lǐng)袖，它是這個(gè)類別的核心。現(xiàn)在我有一個(gè)新點(diǎn)要?dú)w類，這時(shí)候就只要計(jì)算這個(gè)新點(diǎn)與 K 個(gè)中心點(diǎn)的距離，距離哪個(gè)中心點(diǎn)近，就變成了哪個(gè)類別。

?9. EM

EM 算法也叫最大期望算法，是求參數(shù)的最大似然估計(jì)的一種方法。原理是這樣的：假設(shè)我們想要評(píng)估參數(shù) A 和參數(shù) B，在開(kāi)始狀態(tài)下二者都是未知的，并且知道了 A 的信息就可以得到 B 的信息，反過(guò)來(lái)知道了 B 也就得到了 A。可以考慮首先賦予 A 某個(gè)初值，以此得到 B 的估值，然后從 B 的估值出發(fā)，重新估計(jì) A 的取值，這個(gè)過(guò)程一直持續(xù)到收斂為止。

EM 算法經(jīng)常用于聚類和機(jī)器學(xué)習(xí)領(lǐng)域中。

?10. PageRank

PageRank 起源于論文影響力的計(jì)算方式，如果一篇文論被引入的次數(shù)越多，就代表這篇論文的影響力越強(qiáng)。同樣 PageRank 被 Google 創(chuàng)造性地應(yīng)用到了網(wǎng)頁(yè)權(quán)重的計(jì)算中：當(dāng)一個(gè)頁(yè)面鏈出的頁(yè)面越多，說(shuō)明這個(gè)頁(yè)面的“參考文獻(xiàn)”越多，當(dāng)這個(gè)頁(yè)面被鏈入的頻率越高，說(shuō)明這個(gè)頁(yè)面被引用的次數(shù)越高。基于這個(gè)原理，我們可以得到網(wǎng)站的權(quán)重劃分。

算法可以說(shuō)是數(shù)據(jù)挖掘的靈魂，也是最精華的部分。這 10 個(gè)經(jīng)典算法在整個(gè)數(shù)據(jù)挖掘領(lǐng)域中的得票最高的，后面的一些其他算法也基本上都是在這個(gè)基礎(chǔ)上進(jìn)行改進(jìn)和創(chuàng)新。今天你先對(duì)十大算法有一個(gè)初步的了解，你只需要做到心中有數(shù)就可以了，具體內(nèi)容不理解沒(méi)有關(guān)系，后面我會(huì)詳細(xì)給你進(jìn)行講解。

數(shù)據(jù)分析學(xué)習(xí)推薦書(shū)單

《新程序員》：云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作，文字、視頻、音頻交互閱讀

總結(jié)

以上是生活随笔為你收集整理的数据挖掘的最佳学习清单的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。