数据挖掘的最佳学习清单
本文來自:陳旸的專欄《數據分析實戰 45 講》
數據挖掘,從知識清單開始
我列了一個數據挖掘的知識清單,分別是數據挖掘的基本流程、十大算法和數學原理,以此來開啟我們的學習之旅。
以下是我對這篇文章的總結圖,要是沒時間的話,可以先看這張“數據挖掘的知識清單”。
數據挖掘的基本流程
數據挖掘的過程可以分成以下 6 個步驟:
1. 商業理解:數據挖掘不是我們的目的,我們的目的是更好地幫助業務,所以第一步我們要從商業的角度理解項目需求,在這個基礎上,再對數據挖掘的目標進行定義。
2. 數據理解:嘗試收集部分數據,然后對數據進行探索,包括數據描述、數據質量驗證等。這有助于你對收集的數據有個初步的認知。
3. 數據準備:開始收集數據,并對數據進行清洗、數據集成等操作,完成數據挖掘前的準備工作。
4. 模型建立:選擇和應用各種數據挖掘模型,并進行優化,以便得到更好的分類結果。
5. 模型評估:對模型進行評價,并檢查構建模型的每個步驟,確認模型是否實現了預定的商業目標。
6. 上線發布:模型的作用是從數據中找到金礦,也就是我們所說的“知識”,獲得的知識需要轉化成用戶可以使用的方式,呈現的形式可以是一份報告,也可以是實現一個比較復雜的、可重復的數據挖掘過程。數據挖掘結果如果是日常運營的一部分,那么后續的監控和維護就會變得重要。
數據挖掘的十大算法
為了進行數據挖掘任務,數據科學家們提出了各種模型,在眾多的數據挖掘模型中,國際權威的學術組織 ICDM (the IEEE International Conference on Data Mining)評選出了十大經典的算法。
按照不同的目的,我可以將這些算法分成四類,以便你更好的理解:
丨分類算法:C4.5,樸素貝葉斯(Naive Bayes),SVM,KNN,Adaboost,CART
丨聚類算法:K-Means,EM
丨關聯分析:Apriori
丨連接分析:PageRank
?1. C4.5
C4.5 算法是得票最高的算法,可以說是十大算法之首。C4.5 是決策樹的算法,它創造性地在決策樹構造過程中就進行了剪枝,并且可以處理連續的屬性,也能對不完整的數據進行處理。它可以說是決策樹分類中,具有里程碑式意義的算法。
?2. 樸素貝葉斯(Naive Bayes)
樸素貝葉斯模型是基于概率論的原理,它的思想是這樣的:對于給出的未知物體想要進行分類,就需要求解在這個未知物體出現的條件下各個類別出現的概率,哪個最大,就認為這個未知物體屬于哪個分類。
?3. SVM
SVM 的中文叫支持向量機,英文是 Support Vector Machine,簡稱 SVM。SVM 在訓練中建立了一個超平面的分類模型。如果你對超平面不理解,沒有關系,我在后面的算法篇會給你進行介紹。
?4. KNN
KNN 也叫 K 最近鄰算法,英文是 K-Nearest Neighbor。所謂 K 近鄰,就是每個樣本都可以用它最接近的 K 個鄰居來代表。如果一個樣本,它的 K 個最接近的鄰居都屬于分類 A,那么這個樣本也屬于分類 A。
?5. AdaBoost
Adaboost 在訓練中建立了一個聯合的分類模型。boost 在英文中代表提升的意思,所以 Adaboost 是個構建分類器的提升算法。它可以讓我們多個弱的分類器組成一個強的分類器,所以 Adaboost 也是一個常用的分類算法。
?6. CART
CART 代表分類和回歸樹,英文是 Classification and Regression Trees。像英文一樣,它構建了兩棵樹:一顆是分類樹,另一個是回歸樹。和 C4.5 一樣,它是一個決策樹學習方法。
?7. Apriori
Apriori 是一種挖掘關聯規則(association rules)的算法,它通過挖掘頻繁項集(frequent item sets)來揭示物品之間的關聯關系,被廣泛應用到商業挖掘和網絡安全等領域中。頻繁項集是指經常出現在一起的物品的集合,關聯規則暗示著兩種物品之間可能存在很強的關系。
?8. K-Means
K-Means 算法是一個聚類算法。你可以這么理解,最終我想把物體劃分成 K 類。假設每個類別里面,都有個“中心點”,即意見領袖,它是這個類別的核心。現在我有一個新點要歸類,這時候就只要計算這個新點與 K 個中心點的距離,距離哪個中心點近,就變成了哪個類別。
?9. EM
EM 算法也叫最大期望算法,是求參數的最大似然估計的一種方法。原理是這樣的:假設我們想要評估參數 A 和參數 B,在開始狀態下二者都是未知的,并且知道了 A 的信息就可以得到 B 的信息,反過來知道了 B 也就得到了 A。可以考慮首先賦予 A 某個初值,以此得到 B 的估值,然后從 B 的估值出發,重新估計 A 的取值,這個過程一直持續到收斂為止。
EM 算法經常用于聚類和機器學習領域中。
?10. PageRank
PageRank 起源于論文影響力的計算方式,如果一篇文論被引入的次數越多,就代表這篇論文的影響力越強。同樣 PageRank 被 Google 創造性地應用到了網頁權重的計算中:當一個頁面鏈出的頁面越多,說明這個頁面的“參考文獻”越多,當這個頁面被鏈入的頻率越高,說明這個頁面被引用的次數越高。基于這個原理,我們可以得到網站的權重劃分。
算法可以說是數據挖掘的靈魂,也是最精華的部分。這 10 個經典算法在整個數據挖掘領域中的得票最高的,后面的一些其他算法也基本上都是在這個基礎上進行改進和創新。今天你先對十大算法有一個初步的了解,你只需要做到心中有數就可以了,具體內容不理解沒有關系,后面我會詳細給你進行講解。
數據分析學習推薦書單
《新程序員》:云原生和全面數字化實踐50位技術專家共同創作,文字、視頻、音頻交互閱讀總結
以上是生活随笔為你收集整理的数据挖掘的最佳学习清单的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2019年,被高估的AI与数据科学该如何
- 下一篇: 2019年Vue学习路线图