EL：集成學習(Ensemble Learning)的概念講解、算法分類、問題應用、關鍵步驟、代碼實現等相關配圖詳細攻略

?

?

目錄

集成學習Ensemble Learning

1、集成學習中弱分類器選擇?

2、多個弱分類區如何組合?

EL的解決問題類型

EL算法分類

1、VotingClassifier、Bagging

2、Stacking、Blending

3、Boosting

EL代碼實現

---

?

?

?

?

?

集成學習Ensemble Learning

? ? ? ? ? 集成學習是使用一系列學習器進行學習，并使用某種規則把各個學習結果進行整合，從而獲得比單個學習器更好的學習效果的一種機器學習方法。它本身不是一個單獨的機器學習算法，而是通過構建并結合多個機器學習器來完成學習任務，實現博采眾長。
? ? ? ? ? 一般而言，通常所說的集成學習中的多個學習器都是同質的“弱學習器”。基于該弱學習器，通過樣本集擾動、輸入特征擾動、輸出表示擾動、算法參數擾動等方式生成多個學習器，進行集成后獲得一個精度較好的“強學習器”。

思路步驟：集成學習的主要思路是先通過一定的規則生成多個學習器，再采用某種集成策略進行組合，最后綜合判斷輸出最終結果。
核心思想：就是如何訓練多個弱分類器以及如何將這些弱分類器進行組合。

?

1、集成學習中弱分類器選擇?

? ? ? ? ? 一般采用弱分類器的原因在于將誤差進行均衡，因為一旦某個分類器太強了就會造成后面的結果受其影響太大，嚴重的會導致后面的分類器無法進行分類。常用的弱分類器可以采用誤差率小于0.5的，比如說邏輯回歸、SVM、神經網絡。

2、多個弱分類區如何組合?

? ? ? ? ? 基本分類器之間的整合方式，一般有簡單多數投票、權重投票，貝葉斯投票，基于D-S證據理論的整合，基于不同的特征子集的整合。

?

?

EL的解決問題類型

比如分類問題集成、回歸問題集成、特征選取集成、異常點檢查集成等。

?

?

EL算法分類

Boosting、Bagging、隨機森林。

1、VotingClassifier、Bagging

?

2、Stacking、Blending

?

3、Boosting

?

?

EL代碼實現

更新……

?

?

?

相關文章推薦
集成學習算法總結----Boosting和Bagging
?

總結

以上是生活随笔為你收集整理的EL：集成学习(Ensemble Learning)的概念讲解、问题应用、算法分类、关键步骤、代码实现等相关配图详细攻略的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。