EL：集成学习(Ensemble Learning)的概念讲解、问题应用、算法分类、关键步骤、代码实现等相关配图详细攻略
EL：集成學(xué)習(xí)(Ensemble Learning)的概念講解、算法分類、問題應(yīng)用、關(guān)鍵步驟、代碼實現(xiàn)等相關(guān)配圖詳細攻略
?
?
目錄
集成學(xué)習(xí)Ensemble Learning
1、集成學(xué)習(xí)中弱分類器選擇?
2、多個弱分類區(qū)如何組合?
EL的解決問題類型
EL算法分類
1、VotingClassifier、Bagging
2、Stacking、Blending
3、Boosting
EL代碼實現(xiàn)
?
?
?
?
?
集成學(xué)習(xí)Ensemble Learning
? ? ? ? ? 集成學(xué)習(xí)是使用一系列學(xué)習(xí)器進行學(xué)習(xí)，并使用某種規(guī)則把各個學(xué)習(xí)結(jié)果進行整合，從而獲得比單個學(xué)習(xí)器更好的學(xué)習(xí)效果的一種機器學(xué)習(xí)方法。它本身不是一個單獨的機器學(xué)習(xí)算法，而是通過構(gòu)建并結(jié)合多個機器學(xué)習(xí)器來完成學(xué)習(xí)任務(wù)，實現(xiàn)博采眾長。
? ? ? ? ? 一般而言，通常所說的集成學(xué)習(xí)中的多個學(xué)習(xí)器都是同質(zhì)的“弱學(xué)習(xí)器”。基于該弱學(xué)習(xí)器，通過樣本集擾動、輸入特征擾動、輸出表示擾動、算法參數(shù)擾動等方式生成多個學(xué)習(xí)器，進行集成后獲得一個精度較好的“強學(xué)習(xí)器”。
思路步驟：集成學(xué)習(xí)的主要思路是先通過一定的規(guī)則生成多個學(xué)習(xí)器，再采用某種集成策略進行組合，最后綜合判斷輸出最終結(jié)果。
核心思想：就是如何訓(xùn)練多個弱分類器以及如何將這些弱分類器進行組合。
?
1、集成學(xué)習(xí)中弱分類器選擇?
? ? ? ? ? 一般采用弱分類器的原因在于將誤差進行均衡，因為一旦某個分類器太強了就會造成后面的結(jié)果受其影響太大，嚴重的會導(dǎo)致后面的分類器無法進行分類。常用的弱分類器可以采用誤差率小于0.5的，比如說邏輯回歸、SVM、神經(jīng)網(wǎng)絡(luò)。
2、多個弱分類區(qū)如何組合?
? ? ? ? ? 基本分類器之間的整合方式，一般有簡單多數(shù)投票、權(quán)重投票，貝葉斯投票，基于D-S證據(jù)理論的整合，基于不同的特征子集的整合。
?
?
EL的解決問題類型
比如分類問題集成、回歸問題集成、特征選取集成、異常點檢查集成等。
?
?
EL算法分類
Boosting、Bagging、隨機森林。
1、VotingClassifier、Bagging
?
2、Stacking、Blending
?
3、Boosting
?
?
EL代碼實現(xiàn)
更新……
?
?
?
相關(guān)文章推薦
集成學(xué)習(xí)算法總結(jié)----Boosting和Bagging
?
總結(jié)
以上是生活随笔為你收集整理的EL：集成学习(Ensemble Learning)的概念讲解、问题应用、算法分类、关键步骤、代码实现等相关配图详细攻略的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： ML/DL：关于机器学习、深度学习算法模
- 下一篇： ML之RF：kaggle比赛之利用泰坦尼