引言：Boosting 是一種集成算法，經常使用決策樹（decision tree）作為基礎分類器，有些 Boosting 模型也用邏輯回歸（logistic regression），SVM 等方法做分類器的，倘若讀者初學機器學習，學習這部分時建議補完決策樹的相關知識，幫助理解。本文主要用 Boosting 的始祖算法 AdaBoost 為例介紹其實現流程，希望了解更復雜其他 Boosting 算法的可以看本系列其他文章。

簡介：

機器學習中單一的分類器能力有限，也往往達不到充分利用計算機算力，所以多個弱學習集組合來提升總的分類效果就是改進方向之一，Boosting 就是這類集成算法中的典范。

本章分為：
1， Boosting 的由來
2， Boosting 和 AdaBoost 的思想及流程

• 1） 思想
  2） 算法過程
  3） AdaBoosting 的產生和數學推導

3，Boosing 和AdaBoost 主要優點及數學證明：
4，AdaBoost 的 Python 應用舉例
5，補充和擴展

1，Boosting的由來

Boosting 是典型的集成算法，它通過結合多個弱分類器（如決策樹，邏輯回歸）

總結

以上是生活随笔為你收集整理的Boosting 介绍和 Python 实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。