原文：：Multi-Forest：A?chameleon?in?tracking，CVPR2014? 下的蛋...原文

使用隨機(jī)森林的優(yōu)勢(shì)，在于可以使用GPU把每棵樹(shù)分到一個(gè)流處理器里運(yùn)行，容易并行化實(shí)現(xiàn)。

OpenCV中的使用：OpenCV：使用 隨機(jī)森林與GBDT

隨機(jī)森林的優(yōu)點(diǎn)：http://www.cnblogs.com/wentingtu/archive/2011/12/13/2286212.html

• 在數(shù)據(jù)集上表現(xiàn)良好
• 在當(dāng)前的很多數(shù)據(jù)集上，相對(duì)其他算法有著很大的優(yōu)勢(shì)
• 它能夠處理很高維度（feature很多）的數(shù)據(jù)，并且不用做特征選擇
• 在訓(xùn)練完后，它能夠給出哪些feature比較重要
• 在創(chuàng)建隨機(jī)森林的時(shí)候，對(duì)generlization error使用的是無(wú)偏估計(jì)
• 訓(xùn)練速度快
• 在訓(xùn)練過(guò)程中，能夠檢測(cè)到feature間的互相影響
• 容易做成并行化方法
• 實(shí)現(xiàn)比較簡(jiǎn)單

（1）:在線Boost

使用在線Boosting項(xiàng)目主頁(yè)：http://www.vision.ee.ethz.ch/boostingTrackers/index.htm

使用在線boosting學(xué)習(xí)的Code：http://www.vision.ee.ethz.ch/boostingTrackers/download.htm

使用Haar特征樹(shù)作為弱分類器，取得不錯(cuò)的效果。但是速度稍慢。

（2）:在線隨機(jī)森林：

09年，ICCV 上的文章，效果和離線的random forest差不多，特別的牛。可以做分類，也可以做預(yù)測(cè)....

程序下載：http://www.everbox.com/f/7igWhZFJBp7xxqmbaM6UyewatN

這里介紹的主要是在線隨機(jī)決策樹(shù)，其思想主要是：每棵樹(shù)可以在線分裂。每個(gè)葉子分裂的條件是預(yù)測(cè)的數(shù)量要達(dá)到一定的值和每個(gè)葉子節(jié)點(diǎn)信息。

每個(gè)樹(shù)的生長(zhǎng)主要通過(guò)預(yù)測(cè)的樣本（在線接受的樣本），每棵樹(shù)的葉子節(jié)點(diǎn)分裂主要根據(jù)該節(jié)點(diǎn)的熵或Gini

? ? ? ? ? ? ? ? ? ? ? ? ? ?? ?? ? ? ????or?? ??

學(xué)過(guò)決策樹(shù)和信息論的，對(duì)這個(gè)概念都有了解。其中j表示第j棵樹(shù)，i表示第i個(gè)分類結(jié)果。K表示總的分類數(shù)。

對(duì)有一個(gè)給定的結(jié)合S（在線預(yù)測(cè)中給定），每棵樹(shù)上葉子節(jié)點(diǎn)P_j的的概率可以表示為：

如果要在P_j葉子節(jié)點(diǎn)分類，那么，得到二個(gè)葉子節(jié)點(diǎn)的概率可以用下式表示：

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ?and ? ? ? ? ? ??

解釋一下 P_jls，l為left，s為測(cè)試集合。所以P_jls表示為在集合S中P_j葉子節(jié)點(diǎn)的分列的左節(jié)點(diǎn)。同理，P_jrs表示為在集合S中P_j葉子節(jié)點(diǎn)的分列的右節(jié)點(diǎn)。

那么，每棵樹(shù)上葉子節(jié)點(diǎn)P_j分裂必須符合以下二個(gè)條件：

? ? ? ? 1. 落在葉子節(jié)點(diǎn)P_j的個(gè)數(shù)必須大于一個(gè)常數(shù)（可以人工設(shè)定）

? ? ? ? 2. 葉子節(jié)點(diǎn)的Gini必須大于一個(gè)常數(shù)（可以人工設(shè)定），Gini計(jì)算公式如下：

??????? 以上步驟就完成整個(gè)樹(shù)的更新。

步驟3. 用個(gè)possion分布確定從采樣的次數(shù)，其原理見(jiàn)online boosting：?http://www.cnblogs.com/liqizhou/archive/2012/05/10/2494145.html

步驟6. u代表分類的類別。

步驟7. j代表第t棵樹(shù)上葉子節(jié)點(diǎn)。

步驟8. 統(tǒng)計(jì)第j個(gè)葉子節(jié)點(diǎn)的數(shù)目和計(jì)算Gini

步驟9. 判斷條件是否分裂的二個(gè)條件。

步驟10. 在符合條件的葉子節(jié)點(diǎn)中，選擇一個(gè)Gini最大的葉子節(jié)點(diǎn)作為分類節(jié)點(diǎn)。

以上就是online Random forests 的主要思想

下面給出了在線隨機(jī)森林算法的流程：

待寫(xiě)....

總結(jié)

以上是生活随笔為你收集整理的ObjectT5：在线随机森林-Multi-Forest-A chameleon in track in的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。