案例來(lái)自Ross Quinlan的書籍《C4.5：programs for machine learning》
數(shù)據(jù)集如下

為了模仿缺失值的情況，現(xiàn)在把上面？處的地方改為缺失值。
那么根據(jù)現(xiàn)有13條明確的數(shù)據(jù)集（不再是14條）
此時(shí)
？=sunny的概率是：$\frac{5}{13}$
？=overcast的概率是：$\frac{3}{13}$
？=rain的概率是：$\frac{5}{13}$

---

書中的決策樹(shù)如下

上面這個(gè)結(jié)果是根據(jù)下面的源代碼跑出來(lái)的。
http://www.rulequest.com/Personal/c4.5r8.tar.gz
對(duì)應(yīng)的決策樹(shù)結(jié)果是：

繪制上圖對(duì)應(yīng)的代碼是：
test.dot

digraph graphname { "Outlook"->"Humidity"[label="sunny", fontcolor=darkgreen] // edge T->P "Humidity"->"Play (2.0|0.0)"[label="≤75", fontcolor=darkgreen]"Humidity"->"Don't Play (3.4|0.4)"[label="＞75", fontcolor=darkgreen]"Outlook"->"Play (3.2|0.0)"[label="overcast", fontcolor=darkgreen]"Outlook"->"Windy"[label="rain", fontcolor=darkgreen]"Windy"->"Don't Play (2.4|0.4)"[label="true", fontcolor=darkgreen]"Windy"->"Play (3.0|0.0)"[label="false", fontcolor=darkgreen]}

運(yùn)行方法

dot -Tpng -o decision.png ./test.dot

對(duì)于上面的小數(shù)解釋如下：

---

當(dāng)？=sunny：
該條缺失數(shù)據(jù)滿足
Outlook=sunny
Humidity>75
也就是說(shuō)到達(dá)了Don’t Play這個(gè)葉子節(jié)點(diǎn)，但是該數(shù)據(jù)是屬于Play這個(gè)類別的
所以加上原來(lái)的3條數(shù)據(jù)，總共是$3\frac{5}{13}$條數(shù)據(jù)，由于類別與該類別不一致，所以該葉子節(jié)點(diǎn)的誤判條數(shù)為$\frac{5}{13}$條
所以該葉子節(jié)點(diǎn)的最終結(jié)果是：（$3\frac{5}{13}$|$\frac{5}{13}$）=(3.4|0.4)
表示到達(dá)該葉子節(jié)點(diǎn)的有$3\frac{5}{13}$條，其中不滿足的有$\frac{5}{13}$條

---

當(dāng)？=overcast：由于13條數(shù)據(jù)中有3條數(shù)據(jù)是overcast，所以概率是$\frac{3}{13}$
由于滿足Outlook=overcast的數(shù)據(jù)全部屬于Play，而該缺失數(shù)據(jù)也屬于Play，
所以不存在誤判
該葉子節(jié)點(diǎn)最終到達(dá)數(shù)據(jù)共計(jì)$3\frac{3}{13}$條，誤判0.0條
所以該葉子節(jié)點(diǎn)的最終結(jié)果是：（$3\frac{3}{13}$|0.0）=(3.2|0)

總結(jié)

以上是生活随笔為你收集整理的C4.5-Release8中Ross Quinlan对缺失值的处理的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。