7.7 閱讀材料

• 貝葉斯決策論在機(jī)器學(xué)習(xí)，模式識(shí)別等諸多關(guān)注數(shù)據(jù)分析的領(lǐng)域都有著極為重要的地位，對(duì)貝葉斯定理進(jìn)行近似求解，為機(jī)器學(xué)習(xí)算法的涉及提供了一種有效的途徑，為了避免貝葉斯定理求解的時(shí)候面臨的組合爆炸，樣本稀疏問(wèn)題。樸素貝葉斯分類器引入了屬性條件獨(dú)立性假設(shè)，這個(gè)假設(shè)在現(xiàn)實(shí)應(yīng)用中往往難以成立，但有趣的是，樸素貝葉斯分類器在很多情形下都能得到相當(dāng)好的性能，一種解釋是：只需要各類別的條件概率排序正確，無(wú)需精準(zhǔn)的概率值就可以導(dǎo)致正確分類的結(jié)果。另一種解釋是：若屬性之間的依賴對(duì)所有類別影響相同的時(shí)候，或者依賴關(guān)系的影響能夠相互的抵消，則屬性條件獨(dú)立性假設(shè)在降低計(jì)算開(kāi)銷的同時(shí)不會(huì)對(duì)性能產(chǎn)生負(fù)面影響。樸素貝葉斯分類器在信息檢索尤為常用，McCallum and igam在對(duì)文本分類中的兩種常見(jiàn)方法進(jìn)行了比較
• 根據(jù)對(duì)屬性間依賴的涉及程度，貝葉斯分類器形成了一個(gè)“譜”：樸素貝葉斯分類器不考慮屬性間依賴性，貝葉斯網(wǎng)能夠表示任意屬性間的依賴性，二者分別位于譜的兩端；介于兩者之間的則是一系列半樸素貝葉斯分類器，它們基于各種假設(shè)和約束來(lái)對(duì)屬性間的部分依賴性進(jìn)行建模，一般認(rèn)為，半樸素貝葉斯分類器的研究始于Kononenko，1991.ODE僅僅考慮一個(gè)父屬性，由此形成了獨(dú)依賴分類器，如TAN,AODE,LBR等；kDE則考慮最多依賴K個(gè)父屬性，由此形成了K依賴分類器如KDB,NBtree
• 貝葉斯分類器與一般意義上的貝葉斯學(xué)習(xí)有著明顯的區(qū)別，前者是通過(guò)最大后驗(yàn)概率進(jìn)行單點(diǎn)估計(jì)，后者則是進(jìn)行分布估計(jì)
• 貝葉斯網(wǎng)為不確定學(xué)習(xí)和推斷提供了基本的框架，因其強(qiáng)大的表示能力，良好的可解釋性而廣受關(guān)注。貝葉斯網(wǎng)學(xué)習(xí)則分為結(jié)構(gòu)學(xué)習(xí)和參數(shù)學(xué)習(xí)兩個(gè)部分。參數(shù)學(xué)習(xí)通常較為簡(jiǎn)單，而結(jié)構(gòu)學(xué)習(xí)則被證明是NP難問(wèn)題，人們?yōu)榇颂岢隽撕芏嘣u(píng)分搜索方法，貝葉斯網(wǎng)通常被看作是生成式模型，但近年來(lái)，也有很多關(guān)于貝葉斯網(wǎng)絡(luò)判別式學(xué)習(xí)的研究。貝葉斯網(wǎng)是經(jīng)典的概率圖模型，J.Pearl因?yàn)檫@方面的卓越貢獻(xiàn)在2011年獲得圖靈獎(jiǎng)
• EM算法是最常見(jiàn)的隱變量估計(jì)方法，在機(jī)器學(xué)習(xí)中有著廣發(fā)的用途，例如常常被用來(lái)學(xué)習(xí)高斯混合模型（GMM）的參數(shù)，9.4節(jié)將會(huì)學(xué)到的K均值聚類算法就是一個(gè)典型的EM算法、
• 本章介紹的樸素貝葉斯算法和EM算法均曾入選“數(shù)據(jù)挖掘十大算法”，還包括C4.5，CART決策樹，支持向量機(jī)，以及AdaBoost，K均值聚類，K近鄰算法

總結(jié)

以上是生活随笔為你收集整理的7.7 阅读材料的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。