• • 一、貝葉斯網(wǎng)絡(luò)是什么
  • 二、樸素貝葉斯
  • 三、貝葉斯網(wǎng)絡(luò)的建立

一、貝葉斯網(wǎng)絡(luò)是什么

貝葉斯網(wǎng)絡(luò)的思考：

原本的問題：

給定一組樣本D，求得在這些樣本中出現(xiàn)某個結(jié)論A1,A2,...,AnA1,A2,...,An出現(xiàn)的概率，也就是P(Ai|D)P(Ai|D)，表示求得給定數(shù)據(jù)后，哪個結(jié)論出現(xiàn)的概率最大。

問題轉(zhuǎn)化：

maxP(Ai|D)=maxP(D|Ai)P(Ai)P(D)=maxP(D|Ai)P(Ai)?maxP(D|Ai)maxP(Ai|D)=maxP(D|Ai)P(Ai)P(D)=maxP(D|Ai)P(Ai)?maxP(D|Ai)

將問題轉(zhuǎn)化為，計算出在給定不同結(jié)論的條件下，事件D發(fā)生的概率，取最大的概率值，也就是在該結(jié)論A下，事件D發(fā)生的概率最大，所以可以看成是事件D產(chǎn)生結(jié)論A的概率最大。

• P(D)P(D)：是定值，因為該概率是已經(jīng)發(fā)生的事件D的概率，是已知的東西，不會變化

• P(Ai)P(Ai)：各個結(jié)論發(fā)生的先驗概率是相等的。

maxP(D|Ai)maxP(D|Ai)：可以看成是先驗性的假定結(jié)論A出現(xiàn)的概率都是相等的，而貝葉斯則要更多的探討先驗概率。

頻率學(xué)派：假定P(A_i)是相等的，事件與先驗無關(guān)。

示例1：

示例2：

二、樸素貝葉斯

拉普拉斯平滑：

如果一個詞出現(xiàn)的概率為0，則無意義，做拉普拉斯平滑。

三、貝葉斯網(wǎng)絡(luò)的建立

為什么要建立貝葉斯網(wǎng)絡(luò)：

對于一個聯(lián)合概率分布，我們需要跟多個獨立變量來表示，甚至獨立變量的個數(shù)會呈現(xiàn)指數(shù)級的增長。例如，考慮P(X 1 ,X 2 ,X 3 ,?,X n ) ，假如，每一個X i 都是二項分布的話。這樣聯(lián)合概率里面就有至少2 n ?1 個參數(shù)（對應(yīng)的是X 1 ,?,Xn 的全排列數(shù)目減一，減掉1是因為最后一種情況可以用1減掉之前的所有概率）。

因此我們希望通過建立聯(lián)合概率與圖的關(guān)聯(lián)，從圖中找到條件獨立性論斷（并且我們可以證明，圖中的條件獨立性論斷在聯(lián)合概率中都是成立的），這樣就可以將原始的聯(lián)合概率寫成多個獨立因子的乘積，從而減少獨立變量的個數(shù)，使得模型更加“緊湊”。

將三個變量變?yōu)閗個：

正常的貝葉斯網(wǎng)絡(luò)：

要求的該貝葉斯網(wǎng)絡(luò)的條件概率分布，也就是要求出1~7個節(jié)點各自所屬的條件分布連乘即可。

對4而言，只和1，2，3有關(guān)

正常而言有2525種不同的情況，但貝葉斯網(wǎng)絡(luò)有13種情況，因為我們簡化的網(wǎng)絡(luò)的連接情況，也就是有的點沒有直接相連，簡化了很多參數(shù)，越利于網(wǎng)絡(luò)建模。

抽煙：只需要一個抽煙的概率，參數(shù)為1

肺癌：只和抽煙有關(guān)，抽煙情況下有一個得肺癌的概率，不抽煙情況有一個肺癌的概率，參數(shù)為2

支氣管炎：只和抽煙有關(guān)，抽煙情況下有一個得肺癌的概率，不抽煙情況有一個肺癌的概率，參數(shù)為2

X-ray：和抽煙及肺癌都有關(guān)，所以是(0,0),(0,1),(1,0),(1,1)四種情況，參數(shù)為4
呼吸困：和支氣管炎及肺癌都有關(guān)，所以是(0,0),(0,1),(1,0),(1,1)四種情況，參數(shù)為4（圖中看起來是8個， 其實每行的和都為1，所以實質(zhì)上給定一個另一個也不變）

特殊的貝葉斯網(wǎng)絡(luò)：

三個獨立性條件：

1. 觀測到的時候是阻斷的

2. 觀測到的時候是阻斷的

C未給定時，無法判斷a、b是否獨立，看不到c

3. 未觀測到的時候是阻斷的

如果c給定了，a、b就不獨立了，因為如果觀測到了c，就說明兩者之間建立了某種聯(lián)系。

貝葉斯網(wǎng)絡(luò)，可以通過三種基本的網(wǎng)絡(luò)拓撲，可以判斷a和b是否是獨立的。

I是獨立，D是不獨立

在沒有先驗的情況下，油箱有油和能開廣播是獨立的嗎？

答：是獨立的

如果已知電池有電，則油箱有油和能開廣播是獨立的嗎？

答：是獨立的，因為在Battery確定了之后，左邊的開廣播和右邊的四個節(jié)點是tial-to-tail的關(guān)系，所以是獨立的。

貝葉斯網(wǎng)絡(luò)的構(gòu)建：

總結(jié)

以上是生活随笔為你收集整理的十一、贝叶斯网络的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。