贝叶斯网络(概率图模型)
概率圖模型分為貝葉斯網(wǎng)絡(luò)和馬爾可夫兩大類。其中貝葉斯網(wǎng)絡(luò)是一個有向無環(huán)圖結(jié)構(gòu),而馬爾可夫是一個無向圖結(jié)構(gòu)。本文只講解貝葉斯網(wǎng)絡(luò),馬爾可夫會在后面的博客進(jìn)行講解。
在開始之前需要復(fù)習(xí)下概率論的一些公式:
乘法法則:
?
鏈?zhǔn)椒▌t:
放個例子幫助理解鏈?zhǔn)椒▌t,當(dāng)n=4時,上面的例子為:
證明,根據(jù)乘法法則有:
所以由上面3個式子,可推出:
?
另外,還有一個有向圖的因子分解公式:
其中,為的父親集合
貝葉斯網(wǎng)絡(luò)的結(jié)構(gòu)形式一般可以大統(tǒng)的分為三種,下面一一對他們進(jìn)行解剖:
(1)tail-tail(看中間節(jié)點(diǎn)c的兩條邊)邊的頭和尾是這樣看: tail(尾)→head(頭),因?yàn)楣?jié)點(diǎn)c都是連接兩條邊的tail,所以是tail-tail
若c被觀測,則a與b獨(dú)立,即,證明如下:
首先上圖結(jié)構(gòu)根據(jù)因子分解為:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??? ? ? ? ? ? ? ? ?
上圖結(jié)構(gòu)根據(jù)鏈?zhǔn)椒▌t又可寫成:
? ? ? ?
由(1)=(2) 推出?, 所以a與b獨(dú)立:
總結(jié)tail-tail結(jié)構(gòu):若c被觀測,則路徑被堵塞,a與b獨(dú)立。
(2)head-tail結(jié)構(gòu):
若c被觀測,則a與b獨(dú)立,即,證明如下:
因子分解為:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
鏈?zhǔn)椒▌t:
??
由式(3)=(4) 推出?, 所以a與b獨(dú)立:
總結(jié)head-tail結(jié)構(gòu):若c被觀測,則路徑被堵塞,a與b獨(dú)立。
(2)head-head結(jié)構(gòu):
這個head-head結(jié)構(gòu)和上面兩個結(jié)構(gòu)剛好相反,默認(rèn)情況下,a與b是獨(dú)立的,若c被觀察,則a與b不獨(dú)立,證明如下:
因子分解:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
鏈?zhǔn)椒▌t:
? ??
由式(5)=(6) 推出?, 所以a與b獨(dú)立:
總結(jié)head-head結(jié)構(gòu):默認(rèn)情況下,a與b是獨(dú)立的,路徑是阻塞的,若c被觀測,則路徑是通的,a與b不獨(dú)立。
(head-head這個結(jié)構(gòu)可以這樣理解,把c看成父母a與b的孩子,若c沒生出來,a與b是獨(dú)立的,是沒有關(guān)系的,若c生了出來,則a與b就有關(guān)系了,不是獨(dú)立的)
總結(jié)
以上是生活随笔為你收集整理的贝叶斯网络(概率图模型)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 软考高项-项目知识管理体系
- 下一篇: 线性调频信号