圖模型的主要應(yīng)用場(chǎng)景為欺詐偵測(cè)報(bào)警，從各個(gè)特征出現(xiàn)的頻率對(duì)異常概率進(jìn)行預(yù)警。概率圖模型所涉及到的知識(shí)點(diǎn)非常廣，所以對(duì)讀者的基礎(chǔ)知識(shí)要求也相對(duì)較高。

現(xiàn)在借助以下幾個(gè)問題開始概率圖模型的學(xué)習(xí)：

• 為什么需要概率圖模型及其優(yōu)點(diǎn)？
• 概率圖模型都有哪些應(yīng)用模型？

為什么需要概率圖模型?

對(duì)于復(fù)雜系統(tǒng)理解和拆分，圖應(yīng)當(dāng)是首選的分析利器。概率圖模型就是一類用圖形模式表達(dá)基于概率相關(guān)關(guān)系的模型的總稱。概率圖模型結(jié)合概率論與圖論的知識(shí)，利用圖來表示與模型有關(guān)的變量的聯(lián)合概率分布。

也就是說，概率圖模型是用圖來表示實(shí)體之間的關(guān)聯(lián)和約束，具體到機(jī)器學(xué)習(xí)領(lǐng)域就是特征和類別、特征和特征之間以及類別和類別之間的關(guān)聯(lián)和約束。

圖的表達(dá)能力非常強(qiáng)，僅僅用點(diǎn)和線就可以表達(dá)實(shí)體之間復(fù)雜的關(guān)系。如果給關(guān)聯(lián)實(shí)體的邊再加附加上概率，就近一步表達(dá)了實(shí)體之間關(guān)系的強(qiáng)弱和推理邏輯。

概率圖模型具體可以給我們帶來什么呢？這里可以簡單概括一下：

• 分類任務(wù)中，借助概率圖建立實(shí)體之間緊湊的依賴關(guān)系，可以減小類后驗(yàn)概率計(jì)算所需的參數(shù)估計(jì)工作量。
• 概率圖模型可以很容易與專家和領(lǐng)域知識(shí)結(jié)合，比如做一些實(shí)體之間的獨(dú)立性假設(shè)，簡化系統(tǒng)實(shí)體之間的依賴關(guān)系。

網(wǎng)絡(luò)結(jié)構(gòu)

概率圖模型如圖主要分為兩種，即貝葉斯網(wǎng)絡(luò)和馬爾可夫網(wǎng)絡(luò)。

貝葉斯概率圖模型是有向圖，因此可以解決有明確單向依賴的建模問題，而二馬爾可夫概率圖模型是無向圖，可以適用于實(shí)體之間相互依賴的建模問題。這兩種模型以及兩著的混合模型應(yīng)用都非常廣泛。

概率圖模型可以很清晰的表達(dá)實(shí)體之間的依賴以及導(dǎo)出聯(lián)合概率以及條件概率的計(jì)算公式。

• 貝葉斯概率圖依賴分析及聯(lián)合概率因子分解。 (B⊥C|A) (D｜B,C) P(A,B,C) = P(A)P(B｜A)P(C｜A)P(D｜B,C)
• 馬爾可夫概率圖依賴分析及聯(lián)合概率因子分解。 (B⊥C｜A,D) (A⊥D｜B,C) P(A,B,C) = φ1(A,B)φ2(B,C)φ3(C,D)φ4(A,D)/Z (Z為歸一化因子，φ一般為指數(shù)函數(shù))

可以看出，有向圖的聯(lián)合概率可以寫成各條件概率的乘積，而無向圖的聯(lián)合概率可以寫成最大團(tuán)隨機(jī)變量函數(shù)的乘積。注意，圖的最大團(tuán)其實(shí)就是圖的各個(gè)最大連通子圖。

概率圖模型的實(shí)體關(guān)系建模可以簡化或省略一些條件概率的計(jì)算，比如不用計(jì)算P(D｜A,B,C)，轉(zhuǎn)而計(jì)算P(D｜B,C)的值。

表示、推理及學(xué)習(xí)

現(xiàn)在從表示、推理和學(xué)習(xí)的角度，來進(jìn)一步說明概率圖模型的優(yōu)點(diǎn)和作用。

• 從表示的角度看，概率圖模型可以很好表示實(shí)體之間關(guān)系，而且可以很容易導(dǎo)出相應(yīng)的概率公式。同時(shí)，這種表示方法可以很容易被領(lǐng)域內(nèi)外的人所理解。
• 從推理的角度看，當(dāng)我們得到相關(guān)的信息和觀測(cè)數(shù)據(jù)，我們可以很容易利用概率圖導(dǎo)出的計(jì)算公式進(jìn)行推理，給出判別結(jié)果。
• 從學(xué)習(xí)的角度看，可以利用專家經(jīng)驗(yàn)和語料數(shù)據(jù)，對(duì)概率圖模型的相關(guān)參數(shù)進(jìn)行估計(jì)，效率更高而不需要估計(jì)冗余的參數(shù)。

概率圖模型都有哪些應(yīng)用模型？

貝葉斯和馬爾可夫網(wǎng)絡(luò)是兩種基本的概率圖模型，結(jié)合兩者又可以產(chǎn)生一些混合模型。那么實(shí)際應(yīng)用中，有哪些模型屬于概率圖模型呢？

• 樸素貝葉斯模型NB
• 最大熵模型MEM
• 隱馬爾可夫模型HMM
• 最大熵馬爾可夫模型MEMM
• 條件隨機(jī)場(chǎng)CRF

下面我們看看這些模型各自的概率圖模型是怎樣刻畫的并分析各自所表達(dá)的含義。

對(duì)于樸素貝葉斯模型來說，特定的類別樣本在不同的特征屬性上具備不同的數(shù)據(jù)表征，而且特征之間有著獨(dú)立性假設(shè)，即特征之間是無關(guān)聯(lián)的。

對(duì)于隱馬爾可夫模型來說，隱狀態(tài)之間滿足馬爾可夫性假設(shè)，即當(dāng)前狀態(tài)只和前一狀態(tài)有關(guān)，而與歷史狀態(tài)和后續(xù)狀態(tài)無關(guān)；另外，還假設(shè)特征之間也是相互獨(dú)立的，且特征只由當(dāng)前隱狀態(tài)產(chǎn)生。

對(duì)于最大熵馬爾可夫模型來說，與隱馬爾可夫模型相比，每個(gè)隱狀態(tài)只依賴前一狀態(tài)和當(dāng)前觀測(cè)，而且每組這樣三者的組合都是獨(dú)立的，且采用最大熵模型建模。

對(duì)于條件隨機(jī)場(chǎng)模型來說，當(dāng)前狀態(tài)依賴于上下文狀態(tài)和上下文觀測(cè)，所以沒有過多的獨(dú)立性假設(shè)，可以自由搭配特征以及標(biāo)注。

總結(jié)

在概率圖模型知識(shí)框架中，涉及的相關(guān)知識(shí)點(diǎn)非常多。我們熟知的很多模型都可以納入到這個(gè)框架下，也使得我們自己積累的知識(shí)得以匯總并在此基礎(chǔ)之上進(jìn)一步爬坡。

學(xué)習(xí)概率圖模型時(shí)，我們可以了解到每一種模型的特點(diǎn)是什么、之間對(duì)比有哪些，以及每一種模型各自涵蓋的知識(shí)點(diǎn)。

比如：

• 樸素貝葉斯模型中的特征條件獨(dú)立性假設(shè)和貝葉斯定理；
• 最大熵中熵建模知識(shí)、IIS迭代尺度優(yōu)化算法以及分布相似性度量方法；
• 隱馬爾可夫模型中的前向后向算法、viterbi解碼、以及EM參數(shù)估計(jì)；
• 條件隨機(jī)場(chǎng)模型中條件隨機(jī)場(chǎng)定義、學(xué)習(xí)和預(yù)測(cè)的動(dòng)態(tài)規(guī)劃算法。

當(dāng)然，接下來我們也會(huì)追隨這些知識(shí)點(diǎn)繼續(xù)學(xué)習(xí)這些模型。

總結(jié)

以上是生活随笔為你收集整理的【采用】概率图模型在反欺诈的应用（无监督机器学习）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。