整理自：

https://blog.csdn.net/woaidapaopao/article/details/77806273?locationnum=9&fps=1

• HMM
• CRF
• HMM和CRF對(duì)比

---

1.HMM算法

　　隱馬爾可夫模型是用于標(biāo)注問(wèn)題的生成模型。有幾個(gè)參數(shù)（ππ，A，B）：初始狀態(tài)概率向量ππ，狀態(tài)轉(zhuǎn)移矩陣A，觀測(cè)概率矩陣B。稱為馬爾科夫模型的三要素。 
馬爾科夫三個(gè)基本問(wèn)題：

• 概率計(jì)算問(wèn)題：給定模型和觀測(cè)序列，計(jì)算模型下觀測(cè)序列輸出的概率。–》前向后向算法
• 學(xué)習(xí)問(wèn)題：已知觀測(cè)序列，估計(jì)模型參數(shù)，即用極大似然估計(jì)來(lái)估計(jì)參數(shù)。–》Baum-Welch(也就是EM算法)和極大似然估計(jì)。
• 預(yù)測(cè)問(wèn)題：已知模型和觀測(cè)序列，求解對(duì)應(yīng)的狀態(tài)序列。–》近似算法（貪心算法）和維比特算法（動(dòng)態(tài)規(guī)劃求最優(yōu)路徑）

---

2.條件隨機(jī)場(chǎng)CRF

　　給定一組輸入隨機(jī)變量的條件下另一組輸出隨機(jī)變量的條件概率分布密度。條件隨機(jī)場(chǎng)假設(shè)輸出變量構(gòu)成馬爾科夫隨機(jī)場(chǎng)，而我們平時(shí)看到的大多是線性鏈條隨機(jī)場(chǎng)，也就是由輸入對(duì)輸出進(jìn)行預(yù)測(cè)的判別模型。求解方法為極大似然估計(jì)或正則化的極大似然估計(jì)。 
　　之所以總把HMM和CRF進(jìn)行比較，主要是因?yàn)镃RF和HMM都利用了圖的知識(shí)，但是CRF利用的是馬爾科夫隨機(jī)場(chǎng)（無(wú)向圖），而HMM的基礎(chǔ)是貝葉斯網(wǎng)絡(luò)（有向圖）。而且CRF也有：概率計(jì)算問(wèn)題、學(xué)習(xí)問(wèn)題和預(yù)測(cè)問(wèn)題。大致計(jì)算方法和HMM類似，只不過(guò)不需要EM算法進(jìn)行學(xué)習(xí)問(wèn)題。

---

3.HMM和CRF對(duì)比 

　　其根本還是在于基本的理念不同，一個(gè)是生成模型，一個(gè)是判別模型，這也就導(dǎo)致了求解方式的不同。

總結(jié)

以上是生活随笔為你收集整理的机器学习——HMM & CRF的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。