四、隱馬爾科夫模型(Hidden Markov Models)

1、定義(Definition of a hidden Markov model)

一個隱馬爾科夫模型是一個三元組(pi, A, B)。

：初始化概率向量；

：狀態(tài)轉(zhuǎn)移矩陣；

：混淆矩陣；

在狀態(tài)轉(zhuǎn)移矩陣及混淆矩陣中的每一個概率都是時間無關(guān)的——也就是說，當(dāng)系統(tǒng)演化時這些矩陣并不隨時間改變。實際上，這是馬爾科夫模型關(guān)于真實世界最不現(xiàn)實的一個假設(shè)。

2、應(yīng)用(Uses associated with HMMs)

一旦一個系統(tǒng)可以作為HMM被描述，就可以用來解決三個基本問題。其中前兩個是模式識別的問題：給定HMM求一個觀察序列的概率(評估)；搜索最有可能生成一個觀察序列的隱藏狀態(tài)序列(解碼)。第三個問題是給定觀察序列生成一個HMM(學(xué)習(xí))。

a) 評估(Evaluation)

考慮這樣的問題，我們有一些描述不同系統(tǒng)的隱馬爾科夫模型(也就是一些( pi,A,B)三元組的集合)及一個觀察序列。我們想知道哪一個HMM最有可能產(chǎn)生了這個給定的觀察序列。例如，對于海藻來說，我們也許會有一個“夏季”模型和一個“冬季”模型，因為不同季節(jié)之間的情況是不同的——我們也許想根據(jù)海藻濕度的觀察序列來確定當(dāng)前的季節(jié)。

我們使用前向算法(forward algorithm)來計算給定隱馬爾科夫模型(HMM)后的一個觀察序列的概率，并因此選擇最合適的隱馬爾科夫模型(HMM)。

在語音識別中這種類型的問題發(fā)生在當(dāng)一大堆數(shù)目的馬爾科夫模型被使用，并且每一個模型都對一個特殊的單詞進行建模時。一個觀察序列從一個發(fā)音單詞中形成，并且通過尋找對于此觀察序列最有可能的隱馬爾科夫模型(HMM)識別這個單詞。

b) 解碼( Decoding)

給定觀察序列搜索最可能的隱藏狀態(tài)序列。

另一個相關(guān)問題，也是最感興趣的一個，就是搜索生成輸出序列的隱藏狀態(tài)序列。在許多情況下我們對于模型中的隱藏狀態(tài)更感興趣，因為它們代表了一些更有價值的東西，而這些東西通常不能直接觀察到。

考慮海藻和天氣這個例子，一個盲人隱士只能感覺到海藻的狀態(tài)，但是他更想知道天氣的情況，天氣狀態(tài)在這里就是隱藏狀態(tài)。

我們使用Viterbi 算法(Viterbi algorithm)確定(搜索)已知觀察序列及HMM下最可能的隱藏狀態(tài)序列。

Viterbi算法(Viterbi algorithm)的另一廣泛應(yīng)用是自然語言處理中的詞性標(biāo)注。在詞性標(biāo)注中，句子中的單詞是觀察狀態(tài)，詞性(語法類別)是隱藏狀態(tài)(注意對于許多單詞，如wind，fish擁有不止一個詞性)。對于每句話中的單詞，通過搜索其最可能的隱藏狀態(tài)，我們就可以在給定的上下文中找到每個單詞最可能的詞性標(biāo)注。

C)學(xué)習(xí)(Learning)

根據(jù)觀察序列生成隱馬爾科夫模型。

第三個問題，也是與HMM相關(guān)的問題中最難的，根據(jù)一個觀察序列(來自于已知的集合)，以及與其有關(guān)的一個隱藏狀態(tài)集，估計一個最合適的隱馬爾科夫模型(HMM)，也就是確定對已知序列描述的最合適的(pi,A,B)三元組。

當(dāng)矩陣A和B不能夠直接被(估計)測量時，前向-后向算法(forward-backward algorithm)被用來進行學(xué)習(xí)(參數(shù)估計)，這也是實際應(yīng)用中常見的情況。

3、總結(jié)(Summary)

由一個向量和兩個矩陣(pi,A,B)描述的隱馬爾科夫模型對于實際系統(tǒng)有著巨大的價值，雖然經(jīng)常只是一種近似，但它們卻是經(jīng)得起分析的。隱馬爾科夫模型通常解決的問題包括：

1. 對于一個觀察序列匹配最可能的系統(tǒng)——評估，使用前向算法(forward algorithm)解決；

2. 對于已生成的一個觀察序列，確定最可能的隱藏狀態(tài)序列——解碼，使用Viterbi 算法(Viterbi algorithm)解決；

3. 對于已生成的觀察序列，決定最可能的模型參數(shù)——學(xué)習(xí)，使用前向-后向算法(forward-backward algorithm)解決。

未完待續(xù)：前向算法1

總結(jié)

以上是生活随笔為你收集整理的隐马尔科夫模型c#语言算法实现,HMM学习最佳范例四：隐马尔科夫模型的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。