机器学习笔记(十三)——隐马尔科夫模型
一、隱馬爾科夫模型
????在馬爾科夫模型中,每一個狀態代表了一個可以觀察的事件,所以,馬爾科夫模型有時稱為可視馬爾科夫模型(visible Markov model,VMM),這在某種程度上限制了模型的適應性。在隱馬爾科夫模型(HMM)中,我們不知道模型所經過的狀態序列,而只知道狀態的概率函數,也就是說觀察到的事件是狀態的隨機函數,此模型是一個雙重的隨機過程。其中,模型的狀態轉換過程是隱蔽的,可觀察事件的隨機過程是隱蔽的狀態轉換過程的隨機函數。
二、隱馬爾科夫模型的基本原理
????下圖是一個隱馬爾科夫模型的示意圖,用此圖來說明HMM的原理。假設一個暗室中有N個口袋,每個口袋中有M種不同顏色的球。一個實驗員根據某一概率分布隨機選取一個初始的口袋,從中根據不同顏色球的概率分布,隨機選取出一個球,并向室外的人報告該球的顏色。然后再根據口袋的概率分布選擇另一個口袋,根據不同顏色球的概率分布隨機選擇一個球,重復進行這個過程。對于室外的觀察人員來說,他只能觀察到不同顏色球的序列,口袋的序列不可觀察。在這個過程中,口袋對應HMM中的狀態,球的顏色對應HMM中狀態的輸出,從一個口袋到另一個口袋對應于狀態的轉換,從口袋中取出球的顏色對應于從一個狀態輸出的觀察符號。
2.1 HMM的組成部分
aij=P(qt=sj|qt?1,si),1≤i,j≤Naij≥0∑j=1Naij=1
bj(k)=P(Ot=vk|qt=sj),1≤j≤N,1≤k≤Mbj(k)≥0∑k=1Mbj(k)=1
觀察符號的概率又稱為發射概率。
πi=P(q1=si),1≤i≤Nπi≥0∑i=1Nπi=1
????一般地,一個HMM記為一個五元組μ=(S,K,A,B,π),其中,S為狀態集合,K為輸出符號的集合,A為狀態轉移矩陣,B為符號的發射概率,π為初始狀態的概率分布。有時也記為μ=(A,B,π)
2.2 觀察序列的生成
????當考慮潛在事件隨機地生成表面事件時,HMM非常有用。假設給定模型μ=(A,B,π),那么觀察序列O=O1O2…OT可由下面的步驟產生:
1. 根據初始的狀態概率分布πi選擇一個初始的狀態q1=si
2. 設t=1
3. 根據狀態si的輸出概率分布bi(k)輸出O_t=v_k
4. 根據狀態轉移概率分布aij,將當前t時刻的狀態轉移到新的狀態qt+1=sj
5. t=t+1, 如果t<T,重復執行步驟3,4.否則,算法結束。
總結
以上是生活随笔為你收集整理的机器学习笔记(十三)——隐马尔科夫模型的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: S5PV210开发 -- I2C 你知道
- 下一篇: 日常生活小技巧 -- Source In