清晰易懂的马尔科夫链原理介绍
馬爾科夫鏈是一種非常常見且相對簡單的統計隨機過程,從文本生成到金融建模,它們在許多不同領域都得到了應用。馬爾科夫鏈在概念上非常直觀且易于實現,因為它們不需要使用任何高級的數學概念,是一種概率建模和數據分析的經典方法。
1. 馬爾科夫鏈場景分析
首先,我將用一個非常常見的例子來描述它們:
?
假設有兩種可能的天氣狀態:晴天或陰天,你隨時都可以觀測當前的天氣狀態且狀態限定為晴天或陰天。
?
現在你想預測明天的天氣情況,你本能的會認為當天的天氣會對明天的天氣有一定的影響,因此,擁有智慧和才貌的你會收集并分析過去幾年的天氣數據,發現了一個規律——當天是陰天第二天是晴天的概率為0.25,由于天氣限定為晴天或陰天,那么當天是陰天第二天也是陰天的概率為0.75。
?
因此你可以基于當前的天氣狀態去預測未來幾天的天氣。
?
這一例子闡述了馬爾科夫鏈的關鍵概念:馬爾科夫鏈本質上是由滿足馬爾科夫性質的轉移概率分布組成,下圖為天氣例子的轉移概率:
馬爾科夫的性質在于它的無記憶性,下一時刻的狀態只與當前的狀態相關。用數學公式描述為:
其中是時間狀態序列。
這個例子介紹了如何僅通過觀察當天到下一天的轉移來獲得概率分布,這說明了馬爾科夫的性質在于它的無記憶性。
?
馬爾科夫的無記憶性通常使它們無法成功預測某些潛在會發生的趨勢,比如馬爾科夫鏈可能根據詞頻模仿作者的寫作風格,但它無法產生具有深刻主題意義的文本,因為這種主題是基于更長的文本序列產生的,馬爾科夫鏈只考慮當前的狀態,不考慮之前狀態的信息。
2.馬爾科夫鏈模型分析
馬爾科夫鏈是通過狀態轉移的概率分布體現的,稱為馬爾科夫鏈的轉移矩陣。如果馬爾科夫鏈有N個可能的狀態,則轉移矩陣的大小是N階,矩陣的項(i,j)是狀態i到狀態j的轉移概率,另外矩陣的每一行的轉移概率和等于1,表示狀態i的概率分布。
如下圖的馬爾科夫鏈,狀態用圓表示,邊表示狀態的轉移概率。
相應馬爾科夫鏈的轉移矩陣為:
馬爾科夫鏈也包含了每個狀態的初始概率,稱為馬爾科夫鏈的初始狀態向量,向量的大小與狀態數相等,如下圖的初始狀態向量:
狀態轉移分布和狀態的初始分布是馬爾科夫鏈的兩個基本屬性。
3.馬爾科夫鏈性質分析
上節介紹了馬爾科夫的兩個基本屬性是狀態轉移分布和狀態的初始分布,本節用上一節的狀態轉移矩陣例子來分析馬爾科夫鏈的性質。
假設初始狀態為:
初始狀態經過第一次狀態轉移后的狀態分布為:
第二次狀態轉移后的狀態分布為:
第三次狀態轉移后的狀態分布為:
第n次狀態轉移后的狀態分布為:
編碼狀態轉移過程并輸出結果,可知經過多次轉移狀態轉換后,狀態的分布收斂于穩定的概率分布:
假設初始狀態為:
由上面結果可知經過多次狀態轉移后,狀態的分布收斂于穩定的概率分布:
因此狀態分布的收斂性與初始狀態的分布無關,經過多次狀態轉移后,狀態趨于平穩分布,方程式表示如下:
狀態分布收斂于穩定的概率分布稱為狀態平穩分布,狀態的平穩分布與初始狀態分布無關,也可說當狀態轉移確定后,馬爾科夫模型也已經確定了。
結合(1)式(2)式...(n)式,得到狀態分布與狀態轉移的關系:
由上式可知,我們也可以從從狀態轉移矩陣的多次狀態轉換來分析模型的收斂性。
由上面結果可知:狀態轉移矩陣經過多次狀態轉換后,模型開始收斂且收斂后的狀態轉移分布與狀態轉移前的狀態無關,如上一個狀態為牛市、熊市或橫盤,狀態轉移結果為熊市的概率都為0.625,也就是說多次狀態轉換后,熊市的狀態分布穩定在0.625。
4.馬爾科夫鏈收斂條件
馬爾科夫鏈模型是否收斂取決于狀態轉移矩陣,當狀態分布和狀態轉移矩陣P滿足:
則稱馬爾科夫鏈收斂,其中為狀態i轉移到狀態j的概率。
證明:
當時,就得到如下等式:
上式的含義等價于馬爾科夫鏈收斂于穩定的狀態分布。
另外我們對轉移矩陣也有一些限制:
(1)馬爾科夫鏈的狀態轉換不是循環的,如果循環則永遠不會收斂,簡單點說就是非周期性
的馬爾科夫鏈才會收斂,實際應用中馬爾科夫鏈一般都是非周期性的。
周期性的馬爾科夫鏈如下:
狀態i -> 狀態j -> 狀態k -> 狀態i -> 狀態j -> 狀態k ->.....狀態i -> 狀態j -> 狀態k
則該馬爾科夫鏈不會收斂。
(2)任何兩個狀態是連通的,即狀態轉移矩陣沒有為0的項。
(3)狀態數是有限的
(4)狀態間的轉移概率需要固定不變。
5.小結
本文介紹了馬爾科夫鏈的基本知識,馬爾科夫鏈的收斂性使我們可以用馬爾科夫鏈采樣得到我們需要的樣本集,馬爾科夫鏈的無記憶性是隱馬爾可夫模型和條件隨機場的理論基礎,后續會寫相關的內容,請持續關注小編吧!
備注:公眾號菜單包含了整理了一本AI小抄,非常適合在通勤路上用學習。
往期精彩回顧那些年做的學術公益-你不是一個人在戰斗適合初學者入門人工智能的路線及資料下載機器學習在線手冊深度學習在線手冊備注:加入本站微信群或者qq群,請回復“加群”加入知識星球(4500+用戶,ID:92416895),請回復“知識星球”喜歡文章,點個在看
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的清晰易懂的马尔科夫链原理介绍的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 修订版 | 目标检测:速度和准确性比较(
- 下一篇: AI基础:深度学习论文阅读路线(127篇