文章目錄

• 一. 馬爾可夫鏈以及隱馬爾可夫模型
• • 1.1 概念
  • 1.2 舉例說明隱馬爾可夫模型
• 二. 貝葉斯網絡
• 三. 因子圖

貝葉斯網絡是很多概率模型的基礎，對于slam研究也是一項必須掌握的數學理論工具。

一. 馬爾可夫鏈以及隱馬爾可夫模型

1.1 概念

我們先來了解一下馬爾可夫相關的概念。

馬爾可夫性質(Markov property)：在隨機過程中，未來狀態的條件概率分布僅依賴于當前狀態，而與過去狀態無關。

馬爾可夫鏈(Markov chain)：又稱離散時間馬爾科夫鏈（discrete-time Markov chain，縮寫為DTMC）。下一狀態的概率分布只能由當前狀態決定，與時間序列中前面的狀態無關。其實也就是馬爾可夫性質。在馬爾可夫鏈的每一步，系統根據概率分布，可以從一個狀態變到另一個狀態，也可以保持當前狀態。狀態的改變叫做轉移，與不同的狀態改變相關的概率叫做轉移概率。

隱馬爾可夫模型（Hidden Markov Model，HMM）是統計模型，其描述一個含有隱含未知參數的馬爾可夫過程。其難點是從可觀察的參數中確定該過程的隱含參數，然后利用這些參數來進一步的分析。

• 馬爾可夫模型中，狀態對于觀察者來說是直接可見的，狀態的轉移概率便是全部的參數。
• 隱馬爾可夫模型中，狀態并不是直接可見的，但受狀態影響的某些變量是可見的。每一個狀態在可能輸出的符號上都有一概率分布。因此輸出符號的序列能夠透露出狀態序列的一些信息。

1.2 舉例說明隱馬爾可夫模型

假如你有三種骰子D4,D6,D8,分別表示骰子為4，6，8面體，其中D6為最常見的骰子，他們每個面出現的概率分別為1/4,1/6,1/8。
現在假設你隨機從里面選一個骰子，然后得到一串數字：1 6 3 5 2 7 3 5 2 4。這串數字叫可見狀態鏈。除此之外你還有一串隱含狀態鏈，也就是骰子的序列，比如可能為：D6 D8 D8 D6 D4 D8 D6 D6 D4 D8。這個過程如下：

HMM中說到的馬爾可夫鏈其實是指隱含狀態鏈，因為隱含狀態（骰子）之間存在轉換概率（transition probability）。在我們這個例子里，D6的下一個狀態是D4，D6，D8的概率都是1/3。D4，D8的下一個狀態是D4，D6，D8的轉換概率也都一樣是1/3。這樣設定是為了最開始容易說清楚，但是我們其實是可以隨意設定轉換概率的。比如，我們可以這樣定義，D6后面不能接D4，D6后面是D6的概率是0.9，是D8的概率是0.1。這樣就是一個新的HMM。

隱馬爾可夫模型的應用：

預測(filter)：已知模型參數和某一特定輸出序列，求最后時刻各個隱含狀態的概率分布。
平滑(smoothing)：已知模型參數和某一特定輸出序列，求中間時刻各個隱含狀態的概率分布. 通常使用forward-backward> 算法解決。
解碼(most likely explanation): 已知模型參數，尋找最可能的能產生某一特定輸出序列的隱含狀態的序列，
通常使用Viterbi算法解決。

二. 貝葉斯網絡

貝葉斯網絡(Bayesian network)，又稱信念網絡(Belief Network)，或有向無環圖模型(directed acyclic graphical model)，是一種概率圖模型，于1985年由Judea Pearl首先提出。它是一種模擬人類推理過程中因果關系的不確定性處理模型，其網絡拓樸結構是一個有向無環圖(Directed Acyclic Graph)。
節點：表示一個屬性。它們可以是觀察到的變量或隱變量、未知參數等。
節點間（弧）：代表屬性間的概率依賴關系P(B|A)。

一條弧由一個屬性A指向另外一個屬性B，說明屬性A的取值可以對屬性B的取值產生影響，由于是有向無環圖，A、B間不會出現有向回路。
A：弧尾，因，parents
B：弧頭，果，children

1. head-to-head

由上圖可知：P(a,b,c)=P(a)P(b)P(c|a,b)成立。a，b為獨立的。

2. tail-to-tail

c未知的情況下：P(a,b,c)=P?P(a|c)P(b|c)，此時沒法得出P(a,b) = P(a)P(b),所以a，b不獨立
c已知的情況下：P(a,b|c)=P(a,b,c)/P?，a，b獨立。

3. head-to-tail

c未知的情況：P(a,b,c)=P(a)P(c|a)P(b|c)，但不能推出P(a,b) = P(a)P(b)，a，b不獨立。
c已知的情況：a，b獨立。

head-to-tail其實就是一個鏈式網絡，且它為馬爾科夫鏈。

三. 因子圖

所謂因子圖就是對函數進行因子分解得到的一種概率圖。一般包含兩個節點，變量節點和函數節點。我們知道，一個全局函數通過因式分解能夠分解為多個局部函數的乘積，這些局部函數和對應的變量關系就體現在因子圖上。
$$g(x_1,x_2,x_3,x_4,x_5)=f_A(x_1)f_B(x_2)f_C(x1,x2,x3)f_D(x_3,x_4)f_E(x_3,x_5)$$
其中$f_A,f_B,f_C,f_D,f_E$為各函數，表示變量直接的關系，可以是條件概率也可以是其他關系，對應的因子圖為：

或者：

參考：
https://www.cnblogs.com/skyme/p/4651331.html
https://blog.csdn.net/v_july_v/article/details/40984699

總結

以上是生活随笔為你收集整理的马尔可夫链、隐马尔科夫模型、贝叶斯网络、因子图的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。