UA MATH566 一個例子：什么是隱狀態

• • 對試驗結果的分析
  • 對隱狀態的分析

假設一個包里有三個色子，分別是色子A、色子B和色子C，每個色子的六個面上都標有1-4中的某個數字，其中色子A有兩面標1、兩面標2、一面標3、一面標4；色子B有兩面標2、兩面標3、一面標1、一面標4；色子C有三面標4、其余三面分別標1、2、3。先從蒙上眼睛從包中抽取一個色子，用隨機變量S表示抽取的色子；再投擲這個色子，讓人記下正面朝上的數字后放回。

在這個過程中，除了記錄者之外，其他人只能得知一共投擲了$N$次，得到1、2、3、4的次數分別為$N_1,N_2,N_3,N_4$；每次抽出來的色子是哪一個我們并不知道。稱$S$就是一個hidden state（隱狀態），我們觀察不到每次試驗中$S$的值，但它的值會影響試驗的結果，因此通過試驗的結果，我們也可以反過來推斷$S$的性質。

對試驗結果的分析

我們先分析我們能觀察到的結果，假設我們觀察到1、2、3、4的概率分別為$p_1,p_2,p_3,p_4$，它們的定義域是一個單純形
$$\{(p_1,p_2,p_3,p_4):p_1,p_2,p_3,p_4\in [0,1],p_1+p_2+p_3+p_4=1\}$$

投擲$N$次，得到1、2、3、4的次數分別為$N_1,N_2,N_3,N_4$，這其實是一個多項分布的樣本，似然函數為
$$L(p_1,p_2,p_3,p_4)=\frac{N!}{N_1!N_2!N_3!N_4!}{p}_1^{N_1}{p}_2^{N_2}{p}_3^{N_3}{p}_4^{N_4}$$

根據$p_1,p_2,p_3,p_4$的定義域與這個似然函數計算最大似然估計：
$${\hat{p}}_i=\frac{N_i}{N},i=1,2,3,4$$

對隱狀態的分析

假設$S=A,B,C$的概率分別為$q_1,q_2,q_3$，根據全概率公式，
$$?\begin{array}{c}{p}_1\\ p_2\\ p_3\\ p_4\end{array}?=?\begin{array}{ccc}1/6& 1/6& 1/6\\ 1/3& 1/3& 1/6\\ 1/6& 1/3& 1/6\\ 1/6& 1/6& 1/2\end{array}??\begin{array}{c}{q}_1\\ q_2\\ q_3\end{array}?$$

$q_1,q_2,q_3$前面的系數矩陣其實是每個狀態下投擲出某個數字的似然矩陣。表面上看這個是一個超定的線性系統，但實際上概率之和為1消耗了一個自由度，所以給定一組估計值，上述線性系統恰好存在唯一解。任選三個方程，帶入前面得到的最大似然估計，就可以估計出隱狀態的分布。

如果按照貝葉斯統計的思路來分析，就會更直接一點。根據貝葉斯公式，
$$\begin{gathered} q_1=\frac{(1/3{)}^{N_1}(1/3{)}^{N_2}(1/6{)}^{N_3}(1/6{)}^{N_4}}{(1/3{)}^{N_1}(1/3{)}^{N_2}(1/6{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/3{)}^{N_2}(1/3{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/6{)}^{N_2}(1/6{)}^{N_3}(1/2{)}^{N_4}} \\ {q}_2=\frac{(1/6{)}^{N_1}(1/3{)}^{N_2}(1/3{)}^{N_3}(1/6{)}^{N_4}}{(1/3{)}^{N_1}(1/3{)}^{N_2}(1/6{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/3{)}^{N_2}(1/3{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/6{)}^{N_2}(1/6{)}^{N_3}(1/2{)}^{N_4}} \\ {q}_3=\frac{(1/6{)}^{N_1}(1/6{)}^{N_2}(1/6{)}^{N_3}(1/2{)}^{N_4}}{(1/3{)}^{N_1}(1/3{)}^{N_2}(1/6{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/3{)}^{N_2}(1/3{)}^{N_3}(1/6{)}^{N_4}+(1/6{)}^{N_1}(1/6{)}^{N_2}(1/6{)}^{N_3}(1/2{)}^{N_4}} \end{gathered}$$

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的UA MATH566 一个例子：什么是隐状态的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。