馬爾可夫“折棍子”過程 Markovian Stick-breaking Process 簡介

• Markovian Stick-breaking Process的構造
• • GEM分布
  • Generator
  • Markovian Stick-breaking

Markovian Stick-breaking Process的構造

假設$\mathcal{X}?\mathbb{N}$是一個離散事件空間，$\mu$是$\mathcal{X}$上的一個測度，另外引入參數$\theta >0$；$(\mathcal{X},2^{\mathcal{X}},\mu )$上參數為$(\mu ,\theta )$的Dirichlet Process是可測空間($\mathcal{X},2^{\mathcal{X}})$上所有概率測度組成的集合$M_{\mathcal{X}}$上的概率測度，如果$P$是Dirichlet Process對應于$\mathcal{X}$的分割$\{A_i{\}}_{i=1}^n$的一個樣本，那么
$$(P(A_1),?,P(A_n))～Dirichlet(\theta \mu (A_1),?,\theta \mu (A_n))$$關于Dirichlet分布的介紹可以看UA MATH564 概率論 Dirichlet分布。

Dirichlet Process可以用“折棍子”過程(Stick-breaking Process)來表示(A constructive definition of Dirichlet priors, J Sethuraman 1994)。折棍子過程的直觀介紹可以參考從折棍子（Stick Breaking）模型到狄利克雷過程（DP）。對于Dirichlet Process的樣本$P$，
$$P=\sum _{j=1}^{\infty }{P}_j{\delta }_{T_j}$$

其中$\text{P}=\{P_j{\}}_{j\ge 1}$服從$GEM(\theta )$分布，下文再詳細介紹這個分布；$\text{T}=\{T_j{\}}_{j\ge 1}$是iid的序列，樣本空間為$\mathcal{X}$且分布為$\mu$；${\sum }_{j=1}^{\infty }{P}_j{\delta }_{T_j}$這種構造被稱為折棍子過程。如果$\{T_j{\}}_{j\ge 1}$由Markov Chain定義，那么這個過程就叫Markovian Stick-breaking Process（Dietz, Z., Lippitt, W., Sethuraman, S.: Stick-breaking processes, clumping, and Markov chain occupation laws. Under review, https://www.math.arizona.edu/ sethuram/papers/DLS.pdf），具體的構造如下：

定義一個Markov transition kernel （可以參考UA MATH565C 隨機微分方程V Markov Family簡介）
$$Q=I+G/\theta$$

其中$G$是generator matrix，$G=\{G_{ij}:i,j\in \mathcal{X}\}$滿足
$$\begin{gathered} G_{ij}>0 \\ {G}_{ii}=?\sum _{j=i}{G}_{ij} \end{gathered}$$

$\text{T}$服從transition kernel為$Q$的平穩Markov Chain。

GEM分布

GEM的全名是Griffiths-Engel-McCloskey，它是一個residual allocation sequence，作用是把一個資源分配給無限個單位：我們先把這一個資源的$X_1$分給第一個單位，假設$X_1～Beta(1,\theta )$，則第一個單位分得
$$P_1=X_1$$

則剩下的資源為$1?P_1$；然后我們把剩下的資源的$X_2$分給第二個單位，$X_2～Beta(1,\theta )$且與$X_1$獨立，則第二個單位分得
$$P_2=X_2(1?P_1)=X_2(1?X_1)$$且剩下的資源為$$1?P_1?P_2=1?X_1?X_2(1?X_1)=(1?X_2)(1?X_1)$$；以此類推，第$j$個單位分得的資源為
$$P_j=X_j\prod _{i=1}^{j?1}(1?X_i)$$

且剩余資源為${\prod }_{i=1}^j(1?X_i)$。記$\text{P}=\{P_j{\}}_{j\ge 1}$，這個序列表示我們分配在每個單位上的資源，稱$\text{P}$服從的分布為$GEM(\theta )$。

Generator

稱實值矩陣$G=(G_{xy}{)}_{x,y\in \mathcal{X}}$為generator kernel (or say generator matrix) over $\mathcal{X}$，如果

$?x,y\in \mathcal{X}$, $x=y$, $G_{xy}\ge 0$

$?x\in \mathcal{X}$, $G_{xx}=?{\sum }_{y\in \mathcal{X}?\{x\}}{G}_{xy}$

${\theta }^G={\sup }_{x\in \mathcal{X}}|G_{xx}|<\infty$

如果$\mu$是$\mathcal{X}$上的一個概率測度，并且${\mu }^{T}G=0$，則稱$\mu$是$G$的平穩概率分布。

用一個比較具體的例子來說明這個定義。考慮擲色子的事件空間$\mathcal{X}=\{1,2,3,4,5,6\}$，取$G_{xy}=|x?y|$，則
$$G=?\begin{array}{cccccc}?15& 1& 2& 3& 4& 5\\ 1& ?15& 2& 3& 4& 5\\ 1& 2& ?15& 3& 4& 5\\ 1& 2& 3& ?15& 4& 5\\ 1& 2& 3& 4& ?15& 5\\ 1& 2& 3& 4& 5& ?15\end{array}?$$

這個矩陣就是一個generator；如果這個色子是公平的，那么它的概率分布就是
$$\mu =\left[\begin{array}{cccccc}1/6& 1/6& 1/6& 1/6& 1/6& 1/6\end{array}\right]$$

不難驗證，${\mu }^{T}G=0$，也就是說$\mu$關于generator $G$是平穩分布。需要注意的是generator matrix可能不止一個。

Markovian Stick-breaking

假設$G$是$\mathcal{X}$一個不可約、正定、常返的Generator matrix，且平穩分布為$\mu$，取$\theta >{\theta }^G$，定義$Q=I+G/\theta$，如果$\text{P}～GEM(\theta )$，$\text{T}$服從transition kernel為$Q$的平穩、齊次馬爾可夫鏈，且與$\text{P}$獨立，則$\mathcal{X}$上的random measure
$$\nu =\sum _{j\ge 1}{P}_j{\delta }_{T_j}$$與$T_1$構成的二元組$(\nu ,T_1)$服從Markovian Stick-breaking process，記為$(\nu ,T_1)～MSB(G)$。

《新程序員》：云原生和全面數字化實踐50位技術專家共同創作，文字、視頻、音頻交互閱讀

總結

以上是生活随笔為你收集整理的马尔可夫“折棍子”过程 Markovian Stick-breaking Process 简介的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。