UA STAT675 統計計算I 隨機數生成8 Adaptive Rejection Sampling

• • Adaptive Rejection Sampling的幾何展示
  • Adaptive Rejection Sampling算法

Adaptive Rejection Sampling的幾何展示

這一講我們討論一類重要密度的采樣方法，回顧一下指數分布族
$$f(x)=h(x)e^{\theta x??(\theta )}$$

如果
$$\frac{{?}^2}{?x^2}\log f(x)<0$$

就稱$f$是log-concave的；這類密度的采樣方法早期由Devroye (1985) 提出，更一般性的結果由Gilks、Wild (1992) 等人基于envelope Accept-Reject方法提出，被稱為Adaptive Rejection Sampling （ARS），這個算法的思想很簡單，就是用分段線性函數構造$\log f(x)$的包絡。

在$f$的支撐集中選一系列點，$x_0,x_1,x_2,?$，連接$(x_0,\log f(x_0))$與$(x_1,\log f(x_1))$的線段如果在$\log f(x)$的上方，就將其作為$\log f(x)$的第一段包絡；連接$(x_1,\log f(x_1))$與$(x_2,\log f(x_2))$的線段如果在$\log f(x)$的下方，就將其作為下包絡，考慮連接$(x_2,\log f(x_2))$與$(x_3,\log f(x_3))$的線段，延長到$x_1$處，如果在在$\log f(x)$的上方，就將其作為$\log f(x)$的第二段上包絡；按照這個過程找$\log f(x)$的分段線性包絡，這就是ARS算法找envelope的思路。

Adaptive Rejection Sampling算法

記$f$得目標密度，我們把它的支撐集分為$n$段，$\{[x_{i?1},x_i]{\}}_{i=1}^n$，每一段的上包絡為$g=g_i,?x\in [x_{i?1},x_i]$，下包絡為$l=l_i,?x\in [x_{i?1},x_i]$，滿足
$$l_i(x)\le f(x)\le M_i{g}_i(x)$$

---

Algorithm 6: Adaptive Rejection Sampling

Step 0: initialize $n$ and $\{x_0,x_1,?,x_n\}$
Loop: for $i=1,?,n$

• Step 1: generate $x～g_i$, $u～U(0,1)$
• Step 2: if $u\le \frac{l(x)}{Mg(x)}$, accept $x$; otherwise, if $u\le \frac{f(x)}{Mg(x)}$, accept $x$

---

總結

以上是生活随笔為你收集整理的UA STAT675 统计计算I 随机数生成8 Adaptive Rejection Sampling的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。