MCMC中的深入論題

目錄
3.6 輔助變量采樣器
3.6.1 混合蒙特卡洛（詳見PRML）
3.6.2 切片采樣
3.6.3 模擬回火
3.7 可逆跳躍MCMC

3.6 輔助變量采樣器

思路：從增廣分布p(x,u)中采樣往往比從p(x)中采樣更容易，其中u是輔助變量。然后，根據p(x,u)抽樣(x(i),u(i))，然后忽略樣本u(i)，就可以得到邊際樣本x(i)。

在這里，我們將重點介紹兩個眾所周知的輔助變量方法的例子，即混合蒙特卡羅和切片抽樣。

3.6.1 混合蒙特卡羅（HMC）

Duane（1987）和尼爾（1996）概述的“跨越【leapfrog】”HMC算法。混合蒙特卡羅（HMC）是一種MCMC算法，包含關于目標分布梯度信息以改善高維混合。

漢密爾頓蒙特卡洛（HMC）采樣是一種動力學采樣方法，也是現如今最通用的采樣方法。由于MH算法與吉布斯采樣方法中下一個樣本點與當前樣本點之間的相關性都不可避免會很強，因為當前樣本點是下一個樣本點的條件。這樣的采樣路徑是隨機游走的，對目標分布的探索效率比較低下。

通過引入 輔助的動量變量，把待采樣的變量作為位置變量，把二者納入一個勢能與動能守恒的動力學系統，通過采樣點在動力學系統中隨機的游走來得到兩個

總結

以上是生活随笔為你收集整理的8. An Introduction to MCMC for Machine Learning (4)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。