文章目錄

• EM 算法
• 1. EM 算法的引入
• • 三硬幣模型
• 2. EM 算法
• • Q 函數(shù)
• 參考文獻(xiàn)

相關(guān)文章：

機(jī)器學(xué)習(xí) | 目錄

無(wú)監(jiān)督學(xué)習(xí) | GMM 高斯混合原理及Sklearn實(shí)現(xiàn)

本文大部分內(nèi)容搬運(yùn)自李航老師的《統(tǒng)計(jì)學(xué)習(xí)方法》^[1]，以給出 EM 算法較為完整的定義。

EM 算法

EM 算法是一種迭代算法，1977 年由 Dempster 等人總結(jié)提出，用于含有隱變量（hidden variable）的概率模型參數(shù)的極大似然估計(jì)，或極大后驗(yàn)估計(jì)。

EM 算法的每次迭代由兩步組成：E 步：求期望（expectation）；M 步：求極大（maximization）。所以這一算法稱為期望極大算法（expectation maximization algorithm, EM）。

1. EM 算法的引入

概率模型有時(shí)即含有觀測(cè)數(shù)據(jù)（observable varible，已知），又含有隱變量或潛在變量（latent varible，未知），如果概率模型的變量都是觀測(cè)變量，那么給定數(shù)據(jù)，可以直接使用極大似然估計(jì)，或貝葉斯估計(jì)法估計(jì)模型參數(shù)。但是，當(dāng)模型含有隱變量時(shí)，就不能簡(jiǎn)單地使用這些估計(jì)方法。EM 算法就是含有隱變量的概率模型參數(shù)的極大似然估計(jì)。

三硬幣模型

假設(shè)有三枚硬幣，分別記作 A，B，C。這些硬幣正面出現(xiàn)的概率分別是 $\pi$，$p$ 和 $q$。進(jìn)行如下擲硬幣試驗(yàn)：

先擲硬幣 A ，若為正面則選硬幣 B ，若為反面則選硬幣 C ；然后擲 A 選出的硬幣（ B 或 C ），若為正面則記作 1，若為反面則記作 0，試驗(yàn)結(jié)束。

獨(dú)立重復(fù)試驗(yàn) $n$ 次（這里 $n=10$），觀測(cè)結(jié)果如下：

$$1,1,0,1,0,0,1,0,1,1$$

假設(shè)只能觀測(cè)到擲硬幣的結(jié)果，不能觀測(cè)擲硬幣的過(guò)程，問(wèn)如何估計(jì)三硬幣正面出現(xiàn)的概率，即三硬幣模型的參數(shù)。

解 三硬幣模型可以寫作：

$$\begin{array}{rl}P(y|\theta )& =\sum _{z}P(y,z|\theta )=\sum _{z}P(z|\theta )P(y|z,\theta )\\ & =\pi p^y(1?p{)}^{1?y}+(1?\pi )q^y(1?q{)}^{1?y}\end{array}\text{\hspace{1em}(1)}$$

這里，隨機(jī)變量 $y$ 是觀測(cè)變量，表示一次試驗(yàn)觀測(cè)的結(jié)果是 1 或 0；隨機(jī)變量 $z$ 是隱變量，表示未觀測(cè)到的擲硬幣 A 的結(jié)果；$\theta =(\pi ,p,q)$ 是模型參數(shù)。這一模型是以上數(shù)據(jù)的生成模型。注意，隨機(jī)變量 $y$ 的數(shù)據(jù)可以觀測(cè)，隨機(jī)變量 $z$ 的數(shù)據(jù)不可觀測(cè)。

將觀測(cè)數(shù)據(jù)表示為 $Y=(Y_1,Y_2,...,Y_n{)}^T$ ，未觀測(cè)數(shù)據(jù)表示為 $Z=(Z_1,Z_2,...,Z_n{)}^T$，則觀測(cè)數(shù)據(jù)的似然函數(shù)為：

$$P(Y|\theta )=\sum _{Z}P(Z|\theta )P(Y|Z,\theta )\text{\hspace{1em}(2)}$$

即

$$P(Y|\theta )=\prod _{j=1}^n\left[\pi p^{y_j}(1?p{)}^{1?y_j}+(1?\pi )q^{y_j}(1?q{)}^{1?y_j}\right]\text{\hspace{1em}(3)}$$

考慮求模型參數(shù) $\theta =(\pi ,p,q)$，即：

$$\hat{\theta }=arg\underset{\theta }{\max }logP(Y|\theta )\text{\hspace{1em}(4)}$$

這個(gè)問(wèn)題沒有解析解，只有通過(guò)迭代的方法求解。EM 算法就是可以用于求解這個(gè)問(wèn)題的一種迭代算法。下面給出針對(duì)以上問(wèn)題的 EM 算法，其推導(dǎo)過(guò)程省略。

EM 算法首先選取參數(shù)的初值，記作 ${\theta }^{(0)}=({\pi }^{(0)},p^{(0)},q^{(0)})$ ，然后通過(guò)下面的步驟迭代計(jì)算參數(shù)的估計(jì)值，直至收斂為止。第 $i$ 次迭代參數(shù)的估計(jì)值為 ${\theta }^{(i)}=({\pi }^{(i)},p^{(i)},q^{(i)})$。EM 算法的第 $i+1$ 次迭代如下：

E 步：計(jì)算在模型參數(shù) ${\pi }^{(i)},p^{(i)},q^{(i)}$ 下觀測(cè)數(shù)據(jù) $y_i$ 來(lái)自擲硬幣 B 的概率：

$${\mu }^{(i+1)}=\frac{{\pi }^{(i)}{\left(p^{(i)}\right)}^{y_j}{\left(1?p^{(i)}\right)}^{1?y_j}}{{\pi }^{(i)}{\left(p^{(i)}\right)}^{y_j}{\left(1?p^{(i)}\right)}^{1?y_j}+\left(1?{\pi }^{(i)}\right){\left(q^{(i)}\right)}^{y_j}{\left(1?q^{(i)}\right)}^{1?y_j}}\text{\hspace{1em}(5)}$$

M 步：計(jì)算模型參數(shù)的新估計(jì)值

$${\pi }^{(i+1)}=\frac{1}{n}\sum _{j=1}^n{\mu }_j^{(i+1)}\text{\hspace{1em}(6)}$$

$$p^{(i+1)}=\frac{{\sum }_{j=1}^n{\mu }_j^{(i+1)}{y}_j}{{\sum }_{j=1}^n{\mu }_j^{(i+1)}}\text{\hspace{1em}(7)}$$

$$q^{(i+1)}=\frac{{\sum }_{j=1}^n\left(1?{\mu }_j^{(i+1)}\right)y_j}{{\sum }_{j=1}^n}\text{\hspace{1em}(8)}$$

進(jìn)行數(shù)字計(jì)算。假設(shè)模型參數(shù)的初值取為：

$${\pi }^{(0)}=0.5,p^{(0)}=0.5,q^{(0)}=0.5$$

由式 (5)，對(duì) $y_j=1$ 與 $y_j=0$ 均有 ${\mu }_j^{(1)}=0.5$。

利用迭代公式 (6-8) ，得到：

$${\pi }^{(1)}=0.5,p^{(1)}=0.6,q^{(1)}=0.6$$

由式 (5)，

$${\mu }_j^{(2)}=0.5,j=1,2,...,10$$

繼續(xù)迭代，得：

$${\pi }^{(2)}=0.5,p^{(2)}=0.6,q^{(2)}=0.6$$

可以看到參數(shù)以及收斂，于是得到模型參數(shù) $\theta$ 的極大似然估計(jì)：

$$\hat{\pi }=0.5,\hat{p}=0.6\hat{q}=0.6$$

$\pi =0.5$ 表示硬幣 A 是均勻的，這一結(jié)果容易理解。

如果取初值${\pi }^{(0)}=0.5,p^{(0)}=0.6,q^{(0)}=0.7$，那么得到的模型參數(shù)的極大似然估計(jì)是 $\hat{\pi }=0.4064,\hat{p}=0.5368\hat{q}=0.6432$ 。這就是說(shuō)，EM 算法與初值的選擇有關(guān)，選擇不同的初值可能得到不同的參數(shù)估計(jì)值。

---

一般地，用 $Y$ 表示觀測(cè)隨機(jī)變量的數(shù)據(jù)，$Z$ 表示隱隨機(jī)變量的數(shù)據(jù)。$Y$ 和 $Z$ 連在一起稱為完全數(shù)據(jù)（complete-data），觀測(cè)數(shù)據(jù) $Y$ 又稱為不完全數(shù)據(jù)（incomplete-data）。假設(shè)給定觀測(cè)數(shù)據(jù) $Y$，其概率分布是 $P(Y|\theta )$，其中 $\theta$ 是需要估計(jì)的模型參數(shù)，那么不完全數(shù)據(jù) $Y$ 的似然函數(shù)是 $P(Y|\theta )$，對(duì)數(shù)似然函數(shù)為 $L(\theta )=\log P(Y|\theta )$；假設(shè) $Y$ 和 $Z$ 的聯(lián)合概率分布是 $P(Y,Z|\theta )$，那么完全數(shù)據(jù)的對(duì)數(shù)似然函數(shù)是 $\log P(Y,Z|\theta )$。

EM 算法通過(guò)迭代求 $L(\theta )=\log P(Y|\theta )$ 的極大似然估計(jì)。每次迭代包含兩步：E 步，求期望；M 步，求極大化。

2. EM 算法

輸入：觀測(cè)變量數(shù)據(jù) $Y$，隱變量數(shù)據(jù) $Z$，聯(lián)合分布 $P(Y,Z|\theta )$，條件分布 $P(Z|Y.\theta )$；

輸出；模型參數(shù) $\theta$。

（1）選擇參數(shù)的初值 ${\theta }^{(0)}$，開始迭代；

（2）E 步：記 ${\theta }^{(i)}$ 為第 $i$ 次迭代參數(shù) $\theta$ 的估計(jì)值，在第 $i+1$ 次迭代的 E 步，計(jì)算：

$$\begin{array}{rl}Q\left(\theta ,{\theta }^{(i)}\right)& =E_Z\left[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}\right]\\ & =\sum _Z\log P(Y,Z|\theta )P\left(Z|Y,{\theta }^{(i)}\right)\end{array}\text{\hspace{1em}(9)}$$

（3）M 步：求使 $Q(\theta ,{\theta }^{(i)})$ 極大化的 $\theta$，確定第 $i+1$ 次迭代的參數(shù)的估計(jì)值 ${\theta }^{(i+1)}$：

$${\theta }^{(i+1)}=arg\underset{\theta }{\max }Q(\theta ,{\theta }^{(i)})\text{\hspace{1em}(10)}$$

（4）重復(fù)第 (2-3) 步，直到收斂。

---

下面關(guān)于 EM 算法作幾點(diǎn)說(shuō)明：

步驟 (1) 參數(shù)的初值可以任意選擇，但需注意 EM 算法對(duì)初值是敏感的；

步驟 (2) E 步求 $Q(\theta ,{\theta }^{(i)})$ 。Q 函數(shù)式中 Z 是未觀測(cè)數(shù)據(jù)，Y 是觀測(cè)數(shù)據(jù)。注意，$Q(\theta ,{\theta }^{(i)})$ 的第 1 個(gè)表示要極大化的參數(shù)，第 2 個(gè)變?cè)硎緟?shù)的當(dāng)前估計(jì)值。每次迭代實(shí)際在求 Q 函數(shù)及其極大；

步驟 (3) M 步求 $Q(\theta ,{\theta }^{(i)})$ 的極大化，得到 ${\theta }^{(i+1)}$，完成一次迭代 ${\theta }^{(i)}\to {\theta }^{(i+1)}$，且每次迭代使似然函數(shù)增大或達(dá)到局部極值；

步驟 (4) 給出停止迭代的條件，一般是對(duì)較小的正值 ${\epsilon }_1,{\epsilon }_2$，若滿足：

$$\Vert {\theta }^{(i+1)}?{\theta }^{(i)}\Vert <{\epsilon }_{1}or\Vert Q\left({\theta }^{(i+1)},{\theta }^{(i)}\right)?Q\left({\theta }^{(i)},{\theta }^{(i)}\right)\Vert <{\epsilon }_2\text{\hspace{1em}(11)}$$

則停止迭代。

---

式 (9) 的函數(shù) $Q(\theta ,{\theta }^{(i)})$ 是 EM 算法的核心，稱為 Q 函數(shù)（Q function）。

Q 函數(shù)

完全數(shù)據(jù)的對(duì)數(shù)似然函數(shù) $\log P(Y,Z|\theta )$ 關(guān)于在給定觀測(cè)數(shù)據(jù) $Y$ 和當(dāng)前參數(shù) ${\theta }^{(i)}$ 下對(duì)未觀測(cè)數(shù)據(jù) Z 的條件概率分布 $P(Z|Y,{\theta }^{(i)})$ 的期望稱為 Q 函數(shù)，即：

$$Q\left(\theta ,{\theta }^{(i)}\right)=E_z\left[\log P(Y,Z|\theta )|Y,{\theta }^{(i)}\right]\text{\hspace{1em}(11)}$$

參考文獻(xiàn)

[1] 周志華. 機(jī)器學(xué)習(xí)[M]. 北京: 清華大學(xué)出版社, 2016: 155-158.

總結(jié)

以上是生活随笔為你收集整理的机器学习 | EM 算法原理的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。