Jensen不等式的形式有很多種，這里重點關注有關于隨機變量期望的形式。

1 Jensen不等式

Jensen不等式：已知函數$?:\mathbb{R}\to \mathbb{R}$為凸函數，則有$?[\text{E}(X)]\le \text{E}[?(X)]$。

有時候，需要用到離散形式的Jensen不等式：$\{a_j\}$是一系列非負權重，滿足${\sum }_{j=1}^m{a}_j=1$，$\{x_j\}$是一系列任意實數，對于凸函數$?:\mathbb{R}\to \mathbb{R}$，有
$$?\left(\sum _{j=1}^m{a}_j{x}_j\right)\le \sum _{j=1}^m{a}_j?(x_j)$$
只需將原期望形式的Jensen不等式中的隨機變量取成離散的，并令$P(X=x_j)=a_j$，即可得到上式。

2 條件Jensen不等式

將不等式兩邊的期望都取為條件期望的形式，不等式依然成立。

條件Jensen不等式：已知函數$?:\mathbb{R}\to \mathbb{R}$為凸函數，則有$?[\text{E}(X|Y)]\le \text{E}[?(X)|Y]$。

來看一個應用：在$\text{Var}(X)<\infty$的條件下，利用條件Jensen不等式，可以證明$\text{Var}[\text{E}(X|Y)]\le \text{Var}(X)$。

證明如下：
$$\begin{array}{rl}& [\text{E}(X|Y)?\text{E}(X){]}^2\\ =& [\text{E}(X|Y){]}^2+[\text{E}(X){]}^2?2\text{E}(X|Y)\text{E}(X)\\ \le & \text{E}(X^2|Y)+[\text{E}(X){]}^2?2\text{E}(X|Y)\text{E}(X)\end{array}$$

兩邊取期望后，可得
$$\begin{array}{rl}& \text{E}\left\{{\left\{\text{E}(X|Y)?\text{E}[\text{E}(X|Y)]\right\}}^2\right\}\\ (=& \text{Var}[\text{E}(X|Y)])\\ \le & \text{E}[\text{E}(X^2|Y)]+[\text{E}(X){]}^2?2[\text{E}(X){]}^2\\ =& \text{E}(X^2)+[\text{E}(X){]}^2?2[\text{E}(X){]}^2\\ =& \text{Var}(X)\end{array}$$

得證。

3 Jensen不等式的應用

許許多多不等式，都可以利用Jensen不等式得出，這里整理一些例子。

3.1 套用簡單函數

將$?$直接取為簡單的凸函數或凹函數，就可以得到許多不等式：

• $[\text{E}(X){]}^2\ge \text{E}(X^2)$
• $|\text{E}(X)|\le \text{E}|X|$；
• $\exp [\text{E}(X)]\le \text{E}[\exp (X)]$；
• $\text{E}[\log (X)]\le \log [\text{E}(X)]$；
• $\text{E}[X^{1/2}]\le [\text{E}(X){]}^{1/2}$。

3.2 Lyapunov不等式

Lyapunov不等式：對于任意$0\le p\le q$，有
$$[\text{E}(|X{|}^p){]}^{1/p}\le [\text{E}(|X{|}^q){]}^{1/q}$$

證明過程，只需利用凸函數$?(x)=x^{q/p}$，和隨機變量$Y=|X{|}^q$即可。

3.3 幾何均值不等式

幾何均值不等式（Geometric Mean Inequality）：$\{a_j|$是一系列非負權重，滿足${\sum }_{j=1}^m{a}_j=1$，$\{x_j\}$是一系列任意的非負實數，則有
$$x_1^{a_1}{x}_2^{a_2}?x_m^{a_m}\le \sum _{j=1}^m{a}_j{x}_j$$

證明要用到離散形式的Jensen不等式，將$?$取為對數函數即可，由于對數函數是凹函數，不等式需反向。

如果取$m=2$，$a_1=a_2=\frac{1}{2}$，就是在中學階段熟悉的$\sqrt{x_1{x}_2}\le \frac{x_1+x_2}{2}$，即幾何均值小于等于代數均值。

3.4 Loeve’s $C_r$ Inequality

對于一系列的任意實數$x_j$，有
$${\left|\sum _{j=1}^m{x}_j\right|}^r\le ?\begin{array}{ll}\sum _{j=1}^m|x_j{|}^r& ,0<r\le 1\\ m^{r?1}\sum _{j=1}^m|x_j{|}^r& ,r>1\end{array}$$

當$m=2$時，記$C_r=\max \{1,2^{r?1}\}$，該不等式可寫為
$$|a+b{|}^r\le C_r\left(|a{|}^r+|b{|}^r\right)$$
因此也叫$C_r$不等式。

證明同樣需用到離散形式Jensen不等式。若$r>1$，取$a_j=1/m$，$?(x)=|x{|}^r$，即可得證。若$r\le 1$，記${\sum }_{j=1}^m|x_j|=A$，取$b_j=|x_j|/A$，則$b_j\in [0,1]$，因此有$b_j\le b_j^r$，因此
$$1=\sum _{j=1}^m{b}_j\le \sum _{j=1}^m{b}_j^r=\frac{{\sum }_{j=1}^m|x_j{|}^r}{A^r}$$
再利用$|{\sum }_{j=1}^m{x}_j|\le {\sum }_{j=1}^m|x_j|=A$，即可得證。

3.5 范數不等式

范數不等式：對于$0<p\le q$，有
$${\left|\sum _{j=1}^m|x_j{|}^q\right|}^{1/q}\le {\left|\sum _{j=1}^m|x_j{|}^p\right|}^{1/p}$$

取$r=p/q\le 1$，$y_j=|x_j{|}^q$，利用上一節中的$C_r$不等式，可得
$${\left|\sum _{j=1}^m{y}_j\right|}^r\le \sum _{j=1}^m|y_j{|}^r$$
將$x_j$代回并兩邊取$1/p$次方即可得證。

總結

以上是生活随笔為你收集整理的Jensen不等式及其应用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。