UA MATH567 高維統計I 概率不等式2 在Erd?s–Rényi隨機圖模型中的應用

Erd?s–Rényi隨機圖模型是第一個系統性討論隨機圖的模型，它討論了兩類模型，$G(n,M)$和$G(n,p)$，前者表示一個有$n$個點的圖要隨機選出$M$條邊；后者表示一個有$n$個點的圖每條邊存在的概率是$p$。給定每條邊存在的概率為$p$，每種$G(n,M)$的概率都是
$$p^M(1?p{)}^{C_n^2?M}$$

稱與某一個點相連的邊的數目為這個點的度，$G(n,p)$中每個點的度的期望記為$d$，則
$$d=(n?1)p$$

基于Chernoff不等式，我們可以證明$G(n,p)$具有下面的性質：

稠密圖幾乎正則，這句話非常不嚴謹，我們用數學語言精確描述一下。$?C>0$, 當$d\ge C\log n$時，$G(n,p)$每個點的度有很大概率位于$0.9d?1.1d$之間。具體有多大概率是可以用Chernoff Bound來近似的，下面我們簡單推導一下。

引理1 小偏差下的Chernoff不等式
$$P(|S_N?\mu |\ge \delta \mu )\le 2e^{?c\mu {\delta }^2}$$

其中$S_N={\sum }_{i=1}^N{X}_i,E{S}_N=\mu$.

考慮頂點$i$，記它的度為$d_i$，記$X_{j(i)}$表示第$j$個點是否與頂點$i$相連，$j\in I(i)=\{1,?,i?1,i+1,n\}$，$X_j{～}_{iid}Ber(p)$，則
$$d_i=\sum _{j\in I(i)}{X}_{j(i)},E{d}_i=d$$

應用引理1并取$\delta =0.1$，可以得到
$$P(|d_i?d|\ge 0.1d)\le 2e^{?cd}$$

這里的$c$是一個與引理1中的$c$不一樣的常數了。當$d\ge C\log n$的時候，可以發現
$$2e^{?cd}\le 2n^{?cC}$$

因此圖的階數越高，尾部概率上界越小，概率在$|d_i?d|\le 0.1d$上的集中度就會越高。

對于$G(n,p)$的所有頂點而言，根據概率的次可加性
$$P(?i,|d_i?d|\ge 0.1d)\le \sum _{i=1}^{n}P(|d_i?d|\ge 0.1d)\le 2n{e}^{?cd}$$

當$C$足夠大時，$2n{e}^{?cd}\le 0.1$，因此
$$P(?i,|d_i?d|\le 0.1d)\ge 0.9$$

也就是說所有頂點的度都在$0.9d?1.1d$之間的概率至少是0.9。

下面給出引理1的簡單證明：

Consider $P(S_N\le t)=P(?S_N\ge ?t)$. By the same procedure as proof of Chernoff’s upper tails,
$$P(?S_N\ge ?t)\le e^{\lambda t}\prod _{i=1}^{N}E\exp (?\lambda X_i)$$

Similarly,
$$\begin{gathered} E\exp (?\lambda X_i)=p_i{e}^{?\lambda }+(1?p_i) \\ =1+(e^{?\lambda }?1)p_i\le \exp [(e^{?\lambda }?1)p_i] \end{gathered}$$

Now apply this boundary,
$$P(?S_N\ge ?t)\le e^{\lambda t}\prod _{i=1}^{N}E\exp (?\lambda X_i)\le e^{\lambda t}\exp [(e^{?\lambda }?1)\mu ]$$

Notice $t<\mu$. So in this case, let $\lambda =\ln (\mu /t)$,
$$e^{\lambda t}\exp [(e^{?\lambda }?1)\mu ]=e^{t\ln (\mu /t)}\exp (t?\mu )=e^{?\mu }(e\mu /t{)}^t$$

Consider that $$P(|S_N?\mu |\ge \delta \mu )=P(S_N\ge (1+\delta )\mu )+P(S_N\le (1?\delta )\mu )$$

By Thm 2.3.1 and Ex 2.3.2
$$\begin{gathered} P(S_N\ge (1+\delta )\mu )\le e^{?\mu }{\left(\frac{e\mu }{(1+\delta )\mu }\right)}^{(1+\delta )\mu } \\ P(S_N\le (1?\delta )\mu )\le e^{?\mu }{\left(\frac{e\mu }{(1?\delta )\mu }\right)}^{(1?\delta )\mu } \end{gathered}$$

Let’s analyze
$$\begin{gathered} e^{?\mu }{\left(\frac{e\mu }{(1+\delta )\mu }\right)}^{(1+\delta )\mu }+e^{?\mu }{\left(\frac{e\mu }{(1?\delta )\mu }\right)}^{(1?\delta )\mu } \\ =e^{{}^{\delta \mu }}(1+\delta {)}^{?(1+\delta )\mu }+e^{?\delta \mu }(1?\delta {)}^{?(1?\delta )\mu } \end{gathered}$$

Here’re two interesting terms,
$$\begin{gathered} (1+\delta {)}^{?(1+\delta )\mu }=\exp (?(1+\delta )\mu \ln (1+\delta )) \\ \le \exp (?(1+\delta )\mu (A\delta ))=e^{?\mu \delta ?A\mu {\delta }^2} \end{gathered}$$

$$\begin{gathered} (1?\delta {)}^{?(1?\delta )\mu }=\exp (?(1?\delta )\mu \ln (1?\delta )) \\ \le \exp (?(1?\delta )\mu (?B\delta ))=e^{\mu \delta ?B\mu {\delta }^2} \end{gathered}$$

Notice for $\delta \in (0,1]$, $\frac{\ln (1+\delta )}{\delta }\in [\ln 2,1)$ and $\frac{?\delta }{\ln (1?\delta )}\in (0,1]$. So $?A,B>0$,
$$\ln (1+\delta )\ge A\delta ,\ln (1?\delta )\le B(?\delta )$$

Hence,
$$\begin{gathered} e^{{}^{\delta \mu }}(1+\delta {)}^{?(1+\delta )\mu }+e^{?\delta \mu }(1?\delta {)}^{?(1?\delta )\mu } \\ =e^{{}^{\delta \mu }}{e}^{?\mu \delta ?A\mu {\delta }^2}+e^{?\delta \mu }{e}^{\mu \delta ?B\mu {\delta }^2}=e^{?A\mu {\delta }^2}+e^{?B\mu {\delta }^2} \end{gathered}$$

$?c>0$, $2e^{?c\mu {\delta }^2}=e^{?A\mu {\delta }^2}+e^{?B\mu {\delta }^2}$, i.e. $c=?\frac{1}{\mu {\delta }^2}\ln \frac{e^{?A\mu {\delta }^2}+e^{?B\mu {\delta }^2}}{2}$. Above all,

$$P(|S_N?\mu |\ge \delta \mu )\le 2e^{?c\mu {\delta }^2}$$

總結

以上是生活随笔為你收集整理的UA MATH567 高维统计I 概率不等式2 在Erdős–Rényi随机图模型中的应用的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。