UA MATH563 概率論的數學基礎 鞅論初步1 條件期望

概率論很多結論是用來處理獨立的隨機變量序列的，而獨立性是一個非常強的假設，所以我們也需要一些能夠處理非獨立的隨機變量序列的方法，鞅就是這些方法中應用比較廣泛的一種，所以從這部分開始我們介紹鞅以及相關的結果。這一講我們先介紹鞅論需要的基本結構——條件期望。

在學習高中數學的時候，我們就知道了對于$A,B$兩個事件，條件概率的定義是
$$P(A|B)=\frac{P(A\cap B)}{P(B)}$$

在這個定義下，我們用$P(?|B)$表示條件概率測度，不嚴謹地記法，$P(?|B)=P(?)/P(B)$，定義某個隨機變量的條件期望為
$$E[X|B]=\int XdP(?|B)=\frac{{\int }_{B}XdP}{P(B)}$$

到現在為止，它可以是一個嚴謹的記號了，因為我們對概率空間、隨機變量、以及定義期望所需要的積分理論都有完整的定義。但一個新的問題也就可以提出來了，condition on一個事件的條件概率不足以幫助我們回答所有問題，尤其是當我們研究的對象是一列隨機變量序列的時候，因此接下來我們要做的事情是把這個condition on一個事件的條件概率推廣到condition on一系列事件、事件的代數甚至更廣義的隨機元的條件概率。

---

進行這個推廣之前，我們先回顧一下獨立性的定義。

兩個$\sigma$-代數互相獨立：假設$\mathcal{A},\mathcal{B}$是非空集合$X$的兩個$\sigma$-代數，并且測度$\mu$在可測空間$(X,\mathcal{A})$與$(X,\mathcal{B})$上都可以被定義，稱這兩個$\sigma$-代數互相獨立如果
$$?A\in \mathcal{A},B\in \mathcal{B},\mu (A\cap B)=\mu (A)\mu (B)$$

隨機變量生成的$\sigma$-代數：假設$X:(\Omega ,\mathcal{B},P)\to (\mathbb{R},\mathcal{B}(\mathbb{R}))$，定義$X$生成的$\sigma$-代數為
$$\sigma (X)=\{X^{?1}(B):B\in \mathcal{B}(\mathbb{R})\}$$

隨機變量與$\sigma$-代數互相獨立：$X:(\Omega ,\mathcal{B},P)\to (\mathbb{R},\mathcal{B}(\mathbb{R}))$，$\mathcal{A}$是$\mathcal{B}$的子$\sigma$-代數，稱$X$與$\mathcal{A}$互相獨立，如果
$$?A\in \mathcal{A},E\in \sigma (X),P(A\cap E)=P(A)\mu (E)$$

兩個隨機變量互相獨立：$X$與$Y$互相獨立，如果$\sigma (X)$與$\sigma (Y)$互相獨立。

---

我們先引入一些概念性的記號，$(\Omega ,\mathcal{B},P)$是一個概率空間，$\mathcal{F}$是$\mathcal{B}$的一個子$\sigma$-代數，$X$是定義在這個概率空間上的絕對可積的隨機變量，即$E|X|<\infty$，我們的目標是定義條件期望$Y=E[X|\mathcal{F}]$。

我們先直觀理解一下，$\mathcal{B}$表示概率空間上的全部信息（信息可以理解為概率空間上的概率分布的情況），因此$E[X|\mathcal{B}]$表示在掌握了概率空間全部信息的情況下對$X$求期望，顯然$E[X|\mathcal{B}]=EX$是一個常數，也就是這個期望就不再具有隨機性了。$\mathcal{F}$是$\mathcal{B}$的一個子$\sigma$-代數，說明$\mathcal{F}$只包含概率空間的部分信息，因此利用這些信息對$X$做期望，只能消除$\mathcal{F}$中的隨機性，而$\mathcal{B}?\mathcal{F}$上的隨機性將被保留，所以$E[X|\mathcal{F}]$仍然是一個隨機變量，只是它的隨機性不如$X$強，記這個隨機變量為$Y$。

條件期望的定義
基于這些直觀的觀察，我們用下面兩條公理定義條件期望$Y$，

$Y$是$\mathcal{F}$-可測的；

$?A\in \mathcal{F}$, ${\int }_{A}XdP={\int }_{A}YdP$

評注
i）在這個定義中，第一條直觀理解非常簡單，用直白的話翻譯一下就是條件期望可能的取值拉回到概率空間之后肯定也會在$\mathcal{F}$中，再直白一點就是如果我們只知道$\mathcal{F}$這些信息，那么計算條件期望用到的信息肯定都在$\mathcal{F}$中了；第二條直觀理解也非常簡單，就是對于$\mathcal{F}$中的事件而言，基于$X$或者基于$Y$計算的條件期望相等，也就是說$X,Y$在$\mathcal{F}$上的(積分)表現是一樣的；
ii）$E[X|\mathcal{F}]$存在，并且唯一 (a.s.)；
iii）$E[X|\mathcal{F}]$是絕對可積的；
iv）如果$X$是$\mathcal{F}$-可測的，那么$E[X|\mathcal{F}]=X$
v）如果$X$是常數，則$E[X|\mathcal{F}]=X$
vi）如果$X$與$\mathcal{F}$獨立，則$E[X|\mathcal{F}]=E[X]$，這里$X$與$\mathcal{F}$獨立表示$\sigma (X)$與$\mathcal{F}$獨立。
vii）條件概率滿足，$P(B|\mathcal{F})=E[1_B|\mathcal{F}],?B\in \mathcal{B}$

iv)-vii)直接驗證定義即可，ii)-iii)的證明比較復雜，需要推導完條件期望的性質后才能證明，可以參考后續(xù)的文章。

---

下面我們再引入一個定義，condition on random variable。假設$(\Omega ,\mathcal{B},P)$是一個概率空間，$X,Y$是定義在這個概率空間上的絕對可積的隨機變量，定義
$$E[X|Y]=E[X|\sigma (Y)]$$

假設$\{Y_n\}$是定義在這個概率空間上的絕對可積的隨機變量，則
$$E[X|\{Y_n\}]=E[X|\sigma (\{Y_n\})]$$

其中$$\sigma (\{Y_n\})=\{Y_n^{?1}(B):B\in \mathcal{B}(\mathbb{R}),?n\in \mathbb{N}\}$$

評注 這個系列的博客是概率論的數學基礎，目的是給常用的概率工具建立完備的分析基礎，所以關于$\sigma$-代數、測度之類的可以參考實分析那個系列的博客，關于實際計算方面的可以參考概率論(calculus level)那個系列的博客。

總結

以上是生活随笔為你收集整理的UA MATH563 概率论的数学基础 鞅论初步1 条件期望的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。