Lecture 13: Bernoulli Process
前言:前面12節(jié)課是有關(guān)概率的知識(shí),這節(jié)課是開始需要研究隨時(shí)間變化的現(xiàn)象,也就是隨機(jī)過程,random processes ,stochastic processes。random processes are supposed to be models that capture the evolution of random phenomena over time,這節(jié)課講伯努利過程。
先從簡單的隨機(jī)過程開始講起,伯努利過程是離散時(shí)間的隨機(jī)過程。
兩種解讀方式:
第一種是每個(gè)時(shí)間對(duì)應(yīng)一個(gè)單獨(dú)的獨(dú)立隨機(jī)變量,隨時(shí)間進(jìn)行構(gòu)成一個(gè)序列。
第二種是把所有時(shí)間放在一起看,當(dāng)成一個(gè)隨機(jī)變量。
經(jīng)過計(jì)算,當(dāng)0 < p < 1時(shí)候, sample space 中的每個(gè)outcome的概率都是0, 這有點(diǎn)像連續(xù)狀態(tài)空間里的outcome
對(duì)于伯努利過程,成功次數(shù)為k次的結(jié)果的集合作為事件的概率為上圖中的P(S=k)P(S = k)P(S=k)
由于每次實(shí)驗(yàn)同分布, 且有S=∑i=1nXiS = \sum_{i = 1}^n X_iS=∑i=1n?Xi?,則E[S]=∑i=1nE[Xi]=n?pE[S] = \sum_{i = 1}^n E[X_i] = n * pE[S]=∑i=1n?E[Xi?]=n?p, 因?yàn)閷?shí)驗(yàn)是獨(dú)立的, 所以Var(S)=n?p?(1?p)Var(S) = n * p*(1-p)Var(S)=n?p?(1?p)
我們?cè)贀Q一種隨機(jī)變量,T1T_1T1?定義為第一次出現(xiàn)成功的試驗(yàn)次數(shù)。
E[T1]E[T_1]E[T1?]怎么求的可以看這篇cite
Var(X)=E[X2]?(E[X])2上面E[X]求完了,只需要求E[X2],求法和求E[X]差不多E[X2∣X=1]=1E[X2∣X>1]=E[(X+1)2]=E[X2]+2?E[X]+1E[X2]=p?E[X2∣X=1]+(1?p)?E[X2∣X>1]=p?1+(1?p)?(E[X2]+2?E[X]+1)這樣E[X2]就能算出來了,Var(X)也就能算出來了。Var(X) = E[X^2] - (E[X])^2 \\ 上面E[X]求完了,只需要求E[X^2],求法和求E[X]差不多\\ E[X^2|X = 1] = 1\\ E[X^2|X >1] = E[(X + 1)^2] = E[X^2] + 2 * E[X] + 1\\ E[X^2] = p * E[X^2|X = 1] + (1-p) * E[X^2|X >1]\\ = p * 1 + (1-p) * (E[X^2] + 2 * E[X] + 1)\\ 這樣E[X^2]就能算出來了,Var(X)也就能算出來了。 Var(X)=E[X2]?(E[X])2上面E[X]求完了,只需要求E[X2],求法和求E[X]差不多E[X2∣X=1]=1E[X2∣X>1]=E[(X+1)2]=E[X2]+2?E[X]+1E[X2]=p?E[X2∣X=1]+(1?p)?E[X2∣X>1]=p?1+(1?p)?(E[X2]+2?E[X]+1)這樣E[X2]就能算出來了,Var(X)也就能算出來了。
上圖中藍(lán)色的區(qū)間不是geometric§,因?yàn)? 的起始位置應(yīng)該是未知的,綠的的區(qū)間才符合geometric§, 因?yàn)檫@時(shí)已經(jīng)有了一個(gè)0,已經(jīng)知道了起始位置,那么多久之后才有1 呢,這和從開始實(shí)驗(yàn)到第一個(gè)1 出現(xiàn)完全相同的。0連續(xù)出現(xiàn)的長度和綠色區(qū)間的長度正好相等。
第k次到達(dá)的時(shí)間是多個(gè)第一次到達(dá)時(shí)間的加和。每次到達(dá)所需時(shí)間互相之間都是獨(dú)立的且都是幾何分布。
第k次到達(dá)的時(shí)間是t的概率:這個(gè)概率是【1,t-1】時(shí)間內(nèi)到達(dá)了k-1次,并且t 時(shí)刻到了1次,這兩個(gè)事件的joint probability。
伯努利過程可以分解,也可以合并。
總結(jié)
以上是生活随笔為你收集整理的Lecture 13: Bernoulli Process的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 如何掌握程序语言(转自王垠Blog)
- 下一篇: RESTful风格API详解