1.貝葉斯定理

1.1 定義：描述在已知一些條件下，某事件的發(fā)生概率

貝葉斯定理是關(guān)于隨機事件A和B的條件概率的一則定理。

1.2 公式理解

$$P(x|y)=\frac{P(x)P(y|x)}{P(y)}$$
其中x以及y為隨機事件，且$P(y)$不為零。$P(x|y)$是指在y事件發(fā)生的情況下,x事件發(fā)生的概率。
其中:
$P(x|y)$是已知y發(fā)生后，x的條件概率。也稱作x的后驗概率。
$P(x)$是x的先驗概率（或邊緣概率）。其不考慮任何y方面的因素。即x與y相互獨立
$P(y|x)$是已知x發(fā)生后，y的條件概率。也可稱為y的后驗概率。
$P(y)$是y的先驗概率。

貝葉斯定理可表述為：

后驗概率 = (似然性*先驗概率)/標(biāo)準(zhǔn)化常量
也就是說，后驗概率與先驗概率和相似度的乘積成正比。

2.貝葉斯理論推導(dǎo)(從條件概率)

2.1 推到

根據(jù)條件概率的定義。在事件y發(fā)生的條件下事件x發(fā)生的概率是：

$P(x|y)=\frac{P(x\cap y)}{P(y)}$

其中 A與B的聯(lián)合概率表示為$P(x\cap y)$或者$p(x,y)$或者$p(xy)$。

同樣地，在事件x發(fā)生的條件下事件y發(fā)生的概率

$P(y|x)=\frac{P(y\cap x)}{P(x)}$

聯(lián)立可得

$P(x|y)P(y)=P(x\cap y)=P(y|x)P(x)$ 若$P(y)=0$則

$$P(x|y)=\frac{P(x)P(y|x)}{P(y)}$$得證

2.2 貝葉斯理論的推廣

$P(x|y,z)=\frac{P(x,y,z)}{P(y,z)}$

$=\frac{P(x,y,z)}{P(y)P(z|y)}$

$=\frac{P(z|x,y)P(x,y)}{P(y)P(z|y)}$

$=\frac{P(x)P(y|x)P(z|x,y)}{P(y)P(z|y)}$

一般化的方法則是利用聯(lián)合概率去分解待求的條件概率，并對不加以探討的變量積分（意即對欲探討的變量計算邊緣概率）。取決于不同的分解形式，可以證明某些積分必為1，因此分解形式可被簡化。利用這個性質(zhì)，貝葉斯理論的計算量可能可以大幅下降。貝葉斯網(wǎng)絡(luò)為此方法的一個例子，貝葉斯網(wǎng)絡(luò)指定數(shù)個變量的聯(lián)合概率分布的分解型式，該概率分布滿足下述條件：當(dāng)其他變量的條件概率給定時，該變量的條件概率為一簡單型式。

3 貝葉斯公式理解實例

3.1 通過開車過程中對十字路口來理解貝葉斯公式

$$P(A|B)=\frac{P(A)P(B|A)}{P(B)}$$

因此貝葉斯公式實際上闡述了這么一個事情：

新信息出現(xiàn)后對A事件的概率預(yù)測 = A事件的鮮艷概率 * 新信息帶來的調(diào)整

我們再通過韋恩圖來理解一下這個事情（為了觀看方便，下面的A,B的圓形面積是示意）：


新的信息的出現(xiàn)，比如之前看到了亮著右轉(zhuǎn)彎燈的車，就好比知道點已經(jīng)落入了B。

3.2 實例理解貝葉斯公式小結(jié)

可以看到，有形的十字路口，卻看不到明天是否下雨，我們可以看到前方是否有路障，卻不清楚下一次飛機是否會出事。甚至有時候，眼睛還會欺騙我們。
很多時候，我們不得不看著后視鏡開車，這個時候概率論、貝葉斯定理就是我們的指路明燈。
看著后視鏡開車，肯定常常會撞車，沒關(guān)系，我們可以不斷的去修正我們的假設(shè)。
比如，撞了幾次車之后，就發(fā)現(xiàn)可能之前估計的在十字路口打右轉(zhuǎn)彎燈的數(shù)據(jù)明顯偏大了，我們修正之后再繼續(xù)開車。我們?nèi)祟惖膶W(xué)習(xí)，本身也是一個試錯的過程。

參考資料

數(shù)學(xué)之美番外篇：平凡而又神奇的貝葉斯方法
概率機器人
如何理解貝葉斯定理？
數(shù)學(xué)之美番外篇：平凡而又神奇的貝葉斯方法

總結(jié)

以上是生活随笔為你收集整理的贝叶斯定理——数学之美的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。