1.貝葉斯定理

1.1 定義：描述在已知一些條件下，某事件的發生概率

貝葉斯定理是關于隨機事件A和B的條件概率的一則定理。

1.2 公式理解

$$P(x|y)=\frac{P(x)P(y|x)}{P(y)}$$
其中x以及y為隨機事件，且$P(y)$不為零。$P(x|y)$是指在y事件發生的情況下,x事件發生的概率。
其中:
$P(x|y)$是已知y發生后，x的條件概率。也稱作x的后驗概率。
$P(x)$是x的先驗概率（或邊緣概率）。其不考慮任何y方面的因素。即x與y相互獨立
$P(y|x)$是已知x發生后，y的條件概率。也可稱為y的后驗概率。
$P(y)$是y的先驗概率。

貝葉斯定理可表述為：

后驗概率 = (似然性*先驗概率)/標準化常量
也就是說，后驗概率與先驗概率和相似度的乘積成正比。

2.貝葉斯理論推導(從條件概率)

2.1 推到

根據條件概率的定義。在事件y發生的條件下事件x發生的概率是：

$P(x|y)=\frac{P(x\cap y)}{P(y)}$

其中 A與B的聯合概率表示為$P(x\cap y)$或者$p(x,y)$或者$p(xy)$。

同樣地，在事件x發生的條件下事件y發生的概率

$P(y|x)=\frac{P(y\cap x)}{P(x)}$

聯立可得

$P(x|y)P(y)=P(x\cap y)=P(y|x)P(x)$ 若$P(y)=0$則

$$P(x|y)=\frac{P(x)P(y|x)}{P(y)}$$得證

2.2 貝葉斯理論的推廣

$P(x|y,z)=\frac{P(x,y,z)}{P(y,z)}$

$=\frac{P(x,y,z)}{P(y)P(z|y)}$

$=\frac{P(z|x,y)P(x,y)}{P(y)P(z|y)}$

$=\frac{P(x)P(y|x)P(z|x,y)}{P(y)P(z|y)}$

一般化的方法則是利用聯合概率去分解待求的條件概率，并對不加以探討的變量積分（意即對欲探討的變量計算邊緣概率）。取決于不同的分解形式，可以證明某些積分必為1，因此分解形式可被簡化。利用這個性質，貝葉斯理論的計算量可能可以大幅下降。貝葉斯網絡為此方法的一個例子，貝葉斯網絡指定數個變量的聯合概率分布的分解型式，該概率分布滿足下述條件：當其他變量的條件概率給定時，該變量的條件概率為一簡單型式。

3 貝葉斯公式理解實例

3.1 通過開車過程中對十字路口來理解貝葉斯公式

$$P(A|B)=\frac{P(A)P(B|A)}{P(B)}$$

因此貝葉斯公式實際上闡述了這么一個事情：

新信息出現后對A事件的概率預測 = A事件的鮮艷概率 * 新信息帶來的調整

我們再通過韋恩圖來理解一下這個事情（為了觀看方便，下面的A,B的圓形面積是示意）：


新的信息的出現，比如之前看到了亮著右轉彎燈的車，就好比知道點已經落入了B。

3.2 實例理解貝葉斯公式小結

可以看到，有形的十字路口，卻看不到明天是否下雨，我們可以看到前方是否有路障，卻不清楚下一次飛機是否會出事。甚至有時候，眼睛還會欺騙我們。
很多時候，我們不得不看著后視鏡開車，這個時候概率論、貝葉斯定理就是我們的指路明燈。
看著后視鏡開車，肯定常常會撞車，沒關系，我們可以不斷的去修正我們的假設。
比如，撞了幾次車之后，就發現可能之前估計的在十字路口打右轉彎燈的數據明顯偏大了，我們修正之后再繼續開車。我們人類的學習，本身也是一個試錯的過程。

參考資料

數學之美番外篇：平凡而又神奇的貝葉斯方法
概率機器人
如何理解貝葉斯定理？
數學之美番外篇：平凡而又神奇的貝葉斯方法

總結

以上是生活随笔為你收集整理的贝叶斯定理——数学之美的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。