基本概率模型
這里簡單介紹三個概念，古典概型，頻率學派，貝葉斯學派。

古典概型?
這個模型下，隨機實驗所有可能的結果是有限的，并且每個基本結果發生的概率是相同的?
比如：投擲一枚均勻硬幣，結果只有兩種（假設硬幣沒有立起來），正面朝上和反面朝上，那么正面朝上的的概率就是0.5。這是基于古典概率模型的計算。

頻率學派?
認為待估計參數是某個未知的常量，通過多次試驗，統計事件發生的次數占總試驗的比值，得到待估計參數的值。?
比如：估算投擲一枚均勻硬幣獲得正面的概率。我們進行1000次試驗，有498次朝上，所以獲得正面的概率是0.498。

貝葉斯學派?
認為待估計參數不是某個固定的常量，而是一種隨機變量（服從某種分布）。關于這個隨機變量，我們可以根據常識或其他客觀事實對其有一個先驗的分布估計（信念），之后根據試驗來調整這個分布，最后求得該隨機變量的后驗分布。?
這種思想解決了頻率學派試驗中當試驗次數過少而導致的試驗偏差的問題，比如，投擲一枚勻質硬幣5次，這5次都是正面朝上，根據頻率學派觀點，認為硬幣投擲正面朝上的概率是P(正面朝上)=55=1P(正面朝上)=55=1，這顯然是不符合常理的。?
現在定義事件A=(投擲一次硬幣正面朝上)，B=(投擲5次硬幣，5次朝上)。在貝葉斯的框架下，我們根據常識認為投擲硬幣正面朝上的概率是0.5，所以我們可以假設這個先驗服從參數為Beta(10,10)Beta(10,10)的分布，然后根據貝葉斯定理P(A|B)=P(A)P(B|A)P(B)P(A|B)=P(A)P(B|A)P(B)可計算出在事件B發生的條件下的A的概率分布為分布Beta(15,10)Beta(15,10)，這個分布的期望值是0.6。通過貝葉斯框架，我們計算出硬幣正面朝上的概率仍然是一個接近0.5的值，更加符合我們的常識。（關于Beta分布和后驗概率的具體計算會在以后的章節介紹）?
這個圖是分別繪制的先驗分布Beta(10,10)Beta(10,10)（藍色）和后驗分布Beta(15,10)Beta(15,10)（綠色）?

條件概率和相互獨立
條件概率，若P(B)>0P(B)>0,則P(A|B)=P(AB)P(B)P(A|B)=P(AB)P(B)記為事件B發生的情況下,A發生的概率。?
如果P(A|B)=P(A)P(A|B)=P(A)，則A與B相互獨立且，P(A∩B)=P(A)P(B)P(A∩B)=P(A)P(B)
貝葉斯定理
離散形式?
P(Bi|A)=P(Bi)P(A|Bi)∑nj=1P(Bj)P(A|Bj)=P(A∩B)p(A)P(Bi|A)=P(Bi)P(A|Bi)∑j=1nP(Bj)P(A|Bj)=P(A∩B)p(A)?
連續形式?
f(θ|y)=f(y|θ)f(θ)f(y)=f(y|θ)f(θ)∫f(y|θ)f(θ)dθ=likelihood×priornormalizingconstant∝likelihood×priorf(θ|y)=f(y|θ)f(θ)f(y)=f(y|θ)f(θ)∫f(y|θ)f(θ)dθ=likelihood×priornormalizingconstant∝likelihood×prior
單元隨機變量的常用分布
伯努利分布（0-1分布） Bernoulli?
概率分布為?
pn={1?ppn=0n=1
pn={1?pn=0pn=1

期望E(x)=pE(x)=p,?
方差Var(X)=p(1?p)Var(X)=p(1?p)
二項分布binomial?
充分n次的獨立的伯努利試驗。N次獨立試驗中，事件發生K次的概率分布?
P(X=k)=Cknpk(1?p)n?kP(X=k)=Cnkpk(1?p)n?k?
期望E(X)=npE(X)=np?
方差Var(X)=np(1?p)Var(X)=np(1?p)
均勻分布Uniform?
去間a,b之間的均勻分布的概率密度函數?
f(x)={1/(b?a)0a<x<b其他
f(x)={1/(b?a)a<x<b0其他

期望E(X)=a+b2E(X)=a+b2?
方差Var(X)=(b?a)212Var(X)=(b?a)212
指數分布?
參數為λλ的指數函數的概率密度?
f(x)={λe?λxx>00x≤0f(x)={λe?λxx>00x≤0?
期望E(X)=1λE(X)=1λ?
方差Var(X)=1λ2Var(X)=1λ2
正態分本?
均值為μμ,標準差為σσ的正態分布的概率密度?
f(x)=12π√σe(x?μ)22σ2f(x)=12πσe(x?μ)22σ2?
期望E(X)=μE(X)=μ?
方差Var(X)=σ2
---------------------?
作者：淺夢s?
來源：CSDN?
原文：https://blog.csdn.net/u012151283/article/details/77430782?
版權聲明：本文為博主原創文章，轉載請附上博文鏈接！

總結

以上是生活随笔為你收集整理的基本概率模型和贝叶斯定理的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。