概率论-4.1 大数定律
切比雪夫不等式(證明):
P(| X-E(X) |<a)>=1-Var(X) / a^2
伯努利大數定律(n重伯努利試驗):
記Sn為n重伯努利試驗中事件A出現的次數,稱Sn/n為事件A出現的頻率
設p為每次試驗事件A發生的概率則,對任意a>0都有
lim(n->正無窮) P(| Sn/n-p |<a)=1
證明:
Var(Sn/n)= Var(Sn)/n2=n*p*q/n2=p*q/n
由切比雪夫不等式得
lim(n->正無窮) [P(| Sn/n-p |<a)]>=lim(n->正無窮) [1-Var(Sn/n) / a^2]=1
于是有lim(n->正無窮) P(| Sn/n-p |<a)=1
結論:頻率的穩定于概率
大數定律的一般形式:
隨機變量序列的算術平均數
概率收斂到
其均值的算術平均
設Sn為n個隨機變量(X1,…,Xn)值和
Sn/n=Sum(Xi)/n,p=Sum(E(Xi))/n
若有lim(n->正無窮) P(| Sum(Xi)/n-Sum(E(Xi))/n |<a)=1
則稱隨機變量序列{Xi}服從大數定律
切比雪夫大數定律(方差存在):
設隨機變量序列{Xi}為一列兩兩不相關的隨機變量序列,且每個Xi方差存在,則{Xi}服從大數定律
證明:lim(n->正無窮) P(| Sum(Xi)/n-Sum(E(Xi))/n |<a)=1
由兩兩不相關可得
Var(Sum(Xi)/n)=Sum(Var(Xi))/n^2 <= nMax{Var(Xi)}/n^2=Max{Var(Xi)}/n
由切比雪夫不等式得
P(| Sum(Xi)/n-E(Sum(Xi)/n) |<a)>=1-Max{Var(Xi)}/(na^2)
lim(n->正無窮) P(| Sum(Xi)/n-Sum(E(Xi))/n |<a)=1
證畢
馬爾可夫條件:
lim(n->正無窮) Var(Sum(Xi))/n^2 -> 0
馬爾代夫大數定律(僅需要馬爾可夫條件):
設有隨機變量序列{Xi},若有馬爾可夫條件成立,則{Xi}服從大數定律
證明:lim(n->正無窮) P(| Sum(Xi)/n-Sum(E(Xi))/n |<a)=1
lim(n->正無窮) Var(Sum(Xi))/n^2 -> 0
推出
lim(n->正無窮) Var(Sum(Xi)/n) -> 0
由切比雪夫不等式可得
P(| Sum(Xi)/n-E(Sum(Xi)/n) |<a)>=1-Var(Sum(Xi)/n) / a^2
lim(n->正無窮) P(| Sum(Xi)/n-Sum(E(Xi))/n |<a)=1
證畢
辛欽大數定律(獨立同分布,期望存在):
設隨機變量序列{Xi}為獨立同分布,若Xi的數學期望存在,則{Xi}服從大數定律
證明:
參考期望的定義可證
總結
以上是生活随笔為你收集整理的概率论-4.1 大数定律的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 第1章 计算机系统概述小节
- 下一篇: 计算机组成原理-数制与编码