【笔记】大数定理证明
簡述
復習一下概率論大數定理的證明。
證明大數定理,需要先證明切比雪夫(Chebyshev)不等式。
Chebyshev不等式證明
定理 設隨機變量X具有數學期望E(x)=μE(x)=\muE(x)=μ,方差為D(x)=σ2D(x) =\sigma^2D(x)=σ2,則對任意正數ε\varepsilonε,不等式
P{∣X?μ∣≥ε}≤σ2ε2P\{|X-\mu| \geq \varepsilon\}\leq\frac{\sigma^2}{\varepsilon^2}P{∣X?μ∣≥ε}≤ε2σ2?
成立。 這就是chebyshev不等式
證明: 只需要考慮連續變量的情況,離散情況將積分替換為累積求和即可。
P{∣X?μ∣≥ε}=∫∣X?μ∣≥εf(x)dx≤∫∣X?μ∣≥ε∣X?μ∣2ε2f(x)dx≤1ε2∫∣X?μ∣2f(x)dx=σ2ε2P\{|X-\mu| \geq \varepsilon\} = \int_{|X-\mu| \geq \varepsilon}{f(x)dx}\leq \int_{|X-\mu| \geq \varepsilon}{\frac{|X-\mu|^2}{\varepsilon^2}f(x)dx}\leq \\ \frac{1}{\varepsilon^2} \int_{}{|X-\mu|^2f(x)dx}=\frac{\sigma^2}{\varepsilon^2}P{∣X?μ∣≥ε}=∫∣X?μ∣≥ε?f(x)dx≤∫∣X?μ∣≥ε?ε2∣X?μ∣2?f(x)dx≤ε21?∫?∣X?μ∣2f(x)dx=ε2σ2?
得證。
大數定理證明
定理 設隨機變量X1,X1,...,XnX_1,X_1,...,X_nX1?,X1?,...,Xn? i.i.d(independent and identically distributed 獨立同分布),具有數學期望E(x)=μE(x)=\muE(x)=μ,方差為D(x)=σ2D(x) =\sigma^2D(x)=σ2,樣本均值xˉ\bar xxˉ,則對任意正數ε\varepsilonε
lim?n→∞P{∣xˉ?μ∣≥ε}=0\lim\limits_{n \to \infty }{P\{|\bar x-\mu| \geq \varepsilon\}} =0n→∞lim?P{∣xˉ?μ∣≥ε}=0
成立。 這就是大數定理
證明:
- 樣本均值的均值 E(xˉ)=μE(\bar x)=\muE(xˉ)=μ
- 樣本均值的方差 Var(xˉ)=σ2nVar(\bar x)=\frac{\sigma^2}{n}Var(xˉ)=nσ2?
由切比雪夫不等式有,
P{∣xˉ?μ∣≥ε}≤var(xˉ)ε2=σ2n?ε2P\{|\bar x-\mu| \geq \varepsilon\} \leq \frac{var(\bar x)}{\varepsilon^2}=\frac{\sigma^2}{n*\varepsilon^2}P{∣xˉ?μ∣≥ε}≤ε2var(xˉ)?=n?ε2σ2?
得證。
總結
以上是生活随笔為你收集整理的【笔记】大数定理证明的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: R语言-画edcf图、直方图、正态概率图
- 下一篇: 【MPI高性能计算】用集合通信改进梯形求