UA MATH563 概率论的数学基础 中心极限定理11 强大数定律 版本1:四阶矩有界
UA MATH563 概率論的數學基礎 中心極限定理11 強大數定律 版本1:四階矩有界
這一講我們介紹基于四階矩條件的強大數法則(Strong Law of Large Number, SLLN)
基于四階矩條件的強大數定律
假設X1,?,Xn,n≥1X_1,\cdots,X_n,n\ge 1X1?,?,Xn?,n≥1是獨立同分布的隨機變量,EX14<∞EX_1^4<\inftyEX14?<∞,則
Xˉ→asEX1\bar X \to_{as} EX_1Xˉ→as?EX1?
證明
我們需要用到Borel-Cantelli引理:
Borel-Cantelli引理1 如果∑n≥1P(An)<∞\sum_{n \ge 1}P(A_n)<\infty∑n≥1?P(An?)<∞,則P(Ani.o.)=0P(A_n\ i.o.)=0P(An??i.o.)=0
Borel-Cantelli引理2 如果AnA_nAn?互相獨立,且∑n≥1P(An)=∞\sum_{n \ge 1}P(A_n) = \infty∑n≥1?P(An?)=∞,則P(Ani.o.)=1P(A_n\ i.o.)=1P(An??i.o.)=1
定義Xi′=Xi?μX'_i=X_i-\muXi′?=Xi??μ,則EXi′=0EX_i'=0EXi′?=0,并且
E[Xi′]4=E[Xi?μ]4≤8(EXi4+μ4)<∞E[X_i']^4 = E[X_i-\mu]^4 \le 8(EX_i^4+\mu^4)<\inftyE[Xi′?]4=E[Xi??μ]4≤8(EXi4?+μ4)<∞
(根據Jensen不等式,(a+b)4=24[(a+b)/2]4≤8(a4+b4)(a+b)^4=2^4[(a+b)/2]^4 \le 8(a^4+b^4)(a+b)4=24[(a+b)/2]4≤8(a4+b4))
于是我們只需要說明:假設X1,?,Xn,n≥1X_1,\cdots,X_n,n\ge 1X1?,?,Xn?,n≥1是獨立同分布的隨機變量,EX1=0EX_1=0EX1?=0,EX14<∞EX_1^4<\inftyEX14?<∞,則
Xˉ→as0\bar X \to_{as} 0Xˉ→as?0
也就是??>0\forall \epsilon>0??>0,
P(∣Xˉ∣>?i.o.)=0?P(∣Xˉ∣≤?e.v.)=1P(|\bar X|>\epsilon\ i.o.)=0 \Leftrightarrow P(|\bar X| \le \epsilon\ e.v.)=1P(∣Xˉ∣>??i.o.)=0?P(∣Xˉ∣≤??e.v.)=1
后者等價于
P(∩k{∣Xˉ∣≤1/ke.v.})=1P(\cap_k \{|\bar X| \le 1/k\ e.v.\})=1P(∩k?{∣Xˉ∣≤1/k?e.v.})=1
根據Borel-Cantelli引理中的引理2,P(∪n≥mAn)=1,?m≥1?P(∩m≥1∪n≥mAn)=1P(\cup_{n \ge m}A_n)=1,\forall m \ge 1 \Rightarrow P(\cap_{m \ge 1}\cup_{n \ge m}A_n)=1P(∪n≥m?An?)=1,?m≥1?P(∩m≥1?∪n≥m?An?)=1
我們只需要
?k,P(∣Xˉ∣≤1/ke.v.)=1\forall k,P(|\bar X| \le 1/k\ e.v.)=1?k,P(∣Xˉ∣≤1/k?e.v.)=1
或者
?k,P(∣Xˉ∣>1/ki.o.)=0\forall k,P(|\bar X| > 1/k\ i.o.)=0?k,P(∣Xˉ∣>1/k?i.o.)=0
如果我們仿照弱大數定律的證明,考慮Chebyshev不等式,那就是
P(∣Xˉ∣>1/k)≤Var(X1)k2nP(|\bar X|>1/k) \le \frac{Var( X_1)k^2}{n}P(∣Xˉ∣>1/k)≤nVar(X1?)k2?
顯然這個上界關于nnn求和的級數是發散的,因此我們需要一個更小的上界。
引理 四階矩的Chebyshev不等式 (用Markov不等式導出)
P(∣Xˉ∣>?)≤E[Sn4]n4?4,Sn=nXˉP(|\bar X|>\epsilon) \le \frac{E[S_n^4]}{n^4\epsilon^4},S_n = n\bar XP(∣Xˉ∣>?)≤n4?4E[Sn4?]?,Sn?=nXˉ
其中
E[Sn4]=E∑i,j,k,lXiXjXkXlE[S_n^4] = E \sum_{i,j,k,l}X_iX_jX_kX_lE[Sn4?]=Ei,j,k,l∑?Xi?Xj?Xk?Xl?
因為EXi=0,?iEX_i=0,\forall iEXi?=0,?i,所以這個式子中只有Xi2Xj2X_i^2X_j^2Xi2?Xj2?以及Xi4X_i^4Xi4?的期望不為0,前者有C42Cn2=3n(n?1)C_4^2C_n^2=3n(n-1)C42?Cn2?=3n(n?1)項,后者有nnn項,于是
E[Sn4]=nE[X14]+3n(n?1)(EX12)2E[S_n^4]=nE[X_1^4]+3n(n-1)(EX_1^2)^2E[Sn4?]=nE[X14?]+3n(n?1)(EX12?)2
于是
P(∣Xˉ∣>1/k)≤E[Sn4]k4n4~1n2P(|\bar X|>1/k) \le \frac{E[S_n^4]k^4}{n^4} \sim \frac{1}{n^2}P(∣Xˉ∣>1/k)≤n4E[Sn4?]k4?~n21?
因此,根據Borel-Cantelli引理1,?k,P(∣Xˉ∣>1/ki.o.)=0\forall k,P(|\bar X| > 1/k\ i.o.)=0?k,P(∣Xˉ∣>1/k?i.o.)=0。
總結
以上是生活随笔為你收集整理的UA MATH563 概率论的数学基础 中心极限定理11 强大数定律 版本1:四阶矩有界的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: UA MATH567 高维统计II 随机
- 下一篇: UA MATH563 概率论的数学基础