UA MATH563 概率论的数学基础 中心极限定理14 Kolmogorov maximal inequality
UA MATH563 概率論的數(shù)學(xué)基礎(chǔ) 中心極限定理14 Kolmogorov maximal inequality
這一講介紹一個有用的不等式,它給出了獨(dú)立隨機(jī)變量的和的最值的tail probability的階。
Kolmogorov maximal inequality
假設(shè)X1,?,XnX_1,\cdots,X_nX1?,?,Xn?是獨(dú)立的隨機(jī)變量,并且EXi=0,VarXi<∞EX_i=0,Var X_i<\inftyEXi?=0,VarXi?<∞,則
P(max?1≤k≤n∣Sk∣≥x)≤Var(Sn)x2P(\max_{1 \le k \le n} |S_k| \ge x) \le \frac{Var(S_n)}{x^2}P(1≤k≤nmax?∣Sk?∣≥x)≤x2Var(Sn?)?
其中
Sk=∑i=1kXiS_k = \sum_{i=1}^k X_iSk?=i=1∑k?Xi?
說明
與Chebyshev不等式的對比:
P(∣Sn∣≥x)≤Var(Sn)x2P(|S_n| \ge x) \le \frac{Var(S_n)}{x^2}P(∣Sn?∣≥x)≤x2Var(Sn?)?
顯然Kolmogorov maximal inequality比Chebyshev不等式更強(qiáng),雖然它們提供一樣的上界,但Chebyshev不等式只討論前nnn項(xiàng)和,Kolmogorov maximal inequality討論的是前nnn個部分和的最大值;但是需要注意的是Chebyshev不等式不要求獨(dú)立性,但Kolmogorov maximal inequality是要求的。
證明
考慮事件{max?1≤k≤n∣Sk∣≥x}\{\max_{1 \le k \le n}|S_k| \ge x\}{max1≤k≤n?∣Sk?∣≥x},我們可以做一個分解
{max?1≤k≤n∣Sk∣≥x}=?k≥1Ak\{\max_{1 \le k \le n}|S_k| \ge x\} = \bigsqcup_{k \ge 1}A_k{1≤k≤nmax?∣Sk?∣≥x}=k≥1??Ak?
其中
Ak={∣Sk∣≥x,∣Sj∣<x,?j<k}A_k = \{|S_k| \ge x,|S_j|<x,\forall j <k\}Ak?={∣Sk?∣≥x,∣Sj?∣<x,?j<k}
計算
Var(Sn)=E[Sn2]=∫ΩSn2dP≥∫?k=1nAkSn2dP=∑k=1n∫AkSn2dP=∑k=1n∫Ak[Sk2+2Sk(Sn?Sk)+(Sn?Sk)2]dP≥∑k=1n∫Ak[Sk2+2Sk(Sn?Sk)]dPVar(S_n)=E[S_n^2] = \int_{\Omega} S^2_n dP \ge \int_{\bigsqcup_{k=1}^{n}A_k}S_n^2dP \\ = \sum_{k=1}^{n} \int_{A_k}S_n^2dP = \sum_{k=1}^{n} \int_{A_k}[S_k^2+2S_k(S_n-S_k)+(S_n-S_k)^2]dP \\ \ge \sum_{k=1}^{n} \int_{A_k}[S_k^2+2S_k(S_n-S_k)]dPVar(Sn?)=E[Sn2?]=∫Ω?Sn2?dP≥∫?k=1n?Ak??Sn2?dP=k=1∑n?∫Ak??Sn2?dP=k=1∑n?∫Ak??[Sk2?+2Sk?(Sn??Sk?)+(Sn??Sk?)2]dP≥k=1∑n?∫Ak??[Sk2?+2Sk?(Sn??Sk?)]dP
考慮第二項(xiàng),2Sk1Ak2S_k1_{A_k}2Sk?1Ak??在σ({X1,?,Xk})\sigma(\{X_1,\cdots,X_k\})σ({X1?,?,Xk?})中可測,Sn?SkS_n-S_kSn??Sk?在σ({Xk+1,?,Xn})\sigma(\{X_{k+1},\cdots,X_n\})σ({Xk+1?,?,Xn?})中可測,也就是說2Sk1Ak2S_k1_{A_k}2Sk?1Ak??與Sn?SkS_n-S_kSn??Sk?獨(dú)立,并且E[Sn?Sk]=0E[S_n-S_k]=0E[Sn??Sk?]=0,所以
∫Ak2Sk(Sn?Sk)dP=∫2Sk1AkdP∫(Sn?Sk)dP=∫2Sk1AkdPE[Sn?Sk]=0\int_{A_k}2S_k(S_n-S_k)dP=\int 2S_{k}1_{A_k}dP \int (S_n-S_k)dP \\ = \int 2S_{k}1_{A_k}dP E[S_n-S_k]=0∫Ak??2Sk?(Sn??Sk?)dP=∫2Sk?1Ak??dP∫(Sn??Sk?)dP=∫2Sk?1Ak??dPE[Sn??Sk?]=0
因此
Var(Sn)≥∑k=1n∫AkSk2dP≥∑k=1∞∫Akx2dP=x2∑k=1nP(Ak)=x2P(?k≥1Ak)=x2P(max?1≤k≤n∣Sk∣≥x)Var(S_n) \ge \sum_{k=1}^{n} \int_{A_k}S_k^2dP \ge \sum_{k=1}^{\infty} \int_{A_k}x^2dP=x^2 \sum_{k=1}^{n}P(A_k) \\ = x^2P(\bigsqcup_{k \ge 1}A_k )=x^2P(\max_{1 \le k \le n}|S_k| \ge x)Var(Sn?)≥k=1∑n?∫Ak??Sk2?dP≥k=1∑∞?∫Ak??x2dP=x2k=1∑n?P(Ak?)=x2P(k≥1??Ak?)=x2P(1≤k≤nmax?∣Sk?∣≥x)
總結(jié)
以上是生活随笔為你收集整理的UA MATH563 概率论的数学基础 中心极限定理14 Kolmogorov maximal inequality的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: UA MATH567 高维统计II 随机
- 下一篇: UA MATH563 概率论的数学基础