UA MATH563 概率论的数学基础 中心极限定理12 强大数定律 版本2:Etemadi定理
UA MATH563 概率論的數(shù)學(xué)基礎(chǔ) 中心極限定理12 強(qiáng)大數(shù)定律 版本2:Etemadi定理
這一講我們介紹強(qiáng)大數(shù)定律(Strong law of large number, SLLN)的另一個(gè)版本:
強(qiáng)大數(shù)定律 假設(shè)X1,?,Xn,n≥1X_1,\cdots,X_n,n\ge 1X1?,?,Xn?,n≥1是兩兩獨(dú)立、同分布的隨機(jī)變量,E∣X1∣<∞E|X_1|<\inftyE∣X1?∣<∞,則
Xˉ→asEX1\bar X \to_{as} EX_1Xˉ→as?EX1?
說明
幾乎必然收斂強(qiáng)于均方收斂,所以稱這個(gè)結(jié)果為強(qiáng)大數(shù)定律、而均方收斂的結(jié)果為弱大數(shù)定律。目前最好的證明由Etemadi (1981)給出,在此之前被普遍接受的版本是概率論祖師爺Kolmogorov提供的,Kolmogorov版本的條件是X1,?,Xn,n≥1X_1,\cdots,X_n,n\ge 1X1?,?,Xn?,n≥1是iid的隨機(jī)變量,且E∣X1∣<∞E|X_1|<\inftyE∣X1?∣<∞。
證明思路
第一步,
對(duì)一般隨機(jī)變量,我們可以做類似一般可測(cè)函數(shù)的正部與負(fù)部分解:
X=X+?X?X = X^+-X^-X=X+?X?
其中X+=max?(X,0),X?=max?(?X,0)X^+ = \max(X,0),X^- = \max(-X,0)X+=max(X,0),X?=max(?X,0)。
我們驗(yàn)證一下{Xn+}\{X_n^+\}{Xn+?}也滿足定理的條件:
這說明正部滿足定理?xiàng)l件。也就是說如果非負(fù)隨機(jī)變量滿足SLLN,那么
Xˉ=Sn/n=1n∑i=1nXi+?1n∑i=1nXi?→a.s.EX1+?EX1?=EX1\bar X = S_n/n = \frac{1}{n}\sum_{i=1}^n X_i^+ -\frac{1}{n}\sum_{i=1}^n X_i^- \to_{a.s.} EX_1^+-EX_1^- = EX_1Xˉ=Sn?/n=n1?i=1∑n?Xi+??n1?i=1∑n?Xi??→a.s.?EX1+??EX1??=EX1?
于是我們可以利用與構(gòu)造Lebesgue積分類似的思路,把一般隨機(jī)變量簡(jiǎn)化為非負(fù)隨機(jī)變量進(jìn)行討論。
第二步,
現(xiàn)在我們假設(shè)XnX_nXn?都是非負(fù)隨機(jī)變量,使用Truncation trick(截?cái)喾?#xff0c;這是分析、概率論等數(shù)學(xué)領(lǐng)域很常用的技巧,把討論的對(duì)象分為有界、無界的兩部分分別討論):
Yn=Xn1Xn≤n={Xn,ifXn≤n0,otherwiseY_n = X_n1_{X_n \le n} = \begin{cases} X_n, \ if X_n \le n \\ 0,\ otherwise \end{cases}Yn?=Xn?1Xn?≤n?={Xn?,?ifXn?≤n0,?otherwise?
計(jì)算
∑nP(Xn≠Yn)=∑nP(Xn>n)=∑nP(X1>n)<∞\sum_n P(X_n \ne Y_n)=\sum_n P(X_n>n)=\sum_n P(X_1>n)<\inftyn∑?P(Xn??=Yn?)=n∑?P(Xn?>n)=n∑?P(X1?>n)<∞
最后這個(gè)不等式用的是Borel-Cantelli引理的引理1:E∣X∣<∞E|X|<\inftyE∣X∣<∞,的充要條件是??>0\forall \epsilon>0??>0,
∑n≥0P(∣X∣>n?)<∞\sum_{n \ge 0}P(|X|>n\epsilon)<\inftyn≥0∑?P(∣X∣>n?)<∞
因?yàn)?span id="ze8trgl8bvbq" class="katex--inline">E∣X1∣<∞E|X_1|<\inftyE∣X1?∣<∞,于是∑nP(X1>n)<∞\sum_n P(X_1>n)<\infty∑n?P(X1?>n)<∞,根據(jù)Borel-Cantelli引理1,
P(Xn≠Yni.o.)=0P(X_n \ne Y_n\ i.o.)=0P(Xn??=Yn??i.o.)=0
定義Tn=Y1+?+YnT_n = Y_1+ \cdots +Y_nTn?=Y1?+?+Yn?,P(Xn≠Yni.o.)=0P(X_n \ne Y_n\ i.o.)=0P(Xn??=Yn??i.o.)=0說明P(Xn=Yne.v.)=1P(X_n = Y_n\ e.v.)=1P(Xn?=Yn??e.v.)=1,所以依概率1我們有
lim?nTn/n=lim?nSn/n\lim_n T_n/n=\lim_n S_n/nnlim?Tn?/n=nlim?Sn?/n
這個(gè)結(jié)果說明我們不但可以把問題從一般隨機(jī)變量簡(jiǎn)化為非負(fù)隨機(jī)變量,還可以進(jìn)一步簡(jiǎn)化為有界的非負(fù)隨機(jī)變量。
第三步,
Claim:
??>0\forall \epsilon>0??>0,α>1\alpha>1α>1,k(n)=?αn?,?nk(n)=\lfloor \alpha^n \rfloor,\forall nk(n)=?αn?,?n,
∑n≥1P(∣Tk(n)?ETk(n)∣k(n)>?)<∞\sum_{n \ge 1}P(\frac{|T_{k(n)}-ET_{k(n)}|}{k(n)}>\epsilon)<\inftyn≥1∑?P(k(n)∣Tk(n)??ETk(n)?∣?>?)<∞
如果這個(gè)結(jié)果成立,根據(jù)Borel-Cantelli引理1,
P(∣Tk(n)?ETk(n)∣k(n)>?i.o.)=0P(\frac{|T_{k(n)}-ET_{k(n)}|}{k(n)}>\epsilon\ i.o.)=0P(k(n)∣Tk(n)??ETk(n)?∣?>??i.o.)=0
于是
∣Tk(n)?ETk(n)∣k(n)→a.s.0\frac{|T_{k(n)}-ET_{k(n)}|}{k(n)} \to_{a.s.} 0k(n)∣Tk(n)??ETk(n)?∣?→a.s.?0
基于這個(gè)結(jié)果我們可以說明定理對(duì)有界非負(fù)隨機(jī)變量成立,這就是證明SLLN的完整的三個(gè)步驟。
下面貼一個(gè)Durrett整理的證明:
總結(jié)
以上是生活随笔為你收集整理的UA MATH563 概率论的数学基础 中心极限定理12 强大数定律 版本2:Etemadi定理的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: UA MATH563 概率论的数学基础
- 下一篇: UA MATH567 高维统计II 随机