【时间序列分析】16.平稳序列的决定性
文章目錄
- 十六、平穩(wěn)序列的決定性
- 1.非決定性平穩(wěn)序列
- 2.平穩(wěn)序列的長(zhǎng)期預(yù)測(cè)
- 3.決定性平穩(wěn)序列舉例
- 回顧總結(jié)
十六、平穩(wěn)序列的決定性
1.非決定性平穩(wěn)序列
上一篇文章中,討論了隨機(jī)變量的最佳線性預(yù)測(cè),而時(shí)間序列是隨機(jī)變量構(gòu)成的序列,我們要考慮的是對(duì)時(shí)間序列進(jìn)行預(yù)測(cè),而預(yù)測(cè)用到的歷史信息,就來(lái)源于時(shí)間序列的歷史觀測(cè)。
由于最佳線性預(yù)測(cè)源自歷史與未來(lái)的相關(guān)性,所以如果想對(duì)時(shí)間序列進(jìn)行預(yù)測(cè),未來(lái)必須與過(guò)去存在一定程度的關(guān)聯(lián),否則預(yù)測(cè)就沒(méi)有意義。但是,未來(lái)與過(guò)去存在的關(guān)聯(lián)程度可能是不一樣的,看以下幾個(gè)例子:
這三個(gè)例子代表的過(guò)去與未來(lái)的關(guān)聯(lián)程度是各不相同的,對(duì)于{Xt}\{X_t\}{Xt?},只要知道Xt?1X_{t-1}Xt?1?的值就可以直接推出XtX_tXt?,也就是說(shuō)Xt=L(Xt∣Xt?1)X_t=L(X_t|X_{t-1})Xt?=L(Xt?∣Xt?1?),這種情況下不存在預(yù)測(cè)誤差;對(duì)于{Yt}\{Y_t\}{Yt?},不論知道多少歷史信息Yt?1,Yt?2,?Y_{t-1},Y_{t-2},\cdotsYt?1?,Yt?2?,?,對(duì)YtY_tYt?的預(yù)測(cè)都沒(méi)有任何幫助,L(Yt∣Yt?1,?)=0L(Y_t|Y_{t-1},\cdots)=0L(Yt?∣Yt?1?,?)=0;而第三種情況稍微復(fù)雜一些,任意歷史信息對(duì)未來(lái)都會(huì)造成一定程度的影響(0.5是影響消退因子),但即便知道所有歷史信息,也不可能對(duì)未來(lái)作出精準(zhǔn)預(yù)測(cè),因?yàn)榇嬖谄铐?xiàng)εt\varepsilon_tεt?。
鑒于這種區(qū)別,我們將平穩(wěn)序列分為兩種,一種是由歷史信息可以對(duì)未來(lái)作出精準(zhǔn)預(yù)測(cè)的,稱為決定性平穩(wěn)序列;另一種是由歷史信息不可能完全預(yù)測(cè)未來(lái)的,稱之為非決定性平穩(wěn)序列。
這種定義未免有點(diǎn)粗糙,以下假設(shè)平穩(wěn)序列是零均值的。我們現(xiàn)在假設(shè)我們能夠獲得所有ttt時(shí)刻前的歷史信息Xt,Xt?1,?X_t,X_{t-1},\cdotsXt?,Xt?1?,?,記
Xt,m=(Xt,Xt?1,?,Xt?m+1)m,\boldsymbol X_{t,m}=(X_t,X_{t-1},\cdots,X_{t-m+1})_m, Xt,m?=(Xt?,Xt?1?,?,Xt?m+1?)m?,
這樣當(dāng)m→∞m\to \inftym→∞時(shí)就代表所有歷史信息。精準(zhǔn)預(yù)測(cè)意味著預(yù)測(cè)不存在誤差,也就是方差為0,如果XtX_tXt?是決定性平穩(wěn)序列,那么就有
lim?m→∞E[Xt+1?L(Xt+1∣Xt,m)]2=0.\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2=0. m→∞lim?E[Xt+1??L(Xt+1?∣Xt,m?)]2=0.
事實(shí)上,即使不是決定性平穩(wěn)序列,這個(gè)極限也是存在的,因?yàn)殡S著mmm的增大,這個(gè)均方誤差會(huì)回來(lái)越小(因?yàn)?span id="ze8trgl8bvbq" class="katex--inline">mmm越大蘊(yùn)含的信息越多,由最佳線性預(yù)測(cè)的性質(zhì)可以得到),也就是單調(diào)遞減有下界0。正因此,我們將這個(gè)極限定義為一步預(yù)測(cè)的均方誤差,這里的下標(biāo)就是預(yù)測(cè)步數(shù):
σ12=lim?m→∞E[Xt+1?L(Xt+1∣Xt,m)]2.\sigma^2_1=\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2. σ12?=m→∞lim?E[Xt+1??L(Xt+1?∣Xt,m?)]2.
一步預(yù)測(cè)的均方誤差:定義
σ1,m2=E[Xt+1?L(Xt+1∣Xt,m)]2,\sigma_{1,m}^2={\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2, σ1,m2?=E[Xt+1??L(Xt+1?∣Xt,m?)]2,
這表示用mmm個(gè)歷史信息對(duì)下一個(gè)時(shí)間點(diǎn)進(jìn)行預(yù)測(cè)的均方誤差。定義
σ12=lim?m→∞σ1,m2,\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}, σ12?=m→∞lim?σ1,m2?,
這表示用全部歷史信息對(duì)下一個(gè)時(shí)間點(diǎn)進(jìn)行預(yù)測(cè)的均方誤差,即一步預(yù)測(cè)的均方誤差。
平穩(wěn)序列的決定性:
這就是決定性平穩(wěn)序列的嚴(yán)格定義。注意到以上的符號(hào)表示σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12?,σ1,m2?都不含ttt,盡管在定義時(shí)使用了ttt,這也說(shuō)明σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12?,σ1,m2?的取值是與ttt無(wú)關(guān)的,這一點(diǎn)源自序列的平穩(wěn)性。
2.平穩(wěn)序列的長(zhǎng)期預(yù)測(cè)
剛才我們定義了一步預(yù)測(cè)的均方誤差σ12\sigma_1^2σ12?,現(xiàn)在轉(zhuǎn)向kkk步預(yù)測(cè),也就是L(Xt+k∣Xt,m)L(X_{t+k}|\boldsymbol X_{t,m})L(Xt+k?∣Xt,m?),相應(yīng)地也可以定義kkk步預(yù)測(cè)的均方誤差σk2\sigma_k^2σk2?。
kkk步預(yù)測(cè)的均方誤差:定義
σk2=lim?m→∞E[Xt+k?L(Xt+k∣Xt,m)]\sigma_k^2=\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})] σk2?=m→∞lim?E[Xt+k??L(Xt+k?∣Xt,m?)]
為kkk步預(yù)測(cè)的均方誤差。
這樣,可以構(gòu)建一個(gè)新序列{σ12,σ12,?,σk2,?}\{\sigma_1^2,\sigma_1^2,\cdots,\sigma_k^2,\cdots\}{σ12?,σ12?,?,σk2?,?},可以驗(yàn)證σk2\sigma_k^2σk2?是關(guān)于kkk單調(diào)不減少的。直觀上想象,隨著預(yù)測(cè)距離的增大,我們能對(duì)遙遠(yuǎn)未來(lái)的把控就越小,所以預(yù)測(cè)的誤差肯定會(huì)越來(lái)越大,實(shí)際上也有
σk2=lim?m→∞E[Xt+k?L(Xt+k∣Xt,?,Xt?m)]2=lim?m→∞E[Xt+k?1?L(Xt+k?1∣Xt?1,?,Xt?1?m)]2≥lim?m→∞E[Xt+k?1?L(Xt+k?1∣Xt,?,Xt?1?m)]2=σk?12.\begin{aligned} \sigma_k^2=&\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|X_t,\cdots,X_{t-m})]^2 \\ =&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t-1},\cdots,X_{t-1-m})]^2 \\ \ge&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t},\cdots,X_{t-1-m})]^2\\ =&\sigma_{k-1}^2. \end{aligned} σk2?==≥=?m→∞lim?E[Xt+k??L(Xt+k?∣Xt?,?,Xt?m?)]2m→∞lim?E[Xt+k?1??L(Xt+k?1?∣Xt?1?,?,Xt?1?m?)]2m→∞lim?E[Xt+k?1??L(Xt+k?1?∣Xt?,?,Xt?1?m?)]2σk?12?.?
但是σk2\sigma_k^2σk2?也不可能無(wú)限增大,因?yàn)?span id="ze8trgl8bvbq" class="katex--inline">σk,m2=E[Xt+k?L(Xt+k∣Xt,m)]2≤EXt+k2=γ0\sigma_{k,m}^2={\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})]^2\le {\rm E}X_{t+k}^2=\gamma_0σk,m2?=E[Xt+k??L(Xt+k?∣Xt,m?)]2≤EXt+k2?=γ0?,因此{σk2}\{\sigma_k^2\}{σk2?}單調(diào)不減有上界,故極限存在,且極限的上界為γ0\gamma_0γ0?。
當(dāng)然,k→∞k\to \inftyk→∞時(shí)如果σk2=γ0\sigma_k^2=\gamma_0σk2?=γ0?,這個(gè)預(yù)測(cè)跟不存在也沒(méi)有區(qū)別了,所以定義純非決定性平穩(wěn)序列。
純非決定性平穩(wěn)序列:如果對(duì)于平穩(wěn)序列,有
lim?k→∞σk2=γ0,\lim_{k\to\infty}\sigma_k^2=\gamma_0, k→∞lim?σk2?=γ0?,
就稱{Xt}\{X_t\}{Xt?}是純非決定性的。
剛才我們推知,如果σk2→γ0\sigma_k^2\to \gamma_0σk2?→γ0?,這個(gè)預(yù)測(cè)與不存在無(wú)異,其實(shí)也可以證明:
lim?k→∞lim?m→∞E[L(Xt+k∣Xt,Xt?1,?,Xt?m)]2=0,\lim_{k\to \infty}\lim_{m\to \infty}{\rm E}[L(X_{t+k}|X_t,X_{t-1},\cdots,X_{t-m})]^2=0, k→∞lim?m→∞lim?E[L(Xt+k?∣Xt?,Xt?1?,?,Xt?m?)]2=0,
也就是L(Xt+k∣Xt,?,Xt?m)L(X_{t+k}|X_t,\cdots,X_{t-m})L(Xt+k?∣Xt?,?,Xt?m?)隨著kkk的增大均方收斂到0,這說(shuō)明對(duì)于非決定性平穩(wěn)序列,無(wú)法做長(zhǎng)期預(yù)測(cè)。
3.決定性平穩(wěn)序列舉例
最簡(jiǎn)單的決定性平穩(wěn)序列,是{Xt}:Xt=ξ\{X_t\}:X_t=\xi{Xt?}:Xt?=ξ,這樣,從變量的一個(gè)觀測(cè)值就可以得到全部時(shí)間序列。這里,{Xt}\{X_t\}{Xt?}的二階協(xié)方差矩陣為
Γ2=[σ2σ2σ2σ2],∣Γ2∣=0.\Gamma_2=\begin{bmatrix} \sigma^2 & \sigma^2 \\ \sigma^2 & \sigma^2 \end{bmatrix},|\Gamma_2|=0. Γ2?=[σ2σ2?σ2σ2?],∣Γ2?∣=0.
也就是說(shuō),{Xt}\{X_t\}{Xt?}的二階協(xié)方差矩陣不滿秩,正因此,只需要一個(gè)歷史信息就可以對(duì)未來(lái)作出精準(zhǔn)預(yù)測(cè)。能否對(duì)這個(gè)結(jié)論進(jìn)行推廣呢?事實(shí)上,如果平穩(wěn)序列{Xt}\{X_{t}\}{Xt?}的n+1n+1n+1階自協(xié)方差矩陣退化,那么這個(gè)平穩(wěn)序列一定是決定性的,且可以由其前nnn個(gè)歷史信息完全預(yù)測(cè)。
這是因?yàn)?#xff0c;n+1n+1n+1階自協(xié)方差矩陣退化,意味著X1,?,Xn+1X_1,\cdots,X_{n+1}X1?,?,Xn+1?必定線性相關(guān);如果再加上Γn\Gamma_nΓn?滿秩的條件,就一定有Xn+1X_{n+1}Xn+1?可以被X1,?,XnX_1,\cdots,X_nX1?,?,Xn?線性表示,這樣就有
L(Xn+1∣X1,?,Xn)=Xn+1,E[Xn+1?L(Xn+1∣X1,?,Xn)]2=0.L(X_{n+1}|X_1,\cdots,X_{n})=X_{n+1},\\ {\rm E}[X_{n+1}-L(X_{n+1}|X_1,\cdots,X_n)]^2=0. L(Xn+1?∣X1?,?,Xn?)=Xn+1?,E[Xn+1??L(Xn+1?∣X1?,?,Xn?)]2=0.
由此推出離散譜序列也是決定性平穩(wěn)序列。設(shè)E(ξj)=E(ηk)=0,E(ξjηk)=0{\rm E}(\xi_j)={\rm E}(\eta_k)=0,{\rm E}(\xi_j\eta_k)=0E(ξj?)=E(ηk?)=0,E(ξj?ηk?)=0,且E(ξj2)=E(ηk2)=σj2{\rm E}(\xi_j^2)={\rm E}(\eta_k^2)=\sigma^2_jE(ξj2?)=E(ηk2?)=σj2?,對(duì)每一個(gè)確定的jjj定義簡(jiǎn)單譜序列
Zj(t)=ξjcos?(tλj)+ηjsin?(tλj),t∈Z.Z_j(t)=\xi_j\cos (t\lambda_j)+\eta_j\sin(t\lambda_j),\quad t\in\Z. Zj?(t)=ξj?cos(tλj?)+ηj?sin(tλj?),t∈Z.
顯然Zj(t)Z_j(t)Zj?(t)的每一次實(shí)現(xiàn)是一個(gè)周期函數(shù),其周期T=2π/λjT=2\pi/\lambda_jT=2π/λj?和振幅可以由歷史信息決定,實(shí)際上它的3階自協(xié)方差矩陣退化,所以Zj(t)Z_j(t)Zj?(t)是決定性的。定義離散譜序列
Zt=∑j=1pZj(t),t∈N+,Z_t=\sum_{j=1}^pZ_j(t),\quad t\in\N^+, Zt?=j=1∑p?Zj?(t),t∈N+,
這時(shí)ZtZ_tZt?的自協(xié)方差矩陣也是2p+12p+12p+1階內(nèi)退化的(所以是決定性的),用到如下引理:
(1)簡(jiǎn)單離散譜序列:設(shè)E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0∈(0,π]{\rm E}(\xi)={\rm E}(\eta)={\rm E}(\xi\eta)=0,{\rm E}(\xi^2)={\rm E}(\eta^2)=\sigma^2,\lambda_0\in(0,\pi]E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0?∈(0,π],{Zt}\{Z_t\}{Zt?}的定義為
Zt=ξcos?(tλ0)+ηsin?(tλ0),t∈N,Z_t=\xi\cos(t\lambda_0)+\eta\sin(t\lambda_0),\quad t\in\N, Zt?=ξcos(tλ0?)+ηsin(tλ0?),t∈N,
定義A=ξ2+η2,cos?θ=ξ/A,sin?θ=η/AA=\sqrt{\xi^2+\eta^2},\cos\theta=\xi/A,\sin\theta=\eta/AA=ξ2+η2?,cosθ=ξ/A,sinθ=η/A,則
Zt=Acos?(tλ0?θ),t∈N+.Z_t=A\cos(t\lambda_0-\theta),\quad t\in\N^+. Zt?=Acos(tλ0??θ),t∈N+.
這樣EZt=0{\rm E}Z_t=0EZt?=0,γk=σ2cos?(kλ0)\gamma_k=\sigma^2\cos (k\lambda_0)γk?=σ2cos(kλ0?),故ZtZ_tZt?是一個(gè)平穩(wěn)序列,稱為調(diào)和平穩(wěn)序列。并且,這個(gè)平穩(wěn)序列的譜函數(shù)是階梯函數(shù),稱之為離散譜序列。
(2)多個(gè)頻率成分的離散譜序列:設(shè)ξj,ηk(j,k=1,2,?,p)\xi_j,\eta_k(j,k=1,2,\cdots,p)ξj?,ηk?(j,k=1,2,?,p)兩兩正交,滿足上面的條件,對(duì)于正整數(shù)ppp和λj∈(0,π]\lambda_j\in(0,\pi]λj?∈(0,π],定義時(shí)間序列
Zt=∑i=1p[ξjcos?(tλj)+ηjsin?(tλj)]=∑j=1pAjcos?(tλj?θj),t∈N+,Z_t=\sum_{i=1}^p[\xi_j\cos(t\lambda_j)+\eta_j\sin(t\lambda_j)]=\sum_{j=1}^pA_j\cos(t\lambda_j-\theta_j),\quad t\in\N^+, Zt?=i=1∑p?[ξj?cos(tλj?)+ηj?sin(tλj?)]=j=1∑p?Aj?cos(tλj??θj?),t∈N+,
這里Aj=ξj2+ηj2,cos?(θj)=ξj/Aj,sin?(θj)=ηj/AjA_j=\sqrt{\xi_j^2+\eta_j^2},\cos(\theta_j)=\xi_j/A_j,\sin(\theta_j)=\eta_j/A_jAj?=ξj2?+ηj2??,cos(θj?)=ξj?/Aj?,sin(θj?)=ηj?/Aj?,它的譜函數(shù)也是階梯函數(shù)。
(3)Γn\Gamma_nΓn?退化定理:設(shè)離散譜序列{Xt}\{X_t\}{Xt?}如(2)中定義,如果它的譜函數(shù)F(λ)F(\lambda)F(λ)恰有nnn個(gè)跳躍點(diǎn),則Γn\Gamma_nΓn?正定,Γn+1\Gamma_{n+1}Γn+1?退化;如果F(λ)F(\lambda)F(λ)有無(wú)窮多個(gè)跳躍點(diǎn),則?n≥1\forall n\ge 1?n≥1,Γn\Gamma_nΓn?正定。
由此,如果Γn\Gamma_nΓn?退化,就認(rèn)為{Xn}\{X_n\}{Xn?}是離散譜序列,具有周期性。
回顧總結(jié)
非決定性平穩(wěn)序列指的是將來(lái)信息不能由全部歷史信息所確定的平穩(wěn)序列,更具體的定義是
σ12=lim?m→∞σ1,m2=lim?m→∞E[Xn+1?L(Xn+1∣Xn,m)]2≠0.\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}=\lim_{m\to \infty}{\rm E}[X_{n+1}-L(X_{n+1}|\boldsymbol X_{n,m})]^2\ne 0. σ12?=m→∞lim?σ1,m2?=m→∞lim?E[Xn+1??L(Xn+1?∣Xn,m?)]2?=0.
否則,稱為決定性平穩(wěn)序列。
{σk2}\{\sigma_k^2\}{σk2?}是單調(diào)不減有上界的數(shù)列,其上界是γ0\gamma_0γ0?,如果σk2→γ0(k→∞)\sigma_k^2\to \gamma_0(k\to \infty)σk2?→γ0?(k→∞),則稱平穩(wěn)序列是純非決定性平穩(wěn)序列。對(duì)于這種平穩(wěn)序列,進(jìn)行長(zhǎng)期預(yù)測(cè)是不合適的。
如果平穩(wěn)序列的n+1n+1n+1階自協(xié)方差矩陣Γn+1\Gamma_{n+1}Γn+1?退化,則矩陣必是nnn步?jīng)Q定的。
總結(jié)
以上是生活随笔為你收集整理的【时间序列分析】16.平稳序列的决定性的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 数字电路设计之数字电路工程师面试集锦
- 下一篇: IMDB电影数据分析实践