时间序列与R语言应用(part4)--自回归AR模型及其平稳性条件
學(xué)習(xí)筆記
參考書(shū)目:《計(jì)量經(jīng)濟(jì)學(xué)》、《時(shí)間序列分析及應(yīng)用R語(yǔ)言》、《計(jì)量經(jīng)濟(jì)學(xué)基礎(chǔ)》、《計(jì)量經(jīng)濟(jì)學(xué)模型與R語(yǔ)言應(yīng)用》
文章目錄
- 為什么平穩(wěn)如此重要
- 自回歸AR模型
- 一階自回歸過(guò)程
- 二階自回歸過(guò)程
- 一般自回歸過(guò)程
- R語(yǔ)言實(shí)現(xiàn)
為什么平穩(wěn)如此重要
我們知道若隨機(jī)時(shí)間序列XtX_tXt?有如下性質(zhì):
①均值E(Xt)=μE(X_{t})=\muE(Xt?)=μ ,均值是與時(shí)間ttt無(wú)關(guān)的常數(shù)
②方差Var(Xt)=σ2Var(X_{t})=\sigma^2Var(Xt?)=σ2 , 方差是與時(shí)間ttt無(wú)關(guān)的常數(shù)
③協(xié)方差Cov(Xt,Xt+k)=γkCov(X_{t},X_{t+k})=\gamma_kCov(Xt?,Xt+k?)=γk? ,協(xié)方差只與時(shí)間間隔kkk有關(guān).
則稱(chēng)隨機(jī)時(shí)間序列XtX_tXt?具有弱平穩(wěn)型。
此時(shí),如果我們把XXX的原點(diǎn)從XtX_tXt?移到Xt+mX_{t+m}Xt+m?,那么Xt+mX_{t+m}Xt+m?具有和XtX_tXt?一樣的均值、方差和自協(xié)方差。簡(jiǎn)而言之,如果一個(gè)時(shí)間序列是平穩(wěn)的,那么不管在什么時(shí)間測(cè)量,它的均值、方差和自協(xié)方差都保持不變,即它們不隨時(shí)間而變化。這種平穩(wěn)的時(shí)間序列,有回到其均值的趨勢(shì),而且圍繞其均值的波動(dòng)具有大致恒定的振幅。應(yīng)該指出,一個(gè)平穩(wěn)過(guò)程均值復(fù)原(即回到均值)的速度取決于其自協(xié)方差,自協(xié)方差越小速度越快,自協(xié)方差越大,速度越慢。
而如果一個(gè)過(guò)程是非平穩(wěn)的,那么要么它的均值隨著時(shí)間變化,要么方差隨著時(shí)間變化,或者二者同時(shí)發(fā)生變化。
為什么平穩(wěn)時(shí)間序列如此重要呢? 因?yàn)槿绻粋€(gè)序列是非平穩(wěn)的,那么我們就只能研究其在研究期間的行為,我們無(wú)法把它推廣到其他期間。因此,從預(yù)測(cè)的角度來(lái)看,如果序列非平穩(wěn)則沒(méi)有什么研究?jī)r(jià)值。
自回歸AR模型
在討論了平穩(wěn)時(shí)間序列的重要性之后,接下來(lái)的一個(gè)實(shí)際問(wèn)題就是如何建立一個(gè)平穩(wěn)時(shí)間序列的模型,以及如何利用所建的模型進(jìn)行預(yù)鍘。與經(jīng)典回歸分析不同的是,我們這里所建立的時(shí)間序列模型主要不是以不同變量間的因果關(guān)系為基礎(chǔ),而是尋找時(shí)間序列自身的變化規(guī)律。同樣地,在預(yù)測(cè)一個(gè)時(shí)間序列未來(lái)的變化時(shí),我們不再使用一組與之有因果關(guān)系的其他變量,而只是用該序列的過(guò)去行為來(lái)預(yù)測(cè)未來(lái)。
一階自回歸過(guò)程
存在這種用過(guò)去行為來(lái)預(yù)測(cè)未來(lái)的最簡(jiǎn)單的例子是一階自回歸模型,簡(jiǎn)記為AR(1)AR(1)AR(1):
Yt=?Yt?1+et(1)Y_t=\phi Y_{t-1} + e_t\tag{1} Yt?=?Yt?1?+et?(1)
其中ete_tet?為白噪聲,假設(shè)ete_tet?獨(dú)立于Yt?1,Yt?2,Yt?3,...Y_{t-1}, Y_{t-2}, Y_{t-3},...Yt?1?,Yt?2?,Yt?3?,...,假設(shè)過(guò)程的均值已經(jīng)被去掉,序列的均值為零.
我們知道只有產(chǎn)生過(guò)程是平穩(wěn)的,用該模型進(jìn)行預(yù)測(cè)才有意義。因此我們首先研究該過(guò)程的平穩(wěn)條件。
對(duì)于一階自回歸模型,有如下遞推式:
Yt=?Yt?1+et=et+?(?Yt?2+et?1)......=et+?et?1+?2et?2+?3et?3...(2)Y_t=\phi Y_{t-1} + e_t \\=e_t+\phi (\phi Y_{t-2} + e_{t-1}) \\...... \\=e_t+\phi e_{t-1} + \phi^2 e_{t-2} +\phi^3 e_{t-3}... \tag{2} Yt?=?Yt?1?+et?=et?+?(?Yt?2?+et?1?)......=et?+?et?1?+?2et?2?+?3et?3?...(2)
可以看到,一階自回歸過(guò)程(1)式可以表示成白噪聲序列的線性組合。
由于E(et)=0E(e_t)=0E(et?)=0,故E(Yt)=0E(Y_t)=0E(Yt?)=0, 則平穩(wěn)條件①成立。
對(duì)(2)式兩邊取方差:
var(Yt)=σe2(1+?2+?4+...)(3)var(Y_t)=\sigma_e^2(1+\phi^2+\phi^4+...)\tag{3} var(Yt?)=σe2?(1+?2+?4+...)(3)
當(dāng)且僅當(dāng)∣?∣<1|\phi|<1∣?∣<1時(shí),(3)式才有:
var(Yt)=σe21??2(4)var(Y_t)= \frac{\sigma_e^2}{1-\phi^2}\tag{4} var(Yt?)=1??2σe2??(4)
則,只有滿(mǎn)足∣?∣<1|\phi|<1∣?∣<1的條件時(shí),平穩(wěn)條件②才成立。
同時(shí),對(duì)于(2)式有:
Yt+k=et+k+?et+k?1+?2et+k?2+?3et+k?3...(5)Y_{t+k}=e_{t+k}+\phi e_{t+k-1} + \phi^2 e_{t+k-2} +\phi^3 e_{t+k-3}...\tag{5} Yt+k?=et+k?+?et+k?1?+?2et+k?2?+?3et+k?3?...(5)
則YtY_tYt?與Yt+kY_{t+k}Yt+k?的協(xié)方差為:
cov(Yt,Yt+k)=E(Yt?Yt+k)=σe2?k(1+?2+?4+...)(6)cov(Y_t,Y_{t+k})=E(Y_t*Y_{t+k})=\sigma_e^2 \phi^k(1+\phi^2 +\phi^4+...)\tag{6} cov(Yt?,Yt+k?)=E(Yt??Yt+k?)=σe2??k(1+?2+?4+...)(6)
當(dāng)且僅當(dāng)∣?∣<1|\phi|<1∣?∣<1時(shí),(6)式才有:
cov(Yt,Yt+k)=?kσe21??2=?kvar(Yt)(7)cov(Y_t,Y_{t+k})=\phi^k \frac{\sigma_e^2}{1-\phi^2}=\phi^kvar(Y_t) \tag{7} cov(Yt?,Yt+k?)=?k1??2σe2??=?kvar(Yt?)(7)
則(7)式表明cov(Yt,Yt+k)cov(Y_t,Y_{t+k})cov(Yt?,Yt+k?)只與時(shí)間間隔kkk有關(guān),與時(shí)間點(diǎn)ttt無(wú)關(guān),則平穩(wěn)條件③成立。
綜上所述,在條件ete_tet?獨(dú)立于Yt?1,Yt?2,Yt?3,...Y_{t-1}, Y_{t-2}, Y_{t-3},...Yt?1?,Yt?2?,Yt?3?,...和σe2>0\sigma_e^2>0σe2?>0的情況下,當(dāng)且僅當(dāng)∣?∣<1|\phi|<1∣?∣<1時(shí)AR(1)AR(1)AR(1)的遞歸定義的解是平穩(wěn)的,∣?∣<1|\phi|<1∣?∣<1通常稱(chēng)為AR(1)AR(1)AR(1)過(guò)程的平穩(wěn)條件。
二階自回歸過(guò)程
現(xiàn)考慮滿(mǎn)足以下方程的序列:
Yt=?1Yt?1+?2Yt?2+et(8)Y_t=\phi_1 Y_{t-1} +\phi_2 Y_{t-2} + e_t\tag{8} Yt?=?1?Yt?1?+?2?Yt?2?+et?(8)
其中ete_tet?為白噪聲,假設(shè)ete_tet?獨(dú)立于Yt?1,Yt?2,Yt?3...Y_{t-1}, Y_{t-2}, Y_{t-3}...Yt?1?,Yt?2?,Yt?3?...
為了證明平穩(wěn)性,引入AR特征多項(xiàng)式:
?(x)=1??1x??2x2(9)\phi(x)=1-\phi_1x-\phi_2x^2\tag{9} ?(x)=1??1?x??2?x2(9)
和相應(yīng)的AR特征方程:
1??1x??2x2=0(10)1-\phi_1x-\phi_2x^2=0\tag{10} 1??1?x??2?x2=0(10)
二次方程總是有兩個(gè)根(可能有復(fù)數(shù)根),這兩個(gè)根就叫特征根。
可以證明,當(dāng)ete_tet?獨(dú)立于Yt?1,Yt?2Yt?3...Y_{t-1},Y_{t-2}Y_{t-3}...Yt?1?,Yt?2?Yt?3?...的條件下,當(dāng)且僅當(dāng)AR特征方程的根的絕對(duì)值(模)大于1時(shí),方程(10)才存在平穩(wěn)解。這個(gè)結(jié)論,可以不加任何改變地推廣到p階的情況.
在二階自回歸模型中,二次特征方程的根易找到為:
?1±?12+4?2?2?2(11)\frac{\phi_1\pm\sqrt{\phi_1^2+4\phi_2}}{-2\phi_2}\tag{11} ?2?2??1?±?12?+4?2???(11)
為了滿(mǎn)足平穩(wěn)條件,要求根的絕對(duì)值大于,當(dāng)且僅當(dāng)滿(mǎn)足以下條件:
?1+?2<1?2??1<1∣?2∣<1\phi_1+\phi_2<1 \qquad \phi_2-\phi_1<1 \qquad |\phi_2| <1 ?1?+?2?<1?2???1?<1∣?2?∣<1
與AR(1)AR(1)AR(1)一樣,我們稱(chēng)此為AR(2)AR(2)AR(2)模型的平穩(wěn)條件。
下圖顯示了AR(2)AR(2)AR(2)模型的平穩(wěn)區(qū)域:
一般自回歸過(guò)程
考慮p階自回歸模型:
Yt=?1Yt?1+?2Yt?2+...+?pYt?p+et(12)Y_t=\phi_1 Y_{t-1} +\phi_2 Y_{t-2}+...+\phi_p Y_{t-p} + e_t\tag{12} Yt?=?1?Yt?1?+?2?Yt?2?+...+?p?Yt?p?+et?(12)
有AR特征多項(xiàng)式:
?(x)=1??1x??2x2?...??pxp(13)\phi(x)=1-\phi_1x-\phi_2x^2-...-\phi_px^p\tag{13} ?(x)=1??1?x??2?x2?...??p?xp(13)
和相應(yīng)的特征方程:
1??1x??2x2?...??pxp=0(14)1-\phi_1x-\phi_2x^2-...-\phi_px^p=0\tag{14} 1??1?x??2?x2?...??p?xp=0(14)
假設(shè)ete_tet?獨(dú)立于Yt?1,Yt?2,Yt?3...Y_{t-1}, Y_{t-2}, Y_{t-3}...Yt?1?,Yt?2?,Yt?3?... ,當(dāng)且僅當(dāng)AR特征方程的每一個(gè)根的絕對(duì)值(模)大于1時(shí)方程(14)才存在平穩(wěn)解,為了保證特征方程根的模大于1,以下兩個(gè)不等式是必要條件但不是充分條件:
{?1+?2+...+?p<1∣?∣<1(15)\begin{cases}\phi_1+\phi_2+...+\phi_p<1 \\|\phi|<1 \tag{15} \end{cases} {?1?+?2?+...+?p?<1∣?∣<1?(15)
以下不等式為充分條件:
∣?1∣+∣?2∣+...+∣?p∣<1|\phi_1| + |\phi_2| + ...+ |\phi_p| <1 ∣?1?∣+∣?2?∣+...+∣?p?∣<1
R語(yǔ)言實(shí)現(xiàn)
現(xiàn)在我們模擬二階自回歸過(guò)程,并檢驗(yàn)其平穩(wěn)性:
library(tseries) set.seed(1236) data01 <- arima.sim(n = 50, list(ar =c(0.8, -0.5))) plot(data01, main = '時(shí)序圖', type='o') adf.test(data01)時(shí)序圖:
單位根檢驗(yàn)結(jié)果:
Augmented Dickey-Fuller Testdata: data01 Dickey-Fuller = -3.8032, Lag order = 3, p-value = 0.02523 alternative hypothesis: stationary我們看到p值小于0.05的顯著性水平,拒絕原假設(shè),則二階自回歸過(guò)程是平穩(wěn)的。
后記:此Blog經(jīng)過(guò)了二次修改,之前在模擬二階ar模型時(shí),將自回歸系數(shù)寫(xiě)為了0.8和0.5這不滿(mǎn)足平穩(wěn)性條件,在用R模擬時(shí),程序應(yīng)該是會(huì)報(bào)錯(cuò)的,但筆者查看了一下歷史記錄,發(fā)現(xiàn)模擬的時(shí)候自回歸系數(shù)寫(xiě)的是0.8和-0.5,結(jié)果寫(xiě)B(tài)log的時(shí)候就變成了了0.8和0.5 ???故,引以為戒
總結(jié)
以上是生活随笔為你收集整理的时间序列与R语言应用(part4)--自回归AR模型及其平稳性条件的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 连云港十大玩乐中心排行榜:歌友会KTV上
- 下一篇: 磊科 NW705P 无线路由器恢复出厂设