實(shí)證會(huì)計(jì)理論與因果推斷13 線性模型概述1

• OLS
• GLS

大部分應(yīng)用微觀計(jì)量模型都在試圖去計(jì)算causal effects，對(duì)這個(gè)causal effects有一個(gè)比較經(jīng)典的定義：Causal effects are the ceteris paribus response to a change in variable or parameter (Marshall [1961] and Heckman [2000])。這個(gè)句子的關(guān)鍵詞是ceteris paribus。它是一個(gè)拉丁語(yǔ)短語(yǔ)，ceteris在應(yīng)用微觀計(jì)量的語(yǔ)境下可以理解成除了我們感興趣的解釋變量以外的其他因素，paribus的意思是相等，因此連起來(lái)就是保持除了我們感興趣的解釋變量外的其他因素保持不變。這句話的含義就是causal effects就是在其他因素保持不變的條件下，被解釋變量對(duì)解釋變量變化的響應(yīng)。其中ceteris paribus是保證我們能夠正確估計(jì)出causal effects的核心假設(shè)。
設(shè)計(jì)實(shí)證研究去估計(jì)causal effects有兩種方法，一種是observational study，另一種是experimental study。對(duì)于經(jīng)濟(jì)學(xué)而言，實(shí)驗(yàn)方法還是一個(gè)比較新的領(lǐng)域，主要用來(lái)研究個(gè)體與小型集體的決策行為。究其原因還是因?yàn)榻?jīng)濟(jì)系統(tǒng)比物化生系統(tǒng)復(fù)雜程度更甚，并且?guī)缀醪豢赡軐?duì)其他因素施加控制，也就難以做到ceteris paribus了。所以大部分經(jīng)濟(jì)文獻(xiàn)用的還是observational study的思路。這篇博文會(huì)簡(jiǎn)單梳理一下最基礎(chǔ)的計(jì)量方法，為什么在這些方法的假設(shè)成立的前提下可以做到ceteris paribus，以及大致提一下如果這些假設(shè)不成立有哪些補(bǔ)救措施，后續(xù)的博文就圍繞如何用observational study去計(jì)算causal effects展開。

OLS

假設(shè)DGP（data generating process）是$$Y=X\beta +?$$其中$Y\in {\mathbb{R}}^{n\times 1}$，$X\in {\mathbb{R}}^{n\times p}$，$\beta \in {\mathbb{R}}^{p\times 1}$，假設(shè)

$rank(X)=p$（無(wú)多重共線性）

$E[?|X]=0$ （無(wú)內(nèi)生性）

$Var(?)={\sigma }^2{I}_n$ （同方差、無(wú)自相關(guān)性）

為了方便做統(tǒng)計(jì)推斷，假設(shè)

$?|X～N(0,{\sigma }^2{I}_n)$ （正態(tài)性）

這些假設(shè)保證了ceteris paribus，系數(shù)$\beta$就是我們想要計(jì)算的causal effects。上面的假設(shè)作用不盡相同。無(wú)多重共線性主要是出于計(jì)算上的考量，因?yàn)橄禂?shù)的OLS估計(jì)是$\hat{\beta }=LY$，其中$L=(X^{T}X{)}^{?1}{X}^T$是向線性空間$span(X)$上投影的投影矩陣，如果$rank(X)<p$，$X^{T}X$就會(huì)是不可逆的奇異陣。存在多重共線性時(shí)可以用嶺回歸避免系數(shù)被高估。無(wú)內(nèi)生性的假設(shè)是為確保ceteris paribus所需要的最重要的一條假設(shè)，在DGP中，我們關(guān)注的解釋變量只有$p$個(gè)，影響被解釋變量的其他變量都在隨機(jī)誤差里面，如果$E(?|X)=0$，說明誤差中還存在能影響被解釋變量的因素，這時(shí)可以用GMM。其原因可能是存在重要遺漏變量或者互為因果等。如果同方差假設(shè)不成立，OLS的系數(shù)可能會(huì)被高估，可以用WLS來(lái)做；如果誤差項(xiàng)存在自相關(guān)，可以用GLS。正態(tài)假設(shè)可以保證系數(shù)估計(jì)量的一些優(yōu)良性質(zhì)可以成立，并且方便用來(lái)做統(tǒng)計(jì)推斷。我們通常討論的數(shù)據(jù)質(zhì)量好不好其實(shí)討論的是能滿足幾條OLS的假設(shè)

系數(shù)的估計(jì)其實(shí)還是隨機(jī)的，正態(tài)性假設(shè)下系數(shù)的OLS估計(jì)量同樣服從正態(tài)分布，這意味著causal effects其實(shí)是隨機(jī)變量。為了獲得對(duì)causal effects的最準(zhǔn)確的估計(jì)，我們希望找到的系數(shù)估計(jì)量是UMVUE，并且具有一致性和漸進(jìn)有效性。前者保證causal effects的分布盡可能集中，后者保證大樣本時(shí)causal effects不會(huì)偏離真實(shí)的causal effects并且漸進(jìn)分布也盡可能比較集中。Gauss-Markov定理保證了OLS估計(jì)是BLUE，這里就簡(jiǎn)單證明一下OLS估計(jì)更是UMVUE。
回顧一下Rao-Blackwell定理：如果一個(gè)無(wú)偏估計(jì)可以寫成充分完備統(tǒng)計(jì)量的函數(shù)，那么它就是一個(gè)UMVUE。因?yàn)镺LS是BLUE，所以肯定是一個(gè)無(wú)偏估計(jì)了。考慮$Y～N(X\beta ,{\sigma }^2{I}_n)$，嘗試找一下$X\beta$的充分完備統(tǒng)計(jì)量。
$$\begin{gathered} f(Y)=(2\pi {)}^{?n/2}{\sigma }^{?n}\exp \{?\frac{1}{2{\sigma }^2}(Y?X\beta {)}^T(Y?X\beta )\} \\ =\exp \{?\frac{Y^{T}Y}{2{\sigma }^2}?\frac{Y^{T}X\beta }{{\sigma }^2}?\frac{{\beta }^T{X}^{T}X\beta }{2{\sigma }^2}?n\ln \sqrt{2\pi {\sigma }^2}\} \end{gathered}$$
根據(jù)Neyman-Fisher因子分解定理不難看出充分統(tǒng)計(jì)量為$Y^{T}X$與$Y^{T}Y$，其中$l$為元素全是1的向量。考慮
$$E[g(Y^{T}X)]=\int g(Y^{T}X)(2\pi {)}^{?n/2}{\sigma }^{?n}\exp \{?\frac{1}{2{\sigma }^2}(Y?X\beta {)}^T(Y?X\beta )\}dY=0$$
因?yàn)橹笖?shù)部分肯定是大于0的，而$(2\pi {)}^{?n/2}{\sigma }^{?n}$也是大于0的，所以除非$g(Y^{T}X)=0.a.s.$否則期望不會(huì)為0，因此$Y^{T}X$是$\beta$的充分完備統(tǒng)計(jì)量。因?yàn)?br /> $$Y=X\hat{\beta }+e$$
其中$e$是殘差。因此$Y^{T}X=(X\hat{\beta }{)}^{T}X+e^{T}X=X^{T}X\hat{\beta }$，顯然OLS估計(jì)$\hat{\beta }$可以寫成$X^{T}X\hat{\beta }$的函數(shù)。根據(jù)Rao-Blackwell定理，OLS估計(jì)是UMVUE。
接下來(lái)簡(jiǎn)單證一下OLS估計(jì)的一致性。定義
$$\begin{gathered} S_{XX}=\frac{X^{T}X}{n}=\frac{1}{n}\sum _{i=1}^n{x}_i{x}_i^T\in {\mathbb{R}}^{p\times p} \\ {S}_{XY}=\frac{X^{T}Y}{n}=\frac{1}{n}\sum _{i=1}^n{x}_i{y}_i\in {\mathbb{R}}^{p\times 1} \\ g=\frac{X^T?}{n}=\frac{1}{n}\sum _{i=1}^n{x}_i{?}_i\in {\mathbb{R}}^{p\times 1} \end{gathered}$$
從而
$$\begin{gathered} \hat{\beta }=(X^{T}X{)}^{?1}{X}^{T}Y=(\frac{X^{T}X}{n}{)}^{?1}(\frac{X^{T}Y}{n})=S_{XX}^{?1}{S}_{XY} \\ \hat{\beta }?\beta =(X^{T}X{)}^{?1}{X}^T?=(\frac{X^{T}X}{n}{)}^{?1}(\frac{X^T?}{n})=S_{XX}^{?1}g \end{gathered}$$
假設(shè)二意味著$E[x_i{?}_i]=0$，從而$g$依概率趨近于0，假設(shè)一保證$S_{XX}^{?1}$有界，因此$\hat{\beta }$依概率趨近于$\beta$，或者說，OLS估計(jì)具有一致性。要比較OLS估計(jì)的漸進(jìn)有效性需要計(jì)算其漸進(jìn)方差、另外大樣本情況下的檢驗(yàn)需要方差的估計(jì)也具有一致性，關(guān)于這些推導(dǎo)可以參考陳強(qiáng)的教材第五章的內(nèi)容。

GLS

現(xiàn)在放松第三條假設(shè)，如果同方差假設(shè)與自相關(guān)不成立，將假設(shè)修正為

3’. $Var(?)=\Sigma$

此時(shí)的估計(jì)叫廣義最小二乘估計(jì)（GLS），GLS估計(jì)也是BLUE
$${\hat{\beta }}^{GLS}=(X^T{\Sigma }^{?1}X{)}^{?1}{X}^T{\Sigma }^{?1}Y$$
推導(dǎo)GLS估計(jì)可以不用最小二乘的思想，可以用Aitken方法將其化歸為OLS，這里給一個(gè)簡(jiǎn)單的思路。對(duì)$\Sigma$做Cholesky分解，$\Sigma =\Gamma {\Gamma }^T$，并對(duì)DGP做變換
$${\Gamma }^{?1}Y={\Gamma }^{?1}(X\beta +?)={\Gamma }^{?1}X\beta +{\Gamma }^{?1}?$$
其中${\Gamma }^{?1}?$的協(xié)方差矩陣為$I_n$滿足OLS的假設(shè)，因此$\beta$的OLS估計(jì)為
$$\hat{\beta }=(X^T({\Gamma }^{?1}{)}^T{\Gamma }^{?1}X{)}^{?1}{X}^T({\Gamma }^{?1}{)}^T{\Gamma }^{?1}Y$$
因?yàn)?span id="ze8trgl8bvbq" class="katex--inline">$({\Gamma }^{?1}{)}^T{\Gamma }^{?1}X{)}^{?1}={\Sigma }^{?1}$，所以這個(gè)估計(jì)就是GLS。根據(jù)OLS的性質(zhì)，GLS是無(wú)偏的。GLS估計(jì)的方差一般用Eicker-Huber-White漸進(jìn)異方差一致估計(jì)量（heteroskedasticity consistent estimator）：
$$n(X^{T}X{)}^{?1}{S}_0(X^{T}X{)}^{?1}$$
其中$S_0={\sum }_{i=1}^n{x}_i{x}_i^T{e}_i^2/n$，$e_i$是殘差。

總結(jié)

以上是生活随笔為你收集整理的实证会计理论与因果推断13 线性模型概述的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。