时间序列研(part10)--误差修正模型
學習筆記,僅供參考,有錯必糾
文章目錄
- 時間序列
- 誤差修正模型
- F檢驗
- 似然比(LR)檢驗
- W檢驗
- LM乘數檢驗
- LR, W和LM檢驗
- 自相關的LM檢驗
時間序列
誤差修正模型
在用“一般到特殊”方法建立模型時的,首先應對初始模型(即對回歸參數不加任何約束的動態分布滯后模型)的隨機誤差項進行異方差和自相關檢驗。對模型的其他檢驗都應建立在隨機誤差項是一個白噪聲序列的基礎之上。在檢驗約束條件是否成立的過程中逐步剔除不顯著變量,化簡模型,同時還要保持模型隨機誤差項的非自相關性和同方差性不被破壞。在這個過程中要用到許多統計量.
F檢驗
把樣本數據取對數后建立回歸模型,隨機誤差項一般不會存在異方差。對于隨機誤差項的一階自相關檢驗可用DW統計量完成。對于ADL(1,1)模型,約束條件α1=0,β1=0,β0=0\alpha_1 = 0, \beta_1 = 0, \beta_0 = 0α1?=0,β1?=0,β0?=0和 α1+β0+β1?1=0\alpha_1 + \beta_0 + \beta_1 - 1 = 0α1?+β0?+β1??1=0是否成立可用t檢驗完成。如果t統計量的絕對值大于臨界值,則相應約束條件不成立,相應解釋變量不能輕易地從模型中剔除掉。否則接受相應約束條件,從模型中剔除相應解釋變量。
對于聯合線性約束條件可用F檢驗完成。假定模型誤差項服從正態分布,共有m個線性約束條件,則所用統計量是 :
在零假設“約束條件真實”條件下,F~F(m,T?k)F \sim F(m, T-k)F~F(m,T?k).
因為兩個模型都是用OLS法估計的,所以可把被解釋變量的總平方和(SST)分解為回歸平方和 (SSR) 與誤差平方和(SSE)兩部分。
對于不加約束的模型有:
SST = SSRu + SSEu .
對于施加約束條件的模型有:
SST = SSRr + SSEr .
如果約束條件成立,那么在施加約束條件下求到的SSEr 不會比不加約束條件的SSEu大很多,用樣本計算的F值不會很大。
若F值小于臨界值,則約束條件是可接受的(真實的)。否則應該拒絕零假設。
注意,F檢驗的零假設是m個約束條件同時為零,備擇假設是m個約束條件不同時為零。所以拒絕零假設并不排除有部分約束條件為零。應利用t檢驗進一步對每一個參數進行顯著性判別。
比如對ADL(1,1)模型,檢驗聯合約束條件α1=β1=0\alpha_1 = \beta_1 = 0α1?=β1?=0,則:
似然比(LR)檢驗
以上介紹的t檢驗和F檢驗只適用于對線性約束條件的檢驗。對于非線性約束條件,α1β0+β1=0\alpha_1 \beta_0 + \beta_1 = 0α1?β0?+β1?=0,則無法用t或F檢驗完成。下面介紹三種常用的檢驗方法,即:
似然比(LR)檢驗;
沃爾德(W)檢驗;
拉格朗日(lagrange)乘數(LM)檢驗。
這三種檢驗所用統計量都是利用極大似然估計法計算的。LR檢驗由內曼—皮爾遜(Neyman-Pearson 1928)提出,只適用于對線性約束的檢驗。W檢驗和LM檢驗既適用于對線性約束條件的檢驗,也適用于對非線性約束條件的檢驗。
LR檢驗的基本思路是如果約束條件成立則相應約束模型與非約束模型的極大似然函數值應該是近似相等的。
下式表示非約束模型的極大似然函數:
其中β^\hat{\beta}β^?和σ^2\hat{\sigma}^2σ^2分別是對β\betaβ(參數集合),σ2\sigma^2σ2的極大似然估計。
下式表示約束模型的極大似然函數:
其中β~\tilde{\beta}β~?和σ~2\tilde{\sigma}^2σ~2分別是對β\betaβ(參數集合),σ2\sigma^2σ2的極大似然估計。
定義似然比(LR)統計量為:
中括號內是兩個似然函數之比(似然比檢驗由此而得名)。在零假設約束條件成立條件下:
其中m表示約束條件個數。用樣本計算LR統計量。判別規則是:
若LR<χα2(m)LR < \chi^2_{\alpha}(m)LR<χα2?(m) , 則接受零假設,約束條件成立。
若LR>χα2(m)LR > \chi^2_{\alpha}(m)LR>χα2?(m) , 則拒絕零假設,約束條件不成立。
ADL(1,1)模型,檢驗聯合約束條件α1=β1=0\alpha_1 = \beta_1 = 0α1?=β1?=0,則:
LR統計量只適用于對線性約束條件的檢驗。對非線性約束條件應該采用如下兩種檢驗方法。
W檢驗
W檢驗的優點是只需估計無約束模型。當約束模型的估計很困難時,此方法尤其適用。W檢驗由沃爾德(Wald 1943)提出,適用于線性與非線性約束條件的檢驗。
W檢驗的原理是測量無約束估計量與約束估計量之間的距離。先舉一個簡單例子。比如對模型:
檢驗線性約束條件β2=β3\beta_2 = \beta_3β2?=β3?是否成立。W檢驗只需對無約束模型進行估計,因為對約束估計量 β~2\tilde{\beta}_2β~?2?和β~3\tilde{\beta}_3β~?3?來說,必然有β~2?β~3=0\tilde{\beta}_2 - \tilde{\beta}_3 = 0β~?2??β~?3?=0。如果約束條件成立,則無約束估計量β^2?β^3\hat{\beta}_2 - \hat{\beta}_3β^?2??β^?3?應該近似為零。如果約束條件不成立,則無約束估計量應該顯著地不為零。關鍵是要找到一個準則,從而判斷什么是顯著地不為零。
其中:
?f(β^)?β^\frac{\partial f(\hat{\beta})}{\partial \hat{\beta}}?β^??f(β^?)?表示用無約束估計量 代替后的偏導數矩陣,其中第i行第j列位置上的元素表示第i個約束條對第 j個無約束估計量的偏導數值. Var(β^)Var(\hat{\beta})Var(β^?)是β^)\hat{\beta})β^?)的估計的方差協方差矩陣.
在約束條件成立條件下:
W統計量的具體表達式為:
在零假設β1β2=β3\beta_1 \beta_2 = \beta_3β1?β2?=β3?成立條件下,W統計量近似服從χ2(1)\chi^2(1)χ2(1)分布.
LM乘數檢驗
與W檢驗不同的是拉格朗日(Lagrange)乘數(LM)檢驗只需估計約束模型。所以當施加約束條件后模型形式變得簡單時,更適用于這種檢驗。LM檢驗是由艾奇遜—西爾維(Aitchison-Silvey 1960)提出的。LM檢驗另一種表達式是由拉奧(Rao 1948)提出的,稱為得分檢驗。
首先給出非約束模型的對數似然函數:
對于非約束極大似然估計量βj^\hat{\beta_j}βj?^?必然有:
假定有兩個約束條件f1(b)=0和f2(b)=0。為求這兩個約束條件下的對數似然函數的極大似然估計量,應按拉格朗日乘數法則建立如下函數:
對于線性回歸模型,通常是通過一個輔助回歸式計算LM統計量的值。LM統計量與輔助回歸式的可決系數R2R^2R2有直接聯系,而輔助回歸式的形式直接與被檢驗的約束條件有關。
LM檢驗的實際步驟如下:
- 例子
下面介紹用LM輔助回歸方法檢驗約束條件β2+β3=1\beta_2 + \beta_3 = 1β2?+β3?=1:
LM檢驗的實際步驟:
- 實例(灣灣制造業生產函數)
(1)用OLS法估計約束模型,計算殘差序列ut^\hat{u_t}ut?^?:
(2)確定LM輔助回歸式的解釋變量。
(3)建立LM輔助回歸式如下:
(4)用OLS法估計上式并計算可決系數R2R^2R2:
(5)用第四步得到的R2R^2R2計算LM統計量的值:
LR, W和LM檢驗
對LR,W和LM檢驗方法的選擇應以做實際計算時的難易程度而定。一般來說W和LM檢驗應優于LR檢驗,因為W和LM檢驗只需要估計一個模型即可,而LR檢驗需估計約束與非約束兩個模型。對W 和LM檢驗方法的選擇應以約束模型與非約束模型哪個更容易估計而定。應該注意,即使三種檢驗方法都可使用,它們的計算結果通常也是不相同的。因為三個統計量只是漸近相同,對于線性回歸模型,在小樣本條件下有如下關系成立。:
LM≤LR≤WLM \le LR \le W LM≤LR≤W
上式說明只有當 LM檢驗的結果為拒絕零假設(約束條件不成立)或者W檢驗的結果為接受零假設(約束條件成立)時,三種檢驗的結論才是一致的。
實際中,三種檢驗方法有可能得出相互不一致的結論。另外只有當用參數的樣本估計值計算的約束條件完全成立時,即把參數估計值代入約束條件能準確成立時,式中的三個統計量才有完全相等的關系。
當對數似然函數中只含有一個參數β\betaβ時,LM, LR 和W三種檢驗的關系可用圖表示:
自相關的LM檢驗
DW統計量只適用于一階自相關檢驗,而對于高階自相關檢驗并不適用。利用LM統計量可建立一個適用性更強的自相關檢驗方法,既可檢驗一階自相關,也可檢驗高階自相關。
考慮兩種誤差過程的模型:
總結
以上是生活随笔為你收集整理的时间序列研(part10)--误差修正模型的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 汇编中的inc和dec
- 下一篇: 时间序列研(part12)--习题