3.3 廣義 ARMA 模型和 ARIMA 模型介紹

一、廣義 ARMA 模型

（1）定義

我們把 ARMA 模型中關(guān)于多項(xiàng)式 A(z),B(z) 的最小相位條件去掉（即允許有單位圓內(nèi)的根），其余定義相同，得到的就是廣義 ARMA 模型。

（2）平穩(wěn)解情況

如果 A(z) 在單位圓上有根，那么廣義 ARMA 模型沒(méi)有平穩(wěn)解。

如果 A(z) 在單位圓上沒(méi)有根，則有

，使得 在圓環(huán)

內(nèi)解析，可以進(jìn)行 Laurent 級(jí)數(shù)展開（在單位圓內(nèi)按正常展開，單位圓外則用倒數(shù)來(lái)替代）得到

其中兩頭系數(shù)通項(xiàng)都負(fù)指數(shù)趨于 0，所以整體系數(shù)也負(fù)指數(shù)趨于 0，進(jìn)而由唯一平穩(wěn)解

但這個(gè)平穩(wěn)解中，現(xiàn)在的觀察值會(huì)與將來(lái)的白噪聲有關(guān)，并沒(méi)有實(shí)際意義。此外，根據(jù)齊次差分方程理論，對(duì)于

其特征多項(xiàng)式有單位圓內(nèi)的根，因此通解是趨于無(wú)窮的，所以這時(shí)廣義 ARMA 的其他解（通解）會(huì)趨于無(wú)窮，稱為爆炸模型。

二、求和 ARIMA(p,d,q) 模型

（1）定義

設(shè) d 是一個(gè)正整數(shù)，如果

的 d 階差分

是一個(gè) ARMA(p,q) 序列（最后一個(gè)等號(hào)利用二項(xiàng)式定理展開），則稱

是一個(gè)求和 ARIMA(p,d,q) 序列。它滿足如下差分方程

其中 A(z),B(z) 都按照 ARMA 模型的定義。

注：通常取 d=1,2，且該模型不存在平穩(wěn)解

（2）非平穩(wěn)解的討論

情形 d=1：即 ARIMA(p,1,q) 模型，這時(shí)

是 ARMA(p,q) 序列，給定初值可以得到

可以通過(guò)產(chǎn)生 ARMA(p,q) ，進(jìn)而利用該遞推式來(lái)得到 ARIMA(p,1,q) 序列。該模型也稱為單位根模型，當(dāng)樣本數(shù)據(jù)不太大時(shí)，與平穩(wěn)序列差異不大，不容易區(qū)分。

將單位根模型與如下趨勢(shì)模型進(jìn)行對(duì)比：

其中 Y 是 ARMA(p,q) 序列。

單位根模型與趨勢(shì)模型得到的都是非平穩(wěn)序列，單位根模型通過(guò)一次差分后，序列變?yōu)槠椒€(wěn)；趨勢(shì)模型通過(guò)減去趨勢(shì)項(xiàng)，序列也變?yōu)槠椒€(wěn)。但單位根模型減去趨勢(shì)項(xiàng)，仍非平穩(wěn)。

情形 d=2：即 ARIMA(p,2,q) 模型，這時(shí)

是一個(gè) ARMA(p,q) 序列。由此可以得到遞推關(guān)系如下

兩邊對(duì) t 求和（從 1 到 n1）得到

到這里就得到了類似 ARIMA(p,1,q) 模型，移項(xiàng)得到

再對(duì) n1 求和（從 1 到 t ）得到

從這可以看出有一部分線性趨勢(shì)，但如果減掉，剩下的還是一個(gè)類似 ARIMA(p,1,q) 序列，仍然是非平穩(wěn)的。其通解可以寫為如下形式

類似地可以推廣到 ARIMA(p,d,q) 情形，其通解為

形式上看，它的通解為 ARMA 序列的 d 重求和，加上一個(gè)多項(xiàng)式的趨勢(shì)。

（3）幾種特殊情形

a. ARI(1,1) 模型（即 ARIMA(1,1,0)），差分后得到 AR(1) 序列

或

其中 a 的模小于 1，看上去是 AR(2) 但并不是，因?yàn)楦趩挝粓A內(nèi)了！

將其非平穩(wěn)解表示成 wold 系數(shù)的形式

將 wold 系數(shù)形式代回原模型，可以得到 wold 系數(shù)的遞推關(guān)系（此處不要求，步驟略寫，但思想需要掌握）

結(jié)合初值得到

可以看出 wold 系數(shù)并不收斂于 0，所以 X_t 是非平穩(wěn)的。

b. IMA(1,1) 模型（即 ARIMA(0,1,1)）--商業(yè)和經(jīng)濟(jì)中常用

模型為

設(shè)序列首次觀測(cè)的時(shí)間為 -m ，則在此之前（ t<-m ）沒(méi)有觀測(cè)值，都記為 0.

那么由模型不斷遞推得到

這時(shí)一個(gè) MA(t+m+1) 模型。

其方差為系數(shù)的平方和

對(duì)于較大的 m 和中等大小的 k，相關(guān)系數(shù)近似為

其中協(xié)方差與 X_t 的方差只在 ε_(tái)t 的系數(shù)部分有差別。

可見(jiàn)，當(dāng) t 增大時(shí)，方差會(huì)無(wú)限增大。并且對(duì)于多個(gè)滯后期數(shù) k，

和 高度正相關(guān)。這種周期性符合現(xiàn)實(shí)經(jīng)濟(jì)和商業(yè)的特性。

三、季節(jié) ARMA 模型

（1）季節(jié) MA 模型

例如我們拿到了 2000-2020 年每個(gè)月份的數(shù)據(jù)，那么我們將數(shù)據(jù)按月份分為 12 組，對(duì)每組的數(shù)據(jù)用 MA 模型來(lái)建模，就得到季節(jié) MA 模型。如果數(shù)據(jù)是按季度分的，也是同理。

此時(shí)模型為

計(jì)算自協(xié)方差函數(shù)如下

序列是平穩(wěn)的，并且僅在滯后 12 處才有非零的自相關(guān)性。這樣得到的每一個(gè)月份都是同一個(gè) MA 模型。

現(xiàn)在我們考察周期為 s 的 MA(Q) 模型：

從形式上看，季節(jié) MA(Q) 模型也就是 MA(Qs) ，只不過(guò)其中很多系數(shù)都是 0。

同樣地，它也是平穩(wěn)序列，并且自相關(guān)系數(shù)只在 s, 2s, 3s, ... , Qs 處非零，具體表達(dá)式如下

分母是系數(shù)的平方和，分子是系數(shù)錯(cuò)一位的乘積和。

（2）季節(jié) AR 模型

類似地，季節(jié) AR(1) 模型為

因?yàn)楦趩挝粓A外，所以將來(lái)的白噪聲和過(guò)去的觀察值是不相關(guān)的。兩邊同乘

，然后取數(shù)學(xué)期望得到

遞推可得

其中第二行利用

利用 AR 模型的方法可以得到季節(jié) AR(1) 模型的平穩(wěn)解為

同樣可以推廣到季節(jié) AR(p) 模型

特征多項(xiàng)式滿足

（3）季節(jié) ARMA 模型

定義周期為 s 的季節(jié)

模型為

這里的 p,q 為

的階數(shù)，P,Q 為 的階數(shù)。一般 p,q 不超過(guò) 3。

問(wèn)：這里為什么要多出

呢？

答：如果沒(méi)有

，那么某一季節(jié)的數(shù)據(jù)只與該季節(jié)中不同年份的數(shù)據(jù)有關(guān)，而與其它季節(jié)的數(shù)據(jù)無(wú)關(guān)，與實(shí)際不符。

如果按之前（1）（2）來(lái)建立模型

這時(shí)白噪聲不應(yīng)該是白噪聲，而應(yīng)該是一個(gè) ARMA(p,q) 序列，這就得到了上面的定義。

例：考慮季節(jié) ARMA 模型

將后移算子展開得到

計(jì)算自協(xié)方差和自相關(guān)系數(shù)如下

一個(gè)小發(fā)現(xiàn)：

的形式與模型很像，把所有的 B 換成平方，減號(hào)換加號(hào)。雖然我沒(méi)有證明，但直覺(jué)上這是成立的，或者二者之間至少有某種關(guān)系。先挖個(gè)坑，之后填 。

其自協(xié)方差函數(shù)不會(huì)很快趨于0，而是具有一定的周期性。

例：考察模型

兩邊同乘

并取數(shù)學(xué)期望得到

經(jīng)常用到：將來(lái)的白噪聲和現(xiàn)在的觀測(cè)值不相關(guān)。

由第二行同除

可得

由第二行取 k = 11，并結(jié)合第一行可以解得

，然后再利用第二行得到

對(duì)于其余的 k（例如 2），第二行分別用 2 和 10 來(lái)代，解得兩個(gè)自協(xié)方差函數(shù)都是 0，進(jìn)而自相關(guān)函數(shù)都是 0.

（4）非平穩(wěn)季節(jié) ARIMA 模型

如果

是周期為 s 的季節(jié) 模型，那么稱 Xt 為季節(jié)周期 s，非季節(jié)階數(shù)為 p,d,q ，季節(jié)階數(shù)為 P,D,Q 的季節(jié) ARIMA 模型，或稱周期為 s的 模型。

說(shuō)明：

為某個(gè) d 階多項(xiàng)式作用后移算子，表示橫向趨勢(shì)（即不同季節(jié)之間）， 為某個(gè) D 階多項(xiàng)式作用后移算子的 s 次方，表示縱向趨勢(shì)（同一季節(jié)不同年份之間）。

實(shí)際問(wèn)題中 d 和 D 都很小，一般 D=0 或 1，如果取更大，那么上升速度就過(guò)快了，不是爆發(fā)的階段一般不這么取。

回顧建模步驟：

考察如下的周期 12 ， N 年的數(shù)據(jù)

對(duì)第 j 列數(shù)據(jù)，將其中心化（減去均值，記為 Z ）后，可以擬合一個(gè) ARMA(p,q) 序列。

之前提到，如果這里的白噪聲真的就是白噪聲，那么不同季節(jié)之間不相關(guān)，顯然不合理。

所以假設(shè)這時(shí)的

也是一個(gè) ARMA 序列，建立一個(gè)較低階的 ARMA(p0,q0) 模型。

進(jìn)而得到季節(jié) ARMA 模型

但這樣的模型沒(méi)有考慮隨年份，隨季節(jié)的遞增趨勢(shì)，所以上面的 Z 實(shí)際上應(yīng)該要經(jīng)過(guò)差分才能得到，而不僅僅是中心化。

由差分后得到的 Z 結(jié)合之前的季節(jié) ARMA 模型，可以得到關(guān)于 Y 的季節(jié) ARIMA 模型

第四章 均值和自協(xié)方差函數(shù)的估計(jì)

4.1 均值的估計(jì)

通過(guò)之前對(duì)不同模型的介紹，我們了解到 AR,MA,ARMA 模型的參數(shù)都可以由其自協(xié)方差函數(shù)唯一確定。因此如何由樣本來(lái)估計(jì)自協(xié)方差函數(shù)是關(guān)鍵的。

估計(jì)量是自然的：用樣本均值估計(jì)總體均值，樣本自協(xié)方差函數(shù)估計(jì)總體自協(xié)方差函數(shù)。

但這里需要考慮幾個(gè)問(wèn)題：相合性、漸近分布、收斂速度。

（一）相合性

定理：平穩(wěn)序列的自協(xié)方差函數(shù)收斂到0，那么樣本均值是總體均值的相合估計(jì)。

根據(jù)定義，求樣本均值與總體均值的均方誤差

第二個(gè)等號(hào)把求和平方寫成雙重求和，然后得到自協(xié)方差函數(shù)（第三個(gè)等號(hào)），再做求和指標(biāo)的變換。第四個(gè)等號(hào)：類似二重積分的交換次序，先考慮 m 的范圍，容易得到 1-N 到 N-1 。然后利用 m 原本的范圍 1-j 到 N-j 可以得到 j 的范圍是 1-m 到 N-m ，但 j 一開始已經(jīng)固定在 1 到 N 中，取交集就得到這個(gè)結(jié)果。第五個(gè)等號(hào)通過(guò)對(duì) m 的正負(fù)討論來(lái)計(jì)數(shù)。最后一步，利用數(shù)學(xué)分析中“數(shù)列平均的極限等于通項(xiàng)的極限”的結(jié)論。

進(jìn)而利用切比雪夫不等式

得到樣本均值的相合性。

此外，如果平穩(wěn)序列是嚴(yán)平穩(wěn)且遍歷的，那么樣本均值是強(qiáng)相合的。

回顧一下，嚴(yán)平穩(wěn)遍歷序列有強(qiáng)大數(shù)律：

（二）中心極限定理

我們知道如果時(shí)間序列數(shù)據(jù)中每個(gè)樣本點(diǎn)是獨(dú)立同分布的，那么

有了漸近分布，計(jì)算參數(shù)的置信區(qū)間就容易了。下面討論一般的平穩(wěn)列的中心極限定理。

定理 對(duì)于線性平穩(wěn)列，如果白噪聲時(shí)同分布的

其中白噪聲的系數(shù)平方可和（絕對(duì)可和當(dāng)然更加成立），則只要平穩(wěn)列的譜密度

在 0 處連續(xù)并且

，那么有如下漸近分布：

其中漸近方差的計(jì)算如下（與之前相合性證明的過(guò)程一樣）:

然后利用自協(xié)方差函數(shù)與譜密度的關(guān)系，可以得到定理中的

，此外也可以用平穩(wěn)序列的自協(xié)方差函數(shù)公式來(lái)得到，具體步驟如下

注意：如果考試讓證明某個(gè)平穩(wěn)列的中心極限定理，不能直接用這個(gè)定理來(lái)得到。過(guò)程應(yīng)該是：把 X1+X2+...+Xt 用白噪聲來(lái)表示，利用白噪聲的獨(dú)立性，由不同分布的中心極限定理來(lái)得到漸近正態(tài)性。

總結(jié)

以上是生活随笔為你收集整理的arima模型 p q d 确定_时间序列分析第07讲（ARIMA模型，季节时间序列模型，均值的估计）...的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。