【时间序列分析】16.平稳序列的决定性
文章目錄
- 十六、平穩序列的決定性
- 1.非決定性平穩序列
- 2.平穩序列的長期預測
- 3.決定性平穩序列舉例
- 回顧總結
十六、平穩序列的決定性
1.非決定性平穩序列
上一篇文章中,討論了隨機變量的最佳線性預測,而時間序列是隨機變量構成的序列,我們要考慮的是對時間序列進行預測,而預測用到的歷史信息,就來源于時間序列的歷史觀測。
由于最佳線性預測源自歷史與未來的相關性,所以如果想對時間序列進行預測,未來必須與過去存在一定程度的關聯,否則預測就沒有意義。但是,未來與過去存在的關聯程度可能是不一樣的,看以下幾個例子:
這三個例子代表的過去與未來的關聯程度是各不相同的,對于{Xt}\{X_t\}{Xt?},只要知道Xt?1X_{t-1}Xt?1?的值就可以直接推出XtX_tXt?,也就是說Xt=L(Xt∣Xt?1)X_t=L(X_t|X_{t-1})Xt?=L(Xt?∣Xt?1?),這種情況下不存在預測誤差;對于{Yt}\{Y_t\}{Yt?},不論知道多少歷史信息Yt?1,Yt?2,?Y_{t-1},Y_{t-2},\cdotsYt?1?,Yt?2?,?,對YtY_tYt?的預測都沒有任何幫助,L(Yt∣Yt?1,?)=0L(Y_t|Y_{t-1},\cdots)=0L(Yt?∣Yt?1?,?)=0;而第三種情況稍微復雜一些,任意歷史信息對未來都會造成一定程度的影響(0.5是影響消退因子),但即便知道所有歷史信息,也不可能對未來作出精準預測,因為存在偏差項εt\varepsilon_tεt?。
鑒于這種區別,我們將平穩序列分為兩種,一種是由歷史信息可以對未來作出精準預測的,稱為決定性平穩序列;另一種是由歷史信息不可能完全預測未來的,稱之為非決定性平穩序列。
這種定義未免有點粗糙,以下假設平穩序列是零均值的。我們現在假設我們能夠獲得所有ttt時刻前的歷史信息Xt,Xt?1,?X_t,X_{t-1},\cdotsXt?,Xt?1?,?,記
Xt,m=(Xt,Xt?1,?,Xt?m+1)m,\boldsymbol X_{t,m}=(X_t,X_{t-1},\cdots,X_{t-m+1})_m, Xt,m?=(Xt?,Xt?1?,?,Xt?m+1?)m?,
這樣當m→∞m\to \inftym→∞時就代表所有歷史信息。精準預測意味著預測不存在誤差,也就是方差為0,如果XtX_tXt?是決定性平穩序列,那么就有
lim?m→∞E[Xt+1?L(Xt+1∣Xt,m)]2=0.\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2=0. m→∞lim?E[Xt+1??L(Xt+1?∣Xt,m?)]2=0.
事實上,即使不是決定性平穩序列,這個極限也是存在的,因為隨著mmm的增大,這個均方誤差會回來越小(因為mmm越大蘊含的信息越多,由最佳線性預測的性質可以得到),也就是單調遞減有下界0。正因此,我們將這個極限定義為一步預測的均方誤差,這里的下標就是預測步數:
σ12=lim?m→∞E[Xt+1?L(Xt+1∣Xt,m)]2.\sigma^2_1=\lim_{m\to \infty}{\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2. σ12?=m→∞lim?E[Xt+1??L(Xt+1?∣Xt,m?)]2.
一步預測的均方誤差:定義
σ1,m2=E[Xt+1?L(Xt+1∣Xt,m)]2,\sigma_{1,m}^2={\rm E}[X_{t+1}-L(X_{t+1}|\boldsymbol X_{t,m})]^2, σ1,m2?=E[Xt+1??L(Xt+1?∣Xt,m?)]2,
這表示用mmm個歷史信息對下一個時間點進行預測的均方誤差。定義
σ12=lim?m→∞σ1,m2,\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}, σ12?=m→∞lim?σ1,m2?,
這表示用全部歷史信息對下一個時間點進行預測的均方誤差,即一步預測的均方誤差。
平穩序列的決定性:
這就是決定性平穩序列的嚴格定義。注意到以上的符號表示σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12?,σ1,m2?都不含ttt,盡管在定義時使用了ttt,這也說明σ12,σ1,m2\sigma_1^2,\sigma_{1,m}^2σ12?,σ1,m2?的取值是與ttt無關的,這一點源自序列的平穩性。
2.平穩序列的長期預測
剛才我們定義了一步預測的均方誤差σ12\sigma_1^2σ12?,現在轉向kkk步預測,也就是L(Xt+k∣Xt,m)L(X_{t+k}|\boldsymbol X_{t,m})L(Xt+k?∣Xt,m?),相應地也可以定義kkk步預測的均方誤差σk2\sigma_k^2σk2?。
kkk步預測的均方誤差:定義
σk2=lim?m→∞E[Xt+k?L(Xt+k∣Xt,m)]\sigma_k^2=\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})] σk2?=m→∞lim?E[Xt+k??L(Xt+k?∣Xt,m?)]
為kkk步預測的均方誤差。
這樣,可以構建一個新序列{σ12,σ12,?,σk2,?}\{\sigma_1^2,\sigma_1^2,\cdots,\sigma_k^2,\cdots\}{σ12?,σ12?,?,σk2?,?},可以驗證σk2\sigma_k^2σk2?是關于kkk單調不減少的。直觀上想象,隨著預測距離的增大,我們能對遙遠未來的把控就越小,所以預測的誤差肯定會越來越大,實際上也有
σk2=lim?m→∞E[Xt+k?L(Xt+k∣Xt,?,Xt?m)]2=lim?m→∞E[Xt+k?1?L(Xt+k?1∣Xt?1,?,Xt?1?m)]2≥lim?m→∞E[Xt+k?1?L(Xt+k?1∣Xt,?,Xt?1?m)]2=σk?12.\begin{aligned} \sigma_k^2=&\lim_{m\to \infty}{\rm E}[X_{t+k}-L(X_{t+k}|X_t,\cdots,X_{t-m})]^2 \\ =&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t-1},\cdots,X_{t-1-m})]^2 \\ \ge&\lim_{m\to \infty}{\rm E}[X_{t+k-1}-L(X_{t+k-1}|X_{t},\cdots,X_{t-1-m})]^2\\ =&\sigma_{k-1}^2. \end{aligned} σk2?==≥=?m→∞lim?E[Xt+k??L(Xt+k?∣Xt?,?,Xt?m?)]2m→∞lim?E[Xt+k?1??L(Xt+k?1?∣Xt?1?,?,Xt?1?m?)]2m→∞lim?E[Xt+k?1??L(Xt+k?1?∣Xt?,?,Xt?1?m?)]2σk?12?.?
但是σk2\sigma_k^2σk2?也不可能無限增大,因為σk,m2=E[Xt+k?L(Xt+k∣Xt,m)]2≤EXt+k2=γ0\sigma_{k,m}^2={\rm E}[X_{t+k}-L(X_{t+k}|\boldsymbol X_{t,m})]^2\le {\rm E}X_{t+k}^2=\gamma_0σk,m2?=E[Xt+k??L(Xt+k?∣Xt,m?)]2≤EXt+k2?=γ0?,因此{σk2}\{\sigma_k^2\}{σk2?}單調不減有上界,故極限存在,且極限的上界為γ0\gamma_0γ0?。
當然,k→∞k\to \inftyk→∞時如果σk2=γ0\sigma_k^2=\gamma_0σk2?=γ0?,這個預測跟不存在也沒有區別了,所以定義純非決定性平穩序列。
純非決定性平穩序列:如果對于平穩序列,有
lim?k→∞σk2=γ0,\lim_{k\to\infty}\sigma_k^2=\gamma_0, k→∞lim?σk2?=γ0?,
就稱{Xt}\{X_t\}{Xt?}是純非決定性的。
剛才我們推知,如果σk2→γ0\sigma_k^2\to \gamma_0σk2?→γ0?,這個預測與不存在無異,其實也可以證明:
lim?k→∞lim?m→∞E[L(Xt+k∣Xt,Xt?1,?,Xt?m)]2=0,\lim_{k\to \infty}\lim_{m\to \infty}{\rm E}[L(X_{t+k}|X_t,X_{t-1},\cdots,X_{t-m})]^2=0, k→∞lim?m→∞lim?E[L(Xt+k?∣Xt?,Xt?1?,?,Xt?m?)]2=0,
也就是L(Xt+k∣Xt,?,Xt?m)L(X_{t+k}|X_t,\cdots,X_{t-m})L(Xt+k?∣Xt?,?,Xt?m?)隨著kkk的增大均方收斂到0,這說明對于非決定性平穩序列,無法做長期預測。
3.決定性平穩序列舉例
最簡單的決定性平穩序列,是{Xt}:Xt=ξ\{X_t\}:X_t=\xi{Xt?}:Xt?=ξ,這樣,從變量的一個觀測值就可以得到全部時間序列。這里,{Xt}\{X_t\}{Xt?}的二階協方差矩陣為
Γ2=[σ2σ2σ2σ2],∣Γ2∣=0.\Gamma_2=\begin{bmatrix} \sigma^2 & \sigma^2 \\ \sigma^2 & \sigma^2 \end{bmatrix},|\Gamma_2|=0. Γ2?=[σ2σ2?σ2σ2?],∣Γ2?∣=0.
也就是說,{Xt}\{X_t\}{Xt?}的二階協方差矩陣不滿秩,正因此,只需要一個歷史信息就可以對未來作出精準預測。能否對這個結論進行推廣呢?事實上,如果平穩序列{Xt}\{X_{t}\}{Xt?}的n+1n+1n+1階自協方差矩陣退化,那么這個平穩序列一定是決定性的,且可以由其前nnn個歷史信息完全預測。
這是因為,n+1n+1n+1階自協方差矩陣退化,意味著X1,?,Xn+1X_1,\cdots,X_{n+1}X1?,?,Xn+1?必定線性相關;如果再加上Γn\Gamma_nΓn?滿秩的條件,就一定有Xn+1X_{n+1}Xn+1?可以被X1,?,XnX_1,\cdots,X_nX1?,?,Xn?線性表示,這樣就有
L(Xn+1∣X1,?,Xn)=Xn+1,E[Xn+1?L(Xn+1∣X1,?,Xn)]2=0.L(X_{n+1}|X_1,\cdots,X_{n})=X_{n+1},\\ {\rm E}[X_{n+1}-L(X_{n+1}|X_1,\cdots,X_n)]^2=0. L(Xn+1?∣X1?,?,Xn?)=Xn+1?,E[Xn+1??L(Xn+1?∣X1?,?,Xn?)]2=0.
由此推出離散譜序列也是決定性平穩序列。設E(ξj)=E(ηk)=0,E(ξjηk)=0{\rm E}(\xi_j)={\rm E}(\eta_k)=0,{\rm E}(\xi_j\eta_k)=0E(ξj?)=E(ηk?)=0,E(ξj?ηk?)=0,且E(ξj2)=E(ηk2)=σj2{\rm E}(\xi_j^2)={\rm E}(\eta_k^2)=\sigma^2_jE(ξj2?)=E(ηk2?)=σj2?,對每一個確定的jjj定義簡單譜序列
Zj(t)=ξjcos?(tλj)+ηjsin?(tλj),t∈Z.Z_j(t)=\xi_j\cos (t\lambda_j)+\eta_j\sin(t\lambda_j),\quad t\in\Z. Zj?(t)=ξj?cos(tλj?)+ηj?sin(tλj?),t∈Z.
顯然Zj(t)Z_j(t)Zj?(t)的每一次實現是一個周期函數,其周期T=2π/λjT=2\pi/\lambda_jT=2π/λj?和振幅可以由歷史信息決定,實際上它的3階自協方差矩陣退化,所以Zj(t)Z_j(t)Zj?(t)是決定性的。定義離散譜序列
Zt=∑j=1pZj(t),t∈N+,Z_t=\sum_{j=1}^pZ_j(t),\quad t\in\N^+, Zt?=j=1∑p?Zj?(t),t∈N+,
這時ZtZ_tZt?的自協方差矩陣也是2p+12p+12p+1階內退化的(所以是決定性的),用到如下引理:
(1)簡單離散譜序列:設E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0∈(0,π]{\rm E}(\xi)={\rm E}(\eta)={\rm E}(\xi\eta)=0,{\rm E}(\xi^2)={\rm E}(\eta^2)=\sigma^2,\lambda_0\in(0,\pi]E(ξ)=E(η)=E(ξη)=0,E(ξ2)=E(η2)=σ2,λ0?∈(0,π],{Zt}\{Z_t\}{Zt?}的定義為
Zt=ξcos?(tλ0)+ηsin?(tλ0),t∈N,Z_t=\xi\cos(t\lambda_0)+\eta\sin(t\lambda_0),\quad t\in\N, Zt?=ξcos(tλ0?)+ηsin(tλ0?),t∈N,
定義A=ξ2+η2,cos?θ=ξ/A,sin?θ=η/AA=\sqrt{\xi^2+\eta^2},\cos\theta=\xi/A,\sin\theta=\eta/AA=ξ2+η2?,cosθ=ξ/A,sinθ=η/A,則
Zt=Acos?(tλ0?θ),t∈N+.Z_t=A\cos(t\lambda_0-\theta),\quad t\in\N^+. Zt?=Acos(tλ0??θ),t∈N+.
這樣EZt=0{\rm E}Z_t=0EZt?=0,γk=σ2cos?(kλ0)\gamma_k=\sigma^2\cos (k\lambda_0)γk?=σ2cos(kλ0?),故ZtZ_tZt?是一個平穩序列,稱為調和平穩序列。并且,這個平穩序列的譜函數是階梯函數,稱之為離散譜序列。
(2)多個頻率成分的離散譜序列:設ξj,ηk(j,k=1,2,?,p)\xi_j,\eta_k(j,k=1,2,\cdots,p)ξj?,ηk?(j,k=1,2,?,p)兩兩正交,滿足上面的條件,對于正整數ppp和λj∈(0,π]\lambda_j\in(0,\pi]λj?∈(0,π],定義時間序列
Zt=∑i=1p[ξjcos?(tλj)+ηjsin?(tλj)]=∑j=1pAjcos?(tλj?θj),t∈N+,Z_t=\sum_{i=1}^p[\xi_j\cos(t\lambda_j)+\eta_j\sin(t\lambda_j)]=\sum_{j=1}^pA_j\cos(t\lambda_j-\theta_j),\quad t\in\N^+, Zt?=i=1∑p?[ξj?cos(tλj?)+ηj?sin(tλj?)]=j=1∑p?Aj?cos(tλj??θj?),t∈N+,
這里Aj=ξj2+ηj2,cos?(θj)=ξj/Aj,sin?(θj)=ηj/AjA_j=\sqrt{\xi_j^2+\eta_j^2},\cos(\theta_j)=\xi_j/A_j,\sin(\theta_j)=\eta_j/A_jAj?=ξj2?+ηj2??,cos(θj?)=ξj?/Aj?,sin(θj?)=ηj?/Aj?,它的譜函數也是階梯函數。
(3)Γn\Gamma_nΓn?退化定理:設離散譜序列{Xt}\{X_t\}{Xt?}如(2)中定義,如果它的譜函數F(λ)F(\lambda)F(λ)恰有nnn個跳躍點,則Γn\Gamma_nΓn?正定,Γn+1\Gamma_{n+1}Γn+1?退化;如果F(λ)F(\lambda)F(λ)有無窮多個跳躍點,則?n≥1\forall n\ge 1?n≥1,Γn\Gamma_nΓn?正定。
由此,如果Γn\Gamma_nΓn?退化,就認為{Xn}\{X_n\}{Xn?}是離散譜序列,具有周期性。
回顧總結
非決定性平穩序列指的是將來信息不能由全部歷史信息所確定的平穩序列,更具體的定義是
σ12=lim?m→∞σ1,m2=lim?m→∞E[Xn+1?L(Xn+1∣Xn,m)]2≠0.\sigma_1^2=\lim_{m\to \infty}\sigma^2_{1,m}=\lim_{m\to \infty}{\rm E}[X_{n+1}-L(X_{n+1}|\boldsymbol X_{n,m})]^2\ne 0. σ12?=m→∞lim?σ1,m2?=m→∞lim?E[Xn+1??L(Xn+1?∣Xn,m?)]2?=0.
否則,稱為決定性平穩序列。
{σk2}\{\sigma_k^2\}{σk2?}是單調不減有上界的數列,其上界是γ0\gamma_0γ0?,如果σk2→γ0(k→∞)\sigma_k^2\to \gamma_0(k\to \infty)σk2?→γ0?(k→∞),則稱平穩序列是純非決定性平穩序列。對于這種平穩序列,進行長期預測是不合適的。
如果平穩序列的n+1n+1n+1階自協方差矩陣Γn+1\Gamma_{n+1}Γn+1?退化,則矩陣必是nnn步決定的。
總結
以上是生活随笔為你收集整理的【时间序列分析】16.平稳序列的决定性的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 数字电路设计之数字电路工程师面试集锦
- 下一篇: IMDB电影数据分析实践