文章目錄

• 前言
• 一、預測區間的評價指標
• • 1.PICP(PI coverage probability)
  • 2.PINAW(PI normalized averaged width)
  • 3.CWC(coverage width-based criterion)
  • 4.ACE(average coverage error)
  • 5.AIS(average interval score)
  • 6.MPICD(mean PI centre deviation)
• 二、區間預測方法綜述
• • 1.Mean Variance Estimation(MVE)
  • 2.Delta Method
  • 3.Bayesian Method
  • 4.Bootstrap Method
  • 5.LUBE method
• 總結
• 參考文獻

---

博主最近在入門時間序列預測的區間預測方法，網上關于區間預測方法的總結博客甚少，因此在閱讀了一些論文之后，博主簡單的對區間預測方法進行了總結，為的是給大家的入門提供一個參考。

所有內容的是從我自己的總結文檔中截取的
不足之處，歡迎指正。

前言

傳統的點預測，不能很好的處理系統運行中的不確定性，為了獲得數值估計及其可靠性，實際應用對預測區間（PIs）的構造提出了很高的要求。區間預測方法的好壞要考察以下幾個點：1）實施的難度；2）是否有關于數據分布的前提假設；3）計算量的大小（計算負擔太大的方法無法滿足實時性的要求）。本文的目的是提供一個宏觀的入門參考指南，給小白的入門提供參考，如果讀者是為了深入的進行預測區間的研究，在本文閱讀的基礎上還要進行大量的文獻閱讀。為了方便讀者深入研究，博主在博客末尾簡單的列寫了一些參考文獻。在方法的綜述之前，我們寫介紹一些預測區間的評價指標，為后面的方法綜述提供基礎。

一、預測區間的評價指標

1.PICP(PI coverage probability)

真實值落在預測區間上下界的比率

2.PINAW(PI normalized averaged width)

3.CWC(coverage width-based criterion)

CWC有時候也稱為CLC(coverage-length-based criterion)

4.ACE(average coverage error)

5.AIS(average interval score)

6.MPICD(mean PI centre deviation)

兩個不同的PI如果都覆蓋了一個點，那么這個點越接近PI的中線則說明PI的質量越好。如下圖所示：

二、區間預測方法綜述

1.Mean Variance Estimation(MVE)

前提假設：誤差的分布是具有非常數方差的加性高斯分布
缺點：準確度很大程度受到與其相關的數值預測的效果影響，計算負擔相對小但是對于數據方差的低估會導致預測區間對真實數據的覆蓋率低。
該方法考慮用一個NN來估計目標值的方差，然后用兩個NN模型來構造預測區間。下面是MVE方法的原理圖：

2.Delta Method

前提假設：對于每一個采樣點，噪聲的方差是恒定的，明顯與實際是不符的。它還假設了多層前饋NNs是非線性回歸模型，且能夠用泰勒級數展開來線性化。
缺點：準確度很大程度受到與其相關的數值預測的效果影響
該方法基于NNs作為非線性模型的表示和解釋，這將允許標準漸進理論應用于PI的構建。考慮如下回歸式子：

3.Bayesian Method

前提假設：NN的每個參數都是一個分布，因此該網絡的輸出可以被看成觀察訓練數據的某種條件分布。
缺點：計算負擔大，需要進行Hessian矩陣的計算，當數據規模不夠大的時候，準確度很大程度依賴于先驗知識。

4.Bootstrap Method

前提假設：假設噪聲遵循零均值的正態分布
缺點：作為一種重采樣方法，要訓練很多不同的NN，對大數據集來說需要很大的計算成本。集成的性能很大程度取決于單獨的網絡，也就是說如果一個單獨的網絡偏差比較大，那么整個模型的性能就會惡化。

5.LUBE method

LUBE方法時為了克服上述四個方法的缺點而提出的，它沒有對于數據分布的假設，也避免了Jacobian矩陣和Hessian矩陣數值計算的問題。
缺點：由于無法構建監督學習問題，LUBE方法中NNs的參數必須配合啟發式的參數搜索方法來進行整定（包括NN的結構和參數），由于參數初始化沒有一個特別好的方法，這大大增加了計算負擔。
LUBE的方法是用NN分別輸出PI的上界和下界（注意這里是用一個NN來預測兩個輸出），這種方法來獲得預測區間是直接的。下面是LUBE方法的原理示意圖：

總結

本文對五種區間預測的基本方法進行了總結，并且分析其假設和優缺點，包括：MVE方法、Delta方法、Bayesian方法、Bootstrap方法和LUBE方法。并且列總結了評價預測區間好壞的幾種指標。本文可以作為了解區間預測基本方法的一種入門參考指南，如果要進行深入研究，還是要閱讀相關的論文。

參考文獻

[1] J. G. Hwang & A. A. Ding. Prediction intervals for artificial neural networks. Journal of the American Statistical Association. 1997, 92(438), 748-757.
[2] T. Heskes. Practical confidence and prediction intervals. In Advances in neural information processing systems. 1997, 176-182.
[3] G. Tang, Y. Wu, C. Li, P. K. Wong, Z. Xiao & X. An. A Novel Wind Speed Interval Prediction based on Error Prediction Method. IEEE Transactions on Industrial Informatics. 2020, 16(11), 6806-6915.
[4]A. Khosravi & S. Nahavandi. An optimized mean variance estimation method for uncertainty quantification of wind power forecasts. International Journal of Electrical Power & Energy Systems. 2014, 61, 446-454.
[5] C. Lian, L. Zhu, Z. Zeng, Y. Su, W. Yao & H. Tang. Constructing prediction intervals for landslide displacement using bootstrapping random vector functional link networks selective ensemble with neural networks switched. Neurocomputing. 2018, 291, 1-10.
[6] A. Khosravi, S. Nahavandi & D. Creighton. Construction of optimal prediction intervals for load forecasting problems. IEEE Transactions on Power Systems. 2010, 25(3), 1496-1503.
[7] Z. Han, W. Pedrycz, J. Zhao & W. Wang. Hierarchical Granular Computing-Based Model and Its Reinforcement Structural Learning for Construction of Long-Term Prediction Intervals. IEEE Transactions on Cybernetics. 2020
[8] C. Guan, P. B. Luh, L. D. Michel & Z. Chi. Hybrid Kalman filters for very short-term load forecasting and prediction interval estimation. IEEE Transactions on Power Systems. 2013, 28(4), 3806-3817.
[9] C. Lian, Z. Zeng, X. Wang, W. Yao, Y. Su & H. Tang. Landslide displacement interval prediction using lower upper bound estimation method with pre-trained random vector functional link network initialization. Neural Networks. 2020, 130, 286-296.
[10] A. Khosravi, S. Nahavandi, D. Creighton & A. F. Atiya. Lower upper bound estimation method for construction of neural network-based prediction intervals. IEEE transactions on neural networks. 2010, 22(3), 337-346.
[11] N. A. Shrivastava, A. Khosravi & B. K. Panigrahi. Prediction interval estimation of electricity prices using PSO-tuned support vector machines. IEEE Transactions on Industrial Informatics. 2015, 11(2), 322-331.
[12] C. Sheng, J. Zhao, W. Wang & H. Leung. Prediction intervals for a noisy nonlinear time series based on a bootstrapping reservoir computing network ensemble. IEEE Transactions on neural networks and learning systems. 2013, 24(7), 1036-1048.
[13] C. Lian, C. P. Chen, Z. Zeng, W. Yao & H. Tang. Prediction intervals for landslide displacement based on switched neural networks. IEEE Transactions on Reliability. 2016, 65(3), 1483-1495.
[14] H. Quan, D. Srinivasan & A. Khosravi. Short-term load and wind power forecasting using neural network-based prediction intervals. IEEE transactions on neural networks and learning systems. 2013, 25(2), 303-315.
[15] A. Khosravi, E. Mazloumi, S. Nahavandi, D. Creighton & J. W. C. Van Lint. Prediction intervals to account for uncertainties in travel time prediction. IEEE Transactions on Intelligent Transportation Systems. 2011, 12(2), 537-547.

總結

以上是生活随笔為你收集整理的时间序列预测之区间预测方法（PIs:MVEDeltaBayesianBootstrapLUBE）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。