1.文章信息

《DIFFUSION CONVOLUTIONAL RECURRENT NEURAL NETWORK: DATA-DRIVEN TRAFFIC FORECASTING》，作為2018年ICLR會議論文發表。

2.摘要

時空預測在神經科學、氣候和交通領域有著廣泛的應用。交通預測就是時空預測的一個典型例子。由于(1)對道路網絡的復雜空間依賴性，(2)路況變化與非線性的時間動態性，以及(3)長期預測的固有困難，該任務具有挑戰性。為了應對這些挑戰，該文章提出將交通流建模為有向圖上的擴散過程，并介紹了擴散卷積遞歸神經網絡(DCRNN)，這是一種用于交通預測的深度學習框架，在交通流中結合了空間和時間依賴性。具體來說，DCRNN使用圖上的雙向隨機游走來捕獲空間相關性，并使用具有預定采樣的編碼器-解碼器架構來捕獲時間相關性。最后在兩個真實世界的大規模道路網絡交通數據集上評估了該框架，比先進的基線模型效果更好。

3.介紹

（1）?本文研究交通預測問題，并將交通的空間相關性建模為有向圖上的擴散過程。文中提出了擴散卷積，它具有直觀的解釋，可以有效地計算。

（2）?本文提出了擴散卷積遞歸神經網絡(DCRNN)，這是一種利用擴散卷積和序列到序列學習框架以及預定采樣來捕捉空間和時間依賴性的整體方法。DCRNN并不局限于交通運輸，它可以很容易地應用于其他時空預測任務。

（3）?本文在兩個大規模真實數據集上進行了廣泛的實驗，所提出的方法比最先進的基線方法獲得了顯著的改進。

4.方法

交通預測問題

交通預測的目標是預測未來的交通速度，給定先前從道路網絡上的N個相關傳感器觀察到的交通流量。本文將傳感器網絡表示為一個加權有向圖G = (V，E，W)，其中V是一組節點|V| = N，E是一組邊，W ∈ R^N×N是一個加權鄰接矩陣，表示節點的鄰近度。將G上觀察到的交通流量表示為圖形信號X ∈ R^N×P，其中P是每個節點的特征數量(例如速度、體積)。假設X(t)表示在時間T觀察到的圖形信號，交通預測問題旨在學習一個函數h(.)，該函數將T’歷史圖形信號映射到未來的T圖形信號，給定一個圖形G:

空間依賴建模

本文通過將交通流與擴散過程相關聯來對空間依賴性進行建模，這明確地捕捉了交通動力學的隨機性質。擴散形式以G上的隨機游走來刻畫，重啟概率為α ∈ [0，1]，狀態轉移矩陣為D_O^-1W。這里D_O= diag(W1)是外度對角矩陣，1∈RN表示全一向量。經過許多時間步長后，這種馬爾可夫過程收斂到一個平穩分布P∈ R^N×N，行P_i，：∈R^N表示從節點vi∈ V擴散的可能性。下面的引理為平穩分布提供了一個封閉形式的解。

引理：擴散過程的平穩分布可以表示為圖上無限隨機游動的加權組合，可以通過以下式子計算:

其中k是擴散步驟。在實驗中，使用有限的K階擴散過程，并為每個步驟分配一個可訓練的權重。此外還融入了反向擴散過程，因為雙向擴散可以讓模型更靈活地捕捉來自上游和下游流量的影響。

擴散卷積

圖信號X∈R^N×P和濾波器f_θ的擴散卷積運算定義為:

擴散卷積層

利用擴散卷積中定義的卷積運算，建立了一個擴散卷積層，將P維特征映射到Q維輸出。

時間動態建模

本文利用循環神經網絡(RNNs)對時間依賴性進行建模。該文章使用門控循環單位(GRU)，這是一種簡單但功能強大的RNN變體，用擴散卷積代替了GRU中的矩陣乘法，從而產生了所提出的擴散卷積門控循環單元(DCGRU)。

在多步預測中，采用序列對序列的體系結構。編碼器和解碼器都是帶有DCGRU的循環神經網絡。在訓練期間，將歷史時間序列輸入編碼器，并使用其最終狀態初始化解碼器。

解碼器根據之前的真實觀測結果生成預測。在測試時，真實值替換成模型本身生成的預測結果。訓練和測試的輸入分布之間的差異會導致成績下降。為了緩解這一問題，模型使用了預采樣，在第i次迭代時向模型輸入概率為的真實觀測值或概率為的模型預測。在訓練過程中，逐漸減小到0，使得模型可以學習到測試集的分布。

通過對空間和時間建模，本文建立了擴散卷積循環神經網絡(DCRNN)。DCRNN的模型架構如上圖所示。整個網絡通過BPTT循環生成目標時間序列的最大似然得到。DCRNN能夠捕獲時空依賴關系，可以應用于各種時空預測問題。

5.實驗

該文章在兩個真實世界的大規模數據集上進行了實驗:(1)METR-LA.該交通數據集包含從洛杉磯縣高速公路環路檢測器收集的交通信息。選取207個傳感器，采集2012年3月1日至2012年6月30日4個月的數據進行實驗。(2) PeMS-BAY.該交通數據集由美國加州運輸局(CalTrans)績效測量系統(PeMS)收集。在灣區選取325個傳感器，收集2017年1月1日至2017年5月31日6個月的數據進行實驗。

Attention

如果你和我一樣是軌道交通、道路交通、城市規劃相關領域的，可以加微信：Dr_JinleiZhang，備注“進群”，加入交通大數據交流群！希望我們共同進步！

總結

以上是生活随笔為你收集整理的DCRNN:扩散卷积递归神经网络的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。