2020 MDPI

0 摘要

有害藻華（HABs）往往對漁業生產和人類生命安全造成極大危害。因此，HABs的檢測和預測成為一個重要的課題。

????????機器學習在國內外越來越多地用于預測HAB。然而，很少有人能夠提前捕捉到 Chl-a 的突然變化并適當地處理長期依賴關系。

????????為了應對這些挑戰，提出了基于長短期記憶 (LSTM) 的葉綠素-a (Chl-a) 濃度預測時空注意模型，該模型可以捕捉各種因素與 Chl-a 之間的相關性，自適應地捕獲來自先前時間間隔的動態時間信息以進行預測。

????????該模型還可以提前捕捉到紅潮爆發時數值飆升的 Chl-a 階段。由于當前 Chl-a 濃度預測模型的不穩定性，該模型也被應用于預測可靠性的預測，以對模型誤差的范圍和波動有一個基本的了解，并為描述海洋災害誤差范圍提供參考。

????????實驗所用數據取自福建省海洋預報站2009-2011年數據，合并為8維數據。結果表明，所提出的方法比其他 Chl-a 預測算法（例如 Attention LSTM 和 Seq2seq 以及反向傳播）表現更好。誤差預測結果也表明，誤差預測方法在赤潮防治方面具有優勢。

1 introduction

????????現有環境預測模型大多使用總平均誤差來評價預測結果，當自然災害突然發生時，這些模型會出現較大的誤差波動。

???????? 因此，在預測自然災害的發生時，不僅要了解模型的預測結果，還要掌握模型誤差的波動情況，為預測的可靠性提供參考。

????????人工神經網絡 (ANN) 是最廣泛使用的機器學習 (ML) 方法來預測藻華 [7,8]，尤其是反向傳播 (BP) 神經網絡 [9]。

????????然而，由于赤潮是一個爆發性的過程而不是一個漸進的過程，目前大多數赤潮預測方法都存在不準確和誤差波動的問題。

????????當赤潮發生時，海水中的 Chl-a 值會突然上升。 現有赤潮預報方法無法預測赤潮爆發時Chl-a值的快速變化，也未考慮模型誤差的波動。 ?

????????我們在本文中使用 Chl-a 作為赤潮的指標。 考慮到赤潮與氣壓、光照、風速、風向、氣溫等氣象因子的諸多維度相關，有必要建立多維度的空間注意力機制來捕捉這些因子與Chl-a的動態關聯。

???????? 我們還應用時間注意力來模擬目標時間序列中不同時間間隔之間的動態時間相關性，這可以解決encoder-decoder的性能會隨著編碼器長度的增加而迅速下降的問題。

??????在本文中，基于雙階段注意力的 RNN（DA-RNN）[16] 被應用于預測 Chl-a 并預測模型誤差的波動。

我們的主要貢獻如下：

（1）首先，我們開發了 DARNN 來預測 Chl-a 值，我們發現雙注意力機制在 RMSE 和平均絕對誤差（MAE）上的表現都優于其他模型 ，DARNN可以比其他模型更好地預測 Chl-a 值的突變，這對于防止赤潮具有重要意義。

(2) 其次，我們還對預報的可靠性進行了預測，對模型誤差的范圍和波動有一個基本的認識，為描述海洋災害的范圍提供參考。

2 方法

2.1 問題描述??

我們已知Chl-a的歷史時間序列（T是時間窗口的大小）

已知其他特征（如溫度，適度，氧氣含量等）

?

其中表示k特征的時間序列，表示時刻t的所有其他特征（n是其他特征的數量），

那么我們希望預測現在的Chl-a的值

?

?2.2 模型

????????圖 1 展示了我們模型的框架。 按照decode-encoder架構 [11]，我們構建了一個基于 DA-RNN [16] 的預測網絡。

???????? 編碼器處理多維空間注意機制，可以自適應地捕捉 Chl-a 與其他特征時間序列之間的動態相關性。

????????解碼器使用時間注意力來自適應地選擇相關的先前時間間隔進行預測。

????????借助時空注意機制，DA-RNN 可以捕捉輸入特征與 Chl-a 之間的相關程度，并應用時間維度的注意來捕捉動態時間相關性。

?

?2.2.1編碼器

????????編碼器本質上是一個LSTM，它將輸入序列X編碼潛在表示h 。

機器學習筆記：GRU_UQI-LIUWJ的博客-CSDN博客

???????

???????機器學習筆記： attention_UQI-LIUWJ的博客-CSDN博客

2.2.2?空間注意力機制

空間注意力機制自適應地學習ChI-a 的時間序列和其他特征序列之間的關聯

? ?

這里[.;,] 是一個concat操作

是需要學習的參數

?

這里使用的不是一般所說的attention layer（就是Q矩陣乘K矩陣那樣的），使用的是attention in Seq2Seq

有了權重，我們就可以更新不同時間步的輸入和隱藏狀態?

?

?2.2.3 解碼器

? ? ? ? 空間上的注意力機制

3 實驗部分

3.1 數據集

實驗數據來自福建省海洋預報站

?

?各變量之間的皮爾遜關聯系數為：

?3.2 衡量方法

?3.3 實驗結果

?

可以看出Chl-a 可以更好地擬合突變情況

?

總結

以上是生活随笔為你收集整理的论文笔记：Unsteady Multi-Element Time Series Analysis and Prediction Based on Spatial-Temporal Attention的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。