雙向循環神經網絡

• 雙向 RNN結構模型圖
• 公式表達
• 應用舉例（完形填空）
• 優劣
• 總結

雙向 RNN結構模型圖

一個前向RNN隱層，一個后向RNN隱層，合并兩個隱狀態的到輸出。

公式表達

應用舉例（完形填空）

第一行是普通的RNN預測，后面兩行可以使用雙向RNN做填詞，結果取決于過去和未來的上下文。

優劣

如下圖所示，雙向RNN適合做訓練，因為訓練時會提供過去和未來的信息。

然而，對于推理，也即預測，雙向RNN則無法實現，因為它不僅需要過去的信息，還需要知道未來的信息。但是，未來的信息正是我們要推理的信息，所以無法實現。

總結

根據上面的訓練過程，我們可以通過雙向RNN提取文本的特征，這樣提取到的特征和上下文都有關系，常用于語句翻譯。

總結

以上是生活随笔為你收集整理的双向循环神经网络的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。