1:為什么引入RNN，引入時序概念

2: RNN是遞歸神經網絡的總稱，LSTM和GRU是RNN的具體一種。
前后有聯系

RNN神經元的結構

U：是權重
S: 上一個時間的輸出


RNN方向傳播


對于T時刻的誤差，需要對U,V,W求一下偏導。

放在后面的字對句子的影響比較大，放在前面的字對句子的影響比較小。
會引起梯度消失和爆炸。如何解決這個問題。引入梯度截斷。
RNN很容易引起梯度消失和爆炸，可以引入LSTM 解決此問題。

總結

以上是生活随笔為你收集整理的RNN递归神经网络的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。