1 LSTM復習

機器學習筆記 RNN初探 & LSTM_UQI-LIUWJ的博客-CSDN博客?中，我們使用的是這樣的一張圖來說明LSTM：

這里為了和GRU有一個比較，使用如下的圖表示LSTM，意思是一樣的，綠色和紫色的部分是二者的對照關系：?

2 GRU 原理

?在GRU模型中只有兩個門：分別是更新門zt和重置門rt

????????更新門用于控制前一時刻的狀態信息被帶入到當前狀態中的程度，更新門的值越大說明前一時刻的狀態信息帶入越多

????????重置門控制前一狀態有多少信息被寫入到當前的候選集上，重置門越小，前一狀態的信息被寫入的越少。

——>我們使用了同一個門控?就同時可以進行遺忘和選擇記憶（LSTM則要使用兩個門控）。

?——>與LSTM相比，GRU內部少了一個”門控“，參數比LSTM少，但是卻也能夠達到與LSTM相當的功能。考慮到硬件的計算能力和時間成本，因而很多時候我們也就會選擇更加”實用“的GRU。

——>在GRU中 輸入h就是記憶c，所以沒有輸出門。（把LSTM里面的兩個傳遞量減少成了一個）

?

總結

以上是生活随笔為你收集整理的机器学习笔记：GRU的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。