[人工智能-深度学习-48]:循环神经网络 - RNN是循环神经网络还是递归神经网络?
作者主頁(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客
本文網址:https://blog.csdn.net/HiWangWenBing/article/details/121379935
目錄
前言:
一、什么是RNN
二、什么是循環神經網絡RNN
三、什么是遞歸神經網絡RNN
前言:
這是一個很容易混淆的概念,網上充斥了大量混用的情形,在學習RNN之前,我們不妨先做個簡單的澄清。
一、什么是RNN
NN表示神經網絡neural network,關鍵什么是"R"?
實際上,在深度學習領域,R有兩種情形:
(1)Recurrent Neural Network => 循環神經網絡RNN
(2)Recursive Neural Network => 遞歸神經網絡RNN
因此,RNN即是循環神經網絡的簡稱,也是遞歸神經網絡的簡稱。
其中,循環神經網絡的簡稱更加的廣泛!
二、什么是循環神經網絡RNN
Recurrent Neural Network => 循環神經網絡RNN
字面意思上,循環是指:“時間”的維度上是循環的,是時間上有反饋的網絡,循環是指:轉了一圈,又回來的網絡。
?上圖左圖:空間示意圖,在網絡形態確定的情況下,網絡的輸出,不僅僅取決于輸入Xt,還取決于之前的輸出Ht-1, 即當前的狀態。
上圖右圖:是指按照時間的順序展開的“邏輯”示意圖。X0, X1.......Xt按照時間的順序依次送入網絡中的數據,而h0,h1,.....ht是指按照時間的順序依次輸出的數據。
h1的輸出,不僅僅取決于x1的輸入,還取決于之前h0的狀態,即X1對應的輸出,不同的“上文”,其輸出是不同的。如我們、它們、他們中的“們”字,在不同的“上文”中含義是不相同的。
這樣的神經網絡稱為“時序神經網絡”
時序神經網絡適合:
處理“具有時序關系的輸入序列”。也就是說,一個輸入對應的輸出,還取決于其“上文”的應用場合,如文字分類,自然語言處理。
三、什么是遞歸神經網絡RNN
Recursive Neural Network => 遞歸神經網絡RNN。
字面意思的“遞歸”是指:是一種“空間”的迭代。網絡結構如下圖所示:
在該圖中:
X1的輸入,送給X1的神經元網絡。
X2的輸入與X1的輸出,一起送給X2的神經元網絡。
X3的輸入與X2的輸出,一起總給X3的神經元網絡。
如此遞歸.............................
遞歸神經網絡RNN本質還是一個沒有返回和內部狀態的“組合邏輯”,而不是“時序邏輯”。
作者主頁(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客
本文網址:https://blog.csdn.net/HiWangWenBing/article/details/121379935
總結
以上是生活随笔為你收集整理的[人工智能-深度学习-48]:循环神经网络 - RNN是循环神经网络还是递归神经网络?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: BNU27935——我爱背单词—————
- 下一篇: 基于ENVI/IDL 的一键化实现LST