人工智能超强面经:文本检测与GAN篇(含答案)
生活随笔
收集整理的這篇文章主要介紹了
人工智能超强面经:文本检测与GAN篇(含答案)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
1.LSTM(長短期記憶)原理,其中的參數是否相同/畫出LSTM的結構
圖/寫一下LSTM的公式
Lstm由輸入門,遺忘門,輸出門和一個cell組成。第一步是決定從cell狀態中丟棄什么信息,然后在決定有多少新的信息進入到cell狀態中,最終基于目前的cell狀態決定輸出什么樣的信息。
LSTM一共有三個門,輸入門,遺忘門,輸出門,i,f,o分別為三個門的程度參數,g是對輸入的常規RNN操作。公式里可以看到LSTM的輸出有兩個,細胞狀態c‘ 和隱狀態h’,c’是經輸入、遺忘門的產物,也就是當前cell本身的內容,經過輸出門得到h’,就是想輸出什么內容給下一單元。
LSTM中有哪些激活函數
LSTM中的三個門是用的sigmoid作為激活函數,生成候選記憶時候用的才是tanh,門j的激活函數如果用relu的話會有個問題,就是relu是沒有飽和區域的,那么就沒法起到門的作用。候選記憶用tanh是因為tanh的輸出在-1~1,是0中心的,并且在0附近的梯度大,模型收斂快。
LSTM這兩個激活函數的作用分別是什么 sigmoid將一個實數輸入映射到[0,1]范圍內,tanh函數將一個實數輸入映射到[-1,1]范圍內;
LSTM每個門的計算公式
總結
以上是生活随笔為你收集整理的人工智能超强面经:文本检测与GAN篇(含答案)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 人工智能AI实战100讲(四)-基于深度
- 下一篇: 一文通读传感器到算法原理,机器人、视觉避