吴恩达深度学习笔记4-Course1-Week4【深层神经网络】
生活随笔
收集整理的這篇文章主要介紹了
吴恩达深度学习笔记4-Course1-Week4【深层神经网络】
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
深層神經網絡(DNN):
一、深層神經網絡
4層的神經網絡:
二、前向與反向傳播
前向 (forward propagation):
反向 (backward propagation):
notation:
n[l]:第l層的unit個數
W[l]:(n[l] , n[l?1])
b[l]:(n[l] , 1)
dW[l]:(n[l] , n[l?1])
db[l]:(n[l] , 1)
single example:
x:(n[0] , 1)
z[l]:(n[l] , 1)
a[l]=z[l]=dz[l]:(n[l] , 1)
multiple example:
x:(n[0] , m)
Z[l]:(n[l] , m)
A[l]=Z[l]=dZ[l]=dA[l]:(n[l] , m)
三、參數與超參數
參數(parameters):
訓練網絡得到的模型參數用于預測:W[l],b[l]
超參數(hyperparameters):
訓練網絡過程中所需要的的參數,超參數某種程度上決定著模型的參數 W[l],b[l] 的最終結果。
學習速率:α
迭代次數:N
隱藏層的層數:L
每一層的神經元個數:n[1],n[2],?
激活函數g(z)的選擇
總結
以上是生活随笔為你收集整理的吴恩达深度学习笔记4-Course1-Week4【深层神经网络】的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 失败的人生图片_人到中年,做事失败了,很
- 下一篇: 吴恩达深度学习笔记5-Course2-W