神經網絡原理解讀與整體架構

課時16?神經元個數對結果的影響

神經元越多，擬合程度越好，過多會造成過擬合。

隱層中增加一個神經元增加的是多個權重參數（數據量個權重參數）

課時17?正則化與激活函數

越小的λ值越符合訓練集的結果，λ增大過擬合效果越來越小

激活函數，實現非線性變換，sigmoid函數會出現梯度消失的問題。目前用relu函數，

課時18?神經網絡過擬合解決方法

1.?數據預處理：不同的預處理結果會使得模型的想過發生很大的差異，首先完成中心化，然后進行維度的放縮。

2. 參數初始化：盡量應該是權重參數的波動較小一些

3.?Drop-out：舍棄全連接，實現模型的化簡，但是效果會變差

課程鏈接：https://study.163.com/course/courseMain.htm?courseId=1003606092&share=1&shareId=1383716838

總結

以上是生活随笔為你收集整理的【唐宇迪】神经网络原理解读与整体架构的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。