在進行 【深度學習的數學】接“2×3×1層帶sigmoid激活函數的神經網絡感知機對三角形平面的分類訓練預測”，輸出層加偏置b 的測試中，我們發現，模型的初始權重對模型的訓練結果是影響非常大的，

如圖對比了兩種不同的模型訓練結果，權重和偏置初始參數均采用正態分布隨機值

• 情況1
  
  
  

• 情況2
  
  
  

• 情況3
  
  
  

可以看到，情況1最接近我們預期的結果，情況2和情況3就比較奇怪，所以，選擇一個好的初始權重和偏置是非常重要的！

接下來我們選擇情況1中我們比較好的權重和偏置作為我們本次訓練的初始權重和偏置，運行程序，還是訓練600次，可以看到，結果并沒有發生太大的變化！

當我們把訓練次數改成10000次，情況有些不一樣了

盡管繪制的圖形看起來與之前相比，仍未有較大改變！！

總結

以上是生活随笔為你收集整理的【深度学习的数学】初始权重和偏置参数对模型训练非常重要！（预训练模型、预训练文件、初始权重）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。