深度神經網絡（Deep Neural Networks， 以下簡稱DNN）是深度學習的基礎，而要理解DNN，首先我們要理解DNN模型，下面我們就對DNN的模型與前向傳播算法做一個總結。

1. 從感知機到神經網絡

　　　　在感知機原理小結中，我們介紹過感知機的模型，它是一個有若干輸入和一個輸出的模型，如下圖:

　　　　輸出和輸入之間學習到一個線性關系，得到中間輸出結果：

z=∑i=1mwixi+bz=∑i=1mwixi+b

　　　　接著是一個神經元激活函數:

 

sign(z)={?11z<0z≥0sign(z)={?1z<01z≥0

　　　　從而得到我們想要的輸出結果1或者-1。

　　　　這個模型只能用于二元分類，且無法學習比較復雜的非線性模型，因此在工業界無法使用。

　　　　而神經網絡則在感知機的模型上做了擴展，總結下主要有三點：

　　　　1）加入了隱藏層，隱藏層可以有多層，增強模型的表達能力，如下圖實例，當然增加了這么多隱藏層模型的復雜度

總結

以上是生活随笔為你收集整理的深度神经网络（DNN）模型与前向传播算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。