BP神经网络简介
一、簡介
BP神經網絡是一種按照誤差反向傳播算法訓練的多層前饋網絡,也是目前應用最廣泛的神經網絡模型之一。它由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層的神經元負責接受外界發來的各種信息,并將信息傳遞給中間層神經元,中間隱含層神經元負責將接收到的信息進行處理變換,根據需求處理信息,實際應用中可將中間隱含層設置為一層或者多層隱含層結構,并通過最后一層的隱含層將信息傳遞到輸出層,這個過程就是BP神經網絡的正向傳播過程。
當實際輸出與理想輸出之間的誤差超過期望時,就需要進入誤差的反向傳播過程。它首先從輸出層開始,誤差按照梯度下降的方法對各層權值進行修正,并依次向隱含層、輸入層傳播。通過不斷的信息正向傳播和誤差反向傳播,各層權值會不斷進行調整,這就是神經網絡的學習訓練。當輸出的誤差減小到期望程度或者預先設定的學習迭代次數時,訓練結束,BP神經網絡完成學習。
二、核心步驟
實線代表正向傳播,虛線代表反向傳播
1、正向傳播
正向傳播就是指數據(或信息、信號)從輸入端輸入之后,沿著網絡的指向,乘以對應的權重之后再加和,在將結果作為輸入在激活函數中進行計算,將計算的結果作為輸入傳遞給下一個節點。依次計算,直到得到最終的輸出。
2、反向傳播
反向傳播是指將輸出的結果與理想的輸出結果進行比較,將輸出結果與理想輸出結果之間的誤差利用網絡進行反向傳播的過程,本質是一個“負反饋”的過程。具體的過程是通過多次迭代的過程,不斷地對網絡上各個節點間的所有的權重進行調整,權重調整的方法采用梯度下降法。
總結
- 上一篇: 使用Axis导入webService报错
- 下一篇: 常用的DOS命令