1、BP神經(jīng)網(wǎng)絡(luò)背景簡介：

? ? ? ? ? ? ?BP（Error Back Propagation Network）神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最為廣泛和成功的神經(jīng)網(wǎng)絡(luò)之一，它于1986年由Rumelhant和McClelland提出。是一種多層網(wǎng)絡(luò)“逆推”學(xué)習(xí)算 ? ? ? ?法。

2、BP神經(jīng)網(wǎng)絡(luò)基本思想：

? ? ? ? ? ? ? BP神經(jīng)網(wǎng)絡(luò)基本思想由兩部分組成：輸入樣本前向傳播并輸出結(jié)果、誤差的反向傳播更新網(wǎng)絡(luò)權(quán)值。

? ? ? ? ? ? ? 樣本數(shù)據(jù)前向傳播時，輸入樣本由輸入層傳入，經(jīng)隱含層處理后傳到輸出層，若輸出層的實(shí)際輸出與期望輸出不符，則進(jìn)入誤差反向傳播更新網(wǎng)絡(luò)權(quán)值階段。

? ? ? ? ? ? ? 誤差的反向傳播更新網(wǎng)絡(luò)權(quán)值是將輸出誤差以某種形式通過隱含層向輸入層逐層反轉(zhuǎn)，并將誤差分配給各層神經(jīng)元各個神經(jīng)單元。

? ? ? ? ? ? ? 這種信號正向傳播與誤差反向傳播的各層權(quán)值調(diào)整過程循環(huán)進(jìn)行，權(quán)值也不斷調(diào)整，也就是網(wǎng)絡(luò)的學(xué)習(xí)過程。此過程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度，或 ? ? ? 進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。

3、BP網(wǎng)絡(luò)結(jié)構(gòu)與數(shù)據(jù)處理過程

? ? ??

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?圖2-1

如圖2-1，為三層神經(jīng)網(wǎng)絡(luò)，Layer L1為輸入層，Layer L2為隱含層，Layer L3為輸出層。其中隱含層可以是一層或多層，輸出層也可以有多個神經(jīng)元。

下面的推導(dǎo)過程中，我們用X(i)表示神經(jīng)網(wǎng)絡(luò)輸入；Y(i)表示神經(jīng)網(wǎng)絡(luò)實(shí)際輸出；d(i)表示神經(jīng)網(wǎng)絡(luò)期望輸出；W(ijk)表示神經(jīng)網(wǎng)絡(luò)第i層第j個神經(jīng)元到第i+1層第k個神經(jīng)元的連接權(quán)值；O(ij)表示第i層第j個神經(jīng)元輸出；Θ(ij)表示第i層第j個神經(jīng)元閾值；net(ij)表示第i層第j個神經(jīng)元總輸入；Ni表示第i層神經(jīng)元節(jié)點(diǎn)數(shù)。

（1）：樣本前向傳輸過程。

? ? ? ? ? ? ??

（2）：誤差反向傳播更新網(wǎng)絡(luò)權(quán)值

? ? ? ? ? ?如果神經(jīng)元 ?j ?在輸出層，則O(ij)就是網(wǎng)絡(luò)的實(shí)際計(jì)算輸出，記為Y(j)，通過Y(j)與所期望值的輸出d(j)之間的誤差反向傳播來修改各權(quán)值。

? ? ? ? ? 誤差函數(shù)定義為：

網(wǎng)絡(luò)權(quán)值沿E函數(shù)梯度下降的方向修正：

其中n是步長因子。

經(jīng)數(shù)學(xué)推導(dǎo)BP算法的權(quán)值調(diào)整公式為：

其中：

? ? ? ? ?

總結(jié)

以上是生活随笔為你收集整理的BP误差反传神经网络的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。