BP神经网络公式推导
一、m-p神經(jīng)元模型:
神經(jīng)網(wǎng)絡(luò)是由許多個(gè)神經(jīng)云所構(gòu)成,而一個(gè)單獨(dú)的神經(jīng)元的結(jié)構(gòu)如上圖所示。若一個(gè)神經(jīng)元有n個(gè)輸入xxx,每一個(gè)輸入都要配有一個(gè)權(quán)值www,神經(jīng)元的總輸入為:
∑i=1nwixi\sum_{i=1}^n w_ix_ii=1∑n?wi?xi?
生物的神經(jīng)元需要收到一定程度的刺激才可被激活,所以用θ\thetaθ表示神經(jīng)元的閾值,當(dāng)總輸入高于此值,該神經(jīng)元才可被激活。神經(jīng)元的輸出yyy取決于激發(fā)函數(shù)y=f(x)y=f(x)y=f(x),神經(jīng)元總輸入減去閾值得到的值:
∑i=1nwixi?θ\sum_{i=1}^n w_ix_i-\thetai=1∑n?wi?xi??θ
作為激活函數(shù)的輸入.
二、BP神經(jīng)網(wǎng)絡(luò)
1.結(jié)構(gòu)圖如下:
2,BP神經(jīng)網(wǎng)絡(luò)的特點(diǎn)
(1)BP神經(jīng)網(wǎng)絡(luò)是一種多層網(wǎng)絡(luò),包括輸入層、隱含層(≥1層)和輸出層;
(2)相鄰層之間的神經(jīng)元全部互連,但同一層神經(jīng)元之間不連接;
(3)神經(jīng)元的的激發(fā)函數(shù)為S函數(shù):
f(x)=11+e?xf(x)=\frac{1}{1+e^{-x}} f(x)=1+e?x1?
且有:f′(x)=f(x)(1?f(x))f'(x)=f(x)(1-f(x))f′(x)=f(x)(1?f(x))
(4)學(xué)習(xí)算法由正向傳播和反向傳播組成;正向傳播得到輸入的真實(shí)輸出,反向傳播根據(jù)真實(shí)輸出與理想輸出之間的差值更新神經(jīng)網(wǎng)絡(luò)中的權(quán)值。
(5)權(quán)值通過δ學(xué)習(xí)算法進(jìn)行調(diào)節(jié);
δ學(xué)習(xí)算法
總結(jié)
以上是生活随笔為你收集整理的BP神经网络公式推导的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 数据仓库与数据挖掘
- 下一篇: 花一天时间做一个高质量飞机大战游戏,过万