這里寫目錄標(biāo)題

• 一、一維正態(tài)分布
• 二、徑向基函數(shù)
• 三、徑向基函數(shù)解決插值問題
• 四、RBF神經(jīng)網(wǎng)絡(luò)簡介
• 五、RBF神經(jīng)元模型
• 六、RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

一、一維正態(tài)分布

$$f(x)=\frac{1}{\sqrt{2\pi }\sigma }{e}^{?\frac{(x?\mu {)}^2}{2{\sigma }^2}}$$ 記作$X～N(\mu ,{\sigma }^2)$。

可以將一般正態(tài)分布轉(zhuǎn)化為標(biāo)準(zhǔn)正態(tài)分布：若$X～N(\mu ,{\sigma }^2),Y=\frac{X?\mu }{\sigma }～N(0,1)$

二、徑向基函數(shù)

徑向基函數(shù)（Radial Basis Function，RBF）是一個(gè)取值僅取決于到原點(diǎn)距離的實(shí)值函數(shù)，記作$?(x)=?(||x||)$，也可以是到任意一中心點(diǎn)$c$的距離，即$?(x,c)=?(||x?c||)$。任何一個(gè)滿足上述特性的函數(shù)都可以稱為RPF。
$$?(x,c)=e^{?\frac{(x?c{)}^2}{r^2}}$$


高斯函數(shù)：
$$f(x)=a{e}^{?\frac{(x?b{)}^2}{2c^2}}$$

• $a$：曲線高度
• $b$：即$\mu$，指曲線在$x$軸的中心
• $c$：即$\sigma$，指width（與半峰全框有關(guān)）
  

三、徑向基函數(shù)解決插值問題

• 每個(gè)藍(lán)色的點(diǎn)是一個(gè)樣本
• 綠色虛線對(duì)應(yīng)一個(gè)訓(xùn)練樣本，對(duì)應(yīng)一個(gè)高斯函數(shù)（高斯函數(shù)中心就是樣本點(diǎn)）
• 藍(lán)色實(shí)線表示真實(shí)擬合這些訓(xùn)練數(shù)據(jù)的曲線

（1）樣本點(diǎn)$(x_n,y_n)\in D,n=1,2,...,N$

（2）完全內(nèi)插法要求插值函數(shù)經(jīng)過每個(gè)樣本點(diǎn)，即$F(x_n)=y_n$，樣本點(diǎn)共有$N$個(gè)

（3）RBF的方法是選擇$N$個(gè)奇函數(shù)$\phi (||x?x_n||)$ $$\phi (||x?x_n||)=e^{?\frac{1}{2{\sigma }^2}||x?x_n|{|}^2}$$（4）基于徑向基函數(shù)的插值函數(shù)為： $$F(x)=\sum _{n=1}^N{w}_n{\phi }_n(||x?x_n||)=w_1{\phi }_1(||x?x_1||)+w_2{\phi }_2(||x?x_2||)+...+w_n{\phi }_n(||x?x_n||)$$

四、RBF神經(jīng)網(wǎng)絡(luò)簡介

RBF神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)與多層前向網(wǎng)絡(luò)類似，是一種具有單隱層的三層前向神經(jīng)網(wǎng)絡(luò)。

• 輸入層：由信號(hào)源結(jié)點(diǎn)組成
• 隱含層：單神經(jīng)元層，但神經(jīng)元數(shù)可視所描述問題的需要而定
• 輸出層：對(duì)輸入的作用做出響應(yīng)
  從輸入層到隱含層空間的變換是非線性的

從輸入層空間到隱含層空間的變換是非線性的，而從隱含層空間到輸出層空間的變換是線性的。隱含層神經(jīng)元的變換函數(shù)是RBF，它是一種局部分布的中心徑向?qū)ΨQ衰減的非負(fù)非線性函數(shù)。

BP神經(jīng)網(wǎng)絡(luò)用于函數(shù)逼近時(shí)，權(quán)值的調(diào)節(jié)采用負(fù)梯度下降法，這種權(quán)值調(diào)節(jié)的方法存在著收斂速度慢和局部極小等局限性。同時(shí)，BP 神經(jīng)網(wǎng)絡(luò)在訓(xùn)練過程中需要對(duì)網(wǎng)絡(luò)中的所有權(quán)值和閾值進(jìn)行修正，屬于全局逼近的神經(jīng)網(wǎng)絡(luò)。

而RBF 神經(jīng)網(wǎng)絡(luò)在逼近能力、分類能力和學(xué)習(xí)速度等方面均優(yōu)于BP神經(jīng)網(wǎng)絡(luò)。另外，盡管RBF神經(jīng)網(wǎng)絡(luò)比BP 神經(jīng)網(wǎng)絡(luò)需要更多的神經(jīng)元，但是它能夠按時(shí)間片來優(yōu)化訓(xùn)練網(wǎng)絡(luò)。因此，RBF神經(jīng)網(wǎng)絡(luò)是一種局部逼近性能非常好的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，有學(xué)者證明它能以任意精度逼近任一連續(xù)函數(shù)。

RBF人工神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的信息處理能力在許多領(lǐng)域得到了成功的應(yīng)用，它不僅具繼承了神經(jīng)網(wǎng)絡(luò)強(qiáng)大的非線性映射能力，而且具有自適應(yīng)、自學(xué)習(xí)和容錯(cuò)性等，能夠從大量的歷史數(shù)據(jù)中進(jìn)行聚類和學(xué)習(xí)，進(jìn)而得到某些行為變化的規(guī)律。同時(shí)，RBF神經(jīng)網(wǎng)絡(luò)是一種新穎有效的前饋式神經(jīng)網(wǎng)絡(luò)，具有最佳局部逼近和全局最優(yōu)的性能，且訓(xùn)練方法快速易行，這些優(yōu)點(diǎn)使得RBF神經(jīng)網(wǎng)絡(luò)在非線性時(shí)間序列預(yù)測(cè)中得到了廣泛的應(yīng)用。

• 全局逼近： 當(dāng)神經(jīng)網(wǎng)絡(luò)的一個(gè)或多個(gè)可調(diào)參數(shù)（權(quán)值和閾值）對(duì)任何一個(gè)輸出都有影響，則稱該神經(jīng)網(wǎng)絡(luò)為全局逼近網(wǎng)絡(luò)
• 局部逼近：對(duì)網(wǎng)絡(luò)輸入空間的某個(gè)局部區(qū)域只有少數(shù)幾個(gè)連接權(quán)值影響網(wǎng)絡(luò)的輸出，則稱該網(wǎng)絡(luò)為局部逼近網(wǎng)絡(luò)

另外，RBF神經(jīng)網(wǎng)絡(luò)能夠逼近任意的非線性函數(shù)，可以處理系統(tǒng)內(nèi)難以解析的規(guī)律性，具有良好的泛化能力，并有很快的學(xué)習(xí)收斂速度。當(dāng)有很多的訓(xùn)練向量時(shí)，這種網(wǎng)絡(luò)很有效果。目前，RBF神經(jīng)網(wǎng)絡(luò)已在非線性函數(shù)逼近、時(shí)間序列分析、數(shù)據(jù)分類、模式識(shí)別、信息處理、圖像處理、系統(tǒng)建模、控制和故障診斷等多種場(chǎng)合得到了成功應(yīng)用。

五、RBF神經(jīng)元模型

$||dist||$為歐氏距離，用函數(shù)式可表示為： $$||dist||=||\mathbf{w}?\mathbf{x}||=\sqrt{\sum _i^R(w_{1,i}?x_i^2)=[(\mathbf{w}?{\mathbf{x}}^{\mathbf{T}})(\mathbf{w}?{\mathbf{x}}^{\mathbf{T}}{)}^T{]}^{\frac{1}{2}}}$$

凈輸入$n$為RBF神經(jīng)元的中間運(yùn)算結(jié)果$$n=||\mathbf{w}?\mathbf{x}||b$$

RBF神經(jīng)元模型的輸出$y$為：$$y=rbf(n)=rbf(||\mathbf{w}?\mathbf{x}||b)$$

$rbf(x)$為徑向基函數(shù)，常見形式有：$$rbf(x)=e^{?(\frac{x}{\sigma }{)}^2}$$ $$rbf(x)=\frac{1}{({\sigma }^2+x^2{)}^{\alpha }},\alpha >0$$

六、RBF神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

RBF神經(jīng)網(wǎng)絡(luò)由輸入層、單隱含層、輸出層三層組成，如下圖所示：

${\mathbf{n}}^1$為RBF神經(jīng)網(wǎng)絡(luò)隱含層的中間運(yùn)算結(jié)果，$${\mathbf{n}}^1=||{\mathbf{W}}^1?\mathbf{x}||{\mathbf{b}}^1=[diag(({\mathbf{W}}^1?ones(S^1,1){\mathbf{x}}^{\mathbf{T}})({\mathbf{W}}^1?ones(S^1,1){\mathbf{x}}^{\mathbf{T}}{)}^T){]}^{\frac{1}{2}}{\mathbf{b}}^1$$
$diag(x)$表示取矩陣向量主對(duì)角線上的元素組成的列向量。

RBF神經(jīng)網(wǎng)絡(luò)隱含層的輸出${\mathbf{y}}^1$為：$${\mathbf{y}}^1=rbf({\mathbf{n}}^1)$$ ${\mathbf{n}}^2$為RBF輸出層的中間運(yùn)算結(jié)果，表示為：$${\mathbf{n}}^2={\mathbf{W}}^2{\mathbf{y}}^1+{\mathbf{b}}^2$$ RBF神經(jīng)網(wǎng)絡(luò)的輸出${\mathbf{y}}^2$為：$${\mathbf{y}}^2=purelin({\mathbf{n}}^2)$$ 隱含層節(jié)點(diǎn)中的徑向基函數(shù)對(duì)輸入信號(hào)在局部產(chǎn)生響應(yīng)，即當(dāng)輸入信號(hào)靠近該函數(shù)的中央范圍時(shí)，隱含層節(jié)點(diǎn)將產(chǎn)生較大的輸出。因此，RBF神經(jīng)網(wǎng)絡(luò)具有局部逼近能力，RBF神經(jīng)網(wǎng)絡(luò)也被稱為局部感知場(chǎng)網(wǎng)絡(luò)

神經(jīng)元的傳遞函數(shù)

總結(jié)

以上是生活随笔為你收集整理的RBF神经网络的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。