文章目錄

• 一 BP神經網絡介紹
• 二 案例應用—語音特征信號識別
• • 2.1 案例說明
  • 2.2 MATLAB實現(xiàn)
  • • 2.2.1 數(shù)據歸一化
    • 2.2.2 編程實現(xiàn)
    • • 2.2.2.1數(shù)據選擇和歸一化
      • 2.2.2.2 BP神經網絡結構初始化
      • 2.2.2.3 BP神經網絡訓練
      • 2.2.2.4 BP神經網絡分類
      • 2.2.2.5 結果分析
  • 2.3 算法改進
  • 2.3.1 附加動量方法
  • 2.3.2 變學習率學習方法

一 BP神經網絡介紹

??BP神經網絡是一種具有三層或三層以上的多層前饋神經網絡，每一層都由若干個神經元組成，如下圖所示，它的左、右各層之間各個神經元實現(xiàn)全連接，即左層的每一個神經元與右層的每個神經元都有連接，而上下各神經元之間無連接。BP神經網絡按有導師學習方式進行訓練，當一對學習模式提供給網絡后，其神經元的激活值將從輸入層經各隱含層向輸出層傳播，在輸出層的各神經元輸出對應于輸入模式的網絡響應。
??該網絡的主要特點是信號前向傳遞，誤差反向傳播。在前向傳遞中，輸入信號從輸人層經隱含層逐層處理，直至輸出層。每一層的神經元狀態(tài)只影響下一層神經元狀態(tài)。如果輸出層得不到期望輸出，則轉入反向傳播，根據預測誤差調整網絡權值和闊值，從而使BP神經網絡預測輸出不斷逼近期望輸出。

??上圖中，$X_1,X_2,???,X_n$是BP神經網絡的輸入值，$Y_1,Y_2,???,Y_m$是BP神經網絡的預測值，${\omega }_{ij}和{\omega }_{jk}$為BP神經網絡權值。從上圖可以看出，BP神經網絡可以看成一個非線性函數(shù)，網絡輸入值和預測值分別為該函數(shù)的自變量和因變量。當輸入節(jié)點數(shù)為n、輸出節(jié)點數(shù)為m時，BP神經網絡就表達了從n個自變量到m個因變量的函數(shù)映射關系。
??BP神經網絡預測前首先要訓練網絡，通過訓練使網絡具有聯(lián)想記憶和預測能力。BP神
經網絡的訓練過程包括以下幾個步驟。

網絡初始化。根據系統(tǒng)輸人輸出序列($X$,$Y$)確定網絡輸入層節(jié)點數(shù)$n$、隱含層節(jié)點數(shù)$l$，輸出層節(jié)點數(shù)$m$，初始化輸入層、隱含層和輸出層神經元之間的連接權值${\omega }_{ij}和{\omega }_{jk}$初始化隱含層闊值$a$，輸出層國值$b$，給定學習速率和神經元激勵函數(shù)。

隱含層輸出計算。根據輸入變量$X$，輸入層和隱含層間連接權值${\omega }_{ij}$，以及隱含層國值$a$，計算隱含層輸出$H$。
$$H_j=f(\sum _{i=1}^n{\omega }_{ij}{x}_i?a_j)j=1,2???,l\text{\hspace{1em}(1-1)}$$
式中，$l$為隱含層節(jié)點數(shù)；$f$為隱含層激勵函數(shù)，該函數(shù)有多種表達形式，本文所選函數(shù)為：
$$f(x)=\frac{1}{1+e^{?x}}\text{\hspace{1em}(1-2)}$$

輸出層輸出計算。根據隱含層輸出$H$，連接權值${\omega }_{jk}$和閾值$b$，計算BP神經網絡
預測輸出$O$。
$$O_k=\sum _{k=1}^l{H}_j{\omega }_{jk}?b_{k}k=1,2???,m\text{\hspace{1em}(1-3)}$$

誤差計算。根據網絡預測輸出$O$和期望輸出$Y$，計算網絡預測誤差$e$。
$$e_k=Y_k?O_{k}k=1,2???,m\text{\hspace{1em}(1-4)}$$

權值更新。根據網絡預測誤差$e$更新網絡連接權值${\omega }_{ij},{\omega }_{jk}$。
$$\begin{gathered} {\omega }_{ij}={\omega }_{ij}+\eta H_j(1?H_j)\sum _{k=1}^m{\omega }_{jk}{e}_{k}i=1,2,???,n;j=1,2???,l \\ {\omega }_{jk}={\omega }_{jk}+\eta H_j{e}_{k}j=1,2,???,l;k=1,2,???,m \end{gathered}$$
式中，$\eta$為學習速率。

閾值更新。根據網絡預測誤差$e$更新網絡節(jié)點國值$a,b$。
$$\begin{gathered} a_j=a_j+\eta H_j(1?H_j)\sum _{k=1}^m{\omega }_{jk}{e}_{k}j=1,2???,l \\ {b}_k=b_k+e_{k}k=1,2,???,m \end{gathered}$$

判斷算法迭代是否結束，若沒有結束，返回步驟2。

二 案例應用—語音特征信號識別

2.1 案例說明

??語音特征信號識別是語音識別研究領域中的一個重要方面，一般采用模式匹配的原理解決。語音識別的運算過程為：首先，待識別語音轉化為電信號后輸人識別系統(tǒng)，經過預處理后用數(shù)學方法提取語音特征信號，提取出的語音特征信號可以看成該段語音的模式；然后，將該段語音模型同已知參考模式相比較，獲得最佳匹配的參考模式為該段語音的識別結果。語音識別流程如下圖所示。

??本案例選取了民歌、古箏、搖滾和流行四類不同音樂，用BP神經網絡實現(xiàn)對這四類音樂的有效分類。每段音樂都用倒譜系數(shù)法提取500組24維語音特征信號(相關數(shù)據放在最后)，提取出的語音特征信號如下圖所示。

??基于BP神經網絡的語音特征信號分類算法建模包括BP神經網絡構建、BP 神經網絡訓
練和BP神經網絡分類三步，算法流程如下圖所示。

??BP神經網絡構建根據系統(tǒng)輸入輸出數(shù)據特點確定BP神經網絡的結構，由于語音特征輸入信號有24維，待分類的語音信號共有4類，所以BP神經網絡的結構為24-25-4，即輸入層有24個節(jié)點，隱含層有25個節(jié)點，輸出層有4個節(jié)點。
??BP神經網絡訓練用訓練數(shù)據訓練BP神經網絡。共有2000組語音特征信號，從中隨機選擇1500組數(shù)據作為訓練數(shù)據訓練網絡，500組數(shù)據作為測試數(shù)據測試網絡分類能力。
??BP神經網絡分類用訓練好的神經網絡對測試數(shù)據所屬語音類別進行分類。

2.2 MATLAB實現(xiàn)

2.2.1 數(shù)據歸一化

??數(shù)據歸一化方法是神經網絡預測前對數(shù)據常做的一種處理方法。數(shù)據歸一化處理把所有數(shù)據都轉化為[0,1]之間的數(shù)，其目的是取消各維數(shù)據間數(shù)量級差別，避免因為輸入輸出數(shù)據數(shù)量級差別較大而造成網絡預測誤差較大。數(shù)據歸一化的方法主要有以下兩種。
??1)最大最小法。函數(shù)形式如下
$$x_k=\frac{x_k?x_{min}}{x_{max}?xmin}$$
式中，$x_{min}$為數(shù)據序列中的最小數(shù)；$x_{max}$為序列中的最大數(shù)。
??2)平均數(shù)方差法。函數(shù)形式如下:
$$x_k=\frac{x_k?x_{mean}}{x_{var}}$$
式中，$x_{mean}$為數(shù)據序列的均值；$x_{var}$為數(shù)據的方差。
??本案例采用第一種數(shù)據歸一化方法，歸一化函數(shù)采用MATLAB自帶函數(shù)mapminmax,該函數(shù)有多種形式,常用的方法如下:

%input_train,output_train分別是訓練輸入、輸出數(shù)據 [inputn,inputps]=mapminmax(input_train); [outputn,outputps]=mapminmax(output_train);

??input_train，output_train 是訓練輸人、輸出原始數(shù)據;；inputn，outputn是歸一化后的數(shù)據，inputps，outputps為數(shù)據歸一化后得到的結構體，里面包含了數(shù)據最大值、最小值和平均值等信息，可用于測試數(shù)據歸一化和反歸一化。測試數(shù)據歸一化和反歸一化程序如下:

inputn_test = mapminmax('apply', input_test, inputps); %測試輸入數(shù)據歸一化 BPoutput = mapminmax('reverse', an, outputps);%網絡預測數(shù)據反歸一化

??input_test是預測輸人數(shù)據；inputn_test是歸一化后的預測數(shù)據；'apply’表示根據inputps的值對input_test進行歸一化。an是網絡預測結果；outputps是訓練輸出數(shù)據歸一化得到的結構體；BPoutput是反歸一化之后的網絡預測輸出；'reverse’表示對數(shù)據進行反歸一化。

2.2.2 編程實現(xiàn)

2.2.2.1數(shù)據選擇和歸一化

??首先根據倒譜系數(shù)法提取四類音樂語音特征信號，不同的語音信號分別用1,2,3,4標識，提取出的信號分別存儲于datal.mat， data2.mat，data3.mat,，data4.mat數(shù)據庫文件中，每組數(shù)據為25維，第1維為類別標識，后24維為語音特征信號。然后把四類語音特征信號合為一組，從中隨機選取1500組數(shù)據作為訓練數(shù)據，500組數(shù)據作為測試數(shù)據，并對訓練數(shù)據進行歸一化處理。根據語音類別標識設定每組語音信號的期望輸出值，如標識類為1時，期望輸出向量為[1 0 0 0]。

%% 清空環(huán)境變量 clc clear%% 訓練數(shù)據預測數(shù)據提取及歸一化%下載四類語音信號 load data1 c1 load data2 c2 load data3 c3 load data4 c4%四個特征信號矩陣合成一個矩陣 data(1:500,:)=c1(1:500,:); data(501:1000,:)=c2(1:500,:); data(1001:1500,:)=c3(1:500,:); data(1501:2000,:)=c4(1:500,:);%從1到2000間隨機排序 k=rand(1,2000); [m,n]=sort(k);%輸入輸出數(shù)據 input=data(:,2:25); output1 =data(:,1);%把輸出從1維變成4維 output=zeros(2000,4); for i=1:2000switch output1(i)case 1output(i,:)=[1 0 0 0];case 2output(i,:)=[0 1 0 0];case 3output(i,:)=[0 0 1 0];case 4output(i,:)=[0 0 0 1];end end%隨機提取1500個樣本為訓練樣本，500個樣本為預測樣本 input_train=input(n(1:1500),:)'; output_train=output(n(1:1500),:)'; input_test=input(n(1501:2000),:)'; output_test=output(n(1501:2000),:)';%輸入數(shù)據歸一化 [inputn,inputps]=mapminmax(input_train);

2.2.2.2 BP神經網絡結構初始化

??根據語音特征信號特點確定BP神經網絡的結構為24-25-4，隨機初始化BP神經網絡
權值和闊值。

%% 網絡結構初始化 innum=24; midnum=25; outnum=4;%權值初始化 w1=rands(midnum,innum); b1=rands(midnum,1); w2=rands(midnum,outnum); b2=rands(outnum,1);w2_1=w2;w2_2=w2_1; w1_1=w1;w1_2=w1_1; b1_1=b1;b1_2=b1_1; b2_1=b2;b2_2=b2_1;%學習率 xite=0.1; alfa=0.01; loopNumber=10; I=zeros(1,midnum); Iout=zeros(1,midnum); FI=zeros(1,midnum); dw1=zeros(innum,midnum); db1=zeros(1,midnum);

2.2.2.3 BP神經網絡訓練

??用訓練數(shù)據訓練BP神經網絡，在訓練過程中根據網絡預測誤差調整網絡的權值和閾值。

%% 網絡訓練 E=zeros(1,loopNumber); for ii=1:loopNumberE(ii)=0;for i=1:1:1500%% 網絡預測輸出 x=inputn(:,i);% 隱含層輸出for j=1:1:midnumI(j)=inputn(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));end% 輸出層輸出yn=w2'*Iout'+b2;%% 權值閥值修正%計算誤差e=output_train(:,i)-yn; E(ii)=E(ii)+sum(abs(e));%計算權值變化率dw2=e*Iout;db2=e';for j=1:1:midnumS=1/(1+exp(-I(j)));FI(j)=S*(1-S);end for k=1:1:innumfor j=1:1:midnumdw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));endendw1=w1_1+xite*dw1';b1=b1_1+xite*db1';w2=w2_1+xite*dw2';b2=b2_1+xite*db2';w1_2=w1_1;w1_1=w1;w2_2=w2_1;w2_1=w2;b1_2=b1_1;b1_1=b1;b2_2=b2_1;b2_1=b2;end end

2.2.2.4 BP神經網絡分類

??用訓練好的BP神經網絡分類語音特征信號，根據分類結果分析BP神經網絡分類能力。

%% 語音特征信號分類 inputn_test=mapminmax('apply',input_test,inputps); fore=zeros(4,500); for ii=1:1for i=1:500%1500%隱含層輸出for j=1:1:midnumI(j)=inputn_test(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));endfore(:,i)=w2'*Iout'+b2;end end

2.2.2.5 結果分析

%% 結果分析 %根據網絡輸出找出數(shù)據屬于哪類 output_fore=zeros(1,500); for i=1:500output_fore(i)=find(fore(:,i)==max(fore(:,i))); end%BP網絡預測誤差 error=output_fore-output1(n(1501:2000))';%畫出預測語音種類和實際語音種類的分類圖 figure(1) plot(output_fore,'r') hold on plot(output1(n(1501:2000))','b') legend('預測語音類別','實際語音類別')%畫出誤差圖 figure(2) plot(error) title('BP網絡分類誤差','fontsize',12) xlabel('語音信號','fontsize',12) ylabel('分類誤差','fontsize',12)%print -dtiff -r600 1-4k=zeros(1,4); %找出判斷錯誤的分類屬于哪一類 for i=1:500if error(i)~=0[b,c]=max(output_test(:,i));switch ccase 1 k(1)=k(1)+1;case 2 k(2)=k(2)+1;case 3 k(3)=k(3)+1;case 4 k(4)=k(4)+1;endend end%找出每類的個體和 kk=zeros(1,4); for i=1:500[b,c]=max(output_test(:,i));switch ccase 1kk(1)=kk(1)+1;case 2kk(2)=kk(2)+1;case 3kk(3)=kk(3)+1;case 4kk(4)=kk(4)+1;end end%正確率 rightridio=(kk-k)./kk; disp('正確率') disp(rightridio);

結果如下:

BP神經網絡分類誤差如下圖所示：

BP神經網絡分類正確率如下表所示：

語音信號類別第一類第二類第三類第四類

識別正確率	0.7823	1.0000	0.8195	0.8837

??從BP神經網絡分類結果可以看出，基于BP神經網絡的語音信號分類算法具有較高的準確性，能夠準確識別出語音信號所屬類別。

2.3 算法改進

??BP神經網絡的隱含層節(jié)點數(shù)對BP神經網絡預測精度有較大的影響：節(jié)點數(shù)太少，網絡不能很好地學習，需要增加訓練次數(shù)，訓練的精度也受影響；節(jié)點數(shù)太多，訓練時間增加，網絡容易擬合。最佳隱含層節(jié)點數(shù)選擇可參考如下公式：
$$\begin{array}{rl}l& <n?1\\ l& <\sqrt{(m+n)}+a\\ l& ={\log }_{2}n\end{array}$$
式中，$n$為輸入層節(jié)點數(shù)；$l$為隱含層節(jié)點數(shù)；$m$為輸出層節(jié)點數(shù)；$a$為0~10之間的常數(shù)。在實際問題中，隱含層節(jié)點數(shù)的選擇首先是參考公式來確定節(jié)點數(shù)的大概范圍，然后用試湊法確定最佳的節(jié)點數(shù)。對于某些問題來說,隱含層節(jié)點數(shù)對輸出結果影響較小，如對于本案例來說，分類誤差同隱含層節(jié)點數(shù)的關系如下圖所示。

??從上圖可以看出,本案例中BP神經網絡的分類誤差隨著隱含層節(jié)點數(shù)的增加呈現(xiàn)先減少后增加的趨勢。也符合一般問題的情況。

2.3.1 附加動量方法

??BP神經網絡的采用梯度修正法作為權值和闊值的學習算法，從網絡預測誤差的負梯度方向修正權值和閾值，沒有考慮以前經驗的積累，學習過程收斂緩慢。對于這個問題，可以采用附加動量方法來解決，帶附加動量的權值學習公式為：
$$\omega (k)=\omega (k?1)+△\omega (k)+a[\omega (k?1)?\omega (k?2)]$$
式中,$\omega (k),\omega (k?1),\omega (k?2)$分別為$k,k?1,k?2$時刻的權值；$a$為動量學習率。
程序如下：

%% 該代碼為基于帶動量項的BP神經網絡語音識別 %% 清空環(huán)境變量 clc clear%% 訓練數(shù)據預測數(shù)據提取及歸一化%下載四類語音信號 load data1 c1 load data2 c2 load data3 c3 load data4 c4%四個特征信號矩陣合成一個矩陣 data(1:500,:)=c1(1:500,:); data(501:1000,:)=c2(1:500,:); data(1001:1500,:)=c3(1:500,:); data(1501:2000,:)=c4(1:500,:);%從1到2000間隨機排序 k=rand(1,2000); [m,n]=sort(k);%輸入輸出數(shù)據 input=data(:,2:25); output1 =data(:,1);%把輸出從1維變成4維 output=zeros(2000,4); for i=1:2000switch output1(i)case 1output(i,:)=[1 0 0 0];case 2output(i,:)=[0 1 0 0];case 3output(i,:)=[0 0 1 0];case 4output(i,:)=[0 0 0 1];end end%隨機提取1500個樣本為訓練樣本，500個樣本為預測樣本 input_train=input(n(1:1500),:)'; output_train=output(n(1:1500),:)'; input_test=input(n(1501:2000),:)'; output_test=output(n(1501:2000),:)';%輸入數(shù)據歸一化 [inputn,inputps]=mapminmax(input_train);%% 網絡結構初始化 innum=24; midnum=25; outnum=4;%權值初始化 w1=rands(midnum,innum); b1=rands(midnum,1); w2=rands(midnum,outnum); b2=rands(outnum,1);w2_1=w2;w2_2=w2_1; w1_1=w1;w1_2=w1_1; b1_1=b1;b1_2=b1_1; b2_1=b2;b2_2=b2_1;%學習率 xite=0.1; alfa=0.01; loopNumber=10; I=zeros(1,midnum); Iout=zeros(1,midnum); FI=zeros(1,midnum); dw1=zeros(innum,midnum); db1=zeros(1,midnum);%% 網絡訓練 E=zeros(1,loopNumber); for ii=1:10E(ii)=0;for i=1:1:1500%% 網絡預測輸出 x=inputn(:,i);% 隱含層輸出for j=1:1:midnumI(j)=inputn(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));end% 輸出層輸出yn=w2'*Iout'+b2;%% 權值閥值修正%計算誤差e=output_train(:,i)-yn; E(ii)=E(ii)+sum(abs(e));%計算權值變化率dw2=e*Iout;db2=e';for j=1:1:midnumS=1/(1+exp(-I(j)));FI(j)=S*(1-S);end for k=1:1:innumfor j=1:1:midnumdw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));endendw1=w1_1+xite*dw1'+alfa*(w1_1-w1_2);b1=b1_1+xite*db1'+alfa*(b1_1-b1_2);w2=w2_1+xite*dw2'+alfa*(w2_1-w2_2);b2=b2_1+xite*db2'+alfa*(b2_1-b2_2);w1_2=w1_1;w1_1=w1;w2_2=w2_1;w2_1=w2;b1_2=b1_1;b1_1=b1;b2_2=b2_1;b2_1=b2;end end%% 語音特征信號分類 inputn_test=mapminmax('apply',input_test,inputps); fore=zeros(4,500); for ii=1:1for i=1:500%1500%隱含層輸出for j=1:1:midnumI(j)=inputn_test(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));endfore(:,i)=w2'*Iout'+b2;end end%% 結果分析 %根據網絡輸出找出數(shù)據屬于哪類 output_fore=zeros(1,500); for i=1:500output_fore(i)=find(fore(:,i)==max(fore(:,i))); end%BP網絡預測誤差 error=output_fore-output1(n(1501:2000))';%畫出預測語音種類和實際語音種類的分類圖 figure(1) plot(output_fore,'r') hold on plot(output1(n(1501:2000))','b') legend('預測語音類別','實際語音類別')%畫出誤差圖 figure(2) plot(error) title('BP網絡分類誤差','fontsize',12) xlabel('語音信號','fontsize',12) ylabel('分類誤差','fontsize',12)%print -dtiff -r600 1-4k=zeros(1,4); %找出判斷錯誤的分類屬于哪一類 for i=1:500if error(i)~=0[b,c]=max(output_test(:,i));switch ccase 1 k(1)=k(1)+1;case 2 k(2)=k(2)+1;case 3 k(3)=k(3)+1;case 4 k(4)=k(4)+1;endend end%找出每類的個體和 kk=zeros(1,4); for i=1:500[b,c]=max(output_test(:,i));switch ccase 1kk(1)=kk(1)+1;case 2kk(2)=kk(2)+1;case 3kk(3)=kk(3)+1;case 4kk(4)=kk(4)+1;end end%正確率 rightridio=(kk-k)./kk; disp('正確率') disp(rightridio);

結果如下:

BP神經網絡分類誤差如下圖所示：

BP神經網絡分類正確率如下表所示：

語音信號類別第一類第二類第三類第四類

識別正確率	0.7083	1.0000	0.9621	0.9469

2.3.2 變學習率學習方法

??BP神經網絡學習率$\eta$的取值在[0,1]之間，學習率$\eta$越大，對權值的修改越大，網絡學習速度越快。但過大的學習速率$\eta$將使權值學習過程產生震蕩，過小的學習概率使網絡收斂過慢，權值難以趨于穩(wěn)定。變學習率方法是指學習概率$\eta$在BP神經網絡進化初期較大，網絡收斂迅速，隨著學習過程的進行，學習率不斷減小，網絡趨于穩(wěn)定。變學習率計算公式為：
$$\eta (t)={\eta }_{max}?t({\eta }_{max}?{\eta }_{min})/t_{max}$$
式中，${\eta }_{max}$為最大學習率；${\eta }_{min}$為最小學習率；$t_{max}$為最大迭代次數(shù)；$t$為當前迭代次數(shù)。
代碼如下：

%% 該代碼為基于變學習率BP網絡的語言識別%% 清空環(huán)境變量 clc clear%% 訓練數(shù)據預測數(shù)據提取及歸一化%下載四類語音信號 load data1 c1 load data2 c2 load data3 c3 load data4 c4%四個特征信號矩陣合成一個矩陣 data(1:500,:)=c1(1:500,:); data(501:1000,:)=c2(1:500,:); data(1001:1500,:)=c3(1:500,:); data(1501:2000,:)=c4(1:500,:);%從1到2000間隨機排序 k=rand(1,2000); [m,n]=sort(k);%輸入輸出數(shù)據 input=data(:,2:25); output1 =data(:,1);%把輸出從1維變成4維 output=zeros(2000,4); for i=1:2000switch output1(i)case 1output(i,:)=[1 0 0 0];case 2output(i,:)=[0 1 0 0];case 3output(i,:)=[0 0 1 0];case 4output(i,:)=[0 0 0 1];end end%隨機提取1500個樣本為訓練樣本，500個樣本為預測樣本 input_train=input(n(1:1500),:)'; output_train=output(n(1:1500),:)'; input_test=input(n(1501:2000),:)'; output_test=output(n(1501:2000),:)';%輸入數(shù)據歸一化 [inputn,inputps]=mapminmax(input_train);%% 網絡結構初始化 innum=24; midnum=15; outnum=4;%權值初始化 w1=rands(midnum,innum); b1=rands(midnum,1); w2=rands(midnum,outnum); b2=rands(outnum,1);w2_1=w2;w2_2=w2_1; w1_1=w1;w1_2=w1_1; b1_1=b1;b1_2=b1_1; b2_1=b2;b2_2=b2_1;%學習率 xite=0.1; xite2 = 0.9; alfa=0.01; loopNumber=10; I=zeros(1,midnum); Iout=zeros(1,midnum); FI=zeros(1,midnum); dw1=zeros(innum,midnum); db1=zeros(1,midnum);%% 網絡訓練 E=zeros(1,loopNumber); for ii=1:loopNumberE(ii)=0;for i=1:1:1500%% 網絡預測輸出 x=inputn(:,i);% 隱含層輸出for j=1:1:midnumI(j)=inputn(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));end% 輸出層輸出yn=w2'*Iout'+b2;%% 權值閥值修正%計算誤差e=output_train(:,i)-yn; E(ii)=E(ii)+sum(abs(e));%計算權值變化率dw2=e*Iout;db2=e';for j=1:1:midnumS=1/(1+exp(-I(j)));FI(j)=S*(1-S);end for k=1:1:innumfor j=1:1:midnumdw1(k,j)=FI(j)*x(k)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));db1(j)=FI(j)*(e(1)*w2(j,1)+e(2)*w2(j,2)+e(3)*w2(j,3)+e(4)*w2(j,4));endendw1=w1_1+(xite2 - ii*(xite2-xite)/loopNumber)*dw1';b1=b1_1+(xite2 - ii*(xite2-xite)/loopNumber)*db1';w2=w2_1+(xite2 - ii*(xite2-xite)/loopNumber)*dw2';b2=b2_1+(xite2 - ii*(xite2-xite)/loopNumber)*db2';w1_2=w1_1;w1_1=w1;w2_2=w2_1;w2_1=w2;b1_2=b1_1;b1_1=b1;b2_2=b2_1;b2_1=b2;end end%% 語音特征信號分類 inputn_test=mapminmax('apply',input_test,inputps); fore=zeros(4,500); for ii=1:1for i=1:500%1500%隱含層輸出for j=1:1:midnumI(j)=inputn_test(:,i)'*w1(j,:)'+b1(j);Iout(j)=1/(1+exp(-I(j)));endfore(:,i)=w2'*Iout'+b2;end end%% 結果分析 %根據網絡輸出找出數(shù)據屬于哪類 output_fore=zeros(1,500); for i=1:500output_fore(i)=find(fore(:,i)==max(fore(:,i))); end%BP網絡預測誤差 error=output_fore-output1(n(1501:2000))';%畫出預測語音種類和實際語音種類的分類圖 figure(1) plot(output_fore,'r') hold on plot(output1(n(1501:2000))','b') legend('預測語音類別','實際語音類別')%畫出誤差圖 figure(2) plot(error) title('BP網絡分類誤差','fontsize',12) xlabel('語音信號','fontsize',12) ylabel('分類誤差','fontsize',12)%print -dtiff -r600 1-4k=zeros(1,4); %找出判斷錯誤的分類屬于哪一類 for i=1:500if error(i)~=0[b,c]=max(output_test(:,i));switch ccase 1 k(1)=k(1)+1;case 2 k(2)=k(2)+1;case 3 k(3)=k(3)+1;case 4 k(4)=k(4)+1;endend end%找出每類的個體和 kk=zeros(1,4); for i=1:500[b,c]=max(output_test(:,i));switch ccase 1kk(1)=kk(1)+1;case 2kk(2)=kk(2)+1;case 3kk(3)=kk(3)+1;case 4kk(4)=kk(4)+1;end end%正確率 rightridio=(kk-k)./kk; disp('正確率') disp(rightridio);

結果如下:

BP神經網絡分類誤差如下圖所示：

BP神經網絡分類正確率如下表所示：

語音信號類別第一類第二類第三類第四類

識別正確率	0.8167	1.0000	0.9292	0.9250

??可以發(fā)現(xiàn)兩種改進過后的BP神經網絡的結果較于未改進的BP神經網絡有了改善。說明此兩種改進方法是可行的。

全部代碼：
鏈接：https://pan.baidu.com/s/1KjsNDDJTUrkLNGghKL65Yg
提取碼：6666
??
??
??
??

喜歡的小伙伴麻煩點個贊奧，謝謝啦🙏🙏

總結

以上是生活随笔為你收集整理的BP神经网络分类以及对算法进行改进—MATLAB实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。