前面的實驗中分別測量了吸引子和鞍點，排斥子和鞍點，吸引子和排斥子的分類網絡的準確率。

以吸引子和鞍點為例

r1	r2	?	?
<1	<1	吸引子	c
>1	>1	排斥子	p
>1	<1	鞍點	a
<1	>1	反鞍點	fa

?

制作一個二分類網絡用來分類c和a，通過改變測試集c和a的比例觀察網路分類能力的變化，并將得到的數據擬合成數學表達式。

訓練集的比例c：a=1：1，

測試集c和a的比例為x：y.

讓x：y的比例分別為0：10，1：9，2：8，3：7，4：6，5：5，6：4，7：3，8：2，9：1，10：0。

實驗過程

二分類吸引子和鞍點

制作一個4*4*2的網絡向這個的左側輸入吸引子，并讓左側網絡向1，0收斂；向右側網絡輸入鞍點讓右側向0，1收斂，并讓4*4*2部分權重共享，前面大量實驗表明這種效果相當于將兩個彈性系數為k1，k2的彈簧并聯成一個彈性系數為k的彈簧，并且讓k1=k2=k/2的過程。

?

這個網絡的收斂標準是

if (Math.abs(f2[0]-y[0])< δ? &&? Math.abs(f2[1]-y[1])< δ?? )

因為對應每個收斂標準δ都有一個特征的迭代次數n與之對應因此可以用迭代次數曲線n(δ)來評價網絡性能。

本文嘗試了δ從0.5到1e-6在內的36個值.

具體進樣順序	?	?	?
進樣順序	迭代次數	?	?
δ=0.5	?	?	?
c	1	?	判斷是否達到收斂
a	2	?	判斷是否達到收斂
梯度下降	?	?	?
c	3	?	判斷是否達到收斂
a	4	?	判斷是否達到收斂
梯度下降	?	?	?
……	?	?	?
達到收斂標準測量準確率,記錄迭代次數，將這個過程重復199次		?	?
δ=0.4	?	?	?
…	?	?	?
δ=1e-6	?	?	?

?

將這個網絡簡寫成

d2（c，a）-4-4-2-（2*k）,k∈{0,1}

得到準確率表達式

與之對應

d2（p，c）-4-4-2-（2*k）,k∈{0,1}的準確率表達式

d2（p，a）-4-4-2-（2*k）,k∈{0,1}的準確率表達式

因此得到這3組數據

p	c	0.2556	1
p	a	0.959284	0.864343
c	a	0.799758	0.939178

?

經過觀察發現

?

左側	右側	差
1.235858	1.231751	0.004108
1.160756	1.168032	-0.00728
1.188831	1.180657	0.008174

?

進一步整理這3個等式

實驗數據

d2（c，a）-4-4-2-（2*k）,k∈{0,1}

《二分類吸引子和鞍點的準確率的表達式ca》

d2（p，a）-4-4-2-（2*k）,k∈{0,1}

《二分類排斥子和鞍點和準確率的表達式pa》

d2（c，p）-4-4-2-（2*k）,k∈{0,1}

《測試集的構成比例對網絡分類性能的影響cp》

?

?

?

?

總結

以上是生活随笔為你收集整理的二分类2x2对角矩阵准确率表达式的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。