神经网络结构与输出值之间的关系
本文統計了在學習率,權重初始化標準和收斂標準都不變的情況下神經網絡的結構對輸出值得影響
比如圖示的網絡用11*11表示,本文收集了從2*2 到35*35的數據
| ? | a | b | 迭代次數 | a>0.5 | 數量 | a<0.5 | 數量 | ? |
| 2*2 | 0.501725 | 0.501025 | 1727143 | 0.506531 | 107 | 0.496195 | 93 | ? |
| 3*3 | 0.501739 | 0.501239 | 856043.1 | 0.506535 | 105 | 0.496438 | 95 | ? |
| 4*4 | 0.501742 | 0.501142 | 622167.2 | 0.506452 | 106 | 0.496431 | 94 | ? |
| 5*5 | 0.501102 | 0.501702 | 558111.4 | 0.506497 | 94 | 0.496318 | 106 | ? |
| 6*6 | 0.501764 | 0.501064 | 535387.6 | 0.506454 | 107 | 0.496368 | 93 | ? |
| 7*7 | 0.501881 | 0.501181 | 589825.6 | 0.506547 | 107 | 0.496514 | 93 | ? |
| 8*8 | 0.500504 | 0.502404 | 555818.1 | 0.506532 | 81 | 0.496401 | 119 | ? |
| 9*9 | 0.501592 | 0.501292 | 554611.5 | 0.506504 | 103 | 0.496377 | 97 | ? |
| 10*10 | 0.501511 | 0.501411 | 569645.4 | 0.506556 | 101 | 0.496363 | 99 | ? |
| 11*11 | 0.501781 | 0.501381 | 591014.9 | 0.506632 | 104 | 0.496526 | 96 | ? |
| 12*12 | 0.501255 | 0.501755 | 599936.9 | 0.506499 | 95 | 0.496511 | 105 | ? |
| 13*13 | 0.501229 | 0.502029 | 616165.2 | 0.50657 | 92 | 0.49668 | 108 | ? |
| 14*14 | 0.501513 | 0.501613 | 615826.2 | 0.506607 | 99 | 0.496519 | 101 | ? |
| 15*15 | 0.502192 | 0.501092 | 630735 | 0.506714 | 111 | 0.496552 | 89 | ? |
| 16*16 | 0.501363 | 0.501963 | 643422.3 | 0.506717 | 94 | 0.496615 | 106 | ? |
| 17*17 | 0.501345 | 0.502045 | 653491.6 | 0.506698 | 93 | 0.496692 | 107 | ? |
| 18*18 | 0.501972 | 0.501472 | 669932.1 | 0.506689 | 105 | 0.496759 | 95 | ? |
| 19*19 | 0.500927 | 0.502327 | 663836.9 | 0.506566 | 86 | 0.496672 | 114 | ? |
| 20*20 | 0.501389 | 0.502189 | 703333.7 | 0.506813 | 92 | 0.496769 | 108 | ? |
| 21*21 | 0.502206 | 0.501306 | 694105.8 | 0.506747 | 109 | 0.496768 | 91 | ? |
| 22*22 | 0.501445 | 0.502145 | 710521.9 | 0.506866 | 93 | 0.496734 | 107 | ? |
| 23*23 | 0.501873 | 0.501773 | 719971.3 | 0.506835 | 101 | 0.49681 | 99 | ? |
| 24*24 | 0.501561 | 0.502061 | 702123.9 | 0.506779 | 95 | 0.49684 | 105 | ? |
| 25*25 | 0.502251 | 0.501551 | 717297.5 | 0.506889 | 107 | 0.496915 | 93 | ? |
| 26*26 | 0.501535 | 0.502135 | 725809.9 | 0.506841 | 94 | 0.496829 | 106 | ? |
| 27*27 | 0.501945 | 0.501745 | 727087.3 | 0.506833 | 102 | 0.496858 | 98 | ? |
| 28*28 | 0.501269 | 0.502369 | 723658.6 | 0.50678 | 89 | 0.496851 | 111 | ? |
| 29*29 | 0.502532 | 0.501332 | 728437.2 | 0.506977 | 112 | 0.496875 | 88 | ? |
| 30*30 | 0.501948 | 0.501848 | 726516.2 | 0.506939 | 101 | 0.496857 | 99 | ? |
| 31*31 | 0.502448 | 0.501448 | 730641.1 | 0.506975 | 110 | 0.496916 | 90 | ? |
| 32*32 | 0.501784 | 0.502384 | 738450.4 | 0.507033 | 94 | 0.497129 | 106 | ? |
| 33*33 | 0.50224 | 0.50194 | 739203.6 | 0.507056 | 103 | 0.497126 | 97 | ? |
| 34*34 | 0.501618 | 0.502518 | 730357.6 | 0.507074 | 91 | 0.497063 | 109 | ? |
| 35*35 | 0.502096 | 0.502396 | 751763.7 | 0.507339 | 97 | 0.497159 | 103 | ? |
?
?
權重初始化方式
tw[a][b]=(double)ti1/200;
收斂標準
Math.abs(jud[0]-jud[1])>0.01
學習率
ret=0.1
?
a值得曲線看起來規律并不明顯
但是如果統計a>0.5
或者統計a<0.5
可以發現非常明顯隨著網絡結構的增加,收斂出的輸出值也在增加,可以合理的推測如果收集的樣本數量不是200組而是2000組合2萬組得到的曲線應該光滑的多。
所以神經網絡的輸出值是判斷網絡結構的相當有參考價值的指標,輸出值的變化可以很好的反應網絡結構的變化。
?
本文所用數據同《用神經網絡模擬分子:數據重復性檢測 ?》的數據。
總結
以上是生活随笔為你收集整理的神经网络结构与输出值之间的关系的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 收敛标准对迭代次数影响
- 下一篇: 用特征迭代次数区分minst数据集的0和