當(dāng)前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

高斯定理在神经网络上的投影

發(fā)布時(shí)間：2023/12/18 编程问答 32 豆豆

生活随笔收集整理的這篇文章主要介紹了高斯定理在神经网络上的投影小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.

電場強(qiáng)度對任意封閉曲面的通量只取決于該封閉曲面內(nèi)電荷的代數(shù)和，與曲面內(nèi)電荷的位置分布情況無關(guān)，與封閉曲面外的電荷亦無關(guān)。

---高斯定理

神經(jīng)網(wǎng)絡(luò)的分類過程就是用一套權(quán)重讓形態(tài)A變換成形態(tài)B，再讓形態(tài)B變換成形態(tài)A。也就是讓組成A的粒子移動(dòng)到（0，1）位，讓組成B的粒子移動(dòng)到（1，0）位。用電池做類比，A的粒子是由正極到負(fù)極，而B的粒子是由負(fù)極到正極,。所以A和B粒子的運(yùn)動(dòng)事實(shí)上形成了一個(gè)閉合的回路。而權(quán)重就是粒子運(yùn)動(dòng)的空間本身，按照高斯定律權(quán)重空間一定有一個(gè)僅僅和移位粒子數(shù)量有關(guān)的物理表象。

所以用此思路可以很自然的得到移位距離和假設(shè)

用神經(jīng)網(wǎng)絡(luò)分類A和B，把參與分類的A和B中的數(shù)字看作是組成A和B的粒子，分類的過程就是讓A和B中的粒子互相交換位置，尋找最短移位路徑的過程。而熵H與最短移位距離和成正比，迭代次數(shù)n和熵H成反比。

對二值化圖片移位規(guī)則匯總

每個(gè)粒子移位一次，位置重合不移位，0不動(dòng)，單次移位距離恒為1.

所以迭代次數(shù)可以理解為權(quán)重空間的通量，這個(gè)量僅與移位粒子數(shù)量有關(guān)。用實(shí)驗(yàn)去驗(yàn)證這個(gè)假設(shè)

用神經(jīng)網(wǎng)絡(luò)分類A和B讓A有8個(gè)1，B有5個(gè)1，統(tǒng)計(jì)相同收斂誤差下的迭代次數(shù)

	851	852	853	854
δ	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n
5.00E-04	25288.76	25687.64	25628.29	22738.92
4.00E-04	31347.55	30984.3	31484.12	27653.1
3.00E-04	40549.93	40845.78	40562.37	36072.61
2.00E-04	59255.58	59526.14	59150.38	53116.99
1.00E-04	114094.8	111861.3	112058	100986.2
s	3	3	3	5

851，852，853不重合的需要移位的粒子都只有3個(gè)，因此他們的迭代次數(shù)相同。而854不重合粒子有5個(gè)，按照移位粒子數(shù)量和迭代次數(shù)之間的反比關(guān)系，854的迭代次數(shù)要小些。

做第二組

同樣統(tǒng)計(jì)迭代次數(shù)

	851	852	853	854	855	856	857	858
δ	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n
5.00E-04	25288.76	25687.64	25628.29	22738.92	25451.39	22453.8	22649.25	22418.6
4.00E-04	31347.55	30984.3	31484.12	27653.1	31410.07	27650.26	27925.52	27807.69
3.00E-04	40549.93	40845.78	40562.37	36072.61	40813.36	36050.68	36206.22	36315.7
2.00E-04	59255.58	59526.14	59150.38	53116.99	59125.05	52699.7	52560.17	52650.34
1.00E-04	114094.8	111861.3	112058	100986.2	112628.3	101393.2	101142.5	101611.5
s	3	3	3	5	3	5	5	5

855的移位粒子數(shù)是3因此和851，852，853的迭代次數(shù)相同。而856，857，858的移位粒子數(shù)是5因此和854的迭代次數(shù)相同，數(shù)據(jù)符合假設(shè)。

再與前面實(shí)驗(yàn)數(shù)據(jù)橫向比較

	981	871	971	881	861	122	961	875
δ	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n
5.00E-04	34219.01	34553.02	28229.22	27843.89	28270.21	25862.05	25523.99	25117.39
4.00E-04	41899.68	41568.85	34548.15	34511.79	34803.25	31524.1	30958.15	31102.23
3.00E-04	53474.56	54287.27	44497.27	44407.41	45065.05	41011.36	40262.78	40239.05
2.00E-04	77797.83	78173.77	64693.36	64832.42	64707.93	59270.11	59096.97	58618.7
1.00E-04	148175	146473.4	123601.3	122874.1	123288	112397.9	113446.1	111994.6
s	1	1	2	2	2	3	3	3


	851	951	866	941	854	931	921	911
δ	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n	迭代次數(shù)n
5.00E-04	25288.76	23904.73	23868.01	22959.57	22738.92	22166.65	22094.36	23575.86
4.00E-04	31347.55	28978.03	28820.87	27774.2	27653.1	27290.48	27253.6	28991.81
3.00E-04	40549.93	38252.24	37659.14	35993.35	36072.61	35639.73	35340.25	37399.98
2.00E-04	59255.58	55426.48	54661.18	52950.71	53116.99	51890.25	52155.43	54335.16
1.00E-04	114094.8	106880.8	106599.8	101146.2	100986.2	100158	98502.28	102787.2
s	3	4	4	5	5	6	7	8

數(shù)據(jù)符合假設(shè)。

總結(jié)

以上是生活随笔為你收集整理的高斯定理在神经网络上的投影的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。