人的大腦有860億個(gè)神經(jīng)元，而神經(jīng)元和其他神經(jīng)元之間的連接多達(dá)上萬(wàn)個(gè)。所以有理由相信人類大腦的神經(jīng)網(wǎng)絡(luò)的隱藏層神經(jīng)元節(jié)點(diǎn)之間應(yīng)該是相互連接的。如果隱藏曾節(jié)點(diǎn)之間相互連接那么人類大腦的隱藏層就應(yīng)該是立體的結(jié)構(gòu)，假設(shè)一個(gè)神經(jīng)網(wǎng)絡(luò)第一層有4個(gè)節(jié)點(diǎn)，第二層也有4個(gè)節(jié)點(diǎn)

輸入X輸出是Y，第一層是AEHB，第二層是DFGC。與tensorflow的神經(jīng)網(wǎng)絡(luò)相比只是多了AB，BH，HE，EA，DC，CG，GF，FD共8條權(quán)重連接，如果把這8條連接去掉和tensorflow的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)是完全相同的，這里假設(shè)神經(jīng)元起到閥門一樣的功能，按照時(shí)間或者電壓或其他生物指標(biāo)可以屏蔽這8條連接，這個(gè)假設(shè)至少用計(jì)算機(jī)編程的方法可以很容易做到。將這個(gè)模型叫做F(X)=Y。
因?yàn)槭橇Ⅲw結(jié)構(gòu)有理由相信這8個(gè)點(diǎn)還可以同時(shí)支持別的模型

這個(gè)模型的輸入是M輸出是N，第一層是AEFD,第二層是BHGC。同樣如果去掉AE,EF,FD,DA,BH,HG,GC,CB這8條連接這個(gè)模型和tensorflow的模型是一樣的，并沒(méi)有區(qū)別。按照神經(jīng)元閥門的假設(shè)在輸入M的同時(shí)將這8條連接屏蔽。經(jīng)過(guò)訓(xùn)練形成模型F(M)=N。
那這兩個(gè)模型是否可以共存？

這個(gè)模型8個(gè)節(jié)點(diǎn)同時(shí)支持兩個(gè)模型F(X)=Y和F(M)=N，假設(shè)神經(jīng)元閥門在這種多模型狀態(tài)下仍然可以正常完成屏蔽，則這兩個(gè)模型其實(shí)只有EG,EC,AG,AC這4條連接的權(quán)重是相同的，其余的權(quán)重值并不受影響。相當(dāng)于兩個(gè)tensorflow神經(jīng)網(wǎng)絡(luò)共享4個(gè)權(quán)重。
此時(shí)EG，EC，AG，AC這4個(gè)權(quán)重值用集合cross表示。用JHX表示F(X)=Y產(chǎn)生的權(quán)重集合，用JHM表示F(M)=N產(chǎn)生的權(quán)重集合。則這個(gè)立體的神經(jīng)網(wǎng)絡(luò)模型就等同于
F(X)=Y
F(M)=N
JHX?∩JHM=cross 所以這個(gè)立體神經(jīng)網(wǎng)絡(luò)模型相當(dāng)于用一個(gè)模型去一部分初始化另一個(gè)模型。

總結(jié)

以上是生活随笔為你收集整理的立体神经网络的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。