不知道大家有沒(méi)有這種感覺(jué)？在接觸AI時(shí)，老感覺(jué)神經(jīng)網(wǎng)絡(luò)就像個(gè)黑盒子，摸不著，看不透，賊神秘了。

其實(shí)，神經(jīng)網(wǎng)絡(luò)就是對(duì)人腦運(yùn)作模式的智能模擬。和人腦一樣，神經(jīng)網(wǎng)絡(luò)模型的強(qiáng)大能力，是基于成千上萬(wàn)個(gè)神經(jīng)元的相互作用。以卷積神經(jīng)網(wǎng)絡(luò)（CNN）為例，其結(jié)構(gòu)就分為很多層，層與層之間通過(guò)線來(lái)連接。訓(xùn)練的過(guò)程，就是將所有的線設(shè)置成合適的值的過(guò)程。

為了直觀展示，今天就通過(guò)可視化帶大家看看AI訓(xùn)練時(shí)都長(zhǎng)啥樣。（前方多圖預(yù)警！

首先，AI模型訓(xùn)練前長(zhǎng)這樣：

訓(xùn)練中，依次經(jīng)過(guò)卷積-激活、卷積-激活-池化、卷積-激活、卷積-激活-池化……這個(gè)過(guò)程大概長(zhǎng)這樣：

最后，訓(xùn)練完成后長(zhǎng)這樣，一種張揚(yáng)肆意的凌亂美有沒(méi)有：

可以看到，經(jīng)過(guò)訓(xùn)練后的模型之所以長(zhǎng)得不再“均勻規(guī)整”，是因?yàn)楸毁x予了權(quán)值不一的特征。雖然訓(xùn)練花了不少時(shí)間，但360度觀摩神經(jīng)網(wǎng)絡(luò)的訓(xùn)練后，讓人覺(jué)得再漫長(zhǎng)的等待都是值得的。

看完上面炫酷的3D展示，接下來(lái)我們?cè)偻ㄟ^(guò)AI模型全局結(jié)構(gòu)圖，一步步拆解訓(xùn)練過(guò)程，試著把CNN每一層的操作和變化都展示出來(lái)。

首先是卷積層，這一步主要是為了提取特征。因?yàn)锳I在識(shí)別圖片時(shí)，并非一下子整張圖整體識(shí)別，而是先對(duì)圖中的每一個(gè)特征進(jìn)行局部感知。

圖：卷積層

然后，到了激活層，這個(gè)步驟是對(duì)上面提取的特征做一次非線性映射。

圖：激活層

接著，來(lái)到池化層，用白話來(lái)講就是去除冗余信息，保留關(guān)鍵信息。畢竟一張圖像通常包含了大量雜余信息，如果把整張圖的所有特征都學(xué)習(xí)下來(lái)，那可不把AI累死。

圖：池化層

就這樣，以上操作重復(fù)N次，就形成了一個(gè)深層神經(jīng)網(wǎng)絡(luò)，完成自動(dòng)化的有效特征提取：

最后，來(lái)到全連接層，通過(guò)對(duì)所有得到的特征加權(quán)，計(jì)算輸出預(yù)測(cè)結(jié)果，大功告成。

10

以上，就是一整套AI訓(xùn)練時(shí)的正常畫風(fēng)。那么，如果我們給AI悄摸摸喂點(diǎn)對(duì)抗樣本，訓(xùn)練過(guò)程又是什么畫風(fēng)呢？

所謂對(duì)抗樣本，是指對(duì)原始圖片添加細(xì)微干擾形成輸入樣本，讓人眼看來(lái)無(wú)明顯變化，卻能導(dǎo)致AI模型的預(yù)測(cè)結(jié)果走偏、出錯(cuò)。

這里，舉個(gè)小熊貓圖片被加入噪聲的例子：

11

首先看看原始的小熊貓圖片在神經(jīng)網(wǎng)絡(luò)中的一個(gè)特征分布情況：

12

再看看小熊貓圖片被加入對(duì)抗樣本后的特征分布情況：

13

可以清楚看到，兩者的預(yù)測(cè)結(jié)果截然不同（小熊貓vs車子），但兩者在訓(xùn)練過(guò)程中的不同之處大家有發(fā)現(xiàn)嗎？

乍看之下，兩者的特征權(quán)值分布非常相似，但仔細(xì)觀察就會(huì)發(fā)現(xiàn)一些略微不同。這里我們給池化層的第三個(gè)filter來(lái)個(gè)特寫鏡頭，大家來(lái)找找茬：

14

如上，從這些細(xì)微差異中，可以窺見(jiàn)AI的預(yù)測(cè)逐漸“走偏”的蛛絲馬跡。

這就如同蝴蝶效應(yīng)，最開(kāi)始的一點(diǎn)點(diǎn)細(xì)微干擾，在經(jīng)過(guò)訓(xùn)練過(guò)程中重復(fù)多次的卷積、激活、池化后，越走越歪，最終輸出的結(jié)果和原始結(jié)果千差萬(wàn)別。

也許，這就是神經(jīng)網(wǎng)絡(luò)的奧秘所在吧。歡迎感興趣的同學(xué)與我們交流探討！

【AI安全小學(xué)生系列】往期回顧

• 照片被盜后，我用這種方法錘死了盜圖賊

• 大廠碼農(nóng)隱秘圖片流出.jpg

• AI是如何發(fā)現(xiàn)你手機(jī)里的羞羞照片的？

• 噓——?jiǎng)e出聲！

• 每個(gè)老司機(jī)，都曾在深夜思考過(guò)清除馬賽克的方法

• 翻車的100種方法

• 如何從一個(gè)人入手，搞垮一家企業(yè)？

• 當(dāng)黑客擁有算力——“洗白”的病毒

• 當(dāng)AI吃了毒蘑菇…

• 我們?yōu)槭裁匆喓蠹捶?#xff1f;

視頻號(hào)最新視頻

十年磨礪極致性能，挑戰(zhàn)極限，打造業(yè)界性能NO.1

總結(jié)

以上是生活随笔為你收集整理的神经网络可视化，真的很像神经元！的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。