作者 |?慕蘇

【簡(jiǎn)介】

本文將兩種生物視覺(jué)機(jī)制，分別是視網(wǎng)膜的非均勻采樣機(jī)制和多種不同大小的感受野存在機(jī)制，應(yīng)用到神經(jīng)網(wǎng)絡(luò)中，提高了神經(jīng)網(wǎng)絡(luò)的對(duì)抗魯棒性。

論文地址：

https://arxiv.org/abs/2006.16427

?

【引言】

盡管卷積神經(jīng)網(wǎng)絡(luò)在視覺(jué)識(shí)別任務(wù)上取得了卓越的表現(xiàn)，但它們?cè)谝恍┤蝿?wù)上仍然落后于人類(lèi)的視覺(jué)系統(tǒng)。比如，神經(jīng)網(wǎng)絡(luò)對(duì)于微小的對(duì)抗擾動(dòng)十分脆弱，而人眼對(duì)于視覺(jué)刺激上的微小擾動(dòng)則非常魯棒。近年來(lái)，有大量工作表明人工神經(jīng)網(wǎng)絡(luò)在建模大腦的腹側(cè)視覺(jué)流上具有適用性。因此，本文提出將兩種生物視覺(jué)機(jī)制應(yīng)用到神經(jīng)網(wǎng)絡(luò)中，以提高神經(jīng)網(wǎng)絡(luò)的對(duì)抗魯棒性。此外，作者通過(guò)消融實(shí)驗(yàn)，進(jìn)一步分析了每種機(jī)制中影響神經(jīng)網(wǎng)絡(luò)魯棒性的關(guān)鍵因素。

?

【模型介紹】

1. 生物視覺(jué)機(jī)制

• 第一種機(jī)制是視網(wǎng)膜對(duì)視覺(jué)刺激的非均勻空間采樣機(jī)制。視網(wǎng)膜小凹中心的視錐細(xì)胞密度最大，從中心向四周視錐細(xì)胞密度遞減。上圖左側(cè)顯示了5種視網(wǎng)膜注視點(diǎn)下，視網(wǎng)膜空間采樣的分布和效果。

• 第二種機(jī)制是視覺(jué)皮層V1細(xì)胞存在不同尺度的感受野機(jī)制。上圖右側(cè)顯示了5種不同的視覺(jué)皮層注視點(diǎn)下，周?chē)煌臻g尺度的感受野區(qū)域（紅色矩形框）。

?

2. 基于生物視覺(jué)機(jī)制設(shè)計(jì)模型

基于上述兩種生物視覺(jué)機(jī)制，作者設(shè)計(jì)了下圖所示的神經(jīng)網(wǎng)絡(luò)模型C和D。模型A是普通的卷積神經(jīng)網(wǎng)絡(luò)，模型B簡(jiǎn)單地截取圖片上的不同區(qū)域來(lái)模擬不同注視點(diǎn)的作用，被稱(chēng)為“粗糙的注視點(diǎn)”模型。模型A和B是為了和模型C、D作對(duì)照。模型C是融入第一種生物啟發(fā)機(jī)制的模型，被稱(chēng)為“視網(wǎng)膜注視點(diǎn)”模型（retinal fixations），該模型對(duì)圖片在不同注視點(diǎn)下進(jìn)行非均勻采樣，之后再將其送入神經(jīng)網(wǎng)絡(luò)中。模型D是融入第二種生物啟發(fā)機(jī)制的模型，被稱(chēng)為“視皮層注視點(diǎn)”模型（corticalfixations），該模型將標(biāo)準(zhǔn)的ResNet網(wǎng)絡(luò)分成不同的分支，每個(gè)分支處理一種尺度的感受野，之后再將不同分支的結(jié)果拼接起來(lái)。

【實(shí)驗(yàn)結(jié)果】

1、正常樣本上的準(zhǔn)確率

上表展示了模型A(STANDARD RESNET)、B(COARSE FIXATIONS)、C(RETINAL FIXATIONS)、D(CORTICAL FIXATIONS)在不同的數(shù)據(jù)集上的測(cè)試準(zhǔn)確率，可以看到模型B的性能普遍優(yōu)于普通模型A，同時(shí)模型C的性能和模型B旗鼓相當(dāng)，兩者差距不大。

?

2、對(duì)抗魯棒性

上圖顯示了在不同數(shù)據(jù)集上，隨著對(duì)抗擾動(dòng)大小的增加，不同模型的魯棒性結(jié)果。我們可以發(fā)現(xiàn)，基于生物視覺(jué)機(jī)制的模型（retinal fixations和cortical fixations）比普通模型（ResNet）具有更好的對(duì)抗魯棒性。此外，在CIFAR10數(shù)據(jù)集上，retinal fixations和cortical fixations模型的魯棒性要低于對(duì)抗訓(xùn)練的模型。

?

3. 消融實(shí)驗(yàn)

作者通過(guò)消融實(shí)驗(yàn)來(lái)研究?jī)煞N生物視覺(jué)機(jī)制中影響神經(jīng)網(wǎng)絡(luò)對(duì)抗魯棒性的決定性因素。

如上圖左側(cè)所示，“uniformresampling”為均勻采樣，而“retinal fixations”采用非均勻采樣，可以看到，相比于最優(yōu)的對(duì)照模型，均勻采樣的準(zhǔn)確率提升小于0，而非均勻采樣的準(zhǔn)確率提升大于0，說(shuō)明均勻采樣無(wú)法提升模型的魯棒性，而非均勻采樣可以。在上圖右側(cè)中，由于“cortical fixations”模型考慮圖片不同尺度的感受野，同時(shí)采用多條神經(jīng)網(wǎng)絡(luò)分支處理不同尺度的感受野圖片，最后對(duì)不同尺度的感受野圖片進(jìn)行高斯下采樣再送入CNN中。因此“emsembling”消融模型僅采用一條神經(jīng)網(wǎng)絡(luò)分支，“gaussian blur”采用和“coarse fixations”模型一樣的下采樣方式，但是在圖片上加了高斯模糊，“gaussian downsample”則是“cortical fixations”模型中對(duì)應(yīng)最大感受野的分支。我們可以發(fā)現(xiàn)，“emsembling”模型無(wú)法提高神經(jīng)網(wǎng)絡(luò)的魯棒性，“gaussian blur”能稍微提高模型的魯棒性。“gaussian downsample”能大幅提高模型的魯棒性，但是性能低于“corticalfixations”，說(shuō)明在“cortical fixations”模型中增加對(duì)大尺度感受野圖片特征的利用，有利于提高模型的對(duì)抗魯棒性。

---

推薦閱讀

（點(diǎn)擊標(biāo)題可跳轉(zhuǎn)閱讀）

干貨 | 公眾號(hào)歷史文章精選

我的深度學(xué)習(xí)入門(mén)路線

我的機(jī)器學(xué)習(xí)入門(mén)路線圖

重磅！

AI有道年度技術(shù)文章電子版PDF來(lái)啦！

掃描下方二維碼，添加?AI有道小助手微信，可申請(qǐng)入群，并獲得2020完整技術(shù)文章合集PDF（一定要備注：入群?+ 地點(diǎn) + 學(xué)校/公司。例如：入群+上海+復(fù)旦。?

長(zhǎng)按掃碼，申請(qǐng)入群

（添加人數(shù)較多，請(qǐng)耐心等待）

感謝你的分享，點(diǎn)贊，在看三連↓

總結(jié)

以上是生活随笔為你收集整理的利用生物视觉机制提高神经网络的对抗鲁棒性 | NeurIPS 2020的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。