作者 |?慕蘇

【簡介】

本文將兩種生物視覺機制，分別是視網膜的非均勻采樣機制和多種不同大小的感受野存在機制，應用到神經網絡中，提高了神經網絡的對抗魯棒性。

論文地址：

https://arxiv.org/abs/2006.16427

?

【引言】

盡管卷積神經網絡在視覺識別任務上取得了卓越的表現，但它們在一些任務上仍然落后于人類的視覺系統。比如，神經網絡對于微小的對抗擾動十分脆弱，而人眼對于視覺刺激上的微小擾動則非常魯棒。近年來，有大量工作表明人工神經網絡在建模大腦的腹側視覺流上具有適用性。因此，本文提出將兩種生物視覺機制應用到神經網絡中，以提高神經網絡的對抗魯棒性。此外，作者通過消融實驗，進一步分析了每種機制中影響神經網絡魯棒性的關鍵因素。

?

【模型介紹】

1. 生物視覺機制

• 第一種機制是視網膜對視覺刺激的非均勻空間采樣機制。視網膜小凹中心的視錐細胞密度最大，從中心向四周視錐細胞密度遞減。上圖左側顯示了5種視網膜注視點下，視網膜空間采樣的分布和效果。

• 第二種機制是視覺皮層V1細胞存在不同尺度的感受野機制。上圖右側顯示了5種不同的視覺皮層注視點下，周圍不同空間尺度的感受野區域（紅色矩形框）。

?

2. 基于生物視覺機制設計模型

基于上述兩種生物視覺機制，作者設計了下圖所示的神經網絡模型C和D。模型A是普通的卷積神經網絡，模型B簡單地截取圖片上的不同區域來模擬不同注視點的作用，被稱為“粗糙的注視點”模型。模型A和B是為了和模型C、D作對照。模型C是融入第一種生物啟發機制的模型，被稱為“視網膜注視點”模型（retinal fixations），該模型對圖片在不同注視點下進行非均勻采樣，之后再將其送入神經網絡中。模型D是融入第二種生物啟發機制的模型，被稱為“視皮層注視點”模型（corticalfixations），該模型將標準的ResNet網絡分成不同的分支，每個分支處理一種尺度的感受野，之后再將不同分支的結果拼接起來。

【實驗結果】

1、正常樣本上的準確率

上表展示了模型A(STANDARD RESNET)、B(COARSE FIXATIONS)、C(RETINAL FIXATIONS)、D(CORTICAL FIXATIONS)在不同的數據集上的測試準確率，可以看到模型B的性能普遍優于普通模型A，同時模型C的性能和模型B旗鼓相當，兩者差距不大。

?

2、對抗魯棒性

上圖顯示了在不同數據集上，隨著對抗擾動大小的增加，不同模型的魯棒性結果。我們可以發現，基于生物視覺機制的模型（retinal fixations和cortical fixations）比普通模型（ResNet）具有更好的對抗魯棒性。此外，在CIFAR10數據集上，retinal fixations和cortical fixations模型的魯棒性要低于對抗訓練的模型。

?

3. 消融實驗

作者通過消融實驗來研究兩種生物視覺機制中影響神經網絡對抗魯棒性的決定性因素。

如上圖左側所示，“uniformresampling”為均勻采樣，而“retinal fixations”采用非均勻采樣，可以看到，相比于最優的對照模型，均勻采樣的準確率提升小于0，而非均勻采樣的準確率提升大于0，說明均勻采樣無法提升模型的魯棒性，而非均勻采樣可以。在上圖右側中，由于“cortical fixations”模型考慮圖片不同尺度的感受野，同時采用多條神經網絡分支處理不同尺度的感受野圖片，最后對不同尺度的感受野圖片進行高斯下采樣再送入CNN中。因此“emsembling”消融模型僅采用一條神經網絡分支，“gaussian blur”采用和“coarse fixations”模型一樣的下采樣方式，但是在圖片上加了高斯模糊，“gaussian downsample”則是“cortical fixations”模型中對應最大感受野的分支。我們可以發現，“emsembling”模型無法提高神經網絡的魯棒性，“gaussian blur”能稍微提高模型的魯棒性。“gaussian downsample”能大幅提高模型的魯棒性，但是性能低于“corticalfixations”，說明在“cortical fixations”模型中增加對大尺度感受野圖片特征的利用，有利于提高模型的對抗魯棒性。

---

推薦閱讀

（點擊標題可跳轉閱讀）

干貨 | 公眾號歷史文章精選

我的深度學習入門路線

我的機器學習入門路線圖

重磅！

AI有道年度技術文章電子版PDF來啦！

掃描下方二維碼，添加?AI有道小助手微信，可申請入群，并獲得2020完整技術文章合集PDF（一定要備注：入群?+ 地點 + 學校/公司。例如：入群+上海+復旦。?

長按掃碼，申請入群

（添加人數較多，請耐心等待）

感謝你的分享，點贊，在看三連↓

總結

以上是生活随笔為你收集整理的利用生物视觉机制提高神经网络的对抗鲁棒性 | NeurIPS 2020的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。