超越源域的攻擊：面向黑盒域制作對抗樣本

【對抗樣本】【生成器方法】【BIA】

【CVPR2022】

🤔生成器方法還有CDA

由于現實生活中。黑盒模型的數據源不一定會開放。所以一種不依賴于數據源進行攻擊的方式是有必要的。基于這個目的短篇論文提出以下方法。

視頻鏈接

論文鏈接

pipeline

梯度回傳作用在generator上，其他的參數是不會變化的。這里的f_s^L(.)是substitute model ，L層的一個表示，是用中間層來計算得到它的最佳擾動。$\theta$^*是被優化的generation參數

• 為什么用中間層？因為數據集的類別數據域不一樣。所以如果使用和任務相關loss比如交叉熵，用交叉熵損失函數優化會限制遷移性
• 為什么用generation？
  • 生成速度快，只需要一次inference就可以生成想要的擾動，如果用迭代的方法，耗時比較長
  • 如果用model,對于一些輸入比較小的圖片，某些model是沒法往下傳遞（因為對于大小有限制）generation 就沒有輸入大小的限制
  • generation可以對元域更加好的應用，泛化性更好

這里的c是clip操作，使得擾動符合對抗樣本要求。

數據的問題

• 不同數據集的均值和方差也不同，帶來的影響是適應性不好

? 隨機正則化方案RN：利用兩個隨機的超參數，使得RN模塊可以模擬出更多數據域的分布，使數據的適應性有提高

模型的問題

• 有些模型提取到的特征，有明顯的偏差，如3,默認的方式可能是不太適合的。提出DA（domian-agnostic attention）

• 用A^L對多個channel的特征圖進行統合，得到總體特征的描述可視化如圖2

• 可以看到其主要關注的是核心區域。如果該層對核心區域不關注，就是一個噪聲，那么加上了A^L這個權重就會減小對參數的干擾。相當于加了一個mask的權重層。

最終框架

實驗設計

116085)]

實驗設計

[外鏈圖片轉存中…(img-aMuPYX3Z-1657698116085)]

總結

以上是生活随笔為你收集整理的超越源域的攻击：面向黑盒域制作对抗样本的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。