直播 | AMP:针对模型参数施加对抗扰动的高效神经网络正则化算法
「AI Drive」是由 PaperWeekly 和 biendata 共同發起的學術直播間,旨在幫助更多的青年學者宣傳其最新科研成果。我們一直認為,單向地輸出知識并不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產生更大的價值。
本期 AI Drive,我們邀請到北京航空航天大學博士生鄭耀威,為大家在線解讀其發表于 CVPR 2021?的最新工作 AMP:針對模型參數施加對抗擾動的高效神經網絡正則化算法。對本期主題感興趣的小伙伴,5 月 6 日(周四)晚 7 點,我們準時相約 PaperWeekly B 站直播間。
直播信息
在現代深度學習應用中,有效的正則化策略能避免過擬合現象并提升神經網絡的泛化性能。本研究基于平坦的損失函數局部最優解易泛化的假設,提出了一種全新的正則化策略,稱為模型對抗擾動算法(AMP)。該算法使用梯度下降方法優化一種替代損失函數,該替代損失函數是依照傳統損失函數對參數空間內的每個點施加對抗意義的微小擾動而得出的。
與現有的大多數正則化策略相比,該算法具有嚴謹的理論依據,并可以被證明其更偏好平坦的損失函數局部最優解。經過多種現代深度卷積神經網絡架構在多個圖像基準數據集上的實驗,該算法展示出相較其他正則化方法更優越的性能。
論文標題:
Regularizing Neural Networks via Adversarial Model Perturbation
論文鏈接:
https://arxiv.org/abs/2010.04925
本次分享的具體內容有:?
相關工作介紹及本文創新
算法優化目標和計算流程
算法理論依據的數學證明
論文實驗結果分析
總結
嘉賓介紹
?鄭耀威?/ 北京航空航天大學直博生?
鄭耀威,北京航空航天大學直博生,師從張日崇教授,已在 AAAI、WWW、CVPR 等會議發表多篇一作論文,在校期間曾獲得北航大學生年度人物的稱號。
直播地址?& 交流群
本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼或點擊閱讀原文即可免費觀看。線上分享結束后,嘉賓還將在直播交流群內實時 QA,在 PaperWeekly 微信公眾號后臺回復「AI Drive」,即可獲取入群通道。
B 站直播間:
https://live.bilibili.com/14884511
合作伙伴
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的直播 | AMP:针对模型参数施加对抗扰动的高效神经网络正则化算法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 红糖煮雪梨放多少红糖?
- 下一篇: 语言模型微调领域有哪些最新进展?一文详解