「AI Drive」是由 PaperWeekly 和 biendata 共同發(fā)起的學(xué)術(shù)直播間，旨在幫助更多的青年學(xué)者宣傳其最新科研成果。我們一直認(rèn)為，單向地輸出知識(shí)并不是一個(gè)最好的方式，而有效地反饋和交流可能會(huì)讓知識(shí)的傳播更加有意義，從而產(chǎn)生更大的價(jià)值。

本期 AI Drive，我們邀請(qǐng)到清華大學(xué)博士生李一鳴，為大家?guī)?lái)后門攻擊簡(jiǎn)介的專題直播。對(duì)本期主題感興趣的小伙伴，1 月 20 日（周三）晚 7 點(diǎn)，我們準(zhǔn)時(shí)相約 PaperWeekly B 站直播間。

直播信息

后門攻擊是一種新興的針對(duì)深度學(xué)習(xí)模型的攻擊方式，攻擊者在模型的訓(xùn)練過(guò)程中通過(guò)某種方式對(duì)模型植入一些后門。當(dāng)后門未被激發(fā)時(shí)，被攻擊的模型具有和正常模型類似的表現(xiàn)；而當(dāng)模型中埋藏的后門被攻擊者激活時(shí)，模型的輸出變?yōu)楣粽哳A(yù)先指定的標(biāo)簽以達(dá)到惡意的目的。后門攻擊可以發(fā)生在訓(xùn)練過(guò)程非完全受控的很多場(chǎng)景中，例如使用第三方數(shù)據(jù)集、使用第三方平臺(tái)進(jìn)行訓(xùn)練、直接調(diào)用第三方模型等，因此對(duì)模型的安全性造成了巨大威脅。

在本次分享中，我們將介紹后門攻擊的基礎(chǔ)知識(shí)和一些經(jīng)典方法，并介紹我們?cè)谶@個(gè)領(lǐng)域的一些探索。

本次分享的具體內(nèi)容有：?

• 后門攻擊的基礎(chǔ)知識(shí)

• 后門攻擊的三種經(jīng)典范式

• 我們?cè)诤箝T攻擊的三個(gè)探

• 展望

嘉賓介紹

?李一鳴?/?清華大學(xué)博士生?

李一鳴，清華大學(xué)數(shù)據(jù)科學(xué)和信息技術(shù)專業(yè)三年級(jí)博士生。其研究興趣為安全性機(jī)器學(xué)習(xí)，主要包括后門學(xué)習(xí)、對(duì)抗學(xué)習(xí)和數(shù)據(jù)隱私保護(hù)。

直播地址?& 交流群

本次直播將在 PaperWeekly B 站直播間進(jìn)行，掃描下方海報(bào)二維碼或點(diǎn)擊閱讀原文即可免費(fèi)觀看。線上分享結(jié)束后，嘉賓還將在直播交流群內(nèi)實(shí)時(shí) QA，在 PaperWeekly 微信公眾號(hào)后臺(tái)回復(fù)「AI Drive」，即可獲取入群通道。

B 站直播間：

https://live.bilibili.com/14884511

合作伙伴

????

現(xiàn)在，在「知乎」也能找到我們了

進(jìn)入知乎首頁(yè)搜索「PaperWeekly」

點(diǎn)擊「關(guān)注」訂閱我們的專欄吧

關(guān)于PaperWeekly

PaperWeekly 是一個(gè)推薦、解讀、討論、報(bào)道人工智能前沿論文成果的學(xué)術(shù)平臺(tái)。如果你研究或從事 AI 領(lǐng)域，歡迎在公眾號(hào)后臺(tái)點(diǎn)擊「交流群」，小助手將把你帶入 PaperWeekly 的交流群里。

總結(jié)

以上是生活随笔為你收集整理的直播 | 清华大学李一鸣：后门攻击简介的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。