騰訊科技訊，8 月 19 日，第 19 屆 XCon 安全焦點信息安全技術峰會于北京舉行，騰訊朱雀實驗室首度亮相公眾視野。該實驗室由騰訊安全平臺部孵化，專注于實戰攻擊技術研究和 AI 安全技術研究，以攻促防，守護騰訊業務及用戶安全。

　　會上，騰訊朱雀實驗室高級安全研究員 nEINEI 分享了一項 AI 安全創新研究：模擬實戰中的黑客攻擊路徑，通過對 AI 模型文件的逆向分析，跳過傳統利用“樣本投毒”的攻擊環節，直接控制 AI 模型的神經元，為模型“植入后門”。甚至在保留正常功能的前提下，直接在 AI 模型文件中插入二進制攻擊代碼，將模型文件改造為攻擊載體來執行惡意代碼，在幾乎無感的情況下，實現對神經網絡的深層次攻擊。

　　這也是國內首個利用 AI 模型文件直接產生后門效果的攻擊研究。

　　騰訊安全平臺部負責人楊勇表示，當前 AI 已融入各行各業，安全從業者面臨著更復雜、更多變的網絡環境。我們已經看到了網絡攻擊武器 AI 化的趨勢，除了框架這樣的 AI 基礎設施，數據、模型、算法，任何一個環節都是攻防的前線。作為安全工作者，必須走在業務之前，做到技術的與時俱進。

　　針對新型攻擊手法，騰訊朱雀實驗室也對 AI 研究和從業人員提出了應對建議：從第三方渠道下載的模型，要保證渠道的安全性，避免直接加載不確定來源的模型文件。對模型文件的加載使用也要做到心中有數，通過“模型可信加載”，每次加載模型進行交叉對比、數據校驗，進行充分的代碼檢測，可有效應對這種新型攻擊手法。

總結

以上是生活随笔為你收集整理的腾讯朱雀实验室首度亮相，业内首秀控制神经元构造AI模型后门的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。