0x00背景

近期 全國信息安全標準化技術委員會 大數據安全標準特別工作組發布了人工智能安全標準化白皮書（2019版），針對人工智能安全的問題進行一個全面的探討，經細讀該白皮書后，留一下此筆記。 原文版權，來源：全國信息安全標準化技術委員會 大數據安全標準特別工作組

0x01 概述

人工智能（Artificial Intelligence，簡稱AI），阿爾法狗對戰中國的圍棋高手，結果阿爾法狗的AI進入人民的視野，哇哇，人工智能來臨了。我們看到了很多人工智能的應用（智能電話營銷：打電話給你的是機器人，回復你的也是機器人，陪你聊天的也是機器人；各種在線客服機器人：你問啥，她回答啥，還挺真實的，不過還是偶爾傻逼一下等到）。

0x02 技術架構

0x03 人工智能安全風險分析與內涵

1、新的攻擊威脅：

攻擊方法：對抗樣本的攻擊、數據投毒、模型竊取、人工智能系統攻擊

攻擊影響：模型的訓練、測試和推斷過程中均可能遭受攻擊；危害數據和模型的機密性、完整性和可用性。?

2、人工智能安全隱患

①算法模型安全隱患：算法是人寫的，模型也是人寫的，都可能有缺陷，有歧視，有黑箱操作的可能。

②數據安全與隱私保護隱患：采集數據、使用數據、存儲數據都不同程度的濫用泄露。

③基礎設施安全隱患：簡單理解，人工智能也得依賴數據庫、操作系統、代碼。這些就是基礎設施，一旦這些基礎被黑客控制了，數據就被泄露了。

④應用安全隱患：自動駕駛（黑客遠程入侵控制導致撞車）、生物特征識別（小學生用照片成功忽悠人臉識別）、智能音箱等等。

⑤人工智能濫用：利用語音合成技術假扮受害人親屬實施詐騙、人工智能技術破解登錄驗證碼的效果越來越好、且難以防范、利用人工智能技術模仿人類，如換臉、手寫偽造、人聲偽造、聊天機器人。

3、安全影響：

國家安全影響：人工智能可用于構建新型軍事打擊力量，對國防安全造成威脅。

社會倫理挑戰：智能人工機器人替代人，造成大量失業；人們不去戀愛了，就和機器人戀愛。

人身安全風險：抽象

0x04 人工智能安全標準體系

0x05 人工智能相關安全標準
?

?

?

0x06 人工智能實踐

B.1 百度人工智能安全實踐：整體解決方案——AdvBox，對抗樣本的增強。

B.2 獵戶星空人工智能安全實踐：豹小秘、豹花瓶等產品，嚴格按照各種技術要求進行平臺建設。

B.3 清華大學人工智能安全實踐：人工智能對抗性攻防，RealSafe是開源標準程序庫，業界可以免費對其進行非商業用途使用
B.4 依圖人工智能安全應用實踐：典型人工智能安全問題，依圖提出了人工智能系統安全技術的相關要求與解決方案。依圖將人工智能系統分為了設備要素和網絡要素兩大要素的安全

B.5 IBM人工智能安全實踐：人工智能三原則，人工智能公平360工具箱”（AIF360）；AIF360可幫助檢測、緩解或消除機器學習模型中的偏見
B.6 深信服人工智能安全實踐：深信服安全云腦具備威脅情報和未知威脅檢測能力

B.7 360 人工智能安全實踐：360通過基于人工智能分析的360“安全大腦”，打造智能交通安全動態防御體系，全面保障智能交通安全
B.8 阿里巴巴人工智能安全實踐：實人認證、問答型對抗驗證碼
B.9 華為人工智能安全實踐：華為結合人工智能技術提出了防偷窺和用戶隱私保護的解決方案。手機利用人工智能技術可以檢測到是否存在機主/非機主、多人注視屏幕的情況，當手機識別出有陌生人或多人注視屏幕時，會將手機屏幕顯示的私密信息自動
隱藏，以便保護用戶的隱私信息
?

此筆記是原創，但相關圖表、分析、結論的版權來源：全國信息安全標準化技術委員會大數據安全標準特別工作組

總結

以上是生活随笔為你收集整理的人工智能安全标准化白皮书（2019版）笔记的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。