0x00背景

近期 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組發(fā)布了人工智能安全標(biāo)準(zhǔn)化白皮書（2019版），針對人工智能安全的問題進行一個全面的探討，經(jīng)細讀該白皮書后，留一下此筆記。 原文版權(quán)，來源：全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組

0x01 概述

人工智能（Artificial Intelligence，簡稱AI），阿爾法狗對戰(zhàn)中國的圍棋高手，結(jié)果阿爾法狗的AI進入人民的視野，哇哇，人工智能來臨了。我們看到了很多人工智能的應(yīng)用（智能電話營銷：打電話給你的是機器人，回復(fù)你的也是機器人，陪你聊天的也是機器人；各種在線客服機器人：你問啥，她回答啥，還挺真實的，不過還是偶爾傻逼一下等到）。

0x02 技術(shù)架構(gòu)

0x03 人工智能安全風(fēng)險分析與內(nèi)涵

1、新的攻擊威脅：

攻擊方法：對抗樣本的攻擊、數(shù)據(jù)投毒、模型竊取、人工智能系統(tǒng)攻擊

攻擊影響：模型的訓(xùn)練、測試和推斷過程中均可能遭受攻擊；危害數(shù)據(jù)和模型的機密性、完整性和可用性。?

2、人工智能安全隱患

①算法模型安全隱患：算法是人寫的，模型也是人寫的，都可能有缺陷，有歧視，有黑箱操作的可能。

②數(shù)據(jù)安全與隱私保護隱患：采集數(shù)據(jù)、使用數(shù)據(jù)、存儲數(shù)據(jù)都不同程度的濫用泄露。

③基礎(chǔ)設(shè)施安全隱患：簡單理解，人工智能也得依賴數(shù)據(jù)庫、操作系統(tǒng)、代碼。這些就是基礎(chǔ)設(shè)施，一旦這些基礎(chǔ)被黑客控制了，數(shù)據(jù)就被泄露了。

④應(yīng)用安全隱患：自動駕駛（黑客遠程入侵控制導(dǎo)致撞車）、生物特征識別（小學(xué)生用照片成功忽悠人臉識別）、智能音箱等等。

⑤人工智能濫用：利用語音合成技術(shù)假扮受害人親屬實施詐騙、人工智能技術(shù)破解登錄驗證碼的效果越來越好、且難以防范、利用人工智能技術(shù)模仿人類，如換臉、手寫偽造、人聲偽造、聊天機器人。

3、安全影響：

國家安全影響：人工智能可用于構(gòu)建新型軍事打擊力量，對國防安全造成威脅。

社會倫理挑戰(zhàn)：智能人工機器人替代人，造成大量失業(yè)；人們不去戀愛了，就和機器人戀愛。

人身安全風(fēng)險：抽象

0x04 人工智能安全標(biāo)準(zhǔn)體系

0x05 人工智能相關(guān)安全標(biāo)準(zhǔn)
?

?

?

0x06 人工智能實踐

B.1 百度人工智能安全實踐：整體解決方案——AdvBox，對抗樣本的增強。

B.2 獵戶星空人工智能安全實踐：豹小秘、豹花瓶等產(chǎn)品，嚴(yán)格按照各種技術(shù)要求進行平臺建設(shè)。

B.3 清華大學(xué)人工智能安全實踐：人工智能對抗性攻防，RealSafe是開源標(biāo)準(zhǔn)程序庫，業(yè)界可以免費對其進行非商業(yè)用途使用
B.4 依圖人工智能安全應(yīng)用實踐：典型人工智能安全問題，依圖提出了人工智能系統(tǒng)安全技術(shù)的相關(guān)要求與解決方案。依圖將人工智能系統(tǒng)分為了設(shè)備要素和網(wǎng)絡(luò)要素兩大要素的安全

B.5 IBM人工智能安全實踐：人工智能三原則，人工智能公平360工具箱”（AIF360）；AIF360可幫助檢測、緩解或消除機器學(xué)習(xí)模型中的偏見
B.6 深信服人工智能安全實踐：深信服安全云腦具備威脅情報和未知威脅檢測能力

B.7 360 人工智能安全實踐：360通過基于人工智能分析的360“安全大腦”，打造智能交通安全動態(tài)防御體系，全面保障智能交通安全
B.8 阿里巴巴人工智能安全實踐：實人認(rèn)證、問答型對抗驗證碼
B.9 華為人工智能安全實踐：華為結(jié)合人工智能技術(shù)提出了防偷窺和用戶隱私保護的解決方案。手機利用人工智能技術(shù)可以檢測到是否存在機主/非機主、多人注視屏幕的情況，當(dāng)手機識別出有陌生人或多人注視屏幕時，會將手機屏幕顯示的私密信息自動
隱藏，以便保護用戶的隱私信息
?

此筆記是原創(chuàng)，但相關(guān)圖表、分析、結(jié)論的版權(quán)來源：全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組

總結(jié)

以上是生活随笔為你收集整理的人工智能安全标准化白皮书（2019版）笔记的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。