人工智能安全标准化白皮书(2019版)笔记
0x00背景
近期 全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組發(fā)布了人工智能安全標(biāo)準(zhǔn)化白皮書(2019版),針對人工智能安全的問題進行一個全面的探討,經(jīng)細讀該白皮書后,留一下此筆記。 原文版權(quán),來源:全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會 大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組0x01 概述
人工智能(Artificial Intelligence,簡稱AI),阿爾法狗對戰(zhàn)中國的圍棋高手,結(jié)果阿爾法狗的AI進入人民的視野,哇哇,人工智能來臨了。我們看到了很多人工智能的應(yīng)用(智能電話營銷:打電話給你的是機器人,回復(fù)你的也是機器人,陪你聊天的也是機器人;各種在線客服機器人:你問啥,她回答啥,還挺真實的,不過還是偶爾傻逼一下等到)。
0x02 技術(shù)架構(gòu)
0x03 人工智能安全風(fēng)險分析與內(nèi)涵
1、新的攻擊威脅:
攻擊方法:對抗樣本的攻擊、數(shù)據(jù)投毒、模型竊取、人工智能系統(tǒng)攻擊
攻擊影響:模型的訓(xùn)練、測試和推斷過程中均可能遭受攻擊;危害數(shù)據(jù)和模型的機密性、完整性和可用性。?
2、人工智能安全隱患
①算法模型安全隱患:算法是人寫的,模型也是人寫的,都可能有缺陷,有歧視,有黑箱操作的可能。
②數(shù)據(jù)安全與隱私保護隱患:采集數(shù)據(jù)、使用數(shù)據(jù)、存儲數(shù)據(jù)都不同程度的濫用泄露。
③基礎(chǔ)設(shè)施安全隱患:簡單理解,人工智能也得依賴數(shù)據(jù)庫、操作系統(tǒng)、代碼。這些就是基礎(chǔ)設(shè)施,一旦這些基礎(chǔ)被黑客控制了,數(shù)據(jù)就被泄露了。
④應(yīng)用安全隱患:自動駕駛(黑客遠程入侵控制導(dǎo)致撞車)、生物特征識別(小學(xué)生用照片成功忽悠人臉識別)、智能音箱等等。
⑤人工智能濫用:利用語音合成技術(shù)假扮受害人親屬實施詐騙、人工智能技術(shù)破解登錄驗證碼的效果越來越好、且難以防范、利用人工智能技術(shù)模仿人類,如換臉、手寫偽造、人聲偽造、聊天機器人。
3、安全影響:
國家安全影響:人工智能可用于構(gòu)建新型軍事打擊力量,對國防安全造成威脅。
社會倫理挑戰(zhàn):智能人工機器人替代人,造成大量失業(yè);人們不去戀愛了,就和機器人戀愛。
人身安全風(fēng)險:抽象
0x04 人工智能安全標(biāo)準(zhǔn)體系
0x05 人工智能相關(guān)安全標(biāo)準(zhǔn)
?
?
?
0x06 人工智能實踐
B.1 百度人工智能安全實踐:整體解決方案——AdvBox,對抗樣本的增強。
B.2 獵戶星空人工智能安全實踐:豹小秘、豹花瓶等產(chǎn)品,嚴(yán)格按照各種技術(shù)要求進行平臺建設(shè)。
B.3 清華大學(xué)人工智能安全實踐:人工智能對抗性攻防,RealSafe是開源標(biāo)準(zhǔn)程序庫,業(yè)界可以免費對其進行非商業(yè)用途使用
B.4 依圖人工智能安全應(yīng)用實踐:典型人工智能安全問題,依圖提出了人工智能系統(tǒng)安全技術(shù)的相關(guān)要求與解決方案。依圖將人工智能系統(tǒng)分為了設(shè)備要素和網(wǎng)絡(luò)要素兩大要素的安全
B.5 IBM人工智能安全實踐:人工智能三原則,人工智能公平360工具箱”(AIF360);AIF360可幫助檢測、緩解或消除機器學(xué)習(xí)模型中的偏見
B.6 深信服人工智能安全實踐:深信服安全云腦具備威脅情報和未知威脅檢測能力
B.7 360 人工智能安全實踐:360通過基于人工智能分析的360“安全大腦”,打造智能交通安全動態(tài)防御體系,全面保障智能交通安全
B.8 阿里巴巴人工智能安全實踐:實人認(rèn)證、問答型對抗驗證碼
B.9 華為人工智能安全實踐:華為結(jié)合人工智能技術(shù)提出了防偷窺和用戶隱私保護的解決方案。手機利用人工智能技術(shù)可以檢測到是否存在機主/非機主、多人注視屏幕的情況,當(dāng)手機識別出有陌生人或多人注視屏幕時,會將手機屏幕顯示的私密信息自動
隱藏,以便保護用戶的隱私信息
?
此筆記是原創(chuàng),但相關(guān)圖表、分析、結(jié)論的版權(quán)來源:全國信息安全標(biāo)準(zhǔn)化技術(shù)委員會大數(shù)據(jù)安全標(biāo)準(zhǔn)特別工作組
總結(jié)
以上是生活随笔為你收集整理的人工智能安全标准化白皮书(2019版)笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: clickhouse lag/lead
- 下一篇: 怎么把PDF转换成Excel文件?分享两