機(jī)器學(xué)習(xí)系統(tǒng)在面部識(shí)別系統(tǒng)到自主車輛等所有領(lǐng)域的普及，伴隨著攻擊者想方設(shè)法欺騙算法的風(fēng)險(xiǎn)。簡(jiǎn)單的技術(shù)已經(jīng)在測(cè)試條件下起了作用，研究人員有興趣找到減輕這些和其他攻擊的方法。國(guó)防部高級(jí)研究項(xiàng)目局（DARPA）已經(jīng)找來(lái)了英特爾和佐治亞理工學(xué)院（Georgia Tech），負(fù)責(zé)領(lǐng)導(dǎo)旨在防御機(jī)器學(xué)習(xí)算法對(duì)抗欺騙攻擊的研究。

　　欺騙攻擊在實(shí)驗(yàn)室測(cè)試之外很少見，但在實(shí)操環(huán)境下可能會(huì)造成重大問(wèn)題。例如，McAfee 早在 2 月份就曾報(bào)道，研究人員通過(guò)在限速標(biāo)志上貼上兩英寸的黑色電子膠帶，欺騙了特斯拉 Model S 中的速度輔助系統(tǒng)，使其超速行駛 50 英里/小時(shí)。還有其他的例子也不勝枚舉，這證明欺騙人工智能并不算困難，幾乎誰(shuí)都能做到。

　　DARPA 認(rèn)識(shí)到欺騙攻擊可能會(huì)對(duì)任何使用機(jī)器學(xué)習(xí)的系統(tǒng)構(gòu)成威脅，并希望主動(dòng)出擊，減輕這種企圖。因此，大約一年前，該機(jī)構(gòu)制定了一個(gè)名為 GARD 的計(jì)劃，即 Garanging AI Robustness against Deception 的縮寫。英特爾已經(jīng)同意成為與喬治亞理工學(xué)院合作的四年期 GARD 計(jì)劃的主要承包商。

　　"英特爾和佐治亞理工學(xué)院合作，共同推進(jìn)生態(tài)系統(tǒng)對(duì)人工智能和 ML 漏洞的集體理解和能力，"DARPA GARD 計(jì)劃的首席工程師和研究人員 Jason Martin 說(shuō)。"通過(guò)對(duì)相干技術(shù)的創(chuàng)新研究，我們正在合作研究一種方法，以增強(qiáng)對(duì)象檢測(cè)，提高 AI 和 ML 應(yīng)對(duì)對(duì)抗性攻擊的能力。"

　　目前的欺騙緩解的主要問(wèn)題是基于規(guī)則的、靜態(tài)的設(shè)定。如果規(guī)則不被打破，欺騙就能成功。由于欺騙人工智能的方式幾乎有無(wú)數(shù)種，僅僅受限于攻擊者的想象力，因此需要開發(fā)出更好的系統(tǒng)。英特爾公司表示，該計(jì)劃的初始階段將著重于利用圖像和視頻中的空間、時(shí)間和語(yǔ)義的一致性來(lái)改進(jìn)物體檢測(cè)。

　　DARPA 信息創(chuàng)新辦公室的項(xiàng)目經(jīng)理 Hava Siegelmann 博士設(shè)想的系統(tǒng)與人類的免疫系統(tǒng)并無(wú)不同，你可以把它稱為另一個(gè)機(jī)器學(xué)習(xí)系統(tǒng)中的機(jī)器學(xué)習(xí)系統(tǒng)。

　　"我們希望產(chǎn)生的那種基于廣泛場(chǎng)景的防御，可以在免疫系統(tǒng)中看到，比如說(shuō)，免疫系統(tǒng)可以識(shí)別攻擊，成功攔截后記住本次攻擊的方式，以便在未來(lái)的交戰(zhàn)中創(chuàng)造出更有效的反應(yīng)。"Siegelmann 博士說(shuō)。"我們必須確保機(jī)器學(xué)習(xí)是安全的，不能被欺騙。"

總結(jié)

以上是生活随笔為你收集整理的DARPA与英特尔、乔治亚理工学院合作 开创机器学习“免疫系统”的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。