歐盟網(wǎng)絡(luò)安全局（ENISA）和聯(lián)合研究中心（JRC）發(fā)布了一份報(bào)告——“自動(dòng)駕駛中采用人工智能（AI）帶來(lái)的網(wǎng)絡(luò)安全挑戰(zhàn)”。報(bào)告分析了與自動(dòng)駕駛汽車(chē)中的人工智能（AI）相關(guān)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，并提出了緩解這些風(fēng)險(xiǎn)的建議，警告自動(dòng)駕駛汽車(chē)存在嚴(yán)重的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。

?

自動(dòng)駕駛汽車(chē)面臨的網(wǎng)絡(luò)安全挑戰(zhàn)

?

歐洲機(jī)構(gòu)的威脅模型將與人工智能（AI）相關(guān)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)分為無(wú)意和有意的軟件和硬件漏洞。

?

故意威脅源自惡意利用AI和ML漏洞和限制來(lái)造成損害。威脅參與者也可能引入新的漏洞，以擴(kuò)大攻擊范圍，從而發(fā)揮最大的影響。

?

意外傷害源于AI模型的局限性、故障和設(shè)計(jì)不當(dāng)。無(wú)論如何，ANISA和JRC表示，自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全挑戰(zhàn)帶來(lái)了嚴(yán)重的風(fēng)險(xiǎn)。

?

人工智能技術(shù)的不斷普及進(jìn)一步放大了這個(gè)問(wèn)題，增加的復(fù)雜和不透明的ML（machine learning）算法、專用的人工智能（AI）模塊和第三方預(yù)訓(xùn)練模型，現(xiàn)在已成為供應(yīng)鏈的一部分。

?

自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)可能直接影響乘客、行人、其他車(chē)輛和相關(guān)基礎(chǔ)設(shè)施的安全。因此，調(diào)查使用AI帶來(lái)的潛在漏洞至關(guān)重要。

?

為此，該報(bào)告指出，自動(dòng)駕駛汽車(chē)容易受到遠(yuǎn)程攻擊或破壞性攻擊等對(duì)抗性機(jī)器學(xué)習(xí)（ML）技術(shù)的影響。這種威脅模型涉及欺騙模式和面部識(shí)別系統(tǒng)。

?

遠(yuǎn)程攻擊操縱輸入系統(tǒng)的數(shù)據(jù)，以改變輸出，使攻擊者受益。類似地，破壞性攻擊利用了訓(xùn)練過(guò)程，制造了對(duì)攻擊者有利的故障。

?

報(bào)告作者說(shuō)：“越來(lái)越多的人使用AI來(lái)自動(dòng)化各個(gè)部門(mén)的決策，使數(shù)字系統(tǒng)遭受網(wǎng)絡(luò)攻擊，這些攻擊可以利用AI和ML方面的缺陷和漏洞。由于人工智能（AI）系統(tǒng)往往會(huì)參與高風(fēng)險(xiǎn)決策，因此，針對(duì)它們的成功網(wǎng)絡(luò)攻擊可能會(huì)產(chǎn)生嚴(yán)重影響。甚至人工智能（AI）還可以為網(wǎng)絡(luò)罪犯提供支持。”

?

根據(jù)聯(lián)合報(bào)告，自動(dòng)駕駛汽車(chē)還容易受到網(wǎng)絡(luò)安全挑戰(zhàn)的影響，從而影響物理傳感器、控制系統(tǒng)及其連接機(jī)制。

?

與物理組件相關(guān)的最顯著的網(wǎng)絡(luò)安全挑戰(zhàn)包括：

?

??傳感器卡塞、致盲、欺騙或飽和：攻擊者可能會(huì)使傳感器失明或卡塞，以進(jìn)入自動(dòng)駕駛汽車(chē)。這允許惡意行為者可以向AI提供具有錯(cuò)誤或不完整數(shù)據(jù)的人工智能模型，從而破壞模型訓(xùn)練。

?

? DDoS攻擊:黑客可以執(zhí)行分布式拒絕服務(wù)攻擊，使車(chē)輛無(wú)法看到外部世界。DDoS攻擊會(huì)干擾自動(dòng)駕駛，導(dǎo)致車(chē)輛失速或故障。

?

??操縱自動(dòng)駕駛車(chē)輛的通信設(shè)備：攻擊者可能會(huì)劫持通信通道并操縱傳感器讀數(shù)，或者錯(cuò)誤地解讀道路信息和標(biāo)志。

?

??信息披露：自動(dòng)駕駛汽車(chē)會(huì)存儲(chǔ)大量敏感的個(gè)人數(shù)據(jù)和AI數(shù)據(jù)。攻擊者可能會(huì)制造數(shù)據(jù)泄露，以訪問(wèn)敏感信息。

?

Vdoo的首席科學(xué)家Ilya Khivrich說(shuō)：“如今，彈性和安全關(guān)鍵系統(tǒng)必須在設(shè)計(jì)時(shí)考慮到潛在攻擊者的角度。對(duì)于依賴機(jī)器學(xué)習(xí)(ML)算法的系統(tǒng)來(lái)說(shuō)，這個(gè)問(wèn)題尤其復(fù)雜。機(jī)器學(xué)習(xí)算法經(jīng)過(guò)訓(xùn)練，可以在正常情況下正常工作，但當(dāng)從傳感器接收到的數(shù)據(jù)被人為操縱或欺騙時(shí)，可能會(huì)以意想不到的方式做出反應(yīng)。這是一個(gè)需要跨越的具有挑戰(zhàn)性的鴻溝，我們相信需要新的工具來(lái)解決這些問(wèn)題。”

?

緩解自動(dòng)駕駛汽車(chē)網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的建議

?

關(guān)于自動(dòng)駕駛汽車(chē)網(wǎng)絡(luò)安全挑戰(zhàn)的聯(lián)合報(bào)告為自動(dòng)駕駛汽車(chē)中AI的安全使用提供了建議。ANISA-JRC報(bào)告建議制造商應(yīng)采用設(shè)計(jì)安全性方法，以確保道路上自動(dòng)駕駛的安全性。

?

??通過(guò)收集大量數(shù)據(jù)并對(duì)AI模型和算法進(jìn)行風(fēng)險(xiǎn)評(píng)估，對(duì)AI模型和數(shù)據(jù)進(jìn)行系統(tǒng)的安全性驗(yàn)證。

?

??通過(guò)遵守AI安全法規(guī)，并在整個(gè)供應(yīng)鏈中分擔(dān)從開(kāi)發(fā)人員，制造商到最終用戶和第三方服務(wù)提供商的責(zé)任，以應(yīng)對(duì)供應(yīng)鏈AI網(wǎng)絡(luò)安全挑戰(zhàn)。

?

??與AI有關(guān)的事件處理和漏洞發(fā)現(xiàn)以及經(jīng)驗(yàn)教訓(xùn)——建議利益相關(guān)者模擬各種攻擊場(chǎng)景，進(jìn)行演練并建立網(wǎng)絡(luò)安全事件處理和響應(yīng)團(tuán)隊(duì)。

?

??通過(guò)在網(wǎng)絡(luò)安全和ML領(lǐng)域創(chuàng)建多元化的團(tuán)隊(duì)，解決汽車(chē)行業(yè)AI網(wǎng)絡(luò)安全方面的能力和專業(yè)知識(shí)有限的問(wèn)題。開(kāi)設(shè)特殊課程還將彌補(bǔ)汽車(chē)行業(yè)的AI技術(shù)差距。

?

??將AI網(wǎng)絡(luò)安全與傳統(tǒng)網(wǎng)絡(luò)安全原則整合在一起的端到端整體方法。這包括研發(fā)投資、人工智能網(wǎng)絡(luò)安全政策的適當(dāng)治理，以及在整個(gè)汽車(chē)行業(yè)采用人工智能網(wǎng)絡(luò)的安全文化。

?

過(guò)去“成功的”自動(dòng)駕駛汽車(chē)AI開(kāi)發(fā)

?

這些機(jī)構(gòu)指出，過(guò)去曾使用各種AI技術(shù)來(lái)開(kāi)發(fā)無(wú)人駕駛汽車(chē)。

?

利用有毒標(biāo)志（DARTS）技術(shù)欺騙自動(dòng)駕駛汽車(chē)的交通標(biāo)志識(shí)別系統(tǒng)。

?

例如，特斯拉自動(dòng)駕駛汽車(chē)被騙加速超過(guò)了路標(biāo)上顯示的速度限制，將車(chē)速提高到85英里每小時(shí)，而不是35英里每小時(shí)。

?

來(lái)自內(nèi)蓋夫本-古里安大學(xué)(Ben-Gurion University of the Negev)的以色列研究人員演示了如何利用瞬間圖像欺騙特斯拉的自動(dòng)駕駛系統(tǒng)。

?

同樣，特斯拉3也受到跨站點(diǎn)腳本（XSS）漏洞的影響，該漏洞泄漏了汽車(chē)的重要信息。

?

騰訊的研究人員還使用貼紙誘使特斯拉的自動(dòng)駕駛儀轉(zhuǎn)向錯(cuò)誤車(chē)道。

?

研究人員還使用噴漆欺騙自動(dòng)駕駛汽車(chē)，使其誤以為停車(chē)標(biāo)志是限速。

?

Comparitech公司的隱私倡導(dǎo)者和研究主管保羅?比肖夫表示:“ENISA報(bào)告具體討論了人工智能驅(qū)動(dòng)的自動(dòng)駕駛系統(tǒng)如何被欺騙，以致無(wú)法識(shí)別或錯(cuò)誤識(shí)別交通狀況、路況或標(biāo)志。例如，自動(dòng)駕駛汽車(chē)使用道路上的油漆線來(lái)保持車(chē)道。攻擊者可以在道路上畫(huà)假線，或者破壞交通標(biāo)志，以干擾人工智能。”

?

但是，比肖夫說(shuō)，如果沒(méi)有破解自動(dòng)駕駛汽車(chē)的經(jīng)濟(jì)動(dòng)機(jī)，就不會(huì)存在此類攻擊。

?

ENISA指出，自動(dòng)駕駛汽車(chē)很容易受到審查干擾、DDoS攻擊、敏感數(shù)據(jù)泄漏和惡意劫持通信通道的攻擊。

?

威脅者可能會(huì)在控制車(chē)輛并使其無(wú)法使用后，通過(guò)威脅造成事故來(lái)勒索車(chē)上的人支付贖金。幾乎可以肯定的是，威脅行為者會(huì)利用對(duì)自動(dòng)駕駛汽車(chē)的網(wǎng)絡(luò)攻擊來(lái)賺錢(qián)。（本文出自SCA安全通信聯(lián)盟，轉(zhuǎn)載請(qǐng)注明出處。）

總結(jié)

以上是生活随笔為你收集整理的ENISA警告自动驾驶汽车存在严重的网络安全挑战的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。