分散式人工智能（AI）是AI領(lǐng)域最有前途的趨勢(shì)之一。隨著區(qū)塊鏈技術(shù)的普及，最近圍繞分散式人工智能的炒作有所增加。雖然從概念的角度來(lái)看，分散式人工智能系統(tǒng)的價(jià)值主張非常明確，但它們的實(shí)施充滿挑戰(zhàn)。可以說(shuō)，實(shí)施分散式AI架構(gòu)的最大挑戰(zhàn)在于安全性和隱私性。

分散式人工智能系統(tǒng)的基礎(chǔ)是數(shù)據(jù)提供者，數(shù)據(jù)科學(xué)家和消費(fèi)者等不同方面合作創(chuàng)建，培訓(xùn)和執(zhí)行AI模型而無(wú)需集中授權(quán)的環(huán)境。這種類(lèi)型的基礎(chǔ)設(shè)施不僅需要在各方之間建立公正的信任，還要解決一些安全挑戰(zhàn)。讓我們來(lái)看一個(gè)公司想要?jiǎng)?chuàng)建一系列AI模型以檢測(cè)其銷(xiāo)售數(shù)據(jù)中的模式的非常簡(jiǎn)單的場(chǎng)景。在分散模型中，該公司將向一組數(shù)據(jù)科學(xué)家發(fā)布一系列數(shù)據(jù)集，這些數(shù)據(jù)集將協(xié)作創(chuàng)建不同的機(jī)器學(xué)習(xí)模型。在此過(guò)程中，數(shù)據(jù)科學(xué)家將與將培訓(xùn)和規(guī)范模型的其他各方進(jìn)行互動(dòng)。

傳統(tǒng)的加密技術(shù)（如對(duì)稱(chēng)或非對(duì)稱(chēng)加密）在分散的AI場(chǎng)景中非常有用，但它們不足以實(shí)現(xiàn)這些類(lèi)型系統(tǒng)的許多關(guān)鍵要求。對(duì)于初學(xué)者來(lái)說(shuō)，這些技術(shù)需要不同方之間的隱含信任來(lái)交換用于保護(hù)通信的密鑰，這不是您在分散式AI架構(gòu)中可以依賴的因素。此外，還有一個(gè)問(wèn)題是任何一方都可以解密數(shù)據(jù)并訪問(wèn)敏感信息。為了緩解這些挑戰(zhàn)，分散式人工智能系統(tǒng)已經(jīng)開(kāi)始采用學(xué)術(shù)研究中出現(xiàn)的一些最先進(jìn)的加密技術(shù)，如果應(yīng)用得當(dāng)，感覺(jué)有點(diǎn)像魔術(shù)?具體來(lái)說(shuō)，有三種安全方法在分散式AI中無(wú)所不在架構(gòu)：

同態(tài)加密

同態(tài)加密可以被認(rèn)為是過(guò)去十年中密碼學(xué)領(lǐng)域最大的突破之一。讓我們用一個(gè)簡(jiǎn)單的例子來(lái)說(shuō)明同態(tài)加密。想象一下，您擁有一家珠寶設(shè)計(jì)商店，您可以使用貴金屬制作新的珠寶。在這種環(huán)境中，您擔(dān)心您的一些設(shè)計(jì)師可能會(huì)竊取他們用于工作的一些珍貴材料。為了避免依賴主觀信任，你創(chuàng)造了一個(gè)小鎖箱，設(shè)計(jì)師可以在其中操縱材料并創(chuàng)造新的珠寶，但他們無(wú)法將其取出。

在數(shù)學(xué)上，同態(tài)被定義為“將數(shù)學(xué)集（例如，組，環(huán)或向量空間）映射到另一個(gè)集合或其自身的映射，使得通過(guò)將操作應(yīng)用于第一集合的元素而獲得的結(jié)果被映射到通過(guò)將相應(yīng)的操作應(yīng)用于第二組中的它們各自的圖像而獲得的結(jié)果“。同態(tài)加密允許在密文上執(zhí)行特定類(lèi)型的計(jì)算，該密文產(chǎn)生也是密文的加密結(jié)果。具體來(lái)說(shuō)，有兩種類(lèi)型的同態(tài)加密算法：

·?部分同態(tài)加密（PHE）：給定兩個(gè)數(shù)據(jù)原語(yǔ)a和b的加密：E（a）和E（b），PHE可以在不知道a，b或者a的情況下計(jì)算E（a + b）OR E（ab）私鑰。PHE是最常見(jiàn)的同態(tài)加密技術(shù)，因?yàn)樗韧耆瑧B(tài)加密模型便宜得多。有不同類(lèi)型的PHE算法，包括不用護(hù)墊RSA，ElGamal公鑰和Paillier

·?完全同態(tài)加密（FHE）：給定兩個(gè)數(shù)據(jù)基元a和b的加密：E（a）和E（b），PHE可以計(jì)算E（a + b）和E（ab）。在IBM研究員Craig Gentry?在2009年發(fā)表他的博士論文之前，他認(rèn)為FHE是不可能的，他展示了一種使用基于格的密碼學(xué)構(gòu)建FHE系統(tǒng)的方法。

在分散的AI環(huán)境中，同態(tài)加密允許各方在加密數(shù)據(jù)集上執(zhí)行計(jì)算，而無(wú)需解密數(shù)據(jù)。不幸的是，大多數(shù)同態(tài)加密實(shí)現(xiàn)太昂貴而無(wú)法在主流解決方案中采用。昂貴的我不是指小時(shí);?我指的是使用AWS EC2實(shí)例一年來(lái)運(yùn)行同態(tài)加密數(shù)據(jù)的一些基本計(jì)算。

GAN密碼學(xué)

對(duì)抗性神經(jīng)密碼術(shù)或GAN密碼術(shù)是一種新興的AI方法，它使用生成對(duì)抗神經(jīng)網(wǎng)絡(luò)（GAN）來(lái)保護(hù)不同方之間的通信。GAN密碼術(shù)是谷歌在2016年的一篇研究論文中首創(chuàng)的，題為“學(xué)習(xí)保護(hù)通信與對(duì)抗性神經(jīng)密碼學(xué)”??。本文提出了一種方法，在該方法中，神經(jīng)網(wǎng)絡(luò)可以動(dòng)態(tài)地發(fā)現(xiàn)新形式的加密和解密，以保護(hù)通信信道免受試圖打破安全方案的攻擊者的攻擊。

GAN加密方案的設(shè)置涉及三方：Alice，Bob和Eve。通常，Alice和Bob希望安全地進(jìn)行通信，Eve希望竊聽(tīng)他們的通信。因此，期望的安全屬性是保密性（不是完整性），并且對(duì)手是可以攔截通信的“被動(dòng)攻擊者”，但是否則非常有限。

?

在上面描述的場(chǎng)景中，Alice希望向Bob發(fā)送單個(gè)機(jī)密消息P.?消息P是Alice的輸入。當(dāng)Alice處理此輸入時(shí)，它產(chǎn)生輸出C.（“P”代表“明文”而“C”代表“密文”。）Bob和Eve都接收C，處理它，并嘗試恢復(fù)P.讓我們代表分別由PBob和PEve進(jìn)行的計(jì)算。Alice和Bob比Eve更有優(yōu)勢(shì)：他們共享一個(gè)秘密密鑰K.秘密密鑰[K]被用作Alice和Bob的附加輸入。

非正式地，參與者的目標(biāo)如下。Eve的目標(biāo)很簡(jiǎn)單：準(zhǔn)確地重建P（換句話說(shuō)，最小化P和PEve之間的誤差）。Alice和Bob希望清楚地溝通（以最小化P和PBob之間的錯(cuò)誤），同時(shí)也隱藏他們與Eve的通信。

利用生成的對(duì)抗性網(wǎng)絡(luò)技術(shù)，愛(ài)麗絲和鮑勃共同訓(xùn)練，成功溝通，同時(shí)學(xué)習(xí)擊敗夏娃。以下是踢球者，Alice和Bob沒(méi)有預(yù)定義的密碼算法概念，他們將用它來(lái)實(shí)現(xiàn)他們的目標(biāo)，甚至不會(huì)使用技術(shù)。按照GAN原則，愛(ài)麗絲和鮑勃接受訓(xùn)練，以擊敗夏娃的最佳版本而不是固定的夏娃。

在分散式AI系統(tǒng)中，GAN加密技術(shù)可以允許不同的節(jié)點(diǎn)動(dòng)態(tài)保護(hù)數(shù)據(jù)集和模型，從而可以抵御最復(fù)雜的攻擊。

安全的多方計(jì)算

安全的多方計(jì)算（sMPC）是另一種安全技術(shù)，可以在不泄露數(shù)據(jù)集本身的情況下對(duì)數(shù)據(jù)集進(jìn)行斷言。sMPC是Enigma等新區(qū)塊鏈協(xié)議的基礎(chǔ)。sMPC于1986年由計(jì)算機(jī)科學(xué)家Andrew Yao首次引入，作為著名百萬(wàn)富翁問(wèn)題的解決方案。

考慮到我們有三個(gè)派對(duì)Alice，Bob和Charlie，各自的輸入x，y和z表示他們的工資。他們希望找出三個(gè)薪水中最高的一個(gè)，而不是彼此透露他們每個(gè)人賺多少錢(qián)。在數(shù)學(xué)上，這轉(zhuǎn)化為它們計(jì)算：F（x，y，z）= max（x，y，z）

如果有一些值得信賴的外部聚會(huì)（比如，他們有共同的朋友Tony，他們知道可以保守秘密），他們每個(gè)人都可以告訴Tony他們的薪水，他可以計(jì)算最大值，并告訴他們所有人。MPC的目標(biāo)是設(shè)計(jì)一個(gè)協(xié)議，其中，通過(guò)僅相互交換消息，Alice，Bob和Charlie仍然可以學(xué)習(xí)F（x，y，z），而不會(huì)泄露誰(shuí)做什么而不必依賴Tony。他們不應(yīng)該通過(guò)參與他們的協(xié)議來(lái)學(xué)習(xí)，而不是通過(guò)與不朽的，完全值得信賴的Tony互動(dòng)而學(xué)習(xí)。

?

sMPC已經(jīng)利用Enigma區(qū)塊鏈等技術(shù)在分散式架構(gòu)中取得進(jìn)展。在分散式AI架構(gòu)的背景下，sMPC將允許不同方對(duì)可以在AI模型上使用的數(shù)據(jù)集進(jìn)行斷言，而無(wú)需向第三方透露數(shù)據(jù)集。

啟用分散式人工智能系統(tǒng)需要強(qiáng)調(diào)安全性和隱私性。同態(tài)加密，GAN加密和安全多方計(jì)算是一些技術(shù)開(kāi)始變得相關(guān)，以啟用第一波分散的AI平臺(tái)。

https://hackernoon.com/these-three-security-trends-are-key-to-decentralize-artificial-intelligence-f22d9cf38d69?source=post_page---------------------------

總結(jié)

以上是生活随笔為你收集整理的【译】Three Security Trends Are Key to Decentralize Artificial Intelligence的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。