螞蟻金服在過(guò)去十五年重塑支付改變生活，為全球超過(guò)十二億人提供服務(wù)，這些背后離不開(kāi)技術(shù)的支撐。在 2019 杭州云棲大會(huì)上，螞蟻金服將十五年來(lái)的技術(shù)沉淀，以及面向未來(lái)的金融技術(shù)創(chuàng)新和參會(huì)者分享。我們將其中的優(yōu)秀演講整理成文并將陸續(xù)發(fā)布在“螞蟻金服科技”公眾號(hào)上，本文為其中一篇。

在人工智能時(shí)代，數(shù)據(jù)是AI領(lǐng)域的石油，如果沒(méi)有數(shù)據(jù)很難將AI更好的落地。但是數(shù)據(jù)孤島阻礙了數(shù)據(jù)的獲取和利用，螞蟻金服在三年前開(kāi)始布局隱私保護(hù)機(jī)器學(xué)習(xí)，致力于在保護(hù)數(shù)據(jù)安全和隱私保護(hù)的前提下進(jìn)行機(jī)器學(xué)習(xí)，我們稱之為共享智能。我們之前分享了共享智能的理念和原理，今天，我們想聊聊共享智能的發(fā)展與應(yīng)用趨勢(shì)。

人工智能目前存在的難題是魚(yú)與熊掌不可兼得，也就是隱私性跟可用性難以兼顧。如果你想要你的AI系統(tǒng)能發(fā)揮作用，就可能需要犧牲隱私。但是，在大量真實(shí)場(chǎng)景中，如果做不到同時(shí)兼顧隱私和可用性，會(huì)導(dǎo)致很多AI落地的困境。

舉幾個(gè)例子。

首先是貸款風(fēng)控，用戶想要買房去銀行貸款，在銀行A可能被判定為“壞人”，沒(méi)有辦法給他進(jìn)行貸款，因?yàn)檫@個(gè)機(jī)構(gòu)持有這個(gè)人部分?jǐn)?shù)據(jù)，同樣的用戶到了機(jī)構(gòu)B，這個(gè)機(jī)構(gòu)B基于它擁有的部分?jǐn)?shù)據(jù)，有可能會(huì)給予他貸款，這樣矛盾的情況比比皆是，皆是因數(shù)據(jù)不通導(dǎo)致。

在智慧醫(yī)療領(lǐng)域，有些罕見(jiàn)病在每個(gè)醫(yī)院的案例都不多，如果我們能把各個(gè)醫(yī)院的案例共享起來(lái)，就能獲得更多的樣本數(shù)據(jù)，從而可以利用AI進(jìn)行更準(zhǔn)確的診斷，但是這個(gè)案例里面技術(shù)不是最優(yōu)先的，對(duì)醫(yī)院來(lái)說(shuō)，它有責(zé)任保護(hù)患者的隱私，如何確保在共享案例的同時(shí)，不泄漏用戶的隱私才是首先要解決的。

數(shù)據(jù)孤島的問(wèn)題會(huì)給AI落地和應(yīng)用帶來(lái)很多類似的難題。

現(xiàn)實(shí)環(huán)境中，數(shù)據(jù)在這個(gè)圖中是不通的，有的地方可能有一些短暫的鏈接，絕大部分?jǐn)?shù)據(jù)在這個(gè)圖中處于斷開(kāi)狀態(tài)。我們的目標(biāo)是想打通數(shù)據(jù)孤島，用技術(shù)的方法解決技術(shù)的問(wèn)題。通過(guò)技術(shù)保護(hù)數(shù)據(jù)安全的情況下，實(shí)現(xiàn)數(shù)據(jù)的共享和價(jià)值的傳遞。

共享智能：可用不可見(jiàn)

對(duì)于共享智能，我們希望達(dá)到的目標(biāo)是數(shù)據(jù)可用不可見(jiàn)，在多方參與且各數(shù)據(jù)提供方與平臺(tái)方互不信任的場(chǎng)景下，能夠聚合多方信息進(jìn)行機(jī)器學(xué)習(xí)，并確保各參與方的隱私不被泄漏，數(shù)據(jù)不被濫用。

為了達(dá)到這一目標(biāo)，我們使用了很多業(yè)界已有的技術(shù)，比如學(xué)術(shù)圈一直在研究的差分隱私、很多大數(shù)據(jù)廠商在探索的可信執(zhí)行環(huán)境、隨著計(jì)算力和硬件技術(shù)的提升+密碼學(xué)突破而廣受重視的多方安全計(jì)算等。還有一些情況，目標(biāo)數(shù)據(jù)比較少，但源領(lǐng)域數(shù)據(jù)較多，我們采用遷移學(xué)習(xí)的方法去做數(shù)據(jù)共享，這個(gè)也屬于我們大的技術(shù)范疇。

具體來(lái)看的話，第一種方案是可信執(zhí)行環(huán)境的方案，主要依賴中間的硬件級(jí)的保險(xiǎn)箱Enclave，雙方通過(guò)一些密碼學(xué)的機(jī)制，把數(shù)據(jù)進(jìn)行加密，加密之后只有在密碼箱里面才能解密，解密以后做各式各樣的計(jì)算，因?yàn)槊艽a箱是第三方可信的密碼箱，大家不信任彼此的情況下，信任密碼箱即可，這樣在數(shù)據(jù)隱私不會(huì)泄露的情況下，去做各式各樣AI的算法。

這種方案依賴可信硬件，通過(guò)數(shù)據(jù)加密的方式，集中傳送到可信的平臺(tái)。對(duì)于一些機(jī)構(gòu)，本身就已經(jīng)上云，把所有的東西都存放在云上面，所有的技術(shù)在云上面部署，那么采用這種方式非常快速便捷，同時(shí)又能達(dá)到很好的隱私保護(hù)的效果。

第二種方案是偏軟件級(jí)別的方案，我們?cè)谥虚g把數(shù)據(jù)做相應(yīng)的處理后再進(jìn)行計(jì)算。比如說(shuō)像秘密分享的技術(shù)，通過(guò)把數(shù)據(jù)拆分完以后，幾方通過(guò)發(fā)送隨機(jī)數(shù)來(lái)完成運(yùn)算，然后可以完成各式各樣AI的計(jì)算和模型；還有像同態(tài)加密這樣的方法，在加密后的空間里面做相應(yīng)的運(yùn)算來(lái)完成AI的計(jì)算，中間有一個(gè)控制模塊來(lái)共同完成學(xué)習(xí)的目標(biāo)。這個(gè)方式本身不涉及到硬件，是偏軟件+密碼學(xué)的方案，中間出去的是隨機(jī)數(shù)/加密中間結(jié)果，目前業(yè)界隱私+AI結(jié)合的方向上，用這個(gè)方案相對(duì)來(lái)說(shuō)比較多。

星云 Nebula：共享智能網(wǎng)絡(luò)

共享智能需要多方參與，我們?cè)O(shè)計(jì)了星云Nebula共享智能網(wǎng)絡(luò)架構(gòu)，對(duì)于螞蟻金服而言，希望跟合作方共同打造這樣的共享智能網(wǎng)絡(luò)。

網(wǎng)絡(luò)中存在各式各樣的計(jì)算節(jié)點(diǎn)，能夠在某個(gè)管理平臺(tái)中進(jìn)行觸發(fā)實(shí)現(xiàn)AI計(jì)算。這個(gè)共享智能網(wǎng)絡(luò)，可以用不同的技術(shù)完成共享智能的目標(biāo)，比如，構(gòu)建聯(lián)合營(yíng)銷網(wǎng)絡(luò)，節(jié)點(diǎn)之間可任意組網(wǎng)，采用多方安全計(jì)算技術(shù)來(lái)實(shí)現(xiàn)聯(lián)合營(yíng)銷，同時(shí)管理節(jié)點(diǎn)可以部署在任何的地方；對(duì)于某些機(jī)構(gòu)而言，可能沒(méi)有很強(qiáng)的AI能力和多方計(jì)算能力，那他們可以依賴于云這樣的技術(shù)，將數(shù)據(jù)放在可信執(zhí)行環(huán)境中，去參與建設(shè)這樣的網(wǎng)絡(luò)，通過(guò)這樣的共享智能技術(shù)來(lái)解決AI落地最后一公里的難題。

我們整個(gè)計(jì)算節(jié)點(diǎn)的架構(gòu)如上圖，最底層跟正常環(huán)境比較相似，左邊是各式各樣的可信執(zhí)行環(huán)境，右邊是正常的CPU、GPU環(huán)境。上面會(huì)有統(tǒng)一的API層來(lái)屏蔽這些不同的細(xì)節(jié)。

再往上面，會(huì)有本地的計(jì)算，這個(gè)計(jì)算本身會(huì)跟通用的開(kāi)源框架稍有差異，我們會(huì)把現(xiàn)在流行的版本改成安全的版本，比如安全的XGBoost。中間做MPC的時(shí)候，我們會(huì)提供各式各樣的技術(shù)，混淆電路、OT等等這樣的技術(shù)，最頂層提供一些可視化跟交互式的接口，普通的用戶通過(guò)這樣的調(diào)用就可以完成復(fù)雜的多方計(jì)算的操作。同時(shí)支持各種保護(hù)隱私的安全模型推斷。

我們希望通過(guò)這樣的架構(gòu)完成共享智能技術(shù)，并且打造了可視化的界面，采用拖拽式的方式就可以快速高效完成整個(gè)AI計(jì)算的構(gòu)建。

上述共享智能架構(gòu)現(xiàn)在已經(jīng)達(dá)到了較好的完備性、易用性和穩(wěn)定性的目標(biāo)，在很多的地方已經(jīng)進(jìn)行了落地。在完備性方面，我們實(shí)現(xiàn)了功能完備和場(chǎng)景完備，目前主要是支持風(fēng)控和其它AI典型場(chǎng)景，里面的算法比較全面，涵蓋了線性模型、樹(shù)模型、深度學(xué)習(xí)、圖神經(jīng)網(wǎng)絡(luò)等各個(gè)方向；在易用性方面，我們希望能夠更好的推廣這種建模技術(shù)，同時(shí)又能“屏蔽”一些底層技術(shù)（可信執(zhí)行環(huán)境、多方安全計(jì)算等），降低大家學(xué)習(xí)使用的成本；在穩(wěn)定性方面，我們實(shí)現(xiàn)了共享智能計(jì)算的集群化，并且支持遠(yuǎn)程運(yùn)維。

我們已經(jīng)將共享智能上線到大數(shù)據(jù)智能平臺(tái)上，下面這個(gè)demo，是一個(gè)多方安全計(jì)算的AI建模展示。

http://mpvideo.qpic.cn/0a78owv2z46vcbacambaeciiaucvrvvfkof4jwlibqeqgdakb4hq.f10002.mp4?dis_k=360fe7e0bf7304571a370082c38142c9&dis_t=1571137251

前面預(yù)處理部分跟正常的AI建模看起來(lái)一樣，通過(guò)拖拽式操作，把數(shù)據(jù)進(jìn)行了預(yù)處理以后，送到共享智能建模中，會(huì)產(chǎn)生AI運(yùn)算的結(jié)果。通過(guò)這種方式能夠大幅度降低新技術(shù)的使用門(mén)檻，方便業(yè)務(wù)方使用。

螞蟻金服在共享智能領(lǐng)域里建設(shè)了三年多，發(fā)布論文超過(guò)10篇，獲得專利超過(guò)80余項(xiàng)，在標(biāo)準(zhǔn)立項(xiàng)上我們?cè)贗EEE共享智能和ITU-T MPC國(guó)際標(biāo)準(zhǔn)、CCSA共享智能行業(yè)標(biāo)準(zhǔn)以及AIOSS / AIIA共享智能聯(lián)盟標(biāo)準(zhǔn)方面都在同步推進(jìn)，也獲得了一些創(chuàng)新獎(jiǎng)項(xiàng)。

共享智能落地案例

接下來(lái)分享三個(gè)典型落地案例。

一個(gè)是在安全風(fēng)控領(lǐng)域，聯(lián)合生態(tài)伙伴來(lái)建立安全風(fēng)控網(wǎng)絡(luò)。生態(tài)伙伴使用前面介紹的可信執(zhí)行環(huán)境技術(shù)，把數(shù)據(jù)加密傳輸?shù)骄W(wǎng)絡(luò)中共建這個(gè)模型，打擊虛假交易、團(tuán)伙作案等，大幅度提升風(fēng)控準(zhǔn)確率，實(shí)現(xiàn)風(fēng)控網(wǎng)絡(luò)的凈化。通過(guò)這樣的風(fēng)控網(wǎng)絡(luò)平臺(tái)，使得商家每天新增很多的交易，同時(shí)降低資損。

第二個(gè)是中和農(nóng)信，我們通過(guò)數(shù)據(jù)融合大幅度提高風(fēng)控性能，把原來(lái)傳統(tǒng)的線下模式，變成線上自動(dòng)過(guò)審模式，完成授信只需5分鐘，8個(gè)月累計(jì)放款31.9億，授信成功人數(shù)44萬(wàn)人，業(yè)務(wù)覆蓋20+省區(qū)，300+縣城，10000+個(gè)鄉(xiāng)村，助力實(shí)現(xiàn)農(nóng)村普惠金融。

第三個(gè)是與江蘇銀行進(jìn)行的信貸聯(lián)合風(fēng)控，還記得我們前面的例子嗎？因?yàn)閿?shù)據(jù)不完整，導(dǎo)致風(fēng)控決策錯(cuò)誤，現(xiàn)在通過(guò)共享智能技術(shù)，雙方可以完成共同的模型構(gòu)建，通過(guò)這樣的機(jī)制實(shí)現(xiàn)聯(lián)合風(fēng)控，使得效果有大幅度提升。同時(shí)在這個(gè)過(guò)程中，用戶的數(shù)據(jù)和隱私得到了有效保護(hù)。

總的來(lái)說(shuō)，我們想構(gòu)建開(kāi)放的共享智能網(wǎng)絡(luò)，希望有更多的伙伴、機(jī)構(gòu)參與進(jìn)來(lái)，一起完成建設(shè)，打破數(shù)據(jù)孤島，助力AI技術(shù)更好的落地和應(yīng)用。

原文鏈接
本文為云棲社區(qū)原創(chuàng)內(nèi)容，未經(jīng)允許不得轉(zhuǎn)載。

總結(jié)

以上是生活随笔為你收集整理的隐私与AI兼得，蚂蚁金服是如何做到的？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。