摘要：?Dean Pomerleau還記得自己第一次遭遇“黑箱”的經(jīng)歷。那是1991年，他當(dāng)時(shí)正開創(chuàng)性嘗試如今已是自動(dòng)駕駛汽車研究中司空見慣的問題：教會(huì)電腦如何開車。 Pomerleau手握一輛經(jīng)過特別改裝的悍馬軍車的方向盤在城市中行駛。

Dean Pomerleau還記得自己第一次遭遇“黑箱”的經(jīng)歷。那是1991年，他當(dāng)時(shí)正開創(chuàng)性嘗試如今已是自動(dòng)駕駛汽車研究中司空見慣的問題：教會(huì)電腦如何開車。

Pomerleau手握一輛經(jīng)過特別改裝的悍馬軍車的方向盤在城市中行駛。當(dāng)時(shí)，他是美國卡內(nèi)基·梅隆大學(xué)機(jī)器人專業(yè)的研究生。而與他同行的是一臺(tái)經(jīng)過其編程的計(jì)算機(jī)，能通過攝像機(jī)查看路況，解讀交通狀況，并記下Pomerleau對(duì)各種狀況的應(yīng)對(duì)方式。Pomerleau希望這臺(tái)機(jī)器最終能自己掌握方向盤。

在每次行程中，Pomerleau都會(huì)先對(duì)系統(tǒng)做幾分鐘訓(xùn)練，然后讓它自行駕駛。一切似乎都進(jìn)展順利，直到有一天，悍馬在一座橋頭突然偏向一側(cè)。他敏捷地抓住了方向盤，這才避免了一場事故。

回到實(shí)驗(yàn)室，Pomerleau試圖弄清電腦哪里出錯(cuò)了。“我論文的部分內(nèi)容就是打開黑箱，搞清楚電腦在想什么。”他解釋道。但該怎么做？他將計(jì)算機(jī)功能編程為“神經(jīng)網(wǎng)絡(luò)”—— 一種以大腦為原型的人工智能（AI），它有望比常規(guī)算法更適合應(yīng)對(duì)復(fù)雜的現(xiàn)實(shí)情況。

不幸的是，神經(jīng)網(wǎng)絡(luò)和大腦一樣是不透明的。它也沒有將學(xué)到的東西條理清晰地儲(chǔ)存在數(shù)字記憶中，而是以一種極難解的方式散布信息。在全面測試了軟件對(duì)各種視覺刺激的反應(yīng)后，Pomerleau才發(fā)現(xiàn)了問題：他的“神經(jīng)網(wǎng)絡(luò)”一直在使用長草的路沿作為道路方向的指示，所以才被橋的出現(xiàn)給迷惑了。

打開黑箱

25年后，破解黑箱的難度呈指數(shù)上升。但該AI技術(shù)本身的復(fù)雜性和應(yīng)用范圍也經(jīng)歷了爆炸式增長。現(xiàn)在，Pomerleau在卡內(nèi)基·梅隆大學(xué)兼職教授機(jī)器人學(xué)，他說，比起今天的計(jì)算機(jī)上的巨型神經(jīng)網(wǎng)絡(luò)，他的系統(tǒng)只能算是個(gè)簡陋的低配版。用海量數(shù)據(jù)訓(xùn)練AI深度學(xué)習(xí)的技術(shù)也已投入到各種商業(yè)應(yīng)用，從自動(dòng)駕駛汽車到根據(jù)用戶的瀏覽歷史推薦商品的網(wǎng)站，都能見到它的身影。

該技術(shù)還有望在科研中大顯身手。未來的射電天文臺(tái)也需要深度學(xué)習(xí)，尋找值得探測的信號(hào)，否則將無法處理海量信息；引力波探測器需要用它理解和排除最微弱的噪聲源；出版商將會(huì)用它檢索和標(biāo)記數(shù)以百萬計(jì)的研究論文和書籍。

一些研究者認(rèn)為，能進(jìn)行深度學(xué)習(xí)的計(jì)算機(jī)最終或能表現(xiàn)出想象力和創(chuàng)造力。“把數(shù)據(jù)交給機(jī)器，它便會(huì)推理出自然法則。”加州理工學(xué)院物理學(xué)家Jean-Roch Vlimant說。

但這些進(jìn)展只會(huì)讓黑箱問題顯得更突出。例如，這些機(jī)器如何找到有價(jià)值的信號(hào)？人們?cè)鯓硬拍艽_定機(jī)器是對(duì)的？人們對(duì)深度學(xué)習(xí)的信任應(yīng)到什么程度？

“在這些算法面前，我覺得我們正在丟失陣地。”哥倫比亞大學(xué)機(jī)器人專家Hod Lipson表示。他把這比作外星生物，它們不只看到紅綠藍(lán)三原色，還有第四種顏色，要想讓人類理解它們看世界的方式，或是讓外星人向人們解釋其方式都非常困難。計(jì)算機(jī)向人們解釋問題也面臨類似困難。“在某種程度上，這就像向狗解釋莎士比亞的作品一樣。”

面對(duì)這些挑戰(zhàn)，AI研究者采取了和Pomerleau一樣的應(yīng)對(duì)方式——打開黑箱，用相當(dāng)于神經(jīng)科學(xué)研究理解其中的網(wǎng)絡(luò)。但歐洲核子研究中心（CERN）一位物理學(xué)家Vincenzo Innocente表示，答案無法讓人豁然開朗。Innocente是在粒子物理學(xué)領(lǐng)域應(yīng)用人工智能的先鋒，他提到，“作為科學(xué)家，我對(duì)僅僅將小貓和小狗區(qū)分開來是不滿意的，科學(xué)家會(huì)希望能說出區(qū)別到底在哪里。”

卷起袖子做硬科學(xué)

歷史上第一個(gè)人工神經(jīng)網(wǎng)絡(luò)出現(xiàn)在上世紀(jì)50年代初，幾乎與有能力執(zhí)行算法的計(jì)算機(jī)同時(shí)產(chǎn)生。人工神經(jīng)網(wǎng)絡(luò)的思路是模擬排列成不同層次的小計(jì)算單元（也就是“神經(jīng)元”）與大量數(shù)字“突觸”相連。底層的單元會(huì)收集外部數(shù)據(jù)，然后將信息傳遞給下一層次的單元。這些單元隨后會(huì)根據(jù)簡單數(shù)學(xué)法則整合輸入的數(shù)據(jù)，然后將結(jié)果向上傳遞。頂層最終會(huì)給出答案，比如判斷圖形到底是貓還是狗。

這類網(wǎng)絡(luò)的優(yōu)勢(shì)在于其學(xué)習(xí)能力。有了附帶正確答案的訓(xùn)練數(shù)據(jù)集，該網(wǎng)絡(luò)便能調(diào)整每層連接的強(qiáng)度提升其表現(xiàn)，直到頂層的輸出結(jié)果也是正確的。這一過程模擬了大腦通過強(qiáng)化或弱化突觸學(xué)習(xí)的過程，最終得到能成功歸類非訓(xùn)練集數(shù)據(jù)的網(wǎng)絡(luò)。

但這種學(xué)習(xí)方式也是網(wǎng)絡(luò)中信息分散的原因：就像人腦，記憶是在許多連接中編碼的，而非儲(chǔ)存在固定位置。“你手機(jī)號(hào)的第一位存在大腦的哪里？也許是在一堆突觸中，也許離存儲(chǔ)號(hào)碼中其他數(shù)字的地方不遠(yuǎn)。”加州大學(xué)歐文分校機(jī)器學(xué)習(xí)專家Pierre Baldi說。

對(duì)需要在各自學(xué)科中處理大數(shù)據(jù)的科學(xué)家而言，這使得深度學(xué)習(xí)成了一種需謹(jǐn)慎使用的工具。為了理解原因，英國牛津大學(xué)計(jì)算機(jī)學(xué)家Andrea Vedaldi讓人們想象這樣的情景：在不久的將來，人們用乳房X光片訓(xùn)練深度學(xué)習(xí)網(wǎng)絡(luò)。經(jīng)過訓(xùn)練后，一位外表健康的女性的乳腺組織在機(jī)器“看來”或許已經(jīng)有了患癌的跡象。“該網(wǎng)絡(luò)或許暗中學(xué)會(huì)了辨認(rèn)標(biāo)志物能預(yù)測癌癥。”他說。

但如果機(jī)器無法解釋它是怎么知道的，Vedaldi說，就會(huì)給醫(yī)生和病人帶來嚴(yán)重困擾。對(duì)女性來說，因?yàn)闀?huì)顯著提升乳腺癌風(fēng)險(xiǎn)的遺傳變異而選擇乳房切除術(shù)已經(jīng)夠難了，但如果連風(fēng)險(xiǎn)因素是什么都不知道，做這樣的選擇就更困難了。

2012年，一些研究團(tuán)隊(duì)開始研究這類黑箱問題。加拿大多倫多大學(xué)機(jī)器學(xué)習(xí)專家Geoffrey Hinton，領(lǐng)導(dǎo)團(tuán)隊(duì)參加了一場計(jì)算機(jī)視覺競賽，他們首次表明，從含有120萬張圖像的數(shù)據(jù)庫中分類照片，深度學(xué)習(xí)法強(qiáng)于任何其他AI方法。

為了探索這一點(diǎn)是如何實(shí)現(xiàn)的，Vedaldi團(tuán)隊(duì)反向運(yùn)行了Hinton的算法，使用了事先經(jīng)過訓(xùn)練的網(wǎng)絡(luò)，試圖重建產(chǎn)生這些解讀的圖像。這有助于研究者識(shí)別出機(jī)器如何表現(xiàn)不同特征的。這就好像是在詢問檢測癌癥的網(wǎng)絡(luò)：“你認(rèn)為這張乳房X光片上的哪個(gè)部分是癌癥風(fēng)險(xiǎn)的標(biāo)志物？”

不過，2014年，懷俄明大學(xué)計(jì)算機(jī)科學(xué)家Jeff Clune團(tuán)隊(duì)使用了能放大所有神經(jīng)元、而不僅僅是頂層神經(jīng)元反應(yīng)的方法，并發(fā)現(xiàn)黑箱問題可能比人們之前所想的更為嚴(yán)重：神經(jīng)網(wǎng)絡(luò)很容易被在人類看來是隨機(jī)噪聲的圖像，或是抽象的幾何圖形愚弄。

研究者提出了一些方法來解決愚弄問題，但目前還沒有找到通用方法。在現(xiàn)實(shí)生活中，這很可能潛藏著危險(xiǎn)。Clune說，尤為令人恐慌的是，黑客也能學(xué)會(huì)利用這些漏洞，他們可以讓自動(dòng)駕駛汽車認(rèn)為廣告牌是公路而一頭撞上去。“我們得卷起袖子做硬科學(xué)研究，讓機(jī)器學(xué)習(xí)更強(qiáng)大、更智能。”Clune總結(jié)道。

放開雙手

去年，英國劍橋大學(xué)機(jī)器學(xué)習(xí)研究者Zoubin Ghahramani發(fā)表了一種能將數(shù)據(jù)科學(xué)家工作自動(dòng)化的算法——從檢查原始數(shù)據(jù)到寫論文都能完成。該軟件名叫自動(dòng)統(tǒng)計(jì)學(xué)家，能發(fā)現(xiàn)數(shù)據(jù)集中的趨勢(shì)和異常，呈現(xiàn)結(jié)論，其中還包括對(duì)推論方式的詳細(xì)解釋。Ghahramani提到，這樣的透明度對(duì)科學(xué)應(yīng)用來說是至關(guān)重要的，對(duì)許多商業(yè)應(yīng)用也很重要。

但黑箱也會(huì)引發(fā)擔(dān)憂。大數(shù)據(jù)公司Arundo Analytics的數(shù)據(jù)科學(xué)主管Ellie Dobson表示，許多機(jī)構(gòu)都有類似的關(guān)注。例如，如果調(diào)整英國利率造成了什么不好的后果，“英格蘭銀行總不能說，‘是黑箱讓我這么干的’。”她說。

計(jì)算機(jī)科學(xué)家認(rèn)為，盡管存在種種擔(dān)憂，但開發(fā)透明AI應(yīng)被視為深度學(xué)習(xí)方法的補(bǔ)充，而不是替代。他們表示，一些透明方法或許適用于已經(jīng)被描述為一系列抽象事實(shí)的問題，但并不適用于感知，也就是從原始數(shù)據(jù)中提取事實(shí)。

無論如何，這些研究人員指出，機(jī)器學(xué)習(xí)給出的復(fù)雜答案是必不可少的科學(xué)工具，因?yàn)檎鎸?shí)世界就是非常復(fù)雜的。例如，對(duì)天氣或是股票市場來說，綜合、簡化的描述可能并不存在。“有一些事情是無法用語言描述的。”巴黎綜合理工學(xué)院的應(yīng)用數(shù)學(xué)家Stéphane Mallat說，“如果你問醫(yī)生是如何做診斷的，醫(yī)生會(huì)告訴你一些理由，但人們?yōu)槭裁匆?0年才能成為優(yōu)秀的醫(yī)生呢？因?yàn)樾畔⒉粌H僅在書本中。”

Baldi認(rèn)為，科學(xué)家應(yīng)該擁抱深度學(xué)習(xí)技術(shù)，而不必太介意黑箱問題。畢竟，所有人的腦袋里都有一個(gè)黑箱。“人們一直在使用大腦，也始終相信大腦，但并不知道它是怎么工作的。"

原文鏈接

總結(jié)

以上是生活随笔為你收集整理的否打开人工智能的“黑箱”?的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。