本文來自微信公眾號：SF 中文 （ID：kexuejiaodian），作者：SF

看過電影《黑客帝國》的伙伴可能還記得，在影片中，人類都生活在一個(gè)由人工智能控制的世界中，從出生到死亡，都被 AI 安排得明明白白。男主角尼奧和其他覺醒的人類要做的就是推翻 AI 的統(tǒng)治。AI 獲得意識，進(jìn)而威脅人類，這是科幻作品中常見的橋段。在現(xiàn)實(shí)生活中，也有不少人擔(dān)心 AI 會擁有意識。

文 | 梅林

今年年初，ChatGPT 的橫空出世點(diǎn)爆了科學(xué)界和輿論，讓 AI 這個(gè)此前人們還覺得比較科幻的話題真正走進(jìn)了我們的生活。

5 月，中國啟動了大模型標(biāo)準(zhǔn)化工作。8 月 31 日，百度、字節(jié)跳動、中國科學(xué)院等 8 家企業(yè)和機(jī)構(gòu)的大模型產(chǎn)品成為首批通過《生成式人工智能服務(wù)管理暫行辦法》備案的 AI 大模型，可以正式上線，向公眾提供服務(wù)。

警報(bào)！擁有意識的 AI 會威脅人類

AI 的發(fā)展為我們帶來了機(jī)遇，也造成了挑戰(zhàn)。一時(shí)間，關(guān)于 AI，在輿論場引發(fā)了一場廣泛的爭論。

支持“AI 擁有意識會威脅人類”的一派對此持有悲觀的態(tài)度。他們紛紛發(fā)出警告，聲稱像 GPT（基于轉(zhuǎn)換器的生成式預(yù)訓(xùn)練模型，generative pre-trained transforme）這樣的 AI 工具可能會對人類構(gòu)成威脅。他們中的一些人認(rèn)為，GPT 可 能 是 點(diǎn) 燃 通 用 人 工 智 能（artifificial general intelligence）誕生之勢的第一個(gè)“火花”，而通用人工智能是一種能感知、有意識的機(jī)器，它們的智慧可以超越人類。與它們相比，我們?nèi)祟悓⒆兊梦⒉蛔愕馈?/p>

而反對者則認(rèn)為，目前還沒有任何科學(xué)依據(jù)可以證明，大型語言模型現(xiàn)在具有或者將來會具有主觀體驗(yàn)、感知能力這樣人類或智力較高的動物才擁有的能力。換句話說，AI 悲觀者們似乎有些杞人憂天了。技術(shù)樂觀者們覺得，AI 完全不具備我們的生命特征 —— 我們通過感官來感知周邊的世界，進(jìn)而形成意識，而 AI 只是機(jī)器，不能同世界產(chǎn)生類似的互動，因而完全不會形成意識。

正如“人工智能之父”、法國計(jì)算機(jī)科學(xué)家楊立昆（Yann LeCun）所說，現(xiàn)今的 AI 不太可能發(fā)展成通用 AI，所以它們對人類沒有嚴(yán)重的威脅。不過，這些持有樂觀觀點(diǎn)的人也確實(shí)過于樂觀了 ——AI 對人類的威脅確實(shí)存在。

現(xiàn)在的 AI 即便不擁有意識，但也讓一些人放棄了 AI 不擅長，但人類所特有的一部分能力，比如，創(chuàng)作小說。現(xiàn)在，一些 AI 經(jīng)過訓(xùn)練，已經(jīng)能夠幫助人類創(chuàng)作小說。因此，有些作者把創(chuàng)作情節(jié)推進(jìn)部分的工作交給了 AI，這樣他們就能從費(fèi)腦的創(chuàng)意性工作中解放出來。長此以往，人類引以為傲的“思考”就完全可由 AI 取代，而我們也將越來越缺乏思考能力。

雙方都有各自的道理：悲觀者的擔(dān)心不是沒有道理，比較 AI 如何處理數(shù)據(jù)和信息，做出決策，對于我們來說還是一個(gè)“黑盒”，我們現(xiàn)在也無法確認(rèn)未來 AI 到底會不會擁有意識；而樂觀者的觀點(diǎn)更有現(xiàn)實(shí)意義，指出了 AI 與我們?nèi)祟惖谋举|(zhì)差別，也指出了現(xiàn)階段我們依賴 AI 存在的問題。

至于 AI 會不會像《黑客帝國》講述的那樣，成為統(tǒng)治我們?nèi)祟惖摹爸髟住保€需要科學(xué)家進(jìn)一步的研究。

如何判斷 AI？

未雨綢繆，一些科學(xué)家在應(yīng)對擁有意識的 AI 方面已經(jīng)走在了前列。近日，一個(gè)由 19 位計(jì)算機(jī)科學(xué)家、神經(jīng)科學(xué)家和哲學(xué)家組成的研究團(tuán)隊(duì)發(fā)表文章（未經(jīng)同行評議）指出，根據(jù)一些人類意識理論，他們提出了用于判斷人工智能是否擁有意識的 14 項(xiàng)標(biāo)準(zhǔn)。

要判斷 AI 是否擁有意識，首先要給意識下一個(gè)定義。科學(xué)家決定采用紐約大學(xué)的心理學(xué)家內(nèi)德?布洛克（Ned Block）提出的“現(xiàn)象的意識”來定義意識，簡單來說，意識就是主觀感受的體驗(yàn)，比如你看到了紅色的花，或是感覺到疼痛。

那么怎么去探究 AI 的意識呢？和人類不同，人類可以通過腦電圖或是磁共振成像來檢測大腦信號，進(jìn)而探究人類的意識。科學(xué)家總不能給 AI 做磁共振成像吧？科學(xué)家反而選擇從人類的意識理論出發(fā)，發(fā)掘出意識最基本的一些標(biāo)準(zhǔn)，然后再在 AI 的底層架構(gòu)中尋找符合這些標(biāo)準(zhǔn)的特征，以此判斷 AI 是否擁有意識。

利用這些標(biāo)準(zhǔn)，科學(xué)家對目前一些主流的 AI 工具，比如 ChatGPT、PaLM-E，進(jìn)行了測試。他們發(fā)現(xiàn)，目前，沒有任何一個(gè) AI 可以同時(shí)滿足多個(gè)標(biāo)準(zhǔn)，因此它們都沒有擁有意識，至少現(xiàn)在是這樣。

參考文獻(xiàn)：

• https://doi.org/10.48550/arXiv.2308.08708

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。

總結(jié)

以上是生活随笔為你收集整理的万一 AI 发展出意识，我们能否察觉？科学家给出了判断标准的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。