万一 AI 发展出意识,我们能否察觉?科学家给出了判断标准
本文來自微信公眾號:SF 中文 (ID:kexuejiaodian),作者:SF
看過電影《黑客帝國》的伙伴可能還記得,在影片中,人類都生活在一個(gè)由人工智能控制的世界中,從出生到死亡,都被 AI 安排得明明白白。男主角尼奧和其他覺醒的人類要做的就是推翻 AI 的統(tǒng)治。AI 獲得意識,進(jìn)而威脅人類,這是科幻作品中常見的橋段。在現(xiàn)實(shí)生活中,也有不少人擔(dān)心 AI 會擁有意識。
文 | 梅林
今年年初,ChatGPT 的橫空出世點(diǎn)爆了科學(xué)界和輿論,讓 AI 這個(gè)此前人們還覺得比較科幻的話題真正走進(jìn)了我們的生活。
5 月,中國啟動了大模型標(biāo)準(zhǔn)化工作。8 月 31 日,百度、字節(jié)跳動、中國科學(xué)院等 8 家企業(yè)和機(jī)構(gòu)的大模型產(chǎn)品成為首批通過《生成式人工智能服務(wù)管理暫行辦法》備案的 AI 大模型,可以正式上線,向公眾提供服務(wù)。
警報(bào)!擁有意識的 AI 會威脅人類
AI 的發(fā)展為我們帶來了機(jī)遇,也造成了挑戰(zhàn)。一時(shí)間,關(guān)于 AI,在輿論場引發(fā)了一場廣泛的爭論。
支持“AI 擁有意識會威脅人類”的一派對此持有悲觀的態(tài)度。他們紛紛發(fā)出警告,聲稱像 GPT(基于轉(zhuǎn)換器的生成式預(yù)訓(xùn)練模型,generative pre-trained transforme)這樣的 AI 工具可能會對人類構(gòu)成威脅。他們中的一些人認(rèn)為,GPT 可 能 是 點(diǎn) 燃 通 用 人 工 智 能(artifificial general intelligence)誕生之勢的第一個(gè)“火花”,而通用人工智能是一種能感知、有意識的機(jī)器,它們的智慧可以超越人類。與它們相比,我們?nèi)祟悓⒆兊梦⒉蛔愕馈?/p>
而反對者則認(rèn)為,目前還沒有任何科學(xué)依據(jù)可以證明,大型語言模型現(xiàn)在具有或者將來會具有主觀體驗(yàn)、感知能力這樣人類或智力較高的動物才擁有的能力。換句話說,AI 悲觀者們似乎有些杞人憂天了。技術(shù)樂觀者們覺得,AI 完全不具備我們的生命特征 —— 我們通過感官來感知周邊的世界,進(jìn)而形成意識,而 AI 只是機(jī)器,不能同世界產(chǎn)生類似的互動,因而完全不會形成意識。
正如“人工智能之父”、法國計(jì)算機(jī)科學(xué)家楊立昆(Yann LeCun)所說,現(xiàn)今的 AI 不太可能發(fā)展成通用 AI,所以它們對人類沒有嚴(yán)重的威脅。不過,這些持有樂觀觀點(diǎn)的人也確實(shí)過于樂觀了 ——AI 對人類的威脅確實(shí)存在。
現(xiàn)在的 AI 即便不擁有意識,但也讓一些人放棄了 AI 不擅長,但人類所特有的一部分能力,比如,創(chuàng)作小說。現(xiàn)在,一些 AI 經(jīng)過訓(xùn)練,已經(jīng)能夠幫助人類創(chuàng)作小說。因此,有些作者把創(chuàng)作情節(jié)推進(jìn)部分的工作交給了 AI,這樣他們就能從費(fèi)腦的創(chuàng)意性工作中解放出來。長此以往,人類引以為傲的“思考”就完全可由 AI 取代,而我們也將越來越缺乏思考能力。
雙方都有各自的道理:悲觀者的擔(dān)心不是沒有道理,比較 AI 如何處理數(shù)據(jù)和信息,做出決策,對于我們來說還是一個(gè)“黑盒”,我們現(xiàn)在也無法確認(rèn)未來 AI 到底會不會擁有意識;而樂觀者的觀點(diǎn)更有現(xiàn)實(shí)意義,指出了 AI 與我們?nèi)祟惖谋举|(zhì)差別,也指出了現(xiàn)階段我們依賴 AI 存在的問題。
至于 AI 會不會像《黑客帝國》講述的那樣,成為統(tǒng)治我們?nèi)祟惖摹爸髟住保€需要科學(xué)家進(jìn)一步的研究。
如何判斷 AI?
未雨綢繆,一些科學(xué)家在應(yīng)對擁有意識的 AI 方面已經(jīng)走在了前列。近日,一個(gè)由 19 位計(jì)算機(jī)科學(xué)家、神經(jīng)科學(xué)家和哲學(xué)家組成的研究團(tuán)隊(duì)發(fā)表文章(未經(jīng)同行評議)指出,根據(jù)一些人類意識理論,他們提出了用于判斷人工智能是否擁有意識的 14 項(xiàng)標(biāo)準(zhǔn)。
要判斷 AI 是否擁有意識,首先要給意識下一個(gè)定義。科學(xué)家決定采用紐約大學(xué)的心理學(xué)家內(nèi)德?布洛克(Ned Block)提出的“現(xiàn)象的意識”來定義意識,簡單來說,意識就是主觀感受的體驗(yàn),比如你看到了紅色的花,或是感覺到疼痛。
那么怎么去探究 AI 的意識呢?和人類不同,人類可以通過腦電圖或是磁共振成像來檢測大腦信號,進(jìn)而探究人類的意識。科學(xué)家總不能給 AI 做磁共振成像吧?科學(xué)家反而選擇從人類的意識理論出發(fā),發(fā)掘出意識最基本的一些標(biāo)準(zhǔn),然后再在 AI 的底層架構(gòu)中尋找符合這些標(biāo)準(zhǔn)的特征,以此判斷 AI 是否擁有意識。
利用這些標(biāo)準(zhǔn),科學(xué)家對目前一些主流的 AI 工具,比如 ChatGPT、PaLM-E,進(jìn)行了測試。他們發(fā)現(xiàn),目前,沒有任何一個(gè) AI 可以同時(shí)滿足多個(gè)標(biāo)準(zhǔn),因此它們都沒有擁有意識,至少現(xiàn)在是這樣。
參考文獻(xiàn):
-
https://doi.org/10.48550/arXiv.2308.08708
廣告聲明:文內(nèi)含有的對外跳轉(zhuǎn)鏈接(包括不限于超鏈接、二維碼、口令等形式),用于傳遞更多信息,節(jié)省甄選時(shí)間,結(jié)果僅供參考,所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的万一 AI 发展出意识,我们能否察觉?科学家给出了判断标准的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 快手直播怎么进行电脑录屏如何用电脑直播快
- 下一篇: 荣耀也有王炸?曝Magic6软硬件将大升