9月6日消息，在今日Baichuan2開源大模型發(fā)布會上，中國科學(xué)院院士、清華大學(xué)人工智能研究院名譽院長張鈸表示，硅基的機器是否能具有意識，目前在科學(xué)上是沒有條件討論這個問題的，只存在哲學(xué)上的爭論。

張鈸表示，到現(xiàn)在為止全世界對大模型的理論工作原理、所產(chǎn)生的現(xiàn)象都是一頭霧水，所有的結(jié)論都推導(dǎo)產(chǎn)生了“涌現(xiàn)現(xiàn)象”；而所謂涌現(xiàn)就是“給自己一個退路，解釋不清楚的情況下就說它是涌現(xiàn)”，實際上這反映了我們對它一點不清楚。

在他看來，大模型為什么能夠產(chǎn)生出來一個非常連貫的、多樣化的人類語言，主要靠三個措施；一個措施是文本的語義表示，也就是把文本里的詞包括句包括段落全變成向量，給構(gòu)造一個連續(xù)的拓撲空間創(chuàng)造了條件；第二個措施是轉(zhuǎn)換器，注意機制，注意機制可以保證上下文的一致性；最后一個，是下一個詞的預(yù)測；在這三個條件訓(xùn)練下，就是在連續(xù)的拓撲空間中構(gòu)造了非常光滑的流形，這個流形是局部度量空間，這個流形是代表詞在它的條件概率分布，所以在這個流形里采樣的時候出來的就是human like takes。

張鈸認為，ChatGPT跟人類自然語言生成原理不一樣的地方，最根本之處是ChatGPT生成的語言是外部驅(qū)動的，而人類是attention based推動的，是在自己意圖的情況下驅(qū)動的；所以GPT自己都不知道自己在干什么，內(nèi)容的正確性和合理性是不能保證的；如果想讓GPT語言達到人類自然語言一樣的語言，必須使計算機具有意識，但“硅基的機器有沒有可能具有意識？目前來講科學(xué)上是沒有條件討論這個問題的，現(xiàn)在只存在哲學(xué)上的爭論。”

以下是張鈸演講實錄：

今天我來參加百川這個7B、13B開源模型的發(fā)布會，首先表示祝賀，祝賀百川公司在成立短短幾個月里就能推出來高質(zhì)量的開源大模型，3個月內(nèi)能下載量接近500萬次，這是很大的成就。也為我國大模型產(chǎn)業(yè)作出貢獻。

但是我今天要講的不是這個，我重點借這個機會表示公司把這個開源模型定位在助力學(xué)術(shù)研究這點上，我要做講解，表示對這樣的工作的支持。

大家知道，到現(xiàn)在為止我們國家已經(jīng)推出很多從幾十億到幾百億不同規(guī)模幾十種的大模型，這些大模型主要集中在垂直領(lǐng)域的應(yīng)用上，很少，至少現(xiàn)在沒看到定位在助力學(xué)術(shù)研究上。我認為這個學(xué)術(shù)研究非常重要，這個學(xué)術(shù)研究研究什么，主要研究大模型本身。為什么有這個需要？這個工作非常迫切，非常重要。因為到現(xiàn)在為止全世界對大模型的理論工作原理、所產(chǎn)生的現(xiàn)象都是一頭霧水，所有的結(jié)論都推導(dǎo)產(chǎn)生了“涌現(xiàn)現(xiàn)象”，所謂涌現(xiàn)就是給自己一個退路，解釋不清楚的情況下就說它是涌現(xiàn)。實際上這反映了我們對它一點不清楚。所以我認為這個問題必須要把它搞清楚，我們才有可能發(fā)展出來中國特有的有中國特色的大模型。

在這個問題上我主要講幾個問題，一個問題，我們必須回答這樣一個大的模型為什么能夠產(chǎn)生出來一個非常連貫的、多樣化的人類語言，說的全是人話，OpenAI為什么能夠說出來Human like takes，說的全是人話，并不是我們知道它說的是什么，這個實際上是非常surprise的，大家不要認為一定是這樣。所以O(shè)penAI在做這個事情的時候是冒著很大的風(fēng)險，其實它不清楚這么大規(guī)模的文本去訓(xùn)練它，究竟能不能收斂，收斂完以后究竟收斂到哪兒去。所以后來就出現(xiàn)了，雖然有好多質(zhì)量不高，但是它覺得能成為Humnan like takes，這個是非常驚奇的事情。

我們怎么解決它，認識它，我的看法是這樣，這里主要靠三個措施。一個措施是文本的語義表示，也就是說我們把文本里的詞包括句包括段落全變成向量，不只是詞變成向量，它經(jīng)過抽象以后，上面各個都變成向量，這就給構(gòu)造一個連續(xù)的拓撲空間創(chuàng)造了條件。如果原來是離散的，這個空間絕對不會有。第二個轉(zhuǎn)換器，注意機制，注意機制可以保證上下文的一致性。最后一個下一個詞的預(yù)測。我們可以看一下，在這三個條件訓(xùn)練下面它最后訓(xùn)練出來的是什么個什么東西，是在個緊的連續(xù)的拓撲空間中間構(gòu)造了一個流形，這個流形是局部度量空間，這個數(shù)學(xué)性質(zhì)非常之好的，直觀地講，就是它形成了一個非常光滑的流形，而且這個流形是代表詞在它的條件概率分布，而且它的條件前面是整個文章，所以你在這個流形里頭采樣的時候它出來的一定是human like takes，不可能出來別的東西，因為它附近的都是語義相近的，即使偏一點語義也是相近的。這個問題我們需要研究，如果掌握了這個問題我認為我們今后不需要這么多的數(shù)據(jù)。因為大家后來也做了一些工作，當(dāng)然它有一個門檻，你超過這個門檻以后這個流形才能形成，如果這個流形不形成的話，你這個數(shù)量沒有到那么大的程度，但是這個數(shù)量究竟是多少，是不是我們現(xiàn)在需要的那樣，這個是需要我們研究的問題。

第二個問幻覺。它為會產(chǎn)生幻覺？這個問題就涉及到ChatGPT跟人類自然語言生成原理不一樣的地方。不一樣的地方在什么地方，最根本的是，ChatGPT生成的語言是外部驅(qū)動的，而人類是attention based推動的，是在自己意圖的情況下驅(qū)動的，所以它的生成是在意圖控制下生成的，我們是在外部驅(qū)動下生成的，它自己都不知道自己在干嘛，所以它內(nèi)容的正確性和合理性是不能保證的。所以因此在沒有對齊之前，它基本上能達到60%，大量的是不合理的，不正確的，因為前面那種辦法，構(gòu)成流形的辦法不能保證它內(nèi)容是正確是合理的。所以只有經(jīng)過ALignment才能解決這個問題，現(xiàn)在我覺得ALignment國內(nèi)做的工作太少，不如國外的，大家想一下它之所以能從GPT3.5到GPT4，幾個月的時間有那么多的變化，這主要就是ALignment的功勞，所以ALignment這方面我們是有點輕視的，我們覺得隨便找?guī)讉€人來標注就可以了，其實完全不對的，他們是世界上最優(yōu)秀的團隊來做這個事情。大家知道OpenAI干這個事的有80幾個人，10個人是大陸過去的，中間骨干有3個人都在我們團隊里面干過，是非常優(yōu)秀的。所以這點我們國家可能不夠重視。

這里頭就涉及到治理和開放的問題，因為實際上我們做ALignment是做治理，希望它不產(chǎn)生（問題），但是大家一定要知道治理以后它的質(zhì)量、多樣性肯定下降，也就是說治理的越多，它的質(zhì)量肯定受影響，所以這里頭有一個非常重大的問題，我們?nèi)绾稳テ胶膺@二者的關(guān)系，開放和治理。剛才說了產(chǎn)生這樣的結(jié)果是必然的，如果要問ChatGPT最大的特點是什么，生成結(jié)果的多樣化，這是它的靈魂，因為有了多樣化以后才有可能有創(chuàng)造性，你如果追求多樣化的話必然會產(chǎn)生錯誤，所以這兩個是一個問題的兩個方面，所以我們在治理的時候必須要跟質(zhì)量一起做一個平衡。所以這個問題我覺得我們應(yīng)該進一步研究。

我把這個語言暫時叫做GPT語言，我們在ChatGPT里頭又生成一個我們從來沒有見過的語言叫GPT語言，跟人類的自然語言我認為不一樣，所以這里第五個問題，我們將來努力的方向是什么，我們是不是想把GPT語言把它完全對齊到人類的自然語言？我們看看它的可能性和必要性，我認為這個可能性不大，因為你要把GPT語言完全跟人類的自然語言一樣，你必須解決一個問題--讓GPT有自我意識。剛才我們說過GPT跟人類語言不一樣的地方，它是外部驅(qū)動的，人類的自然語言是內(nèi)部驅(qū)動的，是自我意識驅(qū)動的，intention based，你如果想使GPT語言達到人類自然語言一樣的語言，你必須使計算機具有意識。一個硅基的機器有沒有可能具有意識，目前來講科學(xué)上是沒有條件討論這個問題的，現(xiàn)在只存在哲學(xué)上的爭論。從哲學(xué)的爭論來講，現(xiàn)在有兩條路按照唯物主義行為主義的觀點來講我們只要追求行為主義上的相似形，而不是追求內(nèi)在機制的一致性，人工智能就有這一派，我們叫做唯物主義學(xué)派或者行為主義學(xué)派，現(xiàn)在人工智能絕大多數(shù)走的是這條道路，是人工智能的主流。

人工智能還有一個少數(shù)派是唯芯主義，他認為唯有內(nèi)在系統(tǒng)達到跟人類一樣才有可能達到真正的智能，這個我們認為很難做到或者做不到，因為硅基的機器是不是會做成跟人類碳基的智能一樣，這個在哲學(xué)上有點說不通，更不用說科學(xué)上，更說不通。

最后要講它的一個必要性。其實人工智能追求什么，追求機器的智能，希望這個智能跟人類的智能不一樣，它某些方面比人類有優(yōu)勢，某些方面比人類優(yōu)缺點，這是我們追求的目標，因為只有在這個目標情況下我們才能夠得到人類和機器的和平共處。其實人工智能絕對不是去追求做一個機器跟人類一樣，這個必要性絕對不需要。我們?yōu)槭裁匆龀鲆粋€跟人類一樣的機器？如果需要的話，我們多生幾個人不就完了嗎，干嘛非去造一個跟人類一樣的機器呢，所以從必要性來講沒有必要，所以我覺得大家在這個上面爭論，我認為意義不大。所以我覺得目前來講最重要的，我們要研究、了解GPT語言，只有我們徹底了解了它，我們才能更好地發(fā)展它，使用它，或者說從產(chǎn)業(yè)的角度來講才可以發(fā)展出更健康的人工智能產(chǎn)業(yè)。我希望百川智能公司能在這方面起引領(lǐng)作用，謝謝大家。

總結(jié)

以上是生活随笔為你收集整理的张钹： 硅基机器是否能产生意识？目前只有哲学上的争论的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。