隨著美國(guó)政府發(fā)布新的AI法規(guī)，關(guān)于監(jiān)管AI大模型一事最近又起爭(zhēng)議。

北京時(shí)間11月2日凌晨，“ChatGPT之父”、OpenAI CEO奧特曼（Sam Altman）在英國(guó)劍橋參加活動(dòng)時(shí)，遭到了反AI活動(dòng)的激進(jìn)分子的強(qiáng)烈抵制，在大禮堂里當(dāng)面被“砸場(chǎng)子”，少數(shù)抗議者要求停止AI競(jìng)賽。

一些抗議者甚至在陽臺(tái)上懸掛橫幅、扔下傳單，場(chǎng)面一度十分混亂。當(dāng)然，奧特曼在現(xiàn)場(chǎng)倒是很鎮(zhèn)定，氣定神閑地完成了這場(chǎng)活動(dòng)。

奧特曼在演講中表示，即便未來AI模型足夠強(qiáng)大，但也需要巨大的算力才能運(yùn)行。如果提高了算力門檻，能夠降低蓄意犯罪風(fēng)險(xiǎn)，也能提高問責(zé)性。早前，OpenAI聯(lián)合創(chuàng)始人Ilya Sutskever直言，ChatGPT可能是有意識(shí)的，AI將有潛在風(fēng)險(xiǎn)。

與此同時(shí)，Meta AI首席科學(xué)家、2018年“圖靈獎(jiǎng)”得主楊立昆(Yann LeCun）近日則多次在社交平臺(tái)上痛批Altman、DeepMind CEO 杰米斯·哈薩比斯（Demis Hassabis）、Anthropic CEO等人正向美國(guó)政府“進(jìn)行大規(guī)模的企業(yè)游說”，最終可能會(huì)導(dǎo)致只有少數(shù)大科技巨頭能控制AI技術(shù)。

楊立昆直指這些人散布恐懼活動(dòng)。“如果他們成功，你我將不可避免地導(dǎo)致一場(chǎng)災(zāi)難——少數(shù)公司將控制AI。”

隨后，哈薩比斯駁斥，“我非常不同意楊立昆的大部分言論。”他指出，在討論如何最好地利用AI時(shí)，谷歌DeepMind并不是試圖實(shí)現(xiàn)“監(jiān)管捕獲”，現(xiàn)在就開始討論如何監(jiān)管潛在的超級(jí)AI更為重要。

在AI大模型競(jìng)爭(zhēng)日趨白熱化的當(dāng)下，行業(yè)進(jìn)入“混戰(zhàn)”，圍繞巨頭控制 AI這一話題，所有人都在進(jìn)行激烈交戰(zhàn)。

AI是人類最大威脅？

馬斯克：AI將比人類更聰明

過去的近12個(gè)月內(nèi)，ChatGPT席卷全球，生成式AI已完全成為今年科技圈的中心話題。

如今，蘋果公司也開始擁抱AI。

北京時(shí)間11月3日上午四季度財(cái)報(bào)會(huì)上，蘋果公司CEO蒂姆·庫(kù)克（TimCook）談到，蘋果公司已經(jīng)在生成式AI方面開展各項(xiàng)工作，并正在投入大量的資金負(fù)責(zé)任的去做。“隨著時(shí)間推移，你會(huì)看到以這些技術(shù)為核心的蘋果產(chǎn)品將得到進(jìn)步。”

早前彭博社報(bào)道稱，蘋果正在AI領(lǐng)域悄然追趕競(jìng)爭(zhēng)對(duì)手，一方面加大了 AI相關(guān)的招聘力度，另一方面還通過并購(gòu)初創(chuàng)公司的方式，加速AI 技術(shù)的成熟和落地，而且內(nèi)部已著手開發(fā)大語言模型，內(nèi)部稱為AppleGPT。

同時(shí)，2200億美金身價(jià)的世界科技首富、特斯拉CEO埃隆·馬斯克（Elon Musk）成立的xAI團(tuán)隊(duì)也被傳首批產(chǎn)品信息，包括與AI信息檢索相關(guān)Grok、提示詞工作站PromptIDE等。此外，谷歌、微軟、亞馬遜等科技巨頭也參與AI浪潮中。

然而，包括馬斯克、奧特曼等行業(yè)領(lǐng)導(dǎo)者，最近卻每周談?wù)撔麚P(yáng)AI 具有潛在殺傷力、AI存在風(fēng)險(xiǎn)等話題。這似乎成為了一個(gè)“小圈子共識(shí)”。

11月2日，馬斯克在英國(guó)AI峰會(huì)期間就表示，AI是人類最大威脅之一，而且AI將會(huì)成為歷史上最具顛覆性的力量，并將比人類更加聰明。他相信，AI終有一天會(huì)令所有人失去工作。

“AI有能力做任何事，我不知道這會(huì)令人類覺得舒適，還是不舒適。若你想要一個(gè)魔法精靈，AI會(huì)滿足你所有愿望，而且沒有任何限制，也不會(huì)只有3個(gè)愿望的制約，這是好，也可以是壞，未來的挑戰(zhàn)將會(huì)是我們?nèi)绾握业缴畹囊饬x。”馬斯克表示。

馬斯克曾多次警告，AI比核武器（核彈）更危險(xiǎn)。

奧特曼也多次表示，政府管控。10年內(nèi)，全球?qū)⒖赡軗碛幸粋€(gè)強(qiáng)大的 AI系統(tǒng)（AI System），但現(xiàn)在，人類就需要為此做好準(zhǔn)備。

美國(guó)政府也對(duì)AI安全問題開始監(jiān)管。10月30日，美國(guó)總統(tǒng)拜登簽署了一項(xiàng)針對(duì)AI的新的行政命令，針對(duì)AI安全標(biāo)準(zhǔn)方向采取有史以來最全面的行動(dòng)，保護(hù)美國(guó)人的隱私，促進(jìn)公平和公民權(quán)利，維護(hù)消費(fèi)者和工人的利益，促進(jìn)創(chuàng)新和競(jìng)爭(zhēng)，以及在國(guó)外推進(jìn)美國(guó)的領(lǐng)導(dǎo)地位等，管理AI潛在風(fēng)險(xiǎn)。

值得一提的是，在新的行政命令中，加強(qiáng)了對(duì)AI巨頭公司的支持力度，如通過研究資金和其他手段支持AI研究、吸引外國(guó)人才等。

一石激起千層浪。

隨后，“圖靈三巨頭”等AI學(xué)術(shù)專家圍繞AI監(jiān)管展開了激烈討論，主要分成了兩派：以楊立昆和吳恩達(dá)為代表的人認(rèn)為，車還沒造好就想剎什么車，AI沒到監(jiān)管的階段；而包括馬斯克、奧特曼、“深度學(xué)習(xí)之父”杰弗里·辛頓（Geoffrey Hinton）等人卻認(rèn)為，AI依然非常危險(xiǎn)。

其中，楊立昆直言不諱的表示，如果美國(guó)持續(xù)支持科技巨頭的AI研究，最終可能會(huì)導(dǎo)致只有少數(shù)大科技巨頭能控制AI，從而不可避免地導(dǎo)致一場(chǎng)巨大的風(fēng)險(xiǎn)與災(zāi)難。

“和許多人一樣，我非常支持開放式AI平臺(tái)。但我也相信，未來AI是人們創(chuàng)造力、民主、市場(chǎng)力量和監(jiān)管等多種力量的結(jié)合。”楊立昆在X平臺(tái)寫道。

谷歌大腦開創(chuàng)者、斯坦福大學(xué)教授吳恩達(dá)也支持楊立昆。他表示，對(duì)AI技術(shù)發(fā)展進(jìn)行強(qiáng)監(jiān)管是一個(gè)“陰謀”。

“這會(huì)摧毀創(chuàng)新”，吳恩達(dá)指出，“肯定有一些大型科技公司不愿意與開源AI競(jìng)爭(zhēng)，因此他們正在制造對(duì)AI導(dǎo)致人類滅絕的恐懼。這一直是游說者尋求的立法武器，但對(duì)開源社區(qū)來說是非常有害的。隨著許多國(guó)家監(jiān)管的發(fā)展方向，我認(rèn)為沒有監(jiān)管會(huì)比現(xiàn)在的情況更好。”

但與此同時(shí)，10月25日，圖靈獎(jiǎng)得主約書亞·本吉奧（Yoshua Bengio）、“深度學(xué)習(xí)之父”杰弗里·辛頓（Geoffrey Hinton）、姚期智（Andrew Yao）、張亞勤等AI行業(yè)專家也簽署了一封聯(lián)名信，信中繼續(xù)呼吁加強(qiáng)對(duì)于AI技術(shù)發(fā)展的監(jiān)管，認(rèn)為在開發(fā)這些系統(tǒng)之前應(yīng)采取緊急治理措施，并在AI研發(fā)中向安全和道德實(shí)踐進(jìn)行重大轉(zhuǎn)變。

如今，這場(chǎng)圍繞 AI安全監(jiān)管的學(xué)術(shù)大佬間激烈交戰(zhàn)仍在持續(xù)。AI當(dāng)前已深入從搜索引擎、社交到金融等各個(gè)領(lǐng)域，因此專家們對(duì)這場(chǎng)AI軍備競(jìng)賽、安全風(fēng)險(xiǎn)、深度造假等挑戰(zhàn)提出了嚴(yán)重?fù)?dān)憂。

而很多網(wǎng)友擔(dān)心大佬們的關(guān)系會(huì)不會(huì)受到論戰(zhàn)的影響。楊立昆前段時(shí)間發(fā)了一條與Yoshua Bengio、辛頓之間的合照，似乎很好地回應(yīng)了這個(gè)問題。

11月3日，美國(guó)政府表示，其已成立AI安全研究所，希望通過美國(guó)商務(wù)部等機(jī)構(gòu)的立法身份，制定監(jiān)管AI未來的標(biāo)準(zhǔn)和規(guī)則。

監(jiān)管加速

未來10年人類或?qū)⑷孢M(jìn)入智力時(shí)代

11月1日，在英國(guó)倫敦布萊奇利園舉辦的首屆人工智能安全峰會(huì)上，發(fā)布了《布萊奇利宣言》，宣言稱AI帶來巨大機(jī)遇，有潛力增強(qiáng)人類福祉、和平和繁榮，但同時(shí)AI也帶來重大風(fēng)險(xiǎn)，而需要通過國(guó)際合作的形式解決各種風(fēng)險(xiǎn)。

會(huì)上，包括美國(guó)、中國(guó)及歐盟在內(nèi)的超過25個(gè)國(guó)家和地區(qū)簽署了該宣言。英國(guó)首相蘇納克表示，“這是一項(xiàng)具有里程碑意義的成就，世界上最強(qiáng)大的 AI強(qiáng)國(guó)都認(rèn)識(shí)到‘了解AI風(fēng)險(xiǎn)’這件事的緊迫性，這有助于確保我們下一代的長(zhǎng)遠(yuǎn)未來。作為領(lǐng)導(dǎo)人，我們有責(zé)任采取行動(dòng)，采取措施保護(hù)人民，這正是我們正在做的事情。”

宣言中指出，AI將帶來重大風(fēng)險(xiǎn)，包括在日常生活領(lǐng)域，“所有問題都至關(guān)重要，我們確認(rèn)解決它們的必要性和緊迫性。”

“為了實(shí)現(xiàn)這一點(diǎn)，我們申明，為了所有人的利益，AI應(yīng)該以安全、以人為本、值得信賴和負(fù)責(zé)任的方式設(shè)計(jì)、開發(fā)、部署和使用。”宣言稱，AI產(chǎn)生的許多風(fēng)險(xiǎn)本質(zhì)上是國(guó)際性的，因此最好通過國(guó)際合作來解決——識(shí)別共同關(guān)注的AI安全風(fēng)險(xiǎn)以及支持具有國(guó)際包容性的前沿AI 安全科學(xué)研究網(wǎng)絡(luò)。

11月3日，在北京大學(xué)舉辦的“新一代人工智能前沿論壇”上，北京大學(xué)計(jì)算機(jī)學(xué)院教授，北京智源人工智能研究院院長(zhǎng)黃鐵軍表示，目前這場(chǎng)爭(zhēng)論問題在于，大家對(duì)AI的基本認(rèn)識(shí)不同，很多搞科學(xué)思維的人不相信通用人工智能（AGI）會(huì)實(shí)現(xiàn)，而包括楊立昆在內(nèi)的另一種技術(shù)思維認(rèn)為AI發(fā)展可行。

“這是兩種完全不同的思維方式，誰也說服不了誰。所以爭(zhēng)論背后，是大家完全是用不同的立場(chǎng)、不同的思維方式來看這一問題。”黃鐵軍在演講中稱。

對(duì)于未來AI大模型技術(shù)的發(fā)展，黃鐵軍給出了3年、10年和20年階段的預(yù)期。

未來3年，大模型將擴(kuò)展到視覺、聽覺、具身智能、行動(dòng)等通用智能、規(guī)模變大、尺度變小，成為具身智能的“大腦”；普通語言升級(jí)為科學(xué)語言，人工智能解決重大科學(xué)問題。

未來10年：人類全面進(jìn)入智（能）力時(shí)代，就像工業(yè)革命解放體力，就像電力革命解決能源流通，以智力為核心的科技、經(jīng)濟(jì)、社會(huì)生態(tài)構(gòu)建完成。

未來20年：目前大模型是數(shù)據(jù)驅(qū)動(dòng)的靜態(tài)智能，未來是時(shí)空環(huán)境驅(qū)動(dòng)的動(dòng)態(tài)智能，智能載體升級(jí)為類腦的脈沖神經(jīng)網(wǎng)絡(luò)；2045年，結(jié)構(gòu)仿腦、功能類腦、性能超腦，物理AGI到來。

此外，Al安全至少要同等重視，否則人類面臨巨大風(fēng)險(xiǎn)。

在黃鐵軍看來，未來10年，整個(gè)世界的經(jīng)濟(jì)社會(huì)、科技的形態(tài)可能都會(huì)發(fā)生一個(gè)重大的變化，智力將成為社會(huì)運(yùn)行的基本要素，就像今天的電力無處不在一樣，世界就形成了。而2045年，在AI技術(shù)下，人類可以實(shí)現(xiàn)實(shí)時(shí)智能數(shù)據(jù)，并將迭代升級(jí)，大腦、后續(xù)決策也會(huì)發(fā)生變化。

“我認(rèn)為，2045年之前，像我們?nèi)祟愃械倪@些靈感創(chuàng)新能力，會(huì)在一個(gè)非有機(jī)體上出現(xiàn)，但如果出現(xiàn)，那就是一個(gè)巨大的風(fēng)險(xiǎn)，我們?nèi)祟愐灰鲞@個(gè)選項(xiàng)，還是說可以慢一點(diǎn)，這需要多多討論。”黃鐵軍在演講結(jié)尾表示。

總結(jié)

以上是生活随笔為你收集整理的“ChatGPT之父”剑桥演讲遭抵制，学术大佬激战AI安全的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。