每經(jīng)記者 蔡鼎 每經(jīng)編輯 高涵

據(jù)《華爾街日?qǐng)?bào)》4月11日?qǐng)?bào)道，由于人們?cè)絹碓綋?dān)心生成式人工智能（AI）技術(shù)可能被用來進(jìn)行歧視或傳播有害信息，拜登政府已經(jīng)開始研究是否需要對(duì)ChatGPT等人工智能工具進(jìn)行審查。

作為潛在監(jiān)管的第一步，美國(guó)商務(wù)部已經(jīng)于美東時(shí)間4月11日（周二）正式公開征求意見，就其所謂的問責(zé)措施發(fā)表意見，包括有潛在風(fēng)險(xiǎn)的新人工智能模型在發(fā)布前是否應(yīng)該通過認(rèn)證程序。

《每日經(jīng)濟(jì)新聞》記者注意到，北京時(shí)間周二，中國(guó)的監(jiān)管機(jī)構(gòu)已經(jīng)對(duì)生成式AI技術(shù)進(jìn)行過一系列的表態(tài)。其中提到，提供生成式AI產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗。此外，4月10日，中國(guó)支付清算協(xié)會(huì)網(wǎng)站發(fā)布“關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議”。

前騰訊安全技術(shù)中心專家李鐵軍在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)指出，目前各方面對(duì)（生成式）AI的擔(dān)憂比較多，美國(guó)方面以馬斯克為代表。“他們擔(dān)心AI的自我生長(zhǎng)，可能突破人類限制。如果真的突破，或許人類干不過AI，后果難以評(píng)估。”

擔(dān)憂生成式AI風(fēng)險(xiǎn)，美國(guó)擬設(shè)置“護(hù)欄”

美國(guó)政府采取上述監(jiān)管行動(dòng)之際，新興人工智能工具的使用在過去幾個(gè)月大范圍風(fēng)靡，這些工具可以快速生產(chǎn)類似人類產(chǎn)出的文字、圖片和視頻等。一些分析師估計(jì)，微軟支持的聊天機(jī)器人ChatGPT比歷史上任何消費(fèi)類應(yīng)用程序的用戶增長(zhǎng)規(guī)模都更快。

美國(guó)國(guó)家電信和信息管理局（下稱NTIA，美國(guó)商務(wù)部發(fā)布征求意見的機(jī)構(gòu)）局長(zhǎng)Alan Davidson表示，“看到這些工具在相對(duì)早期就能發(fā)揮（如此強(qiáng)大的）作用，真是令人驚訝。我們知道，我們需要設(shè)置一些‘護(hù)欄’，以確保這些工具被負(fù)責(zé)任地使用。”

《華爾街日?qǐng)?bào)》報(bào)道截圖

Davidson表示，上述征求意見將被用來幫助制定給美國(guó)政策制定者關(guān)于如何對(duì)待人工智能的建議。他還補(bǔ)充稱，NTIA的法律任務(wù)涉及向總統(tǒng)提供科技政策建議，而不是編寫或執(zhí)行法規(guī)。

報(bào)道中還稱，行業(yè)和政府官員對(duì)一系列潛在的人工智能危害表示擔(dān)憂，包括利用該技術(shù)進(jìn)行犯罪或傳播虛假信息。美國(guó)參議員Michael Bennet上個(gè)月曾寫信給幾家人工智能公司，詢問在公共實(shí)驗(yàn)中聊天機(jī)器人向冒充年輕人的用戶提供有害建議的情況，兒童的安全也是他們最關(guān)心的問題。

康涅狄格州民主黨參議員Richard Blumenthal在接受媒體采訪時(shí)也表示，“關(guān)于人工智能可能帶來的爆炸性的好處和壞處，人們正在進(jìn)行非常活躍的討論。對(duì)國(guó)會(huì)來說，這是一個(gè)終極挑戰(zhàn)——技術(shù)性高度復(fù)雜、事關(guān)重大，非常緊迫。”

《每日經(jīng)濟(jì)新聞》記者注意到，包括特斯拉CEO馬斯克和“人工智能教父”Geoffrey Hinton在內(nèi)的科技領(lǐng)袖最近也開始呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)。GPT-4是OpenAI大約在一個(gè)月前發(fā)布的聊天機(jī)器人版本。這些科技大佬警告稱，OpenAI與Alphabet旗下谷歌等競(jìng)爭(zhēng)對(duì)手之間正在展開AI“軍備競(jìng)賽”，但并未對(duì)潛在風(fēng)險(xiǎn)進(jìn)行充分的管理和規(guī)劃。

圖片來源：futureofoffice

據(jù)悉，拜登上周在白宮也與一個(gè)科學(xué)家顧問委員會(huì)討論了這個(gè)話題。當(dāng)一名記者問及生成式人工智能技術(shù)是否危險(xiǎn)時(shí)，拜登答道：“有可能。還有待觀察。”

據(jù)悉，這個(gè)委員會(huì)的成員包括了微軟和谷歌的代表，他們和洽談發(fā)布人工智能系統(tǒng)的公司表示，他們正在不斷更新安全“護(hù)欄”，如通過編程避免讓聊天機(jī)器人回答某些有害問題。

中國(guó)監(jiān)管機(jī)構(gòu)已提前出手

前騰訊安全技術(shù)中心專家李鐵軍在接受《每日經(jīng)濟(jì)新聞》記者采訪時(shí)指出，“目前各方面對(duì)（生成式）人工智能的擔(dān)憂比較多，美國(guó)方面以馬斯克為代表。這些人擔(dān)心AI的自我生長(zhǎng)，可能突破人類限制。如果真的突破，或許人類干不過AI，后果難以評(píng)估。我也看了有關(guān)討論，一部分科學(xué)家確實(shí)有這方面的擔(dān)憂，已經(jīng)感覺像是《黑客帝國(guó)》里描述的東西了。”

“美國(guó)政客的討論就是充分利用新技術(shù)確保競(jìng)爭(zhēng)優(yōu)勢(shì)，但安全方面的擔(dān)憂確實(shí)是很重要的一方面，美國(guó)網(wǎng)絡(luò)安全與基礎(chǔ)設(shè)施安全局官員上周還在一個(gè)論壇上對(duì)生成式人工智能的安全影響表示了嚴(yán)重關(guān)切，警告說需要采取立法行動(dòng)來規(guī)范其使用。”李鐵軍對(duì)記者補(bǔ)充道。

每經(jīng)記者還注意到，就在美國(guó)政府周二就生成式AI的潛在監(jiān)管公開征求意見之前，中國(guó)的監(jiān)管機(jī)構(gòu)已經(jīng)對(duì)該技術(shù)進(jìn)行過一系列的表態(tài)。

北京時(shí)間4月11日（周二），國(guó)家互聯(lián)網(wǎng)信息辦公室就《生成式人工智能服務(wù)管理辦法(征求意見稿)》公開征求意見。其中提到，提供生成式人工智能產(chǎn)品或服務(wù)應(yīng)當(dāng)遵守法律法規(guī)的要求，尊重社會(huì)公德、公序良俗。此外，利用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)按照《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》向國(guó)家網(wǎng)信部門申報(bào)安全評(píng)估，并按照《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》履行算法備案和變更、注銷備案手續(xù)。

圖片來源：國(guó)家網(wǎng)信辦

4月10日，中國(guó)支付清算協(xié)會(huì)網(wǎng)站發(fā)布“關(guān)于支付行業(yè)從業(yè)人員謹(jǐn)慎使用ChatGPT等工具的倡議”。

倡議稱，ChatGPT等工具近期引起了各方廣泛關(guān)注，已有部分企業(yè)員工使用ChatGPT 等工具開展工作。但是，此類智能化工具已暴露出跨境數(shù)據(jù)泄露等風(fēng)險(xiǎn)。為有效應(yīng)對(duì)風(fēng)險(xiǎn)、保護(hù)客戶隱私、維護(hù)數(shù)據(jù)安全，提升支付清算行業(yè)的數(shù)據(jù)安全管理水平，根據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》《中華人民共和國(guó)數(shù)據(jù)安全法》等法律規(guī)定，中國(guó)支付清算協(xié)會(huì)向行業(yè)發(fā)出倡議。

圖片來源：中國(guó)支付清算協(xié)會(huì)

除了中國(guó)和美國(guó)外，4月3日，德國(guó)聯(lián)邦數(shù)據(jù)保護(hù)專員發(fā)言人稱，出于數(shù)據(jù)保護(hù)方面的考慮，可能會(huì)暫時(shí)禁止在德國(guó)使用ChatGPT。

當(dāng)?shù)貢r(shí)間4月4日，加拿大隱私專員辦公室（OPC）宣布對(duì)聊天機(jī)器人ChatGPT開發(fā)公司OpenAI展開調(diào)查，該調(diào)查涉及“OpenAI未經(jīng)同意收集、使用和披露個(gè)人信息”的指控。

目前OPC沒有透露更多的調(diào)查細(xì)節(jié)。該機(jī)構(gòu)的一位隱私專員表示，人工智能技術(shù)及其對(duì)隱私的影響是OPC的優(yōu)先事項(xiàng)，“我們需要跟上快速發(fā)展的技術(shù)并保持領(lǐng)先，這是我作為隱私專員重點(diǎn)關(guān)注的領(lǐng)域之一。”

這是繼意大利之后又一個(gè)對(duì)ChatGPT“出手”的國(guó)家監(jiān)管機(jī)構(gòu)。此外，法國(guó)、愛爾蘭、西班牙等歐洲國(guó)家也開始考慮對(duì)人工智能聊天機(jī)器人采取更嚴(yán)格的監(jiān)管。

OpenAI最新回應(yīng)：安全監(jiān)管是必要的

在監(jiān)管聲四起的當(dāng)下，一些人工智能企業(yè)也主動(dòng)歡迎并尋求制定新的監(jiān)管規(guī)定。例如，OpenAI最近還在一篇博客文章中表示，“我們認(rèn)為，強(qiáng)大的人工智能系統(tǒng)應(yīng)該接受嚴(yán)格的安全評(píng)估。需要監(jiān)管來確保這些做法得到采用，我們積極與各國(guó)政府接觸，探討可能采取的最佳監(jiān)管形式。”

另?yè)?jù)Axios，美東時(shí)間本周三，OpenAI、微軟、谷歌、蘋果、英偉達(dá)、Stability AI、Hugging Face、Anthropic等公司將開會(huì)討論制定AI技術(shù)開發(fā)使用標(biāo)準(zhǔn)，討論如何以最負(fù)責(zé)任的態(tài)度繼續(xù)開發(fā)AI。

Axios報(bào)道截圖

眾議院監(jiān)督委員會(huì)技術(shù)小組主席、南卡羅萊州共和黨眾議院Nancy Mace上個(gè)月在一場(chǎng)關(guān)于人工智能的聽證會(huì)上發(fā)表講話時(shí)，討論了人工智能的風(fēng)險(xiǎn)和好處。然后她表示，她的開庭陳詞所有內(nèi)容，都是用ChatGPT寫的。Mace問在場(chǎng)的人士，人工智能是否發(fā)展得太快了：“我們有能力開發(fā)出對(duì)人類生存構(gòu)成威脅的人工智能嗎？還是說這只是科幻小說？”

谷歌前CEO Eric Schmidt此前則表示，美國(guó)國(guó)會(huì)應(yīng)該把重點(diǎn)放在促進(jìn)人才發(fā)展和創(chuàng)新上。

《每日經(jīng)濟(jì)新聞》記者還注意到，由于沒有專門針對(duì)人工智能的聯(lián)邦法律，一些政府機(jī)構(gòu)已經(jīng)使用了其他法律權(quán)利。例如，金融部門監(jiān)管機(jī)構(gòu)已經(jīng)調(diào)查了貸款機(jī)構(gòu)如何使用人工智能來承銷貸款，目的是防止對(duì)少數(shù)群體的歧視。美國(guó)司法部反壟斷部門則表示，其正在檢測(cè)該領(lǐng)域的競(jìng)爭(zhēng)，而美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）則警告企業(yè)，它們可能會(huì)因?qū)θ斯ぶ悄墚a(chǎn)品做出虛假或未經(jīng)證實(shí)的聲明而面臨法律后果。

總結(jié)

以上是生活随笔為你收集整理的AI遭“围剿”！欧洲、中国之后，美国考虑对ChatGPT等工具进行审查的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。