除了《AI 法案》，欧盟还将对 GPT-4 等更高能力模型增加额外规则约束
12 月 10 日消息，本周末，歐盟就全球首個(gè) AI 監(jiān)管法案“AI Act”達(dá)成初步協(xié)議，涉及包括 ChatGPT 在內(nèi)的通用人工智能系統(tǒng)，這被視為世界上第一個(gè)全面監(jiān)管 AI 的關(guān)鍵一環(huán)。
綜合《財(cái)富》雜志、彭博社當(dāng)?shù)貢r(shí)間周六晚上報(bào)道，根據(jù)彭博社獲得的一份歐盟文件，所有通用人工智能系統(tǒng)的開發(fā)人員（或者很有可能會(huì)被廣泛應(yīng)用的強(qiáng)大模型）都必須滿足基本的透明度要求，除非這些系統(tǒng)是免費(fèi)開源的。
附有關(guān)要求如下：
制定可接受的使用政策
隨時(shí)更新有關(guān)模型訓(xùn)練的信息
將用于訓(xùn)練模型的數(shù)據(jù)進(jìn)行匯總，將詳細(xì)摘要上報(bào)
制定尊重《版權(quán)法》的政策
根據(jù)該文件，被認(rèn)為會(huì)構(gòu)成“系統(tǒng)性風(fēng)險(xiǎn)”的模型將受到額外規(guī)則的約束。報(bào)道稱，歐盟將根據(jù)訓(xùn)練模型的計(jì)算能力來確定是否存在風(fēng)險(xiǎn)，為模型設(shè)定的閾值是每秒超過 10 萬億次運(yùn)算。有專家表示，目前唯一能達(dá)到這一門檻的模型是 OpenAI 的 GPT-4。
此外，歐盟執(zhí)行機(jī)構(gòu)還可根據(jù)數(shù)據(jù)集的規(guī)模、是否在歐盟擁有至少 10000 名注冊商業(yè)用戶、注冊用戶的最終數(shù)量等可能的指標(biāo)來指定其他閾值。
報(bào)道還稱，在歐盟委員會(huì)制定出更協(xié)調(diào)且長期有效的控制措施期間，這些“能力更強(qiáng)”的模型應(yīng)該簽署行為準(zhǔn)則。這些模型還必須滿足如下要求：
主動(dòng)報(bào)告自身能耗情況
在內(nèi)部或外部進(jìn)行紅隊(duì)測試 / 對抗性測試
評估和減輕可能的系統(tǒng)性風(fēng)險(xiǎn)，并報(bào)告任何事件
確保使用適當(dāng)?shù)木W(wǎng)絡(luò)安全控制措施
報(bào)告用于微調(diào)模型的信息及其系統(tǒng)結(jié)構(gòu)
如果制定了更節(jié)能的標(biāo)準(zhǔn)，則開發(fā)過程中應(yīng)當(dāng)符合新的標(biāo)準(zhǔn)
至于沒有簽署行為準(zhǔn)則的模型，則必須向歐盟委員會(huì)證明它們確實(shí)會(huì)遵守《AI 法案》。需要注意的是，對開源模型的豁免不適用于那些“被認(rèn)為會(huì)帶來系統(tǒng)性風(fēng)險(xiǎn)”的模型。
廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時(shí)間，結(jié)果僅供參考，所有文章均包含本聲明。
總結(jié)
以上是生活随笔為你收集整理的除了《AI 法案》，欧盟还将对 GPT-4 等更高能力模型增加额外规则约束的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： TGA 颁奖晚会引发不满：开发者只有 3
- 下一篇： 《无人深空》开发商新作《Light No