感謝網友 肖戰割割 的線索投遞！

10 月 27 日消息，OpenAI 當地時間周四宣布，公司正在組建一個新團隊，以降低與 AI 相關的“災難性風險”，將對 AI 可能引發的重大問題進行跟蹤、評估、預測和保護。

OpenAI 稱，“我們深信前沿 AI 模型的能力將超過目前最先進的現有模型，并可能造福全人類，但它們也帶來了越來越嚴重的風險。”該團隊將努力減輕核威脅、生物、化學和放射性威脅等一系列 AI 可能引發的重大風險，以及 AI“自我復制”等行為帶來的潛在風險。

OpenAI 表示，公司需要確保擁有高能力 AI 系統安全所需的理解、基礎設施。該團隊將由原麻省理工學院可部署機器學習中心主任 Aleksander Madry 領導，并將制定、維護一項“風險知情開發政策”，用以概述公司在評估和監控 AI 大模型所做的工作。

此前報道，非營利組織 AI 安全中心于上月底發表簡短聲明：“將減輕人工智能帶來的滅絕風險，放在和流行病、核戰等社會問題同一高度，作為全球優先事項推進”，這項 22 字的倡議已得到了包括 OpenAI 首席執行官山姆?阿爾特曼在內的多位 AI 行業大佬的支持。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節省甄選時間，結果僅供參考，所有文章均包含本聲明。

總結

以上是生活随笔為你收集整理的OpenAI 正在组建新团队，以防范 AI 相关“灾难性”风险的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。