OpenAI:超级人工智能可能在这个十年出现 或灭绝人类
生活随笔
收集整理的這篇文章主要介紹了
OpenAI:超级人工智能可能在这个十年出现 或灭绝人类
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
OpenAI開發的ChatGPT大火以后,這家公司卻警告未來的人工智能可能會摧毀人類。
近日,OpenAI聯合創始人伊利亞·蘇斯克維爾(Ilya Sutskever)和對齊團隊負責人簡·萊克(Jan Leike)在一篇博客文章中警告稱:“超級智能的巨大力量可能……導致人類被剝奪權力,甚至人類滅絕。目前,我們還沒有一個解決方案來操縱或控制一個潛在的超智能人工智能,并防止它失控?!?/p>
他們認為,超智能人工智能可能在這個十年到來。人類將需要比目前更好的技術來控制超智能人工智能,因此需要在所謂的“對齊研究”(alignment research)方面取得突破,該研究的重點是確保人工智能對人類有益。
OpenAI表示,該公司計劃投入大量資源,創建一個新的研究團隊——名為超級對齊團隊,以確保其人工智能對人類來說是安全的,最終使用人工智能來監督自身。OpenAI想要使用人類反饋來訓練AI系統,訓練AI系統輔助人類評估,然后最終訓練AI系統進行實際的對齊研究。
但有人對該計劃提出反對,他就是人工智能安全倡導者康納·萊希(Connor Leahy)。他稱:“在構建人類水平的智能之前,你必須先解決對齊問題,否則默認情況下你無法控制它。我個人認為這不是一個特別好的或安全的計劃。”
總結
以上是生活随笔為你收集整理的OpenAI:超级人工智能可能在这个十年出现 或灭绝人类的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 苹果发布第三个 Studio Displ
- 下一篇: 科技昨夜今晨 0706:供应商透露小米首