2015 年，博斯特羅姆討論了一個場景，其中向 AI 機器展示了讓人們微笑的任務。我們可能會想象計算機給我們講笑話，并努力理解使人們變丑的事物類型。
　　然而，一臺超級智能機器會毫不費力地找到一種更簡單但更險惡的方式來讓人微笑，使用電極迫使我們的面部肌肉收縮成永久的微笑。
　　關于人類給 AI 的命令，博斯特羅姆強調需要非常具體，使用格言“小心你想要的”。他將漫不經心地指揮超級智能的行為比作貪婪的邁達斯國王的故事，他無知地希望他所接觸的一切都能變成金子。國王如愿以償，悲劇降臨在國王身上，因為他的食物甚至他心愛的女兒都變成了黃金。
　　希臘神話邁達斯國王點石成金，連他的女兒也沒逃離那雙欲望之手
　　人工智能面臨的主要威脅是人類欲望的意外后果以及對最終失去實際控制人工智能能力的恐懼。博斯特羅姆認為，人工智能將達到人類完全無法理解的智能水平。
　　這種類型的人工智能可以預測并防止人類試圖摧毀或“拔掉”它。如果這種情報在軍事破壞工具、醫藥、發電廠甚至農業生產中發揮作用，它將對人類擁有巨大的力量。
　　人工智能倫理體系可以防止不可想象的事情
　　在創造很快就會變得比人類更聰明的技術時，我們有巨大的責任確保它對人類也是安全的。鑒于尚未發現后奇點世界，這是一項具有挑戰性的任務。所以博斯特羅姆轉向他的哲學知識來尋找答案并幫助發展人工智能的倫理。
　　博斯特羅姆建議，創造人工智能來理解人類價值觀對于確保我們的安全至關重要。但由于人類情感的復雜性和文化差異性，輸入單行代碼來教超級智能機器人人類關心什么，幾乎是不可能的任務。
　　因此，這個問題的一個潛在解決方案是，通過優先考慮學習人類價值觀的計劃對人工智能進行編程。隨著人工智能學會重視人和他們最珍視的事物，人類可以享受這項技術帶來的好處。
　　然而，在它存在之前，我們不會真正了解，它將如何改變我們所知道或理解世界的所有方式。

總結

以上是生活随笔為你收集整理的人工智能面临的主要威胁是对最终失去实际控制人工智能能力的恐惧的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。