3月14日消息，美國當地時間周一，微軟被曝解散了其整個AI風險評估團隊。據悉，這個團隊正式名稱為AI道德與社會團隊，其主要職能在于指導微軟在AI方面的創新，從而產生符合道德標準、負責任以及可持續的結果。最近，該團隊始終在努力評估微軟將OpenAI技術整合到其產品中可能存在的風險。

多位微軟離職和在職員工表示，此舉導致微軟將再也沒有專門的團隊來確保其AI原則與產品設計緊密結合，而目前該公司正在引領潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負責任AI辦公室（ORA）的團隊，其任務是制定規則來管理公司的AI計劃。微軟表示，盡管最近進行了裁員，但其在責任工作方面的整體投資始終在增加。

微軟在一份聲明中表示：“微軟致力于以安全、負責任的態度開發AI產品和體驗，并通過投資于優先考慮這些因素的人員、流程和合作伙伴來實現該目標。在過去的六年里，我們增加了產品團隊和ORA的人員數量，他們與微軟的所有人一起，負責確保我們將AI原則付諸實踐。我們感謝道德與社會團隊所做的開創性工作，幫助我們繼續完成負責任AI之旅?！?/p>

微軟員工透露，在確保公司產品和服務符合負責任AI原則方面，道德和社會團隊發揮了關鍵作用。一位離職員工表示：“人們看到ORA提出的原則卻不知道如何運用，而我們的工作就是向他們展示，并在缺乏規則的領域制定規則?！?/p>

近年來，該團隊設計了名為《Judgment Call》的角色扮演游戲，幫助設計師設想AI可能帶來的潛在危害，并在產品開發過程中進行討論。道德和社會團隊在2020年達到了最大規模，當時有大約30名員工，包括工程師、設計師和哲學家。但在去年的重組過程中，該團隊被削減至只剩7人。

在重組后的一次團隊會議上，微軟AI業務副總裁約翰·蒙哥馬利(John Montgomery)表示，公司管理層已經指示他們迅速行動。據悉，蒙哥馬利當時說：“來自首席技術官凱文·斯科特(Kevin Scott)和首席執行官薩蒂亞·納德拉(Satya Nadella)的壓力非常大，他們都要求加速將OpenAI模型和后續模型送到客戶手中?！?/p>

蒙哥馬利說，由于這種壓力，道德和社會團隊中的許多人將被轉移到公司的其他業務。當時，蒙哥馬利稱該團隊不會被淘汰，而是需要將“更多精力放在構建服務和軟件的單個產品團隊上”。隨后，該團隊多數成員都被調到其他部門，剩余人員則因為人員不足，促使許多雄心勃勃的計劃再也難以實施。

大約五個月后，剩下的員工被告知整個團隊最終被解散。一名員工表示，此舉在AI產品的用戶體驗和整體設計方面留下了巨大漏洞。他們解釋說：“最糟糕的是，我們這樣做讓企業面臨風險，人類陷入風險之中。”

道德與社會團隊的成員表示，他們通常會努力支持產品開發。但隨著微軟開始專注于比競爭對手更快地推出AI工具，公司管理層對該團隊所專注的那種長期考慮不再那么感興趣。

就在道德與社會團隊被解散之際，其他人正將注意力放在預測微軟向全球觀眾發布OpenAI支持的AI工具時產生的影響。在去年的備忘錄中，道德與社會團隊詳細說明了與必應圖像創建器相關的風險，該工具使用OpenAI的Dall-E系統根據文本提示創建圖像。這款圖像工具于10月份在幾個國家推出，使其成為微軟與OpenAI的首批公開合作之一。

雖然文字轉圖像的技術已經被證明非常受歡迎，但微軟的研究人員準確地預測到，它也可能威脅到藝術家的生計，因為它允許任何人輕松復制藝術家的創作風格。此外，OpenAI更新了其服務條款，賦予用戶“使用Dall-E創建圖像的完全所有權”，這讓微軟道德和社會團隊感到擔憂。 （小小）

總結

以上是生活随笔為你收集整理的微软被曝解散整个AI风险评估团队的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。