3月14日消息，美國當(dāng)?shù)貢r間周一，微軟被曝解散了其整個AI風(fēng)險(xiǎn)評估團(tuán)隊(duì)。據(jù)悉，這個團(tuán)隊(duì)正式名稱為AI道德與社會團(tuán)隊(duì)，其主要職能在于指導(dǎo)微軟在AI方面的創(chuàng)新，從而產(chǎn)生符合道德標(biāo)準(zhǔn)、負(fù)責(zé)任以及可持續(xù)的結(jié)果。最近，該團(tuán)隊(duì)始終在努力評估微軟將OpenAI技術(shù)整合到其產(chǎn)品中可能存在的風(fēng)險(xiǎn)。

多位微軟離職和在職員工表示，此舉導(dǎo)致微軟將再也沒有專門的團(tuán)隊(duì)來確保其AI原則與產(chǎn)品設(shè)計(jì)緊密結(jié)合，而目前該公司正在引領(lǐng)潮流，努力讓AI工具成為主流。不過，微軟仍然保留著名為負(fù)責(zé)任AI辦公室（ORA）的團(tuán)隊(duì)，其任務(wù)是制定規(guī)則來管理公司的AI計(jì)劃。微軟表示，盡管最近進(jìn)行了裁員，但其在責(zé)任工作方面的整體投資始終在增加。

微軟在一份聲明中表示：“微軟致力于以安全、負(fù)責(zé)任的態(tài)度開發(fā)AI產(chǎn)品和體驗(yàn)，并通過投資于優(yōu)先考慮這些因素的人員、流程和合作伙伴來實(shí)現(xiàn)該目標(biāo)。在過去的六年里，我們增加了產(chǎn)品團(tuán)隊(duì)和ORA的人員數(shù)量，他們與微軟的所有人一起，負(fù)責(zé)確保我們將AI原則付諸實(shí)踐。我們感謝道德與社會團(tuán)隊(duì)所做的開創(chuàng)性工作，幫助我們繼續(xù)完成負(fù)責(zé)任AI之旅。”

微軟員工透露，在確保公司產(chǎn)品和服務(wù)符合負(fù)責(zé)任AI原則方面，道德和社會團(tuán)隊(duì)發(fā)揮了關(guān)鍵作用。一位離職員工表示：“人們看到ORA提出的原則卻不知道如何運(yùn)用，而我們的工作就是向他們展示，并在缺乏規(guī)則的領(lǐng)域制定規(guī)則。”

近年來，該團(tuán)隊(duì)設(shè)計(jì)了名為《Judgment Call》的角色扮演游戲，幫助設(shè)計(jì)師設(shè)想AI可能帶來的潛在危害，并在產(chǎn)品開發(fā)過程中進(jìn)行討論。道德和社會團(tuán)隊(duì)在2020年達(dá)到了最大規(guī)模，當(dāng)時有大約30名員工，包括工程師、設(shè)計(jì)師和哲學(xué)家。但在去年的重組過程中，該團(tuán)隊(duì)被削減至只剩7人。

在重組后的一次團(tuán)隊(duì)會議上，微軟AI業(yè)務(wù)副總裁約翰·蒙哥馬利(John Montgomery)表示，公司管理層已經(jīng)指示他們迅速行動。據(jù)悉，蒙哥馬利當(dāng)時說：“來自首席技術(shù)官凱文·斯科特(Kevin Scott)和首席執(zhí)行官薩蒂亞·納德拉(Satya Nadella)的壓力非常大，他們都要求加速將OpenAI模型和后續(xù)模型送到客戶手中。”

蒙哥馬利說，由于這種壓力，道德和社會團(tuán)隊(duì)中的許多人將被轉(zhuǎn)移到公司的其他業(yè)務(wù)。當(dāng)時，蒙哥馬利稱該團(tuán)隊(duì)不會被淘汰，而是需要將“更多精力放在構(gòu)建服務(wù)和軟件的單個產(chǎn)品團(tuán)隊(duì)上”。隨后，該團(tuán)隊(duì)多數(shù)成員都被調(diào)到其他部門，剩余人員則因?yàn)槿藛T不足，促使許多雄心勃勃的計(jì)劃再也難以實(shí)施。

大約五個月后，剩下的員工被告知整個團(tuán)隊(duì)最終被解散。一名員工表示，此舉在AI產(chǎn)品的用戶體驗(yàn)和整體設(shè)計(jì)方面留下了巨大漏洞。他們解釋說：“最糟糕的是，我們這樣做讓企業(yè)面臨風(fēng)險(xiǎn)，人類陷入風(fēng)險(xiǎn)之中。”

道德與社會團(tuán)隊(duì)的成員表示，他們通常會努力支持產(chǎn)品開發(fā)。但隨著微軟開始專注于比競爭對手更快地推出AI工具，公司管理層對該團(tuán)隊(duì)所專注的那種長期考慮不再那么感興趣。

就在道德與社會團(tuán)隊(duì)被解散之際，其他人正將注意力放在預(yù)測微軟向全球觀眾發(fā)布OpenAI支持的AI工具時產(chǎn)生的影響。在去年的備忘錄中，道德與社會團(tuán)隊(duì)詳細(xì)說明了與必應(yīng)圖像創(chuàng)建器相關(guān)的風(fēng)險(xiǎn)，該工具使用OpenAI的Dall-E系統(tǒng)根據(jù)文本提示創(chuàng)建圖像。這款圖像工具于10月份在幾個國家推出，使其成為微軟與OpenAI的首批公開合作之一。

雖然文字轉(zhuǎn)圖像的技術(shù)已經(jīng)被證明非常受歡迎，但微軟的研究人員準(zhǔn)確地預(yù)測到，它也可能威脅到藝術(shù)家的生計(jì)，因?yàn)樗试S任何人輕松復(fù)制藝術(shù)家的創(chuàng)作風(fēng)格。此外，OpenAI更新了其服務(wù)條款，賦予用戶“使用Dall-E創(chuàng)建圖像的完全所有權(quán)”，這讓微軟道德和社會團(tuán)隊(duì)感到擔(dān)憂。 （小小）

總結(jié)

以上是生活随笔為你收集整理的微软被曝解散整个AI风险评估团队的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。