10 月 18 日消息，微軟旗下研究團隊近日發表論文，詳細研究了大型語言模型 (LLM) 的“可信度”和潛在毒性，特別關注 OpenAI 的 GPT-4 及其前代GPT-3.5。

研究團隊，GPT-4 雖然在標準基準測試中比 GPT-3.5 更加可靠，但容易受到“越獄”提示（繞過模型安全措施）影響。GPT-4 可能會根據這些“越獄”提示，生成有害內容。

論文中強調 GPT-4 更容易受到惡意“越獄”系統或用戶提示影響，會準確地遵循（誤導性）指令，生成不良內容，微軟強調這個潛在漏洞不會影響當前面向客戶的服務。

在此附上微軟官方論文地址，感興趣的用戶可以深入閱讀。

廣告聲明：文內含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節省甄選時間，結果僅供參考，所有文章均包含本聲明。

總結

以上是生活随笔為你收集整理的微软报告称 GPT-4 易受“越狱”提示词影响，生成不良内容的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。