大家好！今天讓小編來大家介紹下關(guān)于英國官員警告：AI聊天機器人可能帶來網(wǎng)絡(luò)風(fēng)險 公司業(yè)務(wù)運用時須謹(jǐn)慎的問題，以下是小編對此問題的歸納整理，讓我們一起來看看吧。

財聯(lián)社8月31日訊（編輯 卞純）英國官員日前警告公司不要將人工智能（AI）聊天機器人整合到他們的業(yè)務(wù)中，稱越來越多的研究表明，它們可能被誘騙執(zhí)行有害任務(wù)。

英國國家網(wǎng)絡(luò)安全中心（NCSC）在周三發(fā)表的兩篇博客文章中表示，專家們尚未掌握與可以生成類似人類互動的算法（大型語言模型）相關(guān)的潛在安全問題。

人工智能工具目前正以聊天機器人方式實現(xiàn)一些早期運用，一些人設(shè)想，聊天機器人不僅可以取代互聯(lián)網(wǎng)搜索，還會取代客戶服務(wù)工作和電話銷售。

NCSC表示，這樣做可能帶來風(fēng)險，尤其是如果此類模型被嵌入公司的重要業(yè)務(wù)流程時。學(xué)者和研究人員已經(jīng)多次發(fā)現(xiàn)，如果輸入惡意指令或欺騙它繞過內(nèi)建的防護(hù)機制，就可以擾亂聊天機器人。

例如，如果黑客正確下達(dá)指令，那么銀行部署的AI聊天機器人可能會被誘騙執(zhí)行一筆未經(jīng)授權(quán)的交易。

“公司在利用大語言模型搭建服務(wù)時需要小心，就像它們在使用處于測試階段的產(chǎn)品或代碼庫的時候一樣。”NCSC表示。“它們不會讓那種產(chǎn)品參與代表客戶進(jìn)行交易的工作，而且也不會完全信任這樣的產(chǎn)品。同樣的審慎也適用于大語言模型。”

AI安全成全球關(guān)注焦點

眼下，世界各國政府都在努力應(yīng)對大語言模型的崛起，比如OpenAI的ChatGPT，企業(yè)正在將其納入廣泛的服務(wù)中，包括銷售和客戶服務(wù)。人工智能的安全影響也成為人們關(guān)注的焦點，美國和加拿大當(dāng)局表示，他們已經(jīng)看到黑客采用了這項技術(shù)。

路透社/益普索最近的一項調(diào)查發(fā)現(xiàn)，許多企業(yè)員工都在使用ChatGPT這樣的工具來幫助完成基本任務(wù)，比如起草電子郵件、總結(jié)文件和進(jìn)行初步研究。

約10%的受訪者表示，他們的老板明確禁止使用外部人工智能工具，而四分之一的人不知道他們的公司是否允許使用這項技術(shù)。

網(wǎng)絡(luò)安全公司RiverSafe的首席技術(shù)官Oseloka Obiora表示，如果企業(yè)領(lǐng)導(dǎo)人未能引入必要的檢查，將人工智能融入商業(yè)實踐將產(chǎn)生“災(zāi)難性后果”。

“高管們應(yīng)該三思，而不是盲目追隨最新的人工智能趨勢。”他稱。“評估收益和風(fēng)險，并實施必要的網(wǎng)絡(luò)保護(hù)，以確保公司免受傷害。”

來源：財聯(lián)社

以上就是小編對于英國官員警告：AI聊天機器人可能帶來網(wǎng)絡(luò)風(fēng)險 公司業(yè)務(wù)運用時須謹(jǐn)慎問題和相關(guān)問題的解答了，英國官員警告：AI聊天機器人可能帶來網(wǎng)絡(luò)風(fēng)險 公司業(yè)務(wù)運用時須謹(jǐn)慎的問題希望對你有用！

總結(jié)

以上是生活随笔為你收集整理的英国官员警告：AI聊天机器人可能带来网络风险 公司业务运用时须谨慎的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。