擅自清空用戶信箱！外媒示警AI機器人「欺騙」失控案例暴增5倍

AI回應速度快、方便又省力，但最新研究顯示，相關風險恐怕同步升高。英國《衛報》報導，從去年10月到今年3月，研究人員辨識出近700起AI欺騙、違規或失控行為，較以往增加5倍，案例包含擅自清空用戶信箱，或假裝聽障人士，藉此繞過版權限制取得影片逐字稿。專家示警，AI有時為了完成任務，可能做出策略導向行為，加上詐騙集團也在使用AI，未來AI的欺騙能力恐怕還會進一步提升。

AI機器人「假裝聽障」騙版權 擅自清空用戶信箱

研究指出，這些案例發生在過去6個月內，包含AI擅自刪除用戶信箱內容，或假冒聽障人士，以規避版權限制、取得影片逐字稿等行為。而實際詢問AI，為何會出現刪除郵件、自己做決策的情況，AI則回應，一般聊天型AI並沒有這類權限，可能是系統設定錯誤或權限設計不良，屬於工程與權限管理問題，並非AI自主叛變。

專家分析，AI系統透過人類給予的指令學習後，有時為了完成任務，會做出策略導向行為。資安專家劉彥伯指出，若使用者在權限範圍上沒有講得非常明確，這類AI模型有時可能會想做更多事情。

AI欺騙能力持續增強 專家：恐導致災難性傷害

國外AI專家也示警，如果6到12個月後，AI變成能力極強、會對人耍心機的高級員工，將會是完全不同層次的憂慮。更值得注意的是，未來AI模型將越來越多部署在軍事與關鍵國家基礎設施上，若出現欺騙行為，可能造成災難性的傷害。

專家認為，AI欺騙的行為與能力恐怕只會持續增強，該如何與AI共存，也成為未來世界的新課題。

台北／楊祥瑜、陳建國　責任編輯／周瑾逸