人工智慧(AI)開發商Anthropic宣布,因美國政府以「國家安全」為由,要求暫停外國公民使用旗下最新的Fable 5與Mythos 5人工智慧模型服務,公司已立即停用兩款高階模型。
Anthropic發表聲明指出,公司於美東時間12日接獲美國政府通知,要求停止所有外國公民存取Fable 5與Mythos 5,範圍涵蓋身處美國境內及境外人士,甚至包括Anthropic內部的外籍員工。除了上述兩款模型外,其餘Anthropic模型服務均不受影響。
Anthropic表示,美國政府認為已發現一種可能繞過模型安全限制、俗稱「越獄」(Jailbreak)的方法,使模型能協助尋找軟體漏洞。不過該公司指出,經檢視相關技術展示後,發現其僅能辨識少量已知且影響有限的程式漏洞,而且其他公開AI模型在不需突破安全機制的情況下,同樣具備類似能力。
Anthropic強調,目前掌握的資訊顯示,政府僅提出可能存在範圍有限、非通用性的潛在越獄方式,相關能力並非Fable 5獨有,也未證明造成重大安全風險。
儘管對政府決定表達不同看法,Anthropic仍表示將依法遵守命令,並已停止所有用戶存取Fable 5與Mythos 5。同時強調,公司支持政府介入阻止真正存在重大風險的AI部署,但相關程序應建立在透明、公平且以技術事實為基礎的監管機制上。

Anthropic進一步指出,若僅因發現潛在越獄方式,就要求停止已部署給數億用戶的商業模型服務,將對整體AI產業造成重大衝擊。公司警告,如果此標準適用於所有AI業者,未來前沿模型的發布恐將全面停擺。
Anthropic最後也向受影響用戶致歉,並表示相信此次事件可能源於誤解,目前正與相關單位溝通,希望能儘速恢復兩款模型服務。
責任編輯/陳俊宇