Anthropic新模型發佈三天就被禁用 美AI監管路線之爭升溫

財聯社6月15日訊（編輯 趙昊）Anthropic上周五（6月12日）在官網宣佈，受美國政府緊急出口管制指令影響，公司被迫暫停向所有客户開放其最新、能力最強的Fable 5和Mythos 5模型。

Anthropic在新聞稿中解釋道，美國政府的限制原本針對外國用户，包括公司的外籍員工。但Anthropic爲了「確保合規」，只能全面關停兩款模型，美國客户也因此受到影響。

Claude目前的頁面顯示，Fable 5上有「當前不可用」的標籤。

需要指出的是，Fable 5和Mythos 5的正式發佈日距離這一禁令僅過了三天。此舉令整個人工智能（AI）行業措手不及，也引發了外界對美國政府針對AI技術監管方式的質疑。

接近Anthropic的人士透露，公司被美國政府要求在90分鍾內實現合規。而且美國政府下達命令前，公司並未收到有關具體擔憂的詳細説明。為控制事態發展，Anthropic緊急派遣了高級技術團隊前往華盛頓展開溝通。

據瞭解，這一禁令來源於亞馬遜研究人員的一份報告。知情人士稱，研究人員在Fable模型中發現了一種潛在的「越獄」漏洞，即繞過模型安全護欄並提取軟件安全漏洞信息的方法，亞馬遜也首先將相關發現告知Anthropic。

知情人士透露，亞馬遜CEO安迪·賈西（Andy Jassy）周五向美國官員匯報了研究結果，導致了政府禁令的產生。據悉，賈西原本只是向官員表達了對AI前沿模型的整體擔憂，而非專門針對Anthropic。

本月早些時候，特朗普簽署行政命令，要求企業在公開發布最新模型前，須向政府開放最長30天的網絡安全測試窗口。接近事件的人士表示，Fable模型在發佈前已經獲得了同屬商務部體系內相關機構的測試批准。

在此之前，白宮一直釋放出對前沿AI模型採取較少干預的監管信號。需要指出的是，即便在特朗普簽署的行政命令中，並未賦予美國政府阻止模型發佈的權力。

網絡安全專家指出，修復「越獄」這類問題往往需要數周時間，而且即便修復，也無法保證不會出現新的漏洞。接近Anthropic的人士表示，公司正與政府密切合作，希望尋找雙方都能接受的解決方案。

分析認為，此次衝突被視為美國政府監管越來越強大的AI模型的一次早期測試。多位行業高管和研究人員認為，利用出口管制工具來處理模型安全問題，可能會給前沿AI的部署帶來新的不確定性。

喬治敦大學安全與新興技術中心臨時執行主任Helen Toner表示：「業界普遍認同的一點是，你無法徹底修復這些模型的越獄問題，這並不是一門精確科學。政府理應預期OpenAI和谷歌的模型也具備類似能力。」

值得注意的是，美國政府凍結措施並未適用於Anthropic競爭對手OpenAI的領先模型，儘管這些模型已展現出相似能力——因此這一禁令也被懷疑是針對Anthropic「打擊報復」的延續。

今年3月，美國國防部正式把Anthropic定為「供應鏈風險」對象，禁止國防部以及防務承包商在相關項目中使用該公司AI技術。因先前Anthropic反對將其技術用於全自主武器系統和在美國進行大規模「國內監控」。

然而，美國官員和企業高管同時透露，國防部在內的政府機構實際上仍在使用Anthropic最先進的模型。剛剛獲得Anthropic最新模型訪問權限的歐盟委員會也表示，正在評估該命令對歐洲的影響。

網絡安全公司Luta Security首席執行官Katie Moussouris獲得了亞馬遜提交給Anthropic的研究報告副本。她表示，亞馬遜發現的能力，包括識別潛在網絡漏洞，並不罕見，GPT 5.5等競品同樣具備類似能力。