美聯社：Anthropic的神話模型發現了美國機密政府系統中的漏洞

一名美國官員周二告訴美聯社，Anthropic（ANTHRO）的一個人工智能模型在一次測試中發現了高度敏感和安全的美國政府計算機系統中的漏洞。

這位要求匿名討論此事的官員表示，Anthropic已與美國情報機構合作，使用該公司的神話模型進行測試。這位官員表示，它在幾個小時內發現了某些漏洞，但這並不意味着該模型能夠在此時間內利用這些漏洞。

這位官員表示，測試是通過一項名為「玻璃翼計劃」的Anthropic計劃進行的，該計劃將科技巨頭和其他公司聚集在一起，希望保護世界上的關鍵軟件免受神話模式可能對公共安全、國家安全和經濟造成的「嚴重」影響。

弗吉尼亞州民主黨參議員馬克·華納（Mark Warner）在6月11日參議院銀行、住房和城市事務委員會舉行的聽證會上簡要提到了這次測試。華納曾表示：「這個工具侵入了我們幾乎所有的機密系統，不是在幾周內，而是在幾個小時內。」他將這些信息歸因於國家安全局和美國網絡司令部負責人約書亞·陸克文將軍。

儘管Anthropic和美國機構最近合作測試漏洞，但這家加州公司與特朗普政府之間的緊張關係一直在加劇。Anthropic對美國軍方將如何使用其人工智能提出了擔憂，而政府則限制了Anthropic的一些模型的使用。

該政府本月早些時候發佈了一項指令，要求Anthropic阻止外國人使用其最新的人工智能模型，即《寓言5》和《神話5》。Anthropic本月早些時候廣泛發行了Fable。該模型是更先進的神話的有限版本，由於網絡安全擔憂，該公司嚴格限制了對神話的訪問。

該指令發佈的10天前，唐納德·特朗普總統簽署了一項行政命令，為聯邦政府建立一個框架，在最先進的人工智能系統公開發布之前，在長達一個月的時間內對其國家安全風險進行審查。該命令稱，人工智能開發人員的參與是自願的。