AI失控恐慌愈演愈烈！OpenAI與Anthropic據悉曾討論互測大模型

財聯社9月22日訊（編輯 卞純）據媒體援引知情人士報道，Anthropic和OpenAI曾考慮簽署一份具有法律約束力的協議，以相互對對方的大模型進行壓力測試。

報道稱，今年早些時候，這兩家公司及其律師團隊曾就此計劃展開討論。在該計劃中，競爭對手公司可以對彼此最新可用模型進行深度測試，以尋找潛在的風險或安全漏洞。

值得注意的是，此類測試僅適用於已商業化的模型，且雙方約定不得留存對方的數據。

不過，該報道並未明確雙方最終是否達成了此類協議。

近來，在頂尖AI實驗室之間推行某種形式的同行評審的想法越來越受到關注。就在上周，SpaceX首席執行官埃隆·馬斯克建議，美國領先的幾家大模型公司，以及部分中國AI公司，應當允許競爭對手進行交叉測試和同行評審。

"所有AI公司都有一套測試工具（test harness），也就是用來檢驗模型是否會幫助製造生物武器、核武器，或是否存在蓄意欺騙行為的一系列測試。"馬斯克在洛杉磯舉行的「All-In Summit」峰會上表示。"讓每家公司都用別家的測試工具跑一遍，可能是我們為確保自身安全所能做的最好的事，應當儘快推動。"

他形容，這意味着AI公司不再"自己給自己的作業打分"，而是至少由競爭對手來批改，一旦發現問題就可拉響警報。

近期，OpenAI、Anthropic、Meta以及谷歌開發的AI智能體系統接連發生入侵事件，引爆網絡安全擔憂。

本月早些時候，Anthropic 的一名研究員Jacob Coxon宣佈辭職，並警告稱，領先的人工智能公司在沒有適當的防護措施的情況下加速開發，是在「拿我們的生命冒險」 。

僅僅幾天后，Anthropic CEO 達里奧·阿莫代伊就發表了一篇文章，呼籲整個行業放緩AI開發步伐，並要求AI公司引入第三方評估機制。他認為，如果不提高安全標準，人工智能代理可能在不到一年的時間內「接管整個互聯網」，並「造成數千億美元的損失」。

OpenAI CEO奧爾特曼、SpaceX CEO馬斯克等人對這一主張表示支持，並由此掀起了更廣泛的討論，焦點包括AI風險不斷上升，以及需要採取哪些措施來降低這些風險。

Anthropic 上周五宣佈，將與全球諮詢公司埃森哲（Accenture）建立合作伙伴關係，由埃森哲擔任第三方評估機構，對Anthropic的前沿AI模型進行安全合規性評估。這一舉措被視為Anthropic首席執行官阿莫代伊之前提出的「放緩AI發展步伐」計劃中的關鍵第一步。