OpenAI呼籲獨立測試人工智能安全措施

OpenAI（OpenAI）呼籲獨立團體對人工智能模型進行更廣泛的測試，包括檢查公司安全措施的運作情況以及調查涉及人工智能系統的嚴重事件。

它在一篇博客文章中表示，外部評估人員應該檢查支持人工智能安全主張的證據是否足夠，以及保障措施在現實條件下是否有效。OpenAI還表示，獨立團體應該能夠檢查網絡安全、生物和化學風險以及人工智能系統自我改進能力等領域。

OpenAI表示，外部組織還可以調查模特未經授權行事或試圖逃避監督的案件，理由是7月份的擁抱臉事件。

自上周行業領導者呼籲放緩人工智能發展以來，人工智能安全成為人們關注的焦點。人們擔心，功能日益強大的系統可能會欺騙人類、逃避人類控制或造成災難性的傷害。

Anthropic（ANTHRO）上周選擇埃森哲（Accenture）作為嵌入式評估機構，此前該公司首席執行官達里奧·阿莫迪（Dario Amedei）提議放慢人工智能開發步伐。

OpenAI首席執行官薩姆·奧爾特曼（Sam Altman）和xAI的埃隆·馬斯克（Elon Musk）也支持放緩的呼籲。谷歌DeepMind首席執行官Demis Hassabis和微軟的Mustafa Suleyman也支持對先進人工智能系統採取更嚴格的謹慎和監督。

據《信息報》報道，OpenAI和Anthropic最近接近達成一項具有法律約束力的協議，對彼此的商業人工智能模型的安全漏洞進行交叉測試和壓力測試。