OpenAI呼吁独立测试人工智能安全措施

OpenAI（OpenAI）呼吁独立团体对人工智能模型进行更广泛的测试，包括检查公司安全措施的运作情况以及调查涉及人工智能系统的严重事件。

它在一篇博客文章中表示，外部评估人员应该检查支持人工智能安全主张的证据是否足够，以及保障措施在现实条件下是否有效。OpenAI还表示，独立团体应该能够检查网络安全、生物和化学风险以及人工智能系统自我改进能力等领域。

OpenAI表示，外部组织还可以调查模特未经授权行事或试图逃避监督的案件，理由是7月份的拥抱脸事件。

自上周行业领导者呼吁放缓人工智能发展以来，人工智能安全成为人们关注的焦点。人们担心，功能日益强大的系统可能会欺骗人类、逃避人类控制或造成灾难性的伤害。

Anthropic（ANTHRO）上周选择埃森哲（Accenture）作为嵌入式评估机构，此前该公司首席执行官达里奥·阿莫迪（Dario Amedei）提议放慢人工智能开发步伐。

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和xAI的埃隆·马斯克（Elon Musk）也支持放缓的呼吁。谷歌DeepMind首席执行官Demis Hassabis和微软的Mustafa Suleyman也支持对先进人工智能系统采取更严格的谨慎和监督。

据《信息报》报道，OpenAI和Anthropic最近接近达成一项具有法律约束力的协议，对彼此的商业人工智能模型的安全漏洞进行交叉测试和压力测试。