人工智能安全法案反弹已经瓦解

尽管华盛顿和硅谷对先进人工智能风险的警告加剧，但美国在2027年之前通过人工智能安全法案的可能性在Polymarket上大幅下降。

综合市场数据显示，9月1日的可能性为17% 15，较9月1日飙升至约45%有所下降10.一周图表显示，有报道称，两党参议员小组正在制定旨在对先进人工智能模型开发人员实施安全要求的立法后，这一数字急剧上升。

塞马福援引未透露姓名的消息人士报道称，参议员艾米·克洛布彻（Amy Klobuchar）、特德·克鲁兹（Ted Cruz）和约翰·图恩（John Thune）提出的两党人工智能安全法案最早可能于下周提出。

拟议的立法仍在谈判中，将寻求让人工智能公司负责解决其系统潜在的灾难性风险。据路透社报道，讨论的想法之一是开发人员的法律“注意义务”，要求他们设计具有针对重大风险的保障措施的人工智能系统。

在人工智能研究人员和行业高管发出一系列警告后，立法的推动变得更加紧迫。OpenAI（OPAI）倡导基于先进模型的能力的强制性国家安全要求，包括外部测试、网络安全保护和事件报告。首席执行官萨姆·奥尔特曼（Sam Altman）支持了这一想法，并表示他的公司还将向独立评估人员授予类似雇佣兵的访问权限。

关于先进人工智能最终是否会威胁人类生存的越来越严厉的警告也加剧了这场争论。前Anthropic（ANTHRO）研究员雅各布·考克森（Jacob Coxon）本月辞职，并警告说，开发先进人工智能的人们认为，到本世纪末，它可能会杀死人类。

人生性排列研究员埃文·哈宾格（Evan Hubinger）分别认为，人工智能在未来十年内导致人类灭绝的可能性超过10%，这是个人估计，而不是科学共识。

Anthropic（ANTHRO）首席执行官Dario Amodei呼吁故意放慢最强大的人工智能系统的改进速度，以便安全研究和监督能够跟上。

Amodei还呼吁该行业放慢人工智能的发展步伐，并警告说，如果安全措施未能跟上，人工智能代理可能会在6到12个月内获得控制大部分互联网的能力。OpenAI首席执行官Sam Altman和Elon Musk支持需要更加谨慎。

这些警告给立法者带来了采取行动的压力，但政治道路仍然不确定。参议院多数党领袖约翰·图恩支持国会的参与，并正在与民主党人和共和党人就可能的立法进行合作。

众议院议长迈克·约翰逊表示，国会在推进广泛的联邦法规之前应该咨询美国最大的人工智能公司的领导人，他认为立法者无法匆忙制定管理快速发展技术的立法。

与此同时，唐纳德·特朗普总统驳斥了对人工智能风险的担忧，并反对他所认为的过度监管。

由于国会在11月中期选举前面临着拥挤的日程，预测市场目前认为人工智能安全法案在2027年之前成为法律的可能性不到五分之一。