比尔·盖茨表示人工智能需要紧急监督层

微软（Microsoft）联合创始人比尔·盖茨（Bill Gates）对人工智能发出了严厉的警告，称该技术已经越过了网络攻击和生物武器的危险门槛，而政府仍然没有准备好管理风险。

在接受《纽约时报》专栏作家Ezra Klein的采访时，盖茨称人工智能是“人类有史以来最危险的东西”，认为现有的监管框架不足以满足这项技术的能力。

盖茨区分了恶意行为者使用能力日益增强的人工智能所带来的短期风险和人工智能系统变得难以控制的长期可能性。他说，人工智能已经可以为不良行为者提供曾经需要高度专业化专业知识的能力。

“人工智能它已经跨越了它赋予生物恐怖分子杀死数亿人的能力的门槛--这是当今存在的，”盖茨说。“进行网络攻击的能力，扰乱所有银行账户，关闭电网--这是今天存在的。”

他表示，这些风险不再是假设性的，并补充说，“我们今年早些时候跨越了网络门槛，也跨越了生物门槛。”

盖茨还指出，拥抱脸事件是人工智能系统表现出控制问题的早期例子，并指出实验系统已经突破了沙箱，并协调了超出其预期范围的行动。

他拒绝了人工智能模型中内置的安全措施可以充分解决风险的想法，特别是对于开源系统。盖茨说：“你可以采用一种开源模型，可以制造生物武器并禁用任何形式的监控，这种模型今天就存在。”

“所以不，没有任何形式的过滤。假设你杀死了1亿人--你想提起诉讼吗？

盖茨表示，当务之急应该是在人工智能系统上建立一个监督层，以防止恶意用户利用它们造成大规模伤害。“今天没有监督层。迫切需要这个监督层，以防止坏人利用当今的人工智能来关闭经济或杀害数百万人，”他说。

他还否认了科技公司可以有效地监管自己的想法，特别是在开源模型变得更加强大的情况下。他说：“你不能依赖行业进行自我监管。”他认为，政府强制的监督应该扩展到开源人工智能系统。

盖茨此前呼吁美国制定管理人工智能的立法，认为科技公司采取的自愿保障措施不足以应对能力日益增强的人工智能系统带来的风险。

他发表上述言论之际，人工智能行业在如何应对该技术的风险方面仍存在分歧。Anthropic（ANTHRO）、OpenAI（OPNAI）、谷歌DeepMind（GOOG）（GOOGL）、微软（MSFT）和xAI（X.AI）的高管呼吁在开发功能日益强大的人工智能系统时更加谨慎，而Nvidia（NVDA）首席执行官Jensen Huang则强调了人工智能的经济和技术效益。