SA问道：美国政府如何现实地监管人工智能安全？

美国政府如何现实地监管人工智能的开发和安全，以帮助确保该技术不会伤害人类？

寻找Alpha分析师卢卡·索奇（Luca Socci）、朱莉娅·奥斯蒂安（Julia Ostian）和乔纳森·韦伯（Jonathan Weber）也参与其中。

卢卡·索奇：监管人工智能安全是一个平衡在人工智能竞赛中处于领先地位的必要速度和保护人类用户免受潜在伤害和威胁的框架的问题。我认为必须考虑四个主要方面。

首先，人的责任不应是可授权的。在这里，立法可以制定一个多层框架，如果不能明确识别选择背后的人谁对此承担法律责任，高风险决策就无法合法执行。

其次，大量权力集中在少数人工智能实验室，这可能会产生新的寡头。我认为促进劳工层面参与委员会很有趣，这样工人就可以拥有席位并成为治理的一部分。我还认为，强制实现互操作性，以便每个人的数据访问要求都是平等的，这可能是其中的一部分。

第三个方面是要求表明人工智能的实施不会对工人的生活及其心理健康产生负面影响或增加失业率。可能会有一个框架来激励和支持那些因人工智能实施而雇用更多人并投资更多人力资本的公司。

监管框架的最后一个方面可能是为本世纪最大的基础设施建设制定明确的标准。在这里，算法分布可以受到监管，以便我们可以更好地跟踪或水印这些模型的工作方式、它们来自哪里以及它们如何商业化。

Julia Ostian：这是一个很好的问题，我相信一个完整的答案需要几年，如果不是十年的话。人工智能的变化和发展速度比我们以前在科技行业看到的任何东西都要快，这本身就是一个创新的世界。法律和法规需要更长的时间来决定和实施。

这就是为什么我认为，监管过程的第一步应该是承认自动人工智能代理及其行为是创建它们的公司或前沿实验室的全部责任和义务。当然，责任的程度还有待进一步讨论。

下一个重要的事情是将护栏拆除的特工识别为网络武器，这也应该受到国防部的监管。

Nvidia（NVDA）决定收购的OpenAI（OpenAI）和Hugging Face的情况就是一个完美的例子。一名特工获得了黑客工具并从护栏中释放出来，导致它闯入了Hugging Face数据库。在这种情况下，OpenAI（OpenAI）犯了一个错误;这不是人工智能代理“流氓”的案例，它可以成为监管的一个伟大先例。

Anthropic（ANTHRO）最近声称其工作人员对人工智能的安全性负责，也必须对其代理人负责，就像任何其他前沿实验室一样。这样一来，就没有什么可担心的了。

乔纳森·韦伯：对我来说，有效监管人工智能安全似乎是一项艰巨的任务。公司并不热衷于受到监管，如果监管过于严格，美国就有可能在人工智能竞赛中落后于中国甚至其他国家。

我认为政府应该鼓励公司部署行业最佳实践，并在识别风险等方面相互合作。在向所有人推出新模型之前，让值得信赖的参与者进行测试也是明智的。

尽管如此，随着OpenAI（OpenAI）、Anthropic（ANTHRO）等推出新模式的速度，一些风险仍然存在，而且我相信可能无法完全监管。