Palantir首席技术官警告AI安全“有效的利他主义者”正在试图“政变”-说“技术官僚的小团体”不应该为每个人做决定

Shyam Sankar，Palantir Technology Inc.首席技术官(NYSE：PLTR）对人工智能安全政治化表示担忧。

周一，桑卡在X上的一篇帖子中批评了“有效的利他主义者”，指责他们试图通过决定其他人的技术进步步伐来发动政变。

“有效利他主义者认为，应该由一小群技术官僚来决定我们其他人可以获得多少技术进步。以及你的生命值多少虾。”桑卡尔写道。

有一只看不见的手推动人工智能安全成为一种政治意识形态。有效的利他主义者认为，一小群技术官僚应该决定我们其他人被允许拥有多少技术进步.以及你的生命值多少虾。你正在目睹他们的.

另请阅读：罗恩·德桑蒂斯指责OpenAI和Anthropic试图变得“太大而不能失败”--警告如果人工智能巨头陷入困境，将面临“救助2.0”

桑卡的言论加剧了有关人工智能发展步伐的持续争论，OpenAI和Anthropic的高管呼吁放缓。

前白宫人工智能和加密货币沙皇David Sacks表示，如果OpenAI和Anthropic认为他们的下一个模型构成严重风险，就应该自愿放慢人工智能的开发，而不是依赖政府监管。他认为，首席执行官萨姆·奥尔特曼（Sam Altman）和达里奥·阿莫迪（Dario Amedei）已经引领了人工智能领域，并有效地决定了进步的步伐。

与此同时，迈克尔·伯里（Michael Burry）批评OpenAI和Anthropic高管敦促放缓人工智能开发，称这一立场是自私的，对现任公司和即将到来的IPO有利。他认为，目前的LLM不是真正的人工智能或AGI，并暗示放缓的说法可能掩盖了增长疲软和IPO计划推迟。

“IPO需要炒作和吹捧;‘我们太棒了，可能会变得危险’是炒作和吹捧，”他说。

值得注意的是，据报道，Nvidia Corp.（纳斯达克股票代码：NVDA）、Palantir和Booz Allen Hamilton Holding Corp.（纽约证券交易所股票代码：BAH）正在收紧对Anthropic和OpenAI先进人工智能模型的使用限制，因为担心提供商可能会保留或学习敏感的企业数据。这些公司正在寻求更强有力的数据保护或完全放弃某些型号。

唐纳德·特朗普总统出席了英伟达首席执行官黄詹森的All In Summit会议，并发表了强烈的支持人工智能的信息，驳斥了人们对人工智能和机器人可能对社会构成威胁的担忧。他称这种担忧是“骗局”，同时认为数据中心为人民和国家创造财富。特朗普还警告说，反对人工智能发展可能会使中国受益，称人工智能“比互联网更大”。"

另一方面，美国前总统巴拉克·奥巴马（Barack Obama）和亿万富翁埃隆·马斯克（Elon Musk）等人工智能领导人对放缓人工智能发展的想法表示欢迎，认为这是必要的一步。他们认为，政府和公众应该对这项技术的发展有发言权。

声明：此内容部分是在人工智能工具的帮助下制作的，并由Benzinga编辑审查和发布。

另请阅读：顶级分析师警告称，人工智能放缓可能会“卷曲”微软，Alphabet，Meta，亚马逊和其他收益-标准普尔500指数上涨面临新的威胁

图片来自Shutterstock