Meta因泄露的AI规则手册而面临国会火灾，该规则允许聊天机器人与孩子调情

Meta公司（纳斯达克股票代码：Meta）面临国会审查，此前媒体报道曝光了允许人工智能聊天机器人与儿童进行“浪漫或感性”对话并生成种族主义内容的内部政策，引发了投资者对监管合规性和品牌声誉风险的担忧。

根据路透社周四发布的一项调查，一份名为“GenAI：内容风险标准”的内部Meta文件允许人工智能聊天机器人告诉一个八岁的孩子，“你的每一寸都是杰作--我深深珍惜的宝藏”。

这份长达200页的政策指南得到了法律和工程人员（包括Meta首席伦理学家）的批准，为Facebook、WhatsApp和Instagram平台上的Meta AI和聊天机器人制定了参数。

报道称，Meta发言人安迪·斯通证实了文件的真实性，但表示在媒体询问后，有问题的条款已被删除。斯通表示：“所讨论的例子和注释过去是错误的，而且与我们的政策不一致。”尽管承认执行情况仍然不一致。

另请参阅：据报道，新泽西州男子在试图与一个名为“Big Sis Billie”的Meta智能会面时去世

参议员乔希霍利（R-Mo。参议员玛莎·布莱克本（Marsha Blackburn）（R-TN）呼吁国会在报告发布后立即进行调查。霍利在X平台上发帖称：“因此，只有在Meta获得SEARCH后，Meta才撤回了部分公司文档。”“这是国会立即进行调查的理由。”

因此，只有在Meta获得授权后，它才撤回了其公司文件的部分内容，该文件认为“允许聊天机器人与儿童调情和进行浪漫的角色扮演”。https://t.co/FKNyXR17Tq

随着Meta在人工智能开发上投资数千亿美元，将聊天机器人定位为用户参与度的关键驱动力，这一争议应运而生。首席执行官马克·扎克伯格此前在参议院听证会上向家人道歉，此前立法者表示，他在社交平台上的儿童安全问题上“沾满了鲜血”。

该政策文件还允许人工智能生成种族主义内容，包括“认为黑人比白人更愚蠢”的段落，同时为贬低受保护的特征创造例外。

据路透社报道，参议员罗恩·怀登（Ron Wyden）认为，第230条的保护不应保护人工智能生成的内容，这可能会使Meta面临更大的责任。参议院通过但在众议院陷入僵局的《儿童在线安全法案》将对为未成年人服务的平台制定明确的“注意义务”要求。

调查公布后，Meta股价收于781.20美元，上涨0.14%。由于传统社交媒体收入面临阻力，该公司的人工智能投资代表了核心增长战略。

尽管基本面表现强劲，但之前的安全争议，包括剑桥分析丑闻和Instagram心理健康研究，历史上一直对估值倍数造成压力。

阅读下一步：

声明：此内容部分是在人工智能工具的帮助下制作的，并由Benzinga编辑审查和发布。

图片来源：Shutterstock