Meta的人工智能聊天机器人关于儿童剥削的指导方针在FTC审查中公布

在最近联邦贸易委员会（FTC）审查之后，Meta Platforms Inc.的一份内部文件。（纳斯达克股票代码：Meta）的浮出水面，揭示了这家社交媒体巨头通过其人工智能聊天机器人管理儿童剥削的策略。

该文件深入研究了用于培训Meta人工智能聊天机器人处理敏感在线问题的指导方针，包括儿童性剥削和暴力犯罪。

根据Business Insider的报告，这些指南明确定义了哪些类型的内容被认为是允许的或“极其不可接受的”。

本月早些时候，FTC命令Meta和其他聊天机器人创建者披露他们的设计、运营和货币化策略，包括防止对儿童潜在伤害的保障措施。

这一指令是在路透社报道之后发布的，该报道显示Meta的聊天机器人被允许与孩子进行浪漫或感性对话，但Meta后来删除了这一条款。

另请阅读：Meta刚刚支付2.5亿美元吸引这位24岁的人工智能神童：战略举措还是权力游戏？

更新后的指导方针明确指出，聊天机器人应拒绝任何涉及未成年人的性角色扮演请求的提示。此外，该文件禁止聊天机器人生成将儿童性化或助长儿童性虐待的内容。

有趣的是，该政策确实允许人工智能参与有关儿童剥削的敏感讨论。例如，聊天机器人可以用一般术语解释诱骗行为或讨论学术环境中的儿童性虐待。

Meta通讯主管安迪·斯通强调，该公司的政策严格禁止将儿童性化的内容。

这些指导方针的公布之际，Meta因其平台上处理儿童安全问题而受到严格审查。联邦贸易委员会最近的指令表明，人们越来越担心聊天机器人可能对儿童造成的潜在伤害。

Meta正在采取措施解决这些问题并确保年轻用户的安全，明确概述什么是可以接受的，什么是不可接受的。

允许就剥削儿童问题开展教育讨论，也可作为提高认识和防止此类事件的一种手段。

读取下一

Meta秘密“屏蔽”前员工名单，前谷歌人力资源主管称其为“闻所未闻”