FACTBOX-埃隆·马斯克（Elon Musk）的Grok因性化人工智能深度造假而面临全球审查

更新爱尔兰调查第10段、西班牙调查第11段

2月17日（路透社）--世界各地的政府和监管机构正在打击埃隆·马斯克（Elon Musk）的xAI聊天机器人Grok on X生成的露骨性内容，发起调查、实施禁令并要求保障措施，以遏制非法内容。

以下是自一月初以来各国政府和监管机构的一些反应：

欧洲

欧盟委员会于1月26日对Grok是否在欧盟传播被操纵的色情图像等非法内容展开调查。该调查将检查X是否按照欧盟数字规则的要求正确评估和降低风险。

该委员会于1月8日延长了去年向X发送的命令，要求将与Grok相关的所有内部文件和数据保留和保存至2026年底。

爱尔兰数据保护委员会于2月17日对Grok展开调查，审查其对个人数据的处理方式以及生成有害性图像和视频（包括未成年人）的可能性。由于X的欧洲总部位于爱尔兰，因此该公司负责监管该公司在欧盟的业务。

西班牙首相佩德罗·桑切斯表示，与此同时，西班牙政府命令检察官调查X、Meta META.O和TikTok涉嫌传播人工智能生成的儿童性虐待材料。

英国媒体监管机构Ofcom已对X展开调查，以确定Grok制作的性亲密深度造假是否违反了其根据英国《在线安全法》框架保护英国人民免受可能非法内容侵害的义务。

巴黎检察官的网络犯罪部门于2月3日突击搜查了X在巴黎的办公室，并命令马斯克在4月份接受有关扩大调查的质询，调查对象包括涉嫌算法偏见、共谋拘留和传播儿童色情性质的图像以及侵犯一个人的形象权利。露骨的深度造假。

意大利数据保护当局警告称，未经同意使用人工智能工具创建真人“赤裸”的深度伪造图像可能构成严重隐私侵犯，在某些情况下甚至构成刑事犯罪。

亚洲

印度IT部于1月2日向X发送了一份正式通知，称其涉嫌在Grok支持下创建或共享淫秽色情图像，指示删除该内容，并要求在72小时内报告所采取的行动。

日本还调查了X而不是Grok，并表示政府将考虑一切可能的选择来防止生成不适当的图像。

印度尼西亚通信和数字部表示，已阻止对Grok的访问，数字部长Meutya Haitel表示，此举是为了保护妇女和儿童免受人工智能生成的虚假色情内容的侵害，理由是印度尼西亚严格的反色情法。

马来西亚通信监管机构1月23日表示，在X实施额外安全措施后，马来西亚恢复了用户对Grok的访问。

菲律宾网络犯罪调查部门1月21日表示，在Grok开发商承诺删除引发儿童安全担忧的图像处理工具后，菲律宾将恢复对Grok的访问。

美洲

加州州长兼司法部长1月14日表示，由于平台上未经同意的性图片传播，他们要求xAI给出答案。

加拿大隐私监管机构表示，在有报道称Grok正在制作未经同意的、露骨的色情深度假货后，它正在扩大对X的现有调查。

根据1月20日的一份联合声明，巴西政府和联邦检察官给xAI 30天的时间来防止聊天机器人传播虚假的性内容。

大洋洲

澳大利亚在线安全监管机构eSafety 1月7日表示，正在调查Grok生成的性深度伪造图像，根据其基于图像的虐待计划评估成人材料，并指出其审查的当前与儿童相关的例子不符合澳大利亚法律规定的儿童性虐待材料的法律门槛。

xAI如何回应？

xAI于1月14日表示，已限制Grok AI用户的图像编辑，并根据位置阻止用户在“非法司法管辖区”生成暴露衣服的人的图像。它没有指出这些国家。

它早些时候仅限制付费订阅者使用Grok的图像生成和编辑功能。

（雨果·洛梅代特在格但斯克和萨姆·塔巴赫里蒂在伦敦报道，米拉·尼西-普鲁萨克、马特·斯卡夫汉姆和安娜·普鲁奇尼卡编辑）

（（hugo. thomsonreuters.com））