FACTBOX-埃隆·馬斯克（Elon Musk）的Grok因性化人工智能深度造假而面臨全球審查

更新愛爾蘭調查第10段、西班牙調查第11段

2月17日（路透社）--世界各地的政府和監管機構正在打擊埃隆·馬斯克（Elon Musk）的xAI聊天機器人Grok on X生成的露骨性內容，發起調查、實施禁令並要求保障措施，以遏制非法內容。

以下是自一月初以來各國政府和監管機構的一些反應：

歐洲

歐盟委員會於1月26日對Grok是否在歐盟傳播被操縱的色情圖像等非法內容展開調查。該調查將檢查X是否按照歐盟數字規則的要求正確評估和降低風險。

該委員會於1月8日延長了去年向X發送的命令，要求將與Grok相關的所有內部文件和數據保留和保存至2026年底。

愛爾蘭數據保護委員會於2月17日對Grok展開調查，審查其對個人數據的處理方式以及生成有害性圖像和視頻（包括未成年人）的可能性。由於X的歐洲總部位於愛爾蘭，因此該公司負責監管該公司在歐盟的業務。

西班牙首相佩德羅·桑切斯表示，與此同時，西班牙政府命令檢察官調查X、Meta META.O和TikTok涉嫌傳播人工智能生成的兒童性虐待材料。

英國媒體監管機構Ofcom已對X展開調查，以確定Grok製作的性親密深度造假是否違反了其根據英國《在線安全法》框架保護英國人民免受可能非法內容侵害的義務。

巴黎檢察官的網絡犯罪部門於2月3日突擊搜查了X在巴黎的辦公室，並命令馬斯克在4月份接受有關擴大調查的質詢，調查對象包括涉嫌算法偏見、共謀拘留和傳播兒童色情性質的圖像以及侵犯一個人的形象權利。露骨的深度造假。

意大利數據保護當局警告稱，未經同意使用人工智能工具創建真人「赤裸」的深度偽造圖像可能構成嚴重隱私侵犯，在某些情況下甚至構成刑事犯罪。

亞洲

印度IT部於1月2日向X發送了一份正式通知，稱其涉嫌在Grok支持下創建或共享淫穢色情圖像，指示刪除該內容，並要求在72小時內報告所採取的行動。

日本還調查了X而不是Grok，並表示政府將考慮一切可能的選擇來防止生成不適當的圖像。

印度尼西亞通信和數字部表示，已阻止對Grok的訪問，數字部長Meutya Haitel表示，此舉是爲了保護婦女和兒童免受人工智能生成的虛假色情內容的侵害，理由是印度尼西亞嚴格的反色情法。

馬來西亞通信監管機構1月23日表示，在X實施額外安全措施后，馬來西亞恢復了用户對Grok的訪問。

菲律賓網絡犯罪調查部門1月21日表示，在Grok開發商承諾刪除引發兒童安全擔憂的圖像處理工具后，菲律賓將恢復對Grok的訪問。

美洲

加州州長兼司法部長1月14日表示，由於平臺上未經同意的性圖片傳播，他們要求xAI給出答案。

加拿大隱私監管機構表示，在有報道稱Grok正在製作未經同意的、露骨的色情深度假貨后，它正在擴大對X的現有調查。

根據1月20日的一份聯合聲明，巴西政府和聯邦檢察官給xAI 30天的時間來防止聊天機器人傳播虛假的性內容。

大洋洲

澳大利亞在線安全監管機構eSafety 1月7日表示，正在調查Grok生成的性深度偽造圖像，根據其基於圖像的虐待計劃評估成人材料，並指出其審查的當前與兒童相關的例子不符合澳大利亞法律規定的兒童性虐待材料的法律門檻。

xAI如何迴應？

xAI於1月14日表示，已限制Grok AI用户的圖像編輯，並根據位置阻止用户在「非法司法管轄區」生成暴露衣服的人的圖像。它沒有指出這些國家。

它早些時候僅限制付費訂閲者使用Grok的圖像生成和編輯功能。

（雨果·洛梅代特在格但斯克和薩姆·塔巴赫里蒂在倫敦報道，米拉·尼西-普魯薩克、馬特·斯卡夫漢姆和安娜·普魯奇尼卡編輯）

（（hugo. thomsonreuters.com））