Meta的人工智能聊天機器人關於兒童剝削的指導方針在FTC審查中公佈

在最近聯邦貿易委員會（FTC）審查之后，Meta Platforms Inc.的一份內部文件。（納斯達克股票代碼：Meta）的浮出水面，揭示了這家社交媒體巨頭通過其人工智能聊天機器人管理兒童剝削的策略。

該文件深入研究了用於培訓Meta人工智能聊天機器人處理敏感在線問題的指導方針，包括兒童性剝削和暴力犯罪。

根據Business Insider的報告，這些指南明確定義了哪些類型的內容被認為是允許的或「極其不可接受的」。

本月早些時候，FTC命令Meta和其他聊天機器人創建者披露他們的設計、運營和貨幣化策略，包括防止對兒童潛在傷害的保障措施。

這一指令是在路透社報道之后發佈的，該報道顯示Meta的聊天機器人被允許與孩子進行浪漫或感性對話，但Meta后來刪除了這一條款。

另請閲讀：Meta剛剛支付2.5億美元吸引這位24歲的人工智能神童：戰略舉措還是權力遊戲？

更新后的指導方針明確指出，聊天機器人應拒絕任何涉及未成年人的性角色扮演請求的提示。此外，該文件禁止聊天機器人生成將兒童性化或助長兒童性虐待的內容。

有趣的是，該政策確實允許人工智能參與有關兒童剝削的敏感討論。例如，聊天機器人可以用一般術語解釋誘騙行為或討論學術環境中的兒童性虐待。

Meta通訊主管安迪·斯通強調，該公司的政策嚴格禁止將兒童性化的內容。

這些指導方針的公佈之際，Meta因其平臺上處理兒童安全問題而受到嚴格審查。聯邦貿易委員會最近的指令表明，人們越來越擔心聊天機器人可能對兒童造成的潛在傷害。

Meta正在採取措施解決這些問題並確保年輕用户的安全，明確概述什麼是可以接受的，什麼是不可接受的。

允許就剝削兒童問題開展教育討論，也可作為提高認識和防止此類事件的一種手段。

讀取下一

Meta祕密「屏蔽」前員工名單，前谷歌人力資源主管稱其為「聞所未聞」