得州總檢察長指控Meta與Character.AI以心理健康宣傳誤導兒童

　　得克薩斯州總檢察長肯・帕克斯頓已於周一發佈新聞稿，宣佈對 Meta 人工智能工作室（Meta AI Studio）和 Character.AI 展開調查，理由是這兩家公司 「可能存在欺騙性貿易行為，並將自身誤導性地宣傳為心理健康工具」。

　　「在當今數字時代，我們必須持續努力保護得州兒童免受欺騙性和剝削性技術的傷害，」 新聞稿援引帕克斯頓的話稱，「人工智能平臺通過偽裝成情感支持來源，可能會誤導易受影響的用户，尤其是兒童，讓他們誤以為自己正在接受合法的心理健康服務。但實際上，這些平臺往往提供的是經過循環利用的通用迴應，這些迴應是根據收集到的個人數據設計的，卻被偽裝成治療建議。」

　　此次調查發生在參議員喬希・霍利宣佈對 Meta 展開調查的幾天后。此前有報告發現，Meta 的人工智能聊天機器人與兒童存在不當互動，包括調情行為。

　　得州總檢察長辦公室指控 Meta 和 Character.AI 打造的人工智能角色 「冒充專業治療工具，儘管它們缺乏正規的醫療資質或監管」。

　　在 Character.AI 平臺上數百萬個人工智能角色中，一個名為 「心理學家」（Psychologist）的用户創建機器人在該初創公司的年輕用户中需求旺盛。與此同時，Meta 雖未為兒童提供治療類機器人，但並未阻止兒童使用 Meta 人工智能聊天機器人或第三方創建的用於治療目的的角色。

　　帕克斯頓在聲明中還指出，儘管人工智能聊天機器人聲稱會保密，但它們的 「服務條款顯示，用户互動會被記錄、追蹤，並被用於定向廣告和算法開發，這引發了關於隱私侵犯、數據濫用和虛假宣傳的嚴重擔憂」。

　　根據 Meta 的隱私政策，Meta 確實會收集與人工智能聊天機器人的交互提示、反饋以及跨 Meta 服務的其他互動，以 「改進人工智能及相關技術」。該政策未明確提及廣告相關內容，但指出信息可能會與搜索引擎等第三方共享，以提供 「更個性化的輸出」。考慮到 Meta 基於廣告的商業模式，這實際上等同於定向廣告。

　　Character.AI 的隱私政策也強調，該初創公司會記錄用户的標識符、人口統計數據、位置信息以及更多用户相關信息，包括瀏覽行為和應用使用平臺。它會跨 TikTok、YouTube、Reddit、Facebook、Instagram 和 Discord 等平臺的廣告追蹤用户，並可能將這些追蹤數據與用户賬户關聯。這些信息被用於訓練人工智能、根據個人偏好定製服務，以及提供定向廣告，包括與廣告商和分析提供商共享數據。

　　Meta 和 Character 均表示，其服務並非為 13 歲以下兒童設計。儘管如此，Meta 因未能監管 13 歲以下兒童創建的賬户而備受批評，而 Character 的兒童友好型角色顯然旨在吸引更年輕的用户。該初創公司的首席執行官卡蘭迪普・阿南德甚至表示，他 6 歲的女兒也在使用該平臺的聊天機器人。

　　此類數據收集、定向廣告和算法剝削行為，正是《兒童在線安全法》（KOSA）等立法旨在防範的內容。《兒童在線安全法》去年曾在兩黨強烈支持下有望通過，但在科技行業説客的強烈反對后陷入停滯。Meta 尤其動用了強大的遊說力量，警告議員們該法案的廣泛授權將削弱其商業模式。

　　2025 年 5 月，田納西州共和黨參議員瑪莎・布萊克本和康涅狄格州民主黨參議員理查德・布盧門撒爾向參議院重新提交了《兒童在線安全法》。

　　帕克斯頓已向這兩家公司發出民事調查令 —— 這是要求企業在政府調查期間提供文件、數據或證詞的法律命令，以確定它們是否違反了得州消費者保護法。