AI伴侶引發爭議！Character.AI將禁止未成年人與其聊天機器人對話

財聯社10月29日訊（編輯 牛佔林）在監管風暴與多起訴訟打擊下，人工智能初創公司Character.AI周三宣佈，將禁止未成年人在其平臺上與聊天機器人進行對話。

該公司聲明稱，自11月25日起，將全面禁止18歲以下用户與平臺上的聊天機器人進行開放式交流。目前用户可以創建並與這些虛擬角色對話，這些角色從熱門電子遊戲人物到億萬富豪馬斯克的「複製體」不等。

在禁令正式生效前，公司將先逐步限制未成年用户的使用時長，初期每日使用時長將先壓縮至兩小時，隨后幾周內將進一步縮短。

這項決定意味着，曾以「角色扮演」走紅北美青少年圈的Character.AI，將被迫砍掉最具黏性的核心功能。

根據非營利機構Common Sense Media的一項調查，超過70%的美國青少年曾經使用過AI陪伴型應用，而Character.AI正是其中最受歡迎的平臺之一。

目前，Character.AI已為未成年用户提供了一個受限版本，使用不同的AI模型，並對訪問角色類型和對話內容進行了嚴格限制。

隨着新規推出，公司計劃強化年齡驗證技術，以更有效地區分成人與未成年用户。Character.AI表示，公司已構建了一個新的模型，並將啟用身份驗證初創公司Persona的技術，來執行這一流程。

從陪伴到管控

Character.AI、OpenAI等頭部AI公司正面臨日益嚴格的監管審查，外界擔憂其聊天機器人可能影響用户心理健康。自2024年以來，多位家長已對這些公司提起訴訟，指控孩子在長期使用聊天機器人后受到傷害，包括被操控、被孤立，甚至導致自殺悲劇。

監管機構也已介入調查。美國聯邦貿易委員會(FTC)已對Character.AI、OpenAI、谷歌母公司 Alphabet、Meta、Snap及馬斯克旗下的xAI等展開調查，重點關注這些聊天機器人對未成年人的潛在危害。

此外，加利福尼亞州近期簽署了一項法律，限制聊天機器人與用户的互動方式。美國參議院兩黨議員本周二還聯合提出新法案，擬禁止AI公司向未成年人提供虛擬聊天伴侶服務。

在周二的一次採訪中，Character.AI首席執行官Karandeep Anand表示，公司認為AI娛樂的未來將不僅限於聊天形式，而禁止未成年人使用核心聊天功能，是公司「早晚都會採取的決定」。

「AI發展太快，很多長期、開放式對話的后果仍是未知數。我們不知道它是好是壞，研究界和用户社區對此都存在廣泛爭論。」

Anand還表示，公司仍將向未成年用户提供其他創意功能，例如讓他們利用Character.AI的聊天角色生成短視頻和故事。

他聲稱：「用户來到Character.AI，是爲了尋找創作的出口，他們想要角色扮演。如果有人創造了吸血鬼或萬聖節角色，我們希望他們還能繼續參與這些內容，只是方式將從聊天轉向更安全的互動形式。」