Character.ai在安全問題和訴訟中推送「人工智能朋友」：英國《金融時報》

據英國《金融時報》周日報道，總部位於舊金山的聊天機器人初創公司Character.ai的負責人預測，「人工智能朋友」將成為日常生活的一部分，儘管該公司面臨訴訟和倡導團體越來越大的壓力，要求限制未成年人的陪伴應用程序。

在安德森·霍洛維茨（Andreessen Horowitz）的支持下，並曾受到Meta（META）的關注，Character.ai憑藉其人工智能角色吸引了大批追隨者，從「埃及法老」到「有毒女友」。該平臺每月約有2000萬用户，其中一半是Z世代或更年輕的用户。6月份接任的首席執行官卡蘭迪普·阿南德（Karandeep Anand）表示，這些機器人並不是爲了取代人際關係，而是可以幫助用户實踐社交互動。

佛羅里達州和德克薩斯州發生案件，指控其機器人對兒童造成了有害后果，包括青少年自殺，該公司正在接受法律審查。Character.ai拒絕討論活躍的訴訟，但指出了新的保障措施，例如針對18歲以下青少年的單獨模式以及使用該應用程序一小時后的使用提醒。它還禁止露骨的性內容和宣傳自殘。

Common Sense Media和其他倡導團體認為，這些應用程序會助長不健康的情感依賴，調查顯示，一些青少年更喜歡向人工智能同伴而不是真人吐露心聲。

儘管存在爭議，Character.ai仍在擴大其商業模式。每月9.99美元的訂閲價格大幅增長，該公司最近推出了廣告和創作者驅動的貨幣化工具。平均用户每天花在應用程序上的時間為80分鍾，該應用程序現在還具有社交風格的提要。

成人可以進行浪漫的談話，但禁止露骨的性角色扮演。阿南德堅稱安全是首要任務，儘管Meta（META）和埃隆·馬斯克（Elon Musk）的xAI等競爭對手正在推動更多面向成人的人工智能伴侶。據英國《金融時報》報道，他認為人工智能關係最終可以加強人類關係。