Character.ai在安全问题和诉讼中推送“人工智能朋友”：英国《金融时报》

据英国《金融时报》周日报道，总部位于旧金山的聊天机器人初创公司Character.ai的负责人预测，“人工智能朋友”将成为日常生活的一部分，尽管该公司面临诉讼和倡导团体越来越大的压力，要求限制未成年人的陪伴应用程序。

在安德森·霍洛维茨（Andreessen Horowitz）的支持下，并曾受到Meta（META）的关注，Character.ai凭借其人工智能角色吸引了大批追随者，从“埃及法老”到“有毒女友”。该平台每月用户约为2000万，其中一半是Z世代或更年轻的人。6月份接任的首席执行官卡兰迪普·阿南德（Karandeep Anand）表示，这些机器人并不是为了取代人际关系，而是可以帮助用户实践社交互动。

佛罗里达州和德克萨斯州发生案件，指控其机器人对儿童造成了有害后果，包括青少年自杀，该公司正在接受法律审查。Character.ai拒绝讨论活跃的诉讼，但指出了新的保障措施，例如针对18岁以下青少年的单独模式以及使用该应用程序一小时后的使用提醒。它还禁止露骨的性内容和宣传自残。

Common Sense Media和其他倡导团体认为，这些应用程序会助长不健康的情感依赖，调查显示，一些青少年更喜欢向人工智能同伴而不是真人吐露心声。

尽管存在争议，Character.ai仍在扩大其商业模式。每月9.99美元的订阅量急剧增长，该公司最近推出了广告和创作者驱动的货币化工具。普通用户每天在该应用程序上花费80分钟，该应用程序现在还提供社交风格的提要。

成人可以进行浪漫对话，但禁止露骨的性角色扮演。阿南德坚称安全是首要任务，尽管Meta（META）和埃隆·马斯克（Elon Musk）的xAI等竞争对手正在推动更多面向成人的人工智能伴侣。据英国《金融时报》报道，他认为人工智能关系最终可以加强人类关系。