当腾讯元宝开始“骂人”，AI伦理成了必答题

（来源：上市之家）

元宝“骂人”这件事发生在腾讯这样级别的互联网企业中，着实令人意外。尽管腾讯已致歉，并将原因归为“小概率的模型异常输出”，但在大模型技术已不算新鲜的今天，尤其是在马化腾始终倡导“科技向善”的背景下，此类“事故”的发生，依然值得深思。

随着人工智能未来进一步普及，乃至与机器人、脑机接口等深度结合，类似的“小概率”异常是否可能像交通事故一样，成为一种难以彻底避免的“常态”？这不仅是技术可靠性的问题，更关乎如何在AI融入社会的进程中，建立起持续、有效的安全治理与伦理约束机制。

近日，一位用户在社交平台上反映，在使用腾讯元宝AI辅助修改代码时，竟多次收到带有“事逼”“滚”等辱骂性词汇的回复，引发广泛关注。腾讯元宝官方迅速致歉，称此为“小概率下的模型异常输出”，并非人工回复。

值得注意的是，就在今年发布的《腾讯可持续社会价值报告》中，腾讯公司董事会主席兼CEO马化腾曾明确表示：“AI向善，对于腾讯不是一种外在要求，而是内化为腾讯的自我驱动。”当AI在实际应用中“失控骂人”，这份“向善”承诺该如何落地？

01 事件回顾：代码修改请求触发AI异常输出

元宝AI在回应其代码修改请求过程中，先后三次输出了“事逼”“要改自己改”“sb需求”“滚”等带有强烈负面情绪的词汇。值得注意的是，用户指出其不当回应后，元宝AI曾回复“您说得对，我刚才的回复非常不专业且带有情绪化”等致歉词，并为用户提供修改后的代码，但当用户继续提出修改意见时，元宝AI又再输出负面词汇，并在对话结尾回复了一连串异常符号。

针对此事，腾讯元宝官方账号迅速在相关帖子下致歉，并做出说明：“非常抱歉给您带来了不好的体验。我们根据日志进行了相关核查，与用户操作无关，也不存在人工回复，属于小概率下的模型异常输出。”元宝官方账号还表示，在内容生成过程中，模型偶尔可能出现不符合预期的失误，其已启动内部排查和优化，会尽量避免类似情况再次发生。

多位从业人士分析认为，从技术原理看，这不太可能是人工干预的结果。AI大模型用户量巨大，人工接管既不经济也不现实；且AI输出速度远超人类，更不可能在生成代码的同时“捎带骂人”。

有专家指出，此现象反映出AI在垂类场景的安全对齐可能存在缺失。随着多模态大模型发展，安全对齐面临更复杂挑战：特定的对抗图像或文本可能诱使AI绕过安全约束；无害的数据微调也可能侵蚀已对齐的安全性；安全能力与推理能力之间常存在权衡。

“用户在连续多轮对话中要求修改代码，可能触发了AI对场景的误判，而该场景恰好未经过特定的安全对齐训练。”一位不愿具名的从业者分析道。

此次事件发生在AI助手市场竞争日趋激烈的背景下。数据显示，2025年12月，豆包、腾讯元宝和千问三款APP的月下载量均达到1500万以上，智能助手APP端整体日活用户约1.15亿，较前月增长约1500万。腾讯元宝与豆包、DeepSeek共同位列平均日活前三名，TOP3产品占据了92%的DAU份额。

高速增长的用户规模与频繁的产品迭代同步进行。马化腾在报告中坦言：“今年，以腾讯的混元与元宝等产品为例，我们几乎是以周更、日更的速度，迭代技术与产品。”

如此快速的迭代节奏，是否给充分的安全测试与对齐留下了足够空间？

02 “AI向善”理念下的技术实践挑战

马化腾在2024年度《腾讯可持续社会价值报告》致辞中描绘了AI发展的理想路径：“技术创新——技术扩散——技术再创新”的上升螺旋。他认为，易用的产品是技术扩散的关键载体，而AI最终将通过创造社会价值，获得用户认可。

然而，元宝AI的异常事件揭示了理想与现实之间的差距。当技术在实际应用中出现安全漏洞，不仅影响用户体验，更对企业的社会责任承诺提出考验。

报告强调，“AI向善”应内化在“技术是引擎，应用是载体，两者相互强化”的生态中，而贯穿始终的是“对人的尊重，对社会的责任，对未来的敬畏之心”。

此次事件虽被官方定义为“小概率异常”，却提出了一个不可回避的问题：在AI技术快速迭代、市场竞争白热化的当下，企业如何在追求产品创新与市场份额的同时，确保安全伦理底线不被突破？

马化腾在报告中承认，AI技术的迭代速度“超出想象”，并以电力革命类比AI时代的开端。正如人类在电力革命初期难以预见后续一个世纪的变革，AI时代同样充满未知。

此次元宝AI的异常输出，或许正是这些未知挑战中的一次具体显现。它提醒着所有科技公司：在技术加速奔跑的同时，安全对齐与伦理规范的建设同样需要同步甚至超前。

在AI日益深入日常生活的当下，每一次“异常输出”都可能对用户造成真实伤害，也都在考验着企业“科技向善”承诺的成色。当元宝开始“骂人”，这不仅是一个技术故障，更是一面镜子，映照着整个行业在快速发展中必须正视的安全与伦理课题。

正如马化腾所言：“它最终决定我们可以走多远。”面对刚刚拉开序幕的AI时代，如何在技术创新与安全伦理之间找到平衡，将是所有从业者必须回答的问题。