宇信科技构建金融大模型内生安全体系 系统防范AI时代金融安全风险

9月19日，由北京市科学技术协会、“科创中国”金融科技服务团、中国通信学会金融科技专家委员会、中国互联网协会数字金融工作委员会联合主办的2025年国家网络安全周主题活动2025数字金融安全论坛暨“探索AI时代金融数据安全治理的关键路径”决策咨询沙龙成功举办。本次论坛以“筑牢金融数据安全防线，护航数字金融创新发展”为主题，旨在共同探讨AI时代金融数据安全治理的创新路径与发展趋势，为数字金融发展注入新动能。

本次论坛由中国互联网协会数字金融工作委员会主任张永福、北京市科技教育中心副主任孙涛致辞。来自中国人民银行所属单位成方金融信息技术有限公司，中国工商银行、中国农业银行、中国建设银行、北京国家金融科技风险监控中心、中金金融认证中心、互联网域名系统国家工程研究中心（ZDNS）、蚂蚁集团、腾讯金融云等金融机构、科技企业，以及清华大学、北京大学等研究机构的专家和代表参加本次论坛。

宇信科技集团数字安全产品线总经理赵建出席论坛，并围绕《构建金融大模型内生安全体系，从内容安全测评到算力攻击防御》进行主题分享。

宇信科技为金融机构提供涵盖从客户端安全、身份认证到数据安全、国密算法改造等相关安全产品及解决方案，并提供覆盖数据安全全生命周期的数据安全产品矩阵，AI安全等创新安全产品及解决方案。

赵建表示，随着大模型应用的规模化落地，客户自部署大模型的快速增长，安全问题成为模型落地的最大障碍，比如大模型失控、外部安全威胁，以及针对算力的攻击、敏感数据的泄露等。大模型全生命周期中的安全挑战也由训练侧转移到应用侧。以金融行业为例，不少金融机构推出基于大模型的ai手机银行应用，直接面向外部金融客户提供相关的服务。其他如智能营销、智能客服、智能办公、智能写作、企业内部知识库、智能尽调等场景里，AI已经产生的实际风险远超预期，“内容安全”首当其冲。

因此，大模型应用端需要更全方位的安全保障，包括从模型生成、输入输出，到模型训练，以及模型在不同场景下的应用。赵建表示，传统安全类似基于实体物理世界的有限对抗，而随着人工智能和大模型的迅速落地与应用，大模型的安全问题则更像是抽象精神世界的无限风险。

人工智能安全已经成为主要热点，在2025年美国RSAC创新沙盒大赛前十的企业中，其中“AI 安全” 相关企业就占据了半壁江山；目前，国内外正在积极探索大模型安全治理策略。国际方面，美国、欧盟、新加坡、国际组织等都出台了人工智能风险管理框架、治理框架、管理体系，安全测试标准及方法。在国内，国家高度关注人工智能安全，监管部门正逐步建立“人工智能安全监管制度”，在今年7月举办的世界人工智能大会（WAIC）上，由杰弗里·辛顿、姚期智、本吉奥、斯图尔特·罗素等20余位行业专家、学者共同签署“上海共识”，呼吁给AI确立行为红线，要求开发者在部署模型前，应先进行全面的内部检查和第三方评估，提交高可信的安全案例，以及开展深入的模拟攻防与红队测试。

赵建表示，宇信科技结合自身行业背景与经验，提出“大模型安全解决方案”通过三个维度进行应对，即“安全测评”、“安全防御”和“应用拓展”。

在安全测评方面， 宇信科技大模型安全测评系统亮点纷呈，一是具有一百多万条测评数据，满足国标的相关需求；二是通过三十多种攻击算法和数十篇安全顶会论文发表的基础，把更多攻击的前沿手法集成在评估系统里；三是较为全面安全测评体系，涵盖了对大模型的输出内容评估、模型本身评估及输入和数据攻击评估。

在安全防御方面， 根据宇信科技大模型防御技术路线图，从输入防护、模型防护和输出防护实现3重保护，并通过代理转发实现MCP安全，构建完整的大模型防御技术体系。按照防御系统平台、防御一体机、防御板卡/芯片的产品演进路线，全面加强大模型安全防火墙建设，逐步建立完善的大模型防御产品体系。

在应用拓展方面， 宇信科技结合国际前沿安全研究成果，包括逆向工程框架，微调越狱大模型，包括经验性对抗鲁棒性评估和非经验性对抗鲁棒性评估的研究，还包括OT-Attack、MMP-Attack等前沿技术，未来从金融大模型安全拓展到Agent安全解决方案。从安全威胁、隐私侵犯、真实性保障、公平性维护、鲁棒性调整、代理评估等各个方向解决Agent本身安全问题，实现端侧大模型和具身智能安全解决方案。