合理設定AI的能力邊界

（來源：中國銀行保險報網）

轉自：中國銀行保險報網

□本報記者 蘇潔

10月30日，「2025金融科技大會平行論壇——AI+金融專題論壇」在中關村金融科技特色產業園舉辦。與會代表從技術角度闡述了AI金融的發展機遇與挑戰。

北京大學計算機學院教授、元宇宙技術研究所所長陳鍾從學界角度對AI大模型在金融行業發展提供了冷靜的觀察。他在肯定大模型在算力優化方面仍有巨大潛力的同時，提醒業界需要關注后續發展動能，特別是要夯實數據採集、利用和加工的能力基礎。他警示要針對外部科技鉅變可能對金融業產生的顛覆性衝擊作出預案，這種衝擊的力度或許不亞於互聯網帶來的變革。

關於風險與挑戰以及未來應對，陳鍾直指問題的核心——大模型的「幻覺」問題源於其計算本質，而面客場景的法律風險尤為突出，需要綜合運用大模型和軟件工程方法，在算力、算法、數據三個層面建立與人類價值觀對齊的治理機制。

「AI的落地必須與統計學和數據科學深度融合，統計與數據科學是AI落地的鑰匙。」美國國家科學院院士、美國哈佛大學統計系終身教授、清華大學統計與數據科學系教授劉軍認為，AI單純依賴大數據而缺乏嚴謹的統計思考可能導致模型偏差與決策失誤。

在新加坡國立大學和南洋理工大學客座教授白士泮看來，「智能代理」支付是掌握未來機器經濟的咽喉，必須構建起機器可授權、可追責、能結算的全新支付體系。

首都經濟貿易大學黨委副書記、校長吳衞星表示，人工智能在金融領域展現出廣闊的應用前景。與此同時，也需要審慎關注其背后潛在的風險與挑戰。未來，亟待業界持續投入關注與研究，以護航該領域的健康發展，推動金融行業邁向更加可持續的未來。

在實踐中，諸多機構表達了對於AI衝擊下的「變局」。

青島銀行首席信息官楊斌將AI比作從「蒸汽機」升級為「核動力」的銀行新引擎，強調AI已從單純的效率工具轉變為重構銀行管理經營全過程的核心驅動力。他以青島銀行推動「百千行動計劃」的實踐舉例，AI正全面滲透到產品創設、經營管理等各個環節，重新定義銀行的核心能力。

對於風險與挑戰以及未來應對，楊斌系統地闡述了銀行面對的三重風險：算法的不可解釋性與欺騙性、數據偽造問題，以及AI成為核心引擎后的系統性安全風險。他特別強調，無論AI如何強大，最終都必須堅持人機協同與流程回滾，確保決策責任明確到人。

北京銀行軟件開發中心副總經理王曦指出，北京銀行已確立建設人工智能驅動商業銀行的目標，將AI應用於300多個場景。他以供應鏈金融這一核心業務為例，說明了大模型在審覈貿易融資合同方面的突破——通過智能分析不同制式的企業合同，將準確率提升至90%以上，極大地提升了傳統人工審覈的效率。同時，他指出常被忽視的算力供應鏈安全問題和體制機制挑戰，特別是AI審批貸款的問責機制這一現實難題。王曦透露，目前業界普遍採用與傳統方式結合的過渡方案，並嚴格遵守監管要求，謹慎控制生成式AI在面客場景中的應用範圍。

華福證券首席信息官李寧從證券行業的角度形象地描述了證券APP從「工具時代」的功能菜單堆砌到通過知識庫優化進入「核心業務階段」，再到如今出現「AI原生APP」的商業模式變革。李寧指出，這種新型APP徹底摒棄了層層菜單的設計，通過多智能體協作，根據客户畫像和交互習慣，以對話式、圖像化的方式提供個性化服務，實現了從「人找功能」到「服務找人」的根本轉變。關於風險與挑戰以及未來應對，他提出具有實操性的風險管理框架——用規避、轉移、減輕和接受四種策略來應對不同性質的風險。他特別指出，要清醒認識當前技術的侷限性，合理設定AI的能力邊界。