IDC聯合騰訊雲發佈AI Infra報告：定義Gen AI時代智算新範式，賦能千行百業智能化轉型

9月16日-17日，2025騰訊全球數字生態大會在深圳召開。在9月17日舉辦的Infra Agent專場中，騰訊雲與全球領先的信息技術研究與顧問公司IDC聯合發佈《AI Infra：加速智能體落地的基礎架構、發展趨勢與產業實踐》報告（以下簡稱「報告」）。報告深度剖析生成式AI（Gen AI）在規模化落地背景下，AI Infra（AI雲基礎設施）從基礎算力平臺向核心智算基礎設施的演進路徑，系統梳理其技術架構、核心能力與行業適配方案，並結合騰訊雲在互聯網、交通出行、工業製造、醫療、教育等領域的實踐案例，為企業基於AI深化智能化轉型提供「技術-場景-價值」三位一體的行動指南。

報告中，騰訊雲與IDC共同指出，隨着AI應用從技術驗證邁向規模化落地，企業對雲智算設施的需求已從「單純算力供給」升級為「全鏈路業務賦能」，AI Infra（AI雲基礎設施）正成為驅動產業數智化轉型的關鍵基礎設施。

其核心特徵可概括為四大維度：

一、分佈式底座：支持混合雲架構下的雲邊一體算力佈局，實現AI模型與應用全流程管理；

二、異構硬件：融合GPU/TPU/DCU等多元智算芯片、高性能存儲與智能網絡，構建統一納管的異構計算資源池；

三、高性能軟件：通過異構計算、存儲與網絡組件，最大化釋放硬件性能，支撐模型訓推全鏈路效率提升；

四、場景化方案：針對模型訓練/微調、推理優化、智能體（AI Agent）開發等需求，提供模板化行業解決方案。

六大演進趨勢：

AI原生雲重塑智算基礎設施邏輯

報告結合產業實踐提出，AI Infra（AI雲基礎設施）正加速向架構重構、行業垂直化、算力智能化、安全能力提升、研發範式革新、服務化轉型六大方向突破，其中AIAgent的崛起成為關鍵驅動力。

架構重構：從「雲+AI」到「雲原生+Agent協同」。核心在於構建分佈式訓推一體化架構。通過新一代的智算基礎設施，實現GPU/TPU等異構算力池化，支撐微秒級延迟的實時推理網絡與Agent長周期上下文保持，同時支持多Agent協同工作，滿足複雜業務決策需求。例如，在智能駕駛場景中，雲邊端協同的算力架構可實現車路協同數據的實時處理與決策。

行業垂直化：以Agent為載體的場景化交付。推動行業Know-how與雲原生技術深度融合，提供「開箱即用」的解決方案——如金融領域的智能風控Agent、醫療領域的AI診療Agent，可自動調用行業知識庫與多模態交互能力（語音/視覺/文本），大幅降低企業應用門檻。

算力智能化：全局資源優化配置。實現異構算力統一納管與智能調度，通過算力標籤體系、性能預測模型動態匹配業務峰谷需求，同時支持邊緣Agent輕量化部署，提升算力利用率。例如，騰訊雲算力調度平臺可將GPU使用率提升80%以上。

安全能力提升：構建可信立體防護體系。覆蓋數據全生命周期安全（字段級加密、動態脱敏）、模型安全（對抗訓練、水印溯源）與合規認證（等保2.0、GDPR適配），同時引入區塊鏈存證Agent決策鏈、倫理規則代碼化植入，防範AI誘導泄露風險。

研發範式革新：標準化AI研發體系。以MLOps（機器學習全生命周期管理）、AIOps（智能運維）、自動化模型訓推、AgentOps（Agent行為審計與協作效能評估）為核心，構建自動化模型訓推流水線與版本控制體系，縮短AI應用迭代周期。

服務化轉型：AI能力普惠化。將AI能力拆解為模塊化、Serverless化服務，通過API市場與按需付費模式降低使用成本，同時提供低代碼/無代碼開發平臺，推動AI技術平權。例如，騰訊雲HAI（高性能應用服務）可一鍵部署混元、DeepSeek等20+主流模型，大幅簡化開發流程。

千行百業實踐：

騰訊雲智算落地案例解析

在白皮書中，首次全面詳實解析了AI Infra（AI雲基礎設施）在多個重點行業中的行業適配與深耕。報告納入了地平線、貨拉拉、一汽豐田、燧原科技、作業幫、考試寶、心言集團、尚航科技、元石科技、智診科技、德適生物等標杆企業，覆蓋交通出行、工業製造、教育培訓、泛互聯網、具身智能、智慧醫療等六大重點行業。

在交通出行領域，地平線藉助200Gbps vRDMA加速網絡，將自動駕駛訓練集羣性能提升25%，千卡擴展比達92%；某頭部新勢力車企通過COS與GooseFS構建的數據閉環，實現百PB級存儲成本降低40%，模型訓練效率提升30%。工業製造場景中，燧原科技在慶陽部署的國產異構智算中心，以「超大規模雲平臺+國產化GPU」模式成為「東數西算」示範；某知名手機廠商依託GooseFS存儲加速，將大模型分發效率提升3倍，服務穩定性提高57%。

教育培訓行業，作業幫通過向量數據庫與GPU共享技術，實現AI問答響應提速5倍，成本降低30%；考試寶則基於向量檢索將試題聚類準確率從50%提升至95%，覆蓋8000萬用户。

泛互聯網領域，心言集團藉助TKE容器與星脈網絡，支撐千萬級用户高併發訪問，成本節約20%；元石科技通過跨國數據傳輸方案，數據爬取效率提升100倍，合規攔截率超95%。

具身智能與醫療領域同樣成果顯著：某科研單位構建的多模態訓練平臺，使機器人訓練效率提升200%；智診科技「好伴AI」依託騰訊雲算力打造的醫療大模型，實現500名專家「數字分身」規模化落地，基層健康服務響應提速3倍；德適生物iMedImage™通過HCC集羣部署，模型推理吞吐翻倍，覆蓋90%臨牀影像場景。

結語：

隨着GenAI與AIAgent的深度融合，AI將進一步突破「技術-場景-合規」的協同瓶頸：在技術層面，多模態融合與具身智能將成為核心方向；在場景層面，從「單點效率提升」轉向「全業務流程重構」；在合規層面，動態安全評估與倫理約束將嵌入技術全周期。

據悉，該報告已同步在騰訊雲官網、IDC中國官網上線，可為互聯網企業服務、交通出行、教育、醫療、工業製造等行業提供可落地的智算轉型參考方案。

立即下載

👇👇👇