熱門資訊> 正文
2025-07-08 14:41
近日,國際數據公司IDC發佈《中國AI訓推一體機技術能力評估,2025》報告,阿里雲在性能指標、架構能力、模型微調能力、推理能力、存儲和網絡架構、交付運維能力6項評估維度中獲得滿分,也是唯一一家性能指標維度滿分的廠商。
阿里雲AI Stack作為企業級私有部署大模型輕量化、高性價比解決方案,能夠幫助用户輕松採用最新的開源大模型,內置阿里Qwen 3全尺寸及DeepSeek R1/V3滿血版等最新主流模型,為用户提供開機即用的大模型服務,更好滿足數據安全、成本效率、合規等業務要求。
IDC在報告中指出,阿里雲AI Stack擁有多項技術優勢:
高性價比,輕量起步:單機具備2/4/8/16卡多種選擇,用户可根據需求靈活選擇。基於開源vLLM、SGLang提供軟硬一體優化推理框架ASLLM,整合FlashMLA,MTP等性能優化算子。16卡版本具備1.5+TB超大顯存,可極速運行DeepSeek無損精度滿血版,同等算力水平下性能最優。
靈活拓展,應用集成:支持無中心化橫向靈活擴展GPU與CPU服務器,可被飛天企業版納管;可集成豐富的智能應用,包括釘釘、通義靈碼、百鍊專屬版等垂直場景應用;亦可提供訓推一體環境,多種模型組合使用,支撐豐富多元的應用場景。
兼容易用,開發友好:高度兼容CUDA API,CUDA應用代碼無需修改,可直接使用CUDA API和NVCC 編譯命令行。
AI Stack持續創新
加速行業智能化升級
阿里雲AI Stack已順利通過了中國信通院「AI大模型一體機技術能力要求」測評和「大模型一體機安全能力要求」評估、中國電子技術標準院「雲上部署DeepSeek驗證測試」,為需求方提供安全可信、開箱即用的大模型一體解決方案。
同時,阿里雲AI Stack還通過「軟硬一體化」方案集合阿里生態能力,快速推出了系列的AI解決方案,覆蓋協同辦公、智能體搭建、智能編碼、數據分析等多個領域,為模型應用創新提供了豐富的AI解決方案能力。
目前,阿里雲AI Stack憑藉「軟硬一體」核心優勢,已在政務、金融、製造、能源等領域實現落地,服務新老客户的智能化需求。
政務領域:某省衞健委通過AI Stack單機本地化部署大模型,實現醫療數據治理與公共衞生決策智能化。
金融領域:多個頭部金融機構選擇AI Stack本地部署模型,探索智能編碼、AI與金融服務融合等創新應用。
製造領域:某合作伙伴基於釘釘·AI Stack場景化一體機,加速生產、銷售、研發、管理等環節數智化。
醫療領域:某綜合三甲醫院基於AI Stack和百鍊專屬版Lite建設AI中臺,落地了支撐醫院精細化運營管理的「智能問數」場景。
未來,阿里雲AI Stack將和阿里雲飛天企業版(Apsara Stack)形成完整的雲邊一體解決方案,打造場景更加豐富、性能更加強大的全棧雲平臺,充分釋放AI時代大規模雲計算平臺的技術紅利。