繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

AI應用落地也需要「去中心化」

2025-10-24 00:52

原標題:AI應用落地也需要「去中心化」 來源:鈦媒體

IDC發佈的《邊緣進化:從核心到邊緣驅動成功》(簡稱《報告》)研究報告中指出,79%的受訪企業認為,生成式AI已經或將在未來18個月內對其業務產生顛覆性影響,這一比例高於亞太平均水平12 個百分點;此外,37%的受訪企業已將生成式AI應用部署到生產環境,另有61%的企業正處於技術測試與概念驗證階段,這意味着,在AI落地過程中,企業已從「PPT階段」進入「實戰階段」。

回顧生成式AI的發展歷程,2023~2024年的核心關鍵詞是「大模型參數競賽」,彼時企業追求「千億級參數」,以及「多模態能力」;而當時間來到2025年,關鍵詞已轉向「場景落地」,如何讓AI真正解決業務問題,成為企業的核心訴求。

在此過程中,亞太地區(APAC)的企業正意識到,僅靠集中式雲架構無法滿足日益增長的規模、速度和合規性需求。企業必須重新思考和加強基礎設施策略,將邊緣服務納入其中,以保持競爭力、滿足合規要求,併爲實際的人工智能部署做好準備。

「未來企業亟需構建現代化數字基座,該基座整合了‘雲-核心-邊緣計算’的基礎設施,將智能服務部署在更靠近用户與應用的位置。」在AI技術快速發展的背景下,這是Akamai亞太區與全球雲架構師團隊總監李文濤對於下一代數字基礎設施的演進方向的定義。 

AI重構數字底座

「企業的數字化基礎決定了AI落地速度,但現有架構正在遭遇瓶頸。」李文濤指出。《報告》數據顯示,中國企業已形成「公有云依賴」特徵——多業務環節採用公有云承載生產應用,而GenAI的崛起正讓這一模式的短板暴露無遺。

在此背景下,企業首先面對的就是時延的挑戰。據瞭解,37%已部署GenAI的企業中,超60%反饋「實時交互類應用響應延迟超預期」。以電商虛擬試衣間為例,用户上傳圖像后需等待覈心雲完成AI推理,單次交互延迟常達2-3秒,轉化率較預期下降40%;

除了時延的挑戰是大多數企業在落地企業級AI過程中的痛點之外,成本也是讓很多企業面對AI應用「望而卻步」的關鍵因素。AI推理產生的海量數據回傳至核心雲,導致帶寬成本激增。

除此之外,在出海跨境開展業務的過程中,72%的出海企業因「數據出境」合規要求被迫放棄核心雲集中處理模式,GenAI涉及的用户隱私數據更成為監管焦點。而這點也成為AI應用過程中的一大挑戰。

「公有云不是‘不夠好’,而是‘不夠近’,」 李文濤總結,「生成式AI需要‘核心雲訓練+邊緣推理’的協同模式。核心雲負責大規模模型訓練,邊緣負責實時推理與用户交互,這是未來的必然架構。」

邊緣計算興起

基於此,傳統的僅僅依賴公有云的模式,顯然已經不能滿足所有企業擁抱AI的需求。在企業級AI落地的過程中,企業的數字底座也急需重構。對此,李文濤表示,為充分釋放生成式AI (GenAI)的潛能,企業亟需構建現代化的「數字基座」——整合邊緣計算,將智能服務部署在更靠近用户和應用場景的位置。

在用户對於新一代數字基座的需求下,邊緣計算又一次站在了技術舞臺的中間,成爲了企業構建新一代數字基座的核心技術之一。邊緣計算正崛起為下一代數字創新的前沿領域,推動「邊緣演進」趨勢,並迫切需要採用變革性方法構建高韌性、面向未來的數字生態系統。「邊緣計算能夠以特定方式實現基礎設施的分佈式部署,不僅降低實時應用的延迟,緩解網絡不穩定帶來的問題,還能讓企業能夠更快應對瞬息萬變的商業環境。」李文濤如是説。

而李文濤的觀點已經有不少數據支持,智研諮詢發佈的《2025-2031年中國邊緣雲行業市場現狀分析及投資機會研判報告》中顯示,2024年全球市場規模達1851億元,中國佔比約70%。預計2029年市場規模將達370億元,複合年增長率22.9%。 ‌

此外,《邊緣進化:從核心到邊緣驅動成功》中預測,2025年,邊緣IT預計成為大多數中國企業IT支出增長最顯著的領域。另一方面,IDC預測,到2027年,80%亞太地區的CIO將依賴邊緣服務支撐AI工作負載。

以AI推理為例:核心雲處理一次電商AI推薦的平均時延約為 200~300ms,而邊緣節點處理的時延可降至20~50ms;在帶寬成本上,數據在邊緣源頭處理可減少70%的核心雲傳輸量,某製造企業測算顯示,這一調整每年可為其節省近百萬的帶寬費用。

對此,李文濤表示,「中國企業的數字化基礎與AI創新能力已處於全球第 一梯隊,而邊緣計算將成為其把技術優勢轉化為商業勝勢的關鍵。而到2027年,80%的CIO將用邊緣服務替代傳統雲的部分功能,這不是選擇,而是必然。」

當前,企業正加速採用邊緣計算來支撐其數字化運營,確保在與核心或雲端資源斷開連接時的業務連續性。在李文濤看來,這一現象凸顯出在多樣化的運營環境中,爲了實現無縫功能交付與業務韌性,企業對邊緣基礎設施的依賴性日益增強。

《報告》中顯示,未來18個月內,邊緣IT投資迴向四個方向傾斜,分別是:支持數字化運營,如AI、物聯網及智能監控體系;在與核心或雲端資源斷開連接時的保障措施;支持偏遠地區的業務運營;降低連接成本。

數據來源:IDC 數據來源:IDC

另一方面,多個邊緣應用場景正推動生成式AI加速計算資源(如GPU)的部署,用以支持高性能應用,並確保可擴展性。生成式AI 與邊緣計算的融合,彌合了集中式雲資源與分佈式邊緣環境之間的鴻溝,同時保障了可擴展性和性能表現。

建設AI就緒型基礎設施的「六大支柱」

《報告》中提出的「面向未來數字基礎設施六大核心支柱」,被業內視為生成式AI時代的基礎設施建設指南。這六大支柱並非孤立存在,而是形成「戰略-技術-運營」的完整閉環,其核心邏輯是「從核心延伸至邊緣」的全域協同。

支柱一:AI就緒——效率與體驗的雙重提升

AI就緒的核心是「讓基礎設施適配AI」,而非反之。針對此,企業需從兩方面突破:一是硬件層的推理優化,通過邊緣節點部署輕量級GPU模塊,使AI推理效率提升3-5倍;

二是應用層的個性化支撐,例如零售企業通過邊緣AI實時分析用户行為,推送定製化商品推薦,轉化率較傳統模式提高58%。

「AI就緒不是技術堆砌,而是業務場景的深度匹配。」李文濤強調。

支柱二:GenAI部署——從「大模型競賽」到「邊緣適配」

《報告》中指出,GenAI部署正從「追求參數規模」轉向「邊緣輕量化適配」。61%處於測試階段的企業已意識到,千億參數級大模型無法直接落地邊緣場景,需通過模型壓縮、量化等技術適配邊緣算力。

硬件投資成為關鍵突破口。針對此,李文濤建議企業重點佈局三類資源:一是邊緣級GPU,滿足輕量級推理需求;二是異構計算芯片,適配多模態AI任務;三是分佈式存儲節點,支撐邊緣數據的實時處理。

支柱三:現代化邊緣IT——數據源頭的價值挖掘

「數據在產生的瞬間就已過時」——這一工業互聯網領域的名言,在GenAI時代愈發凸顯。現代化邊緣IT的核心是「在數據源頭完成價值提取」,其關鍵技術路徑包括:

邊緣推理優先:將90%的實時AI任務在邊緣完成,僅將結果數據回傳核心雲;

邊緣存儲分層:熱數據本地化存儲,冷數據加密上傳,降低存儲成本;

邊緣計算協同:相鄰邊緣節點形成「微集羣」,應對突發算力需求。

比如,某汽車廠商通過車載邊緣設備實時處理路況視頻數據,僅將異常事件(如事故、擁堵)分析結果上傳雲端,數據傳輸量減少92%,同時實現自動駕駛系統的毫秒級響應。

支柱四:邊緣優化架構——分佈式場景的「協同中樞」

邊緣優化架構要解決的核心問題是「分佈式資源的統一調度」。報告指出,企業常陷入「邊緣孤島」困境——不同區域的邊緣節點各自為戰,無法形成全局算力網絡。對此,IDC提出了三層架構解決方案:在接入層,支持5G、Wi-Fi6等多網絡接入,實現終端設備無縫連接;在算力層,構建「邊緣節點-區域中心-核心雲」三級算力池,動態分配資源;在管理層,通過統一平臺實現邊緣設備、算力、數據的可視化管控。

支柱五:雲端到邊緣——公有云投資的「價值延伸」

「企業已在公有云投入鉅額資源,邊緣部署不應是‘另起爐灶’。」李文濤強調,雲端到邊緣的核心是「投資複用與能力延伸」。《報告》數據顯示,83%的企業希望將現有公有云服務擴展至邊緣,而實現這一目標的關鍵是「互聯互通」。

技術層面,需突破兩大瓶頸:一是API標準化,實現多雲平臺與邊緣節點的接口統一;二是數據一致性,通過邊緣緩存、增量同步等技術確保核心雲與邊緣數據同步。

基於此,Akamai與AWS、Azure等主流雲廠商的深度合作印證了這一路徑——企業可將核心雲的模型、數據無縫同步至Akamai邊緣節點,無需重構現有IT架構。

支柱六:自主運營——AI驅動的「自動化運維」

當邊緣節點規模達到數千甚至數萬個,傳統人工運維模式已難以為繼。自主運營的核心是「用AI管理AI基礎設施」,其關鍵能力主要包括:智能監控,通過邊緣AI實時監測節點算力、帶寬、温度等指標,異常預警準確率達95%;自動調度,根據業務負載動態調整邊緣與核心雲的資源分配,資源利用率提升30%;自愈修復,邊緣節點故障時自動切換至備用節點,業務中斷時間控制在秒級。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。