AI推理掀起雲平臺變革 邊緣計算成廠商角逐的新沃土

轉自：中國經營網

中經記者 秦梟 北京報道

隨着模型迭代與 AI 應用商業模式的日漸清晰，應用側正打開 AI 基礎設施市場全新增量空間的需求。Gartner預計，到2028年，80%以上的算力將用於推理而不是訓練。與此同時，隨着推理模型日益複雜和規模不斷擴大，其對資源需求的持續攀升限制了集中式推理的可行性。而邊緣計算開始被看作AI推理規模化落地、實現「機器速度級」響應的關鍵。

近日，雲服務提供商阿卡邁技術公司（以下簡稱Akamai）與英偉達聯合發佈了分佈式生成式邊緣平臺Akamai Inference Cloud。與傳統架構不同，該平臺專為全球範圍的低延迟、實時邊緣AI處理而構建。

Akamai亞太區與全球雲架構師團隊總監李文濤在接受《中國經營報》記者採訪時表示，過去，邊緣計算多作為中心化雲的輔助，承擔內容分發、數據緩存等基礎任務；如今，隨着個性化數字體驗、實時決策系統、AI 智能體等下一代 AI 應用的普及，AI 推理必須擺脫核心數據中心的物理限制，向更靠近用户與設備的網絡邊緣延伸。

邊緣計算不再「邊緣」

AI 產業的發展，正從「模型研發」向「場景落地」深度邁進。AI應用也從傳統單一的 「請求—響應」 模式，向多步驟推理、智能體協作及實時決策演進，而傳統中心化雲架構的短板日益凸顯。

此前，邊緣計算多作為中心化雲的輔助，承擔內容分發、數據緩存等基礎任務；如今，隨着個性化數字體驗、實時決策系統、AI 智能體等下一代 AI 應用的普及，AI 推理必須擺脫核心數據中心的物理限制，向更靠近用户與設備的網絡邊緣延伸。

李文濤指出，人工智能推理階段的工作負載規模預計將遠超訓練階段，可能達到后者的數十億倍。這一特性要求我們重新審視並構建算力基礎設施，以支撐如此龐大體量的實時人工智能處理需求。

英偉達CEO黃仁勛在接受媒體採訪時表示：「一年前預測AI推理計算將增長10億倍這件事，是我低估了。現在看來，實際增長可能還要更大——因為AI不再只有一個擴展定律，而是三個：預訓練擴展、后訓練擴展和推理擴展。當這三個定律疊加在一起時，計算需求的增長是指數級的平方。」

以Google為例，其在2025年第二季度業績會上表示，月處理Token數相較於2025年5月I/O大會公佈的480萬億翻了一倍，達到每月960萬億。而根據中國國家數據局數據，截至2025年6月底，中國日均Token消耗量突破30萬億，相較2024年年初的日均1000億增長300多倍。

以ChatGPT為例，其龐大的用户基數和複雜的應用場景，對推理算力提出了極為嚴苛的要求。在實時交互場景中，ChatGPT需要快速響應用户輸入，進行多步驟推理並生成連貫、準確的回覆，這一過程對算力的消耗巨大。而且，隨着用户需求的不斷升級，ChatGPT需要處理更加多樣化、個性化的任務，如文本創作、知識問答、邏輯推理等，這進一步加劇了對推理算力的需求。

李文濤表示，與傳統人工智能服務有所區別，智能體時代下的應用場景，例如智能駕駛、物聯網設備交互、電子商務個性化推薦等，均依賴於高速的人工智能推理響應。這也成為推動邊緣人工智能部署的關鍵驅動力。

李文濤舉例道：「通過將計算和數據存儲靠近數據源，能夠顯著降低網絡延迟，提高響應速度，從而更好地滿足智能體時代下對實時性和高效性的嚴苛要求。在智能駕駛場景中，車輛需要實時感知周圍環境並做出快速決策，邊緣人工智能的部署可以確保這些決策在極短時間內完成，大大提高行車安全性。同時，在物聯網設備交互和電子商務個性化推薦等領域，邊緣計算也能通過快速響應和精準推薦，提升用户體驗和滿意度。」

市場爆發在即

從市場規模來看，邊緣計算正在進入爆發式增長階段。市場研究機構Market數據表明，全球邊緣人工智能市場規模預計到 2032 年將超過 1400 億美元，較 2023 年的 191 億美元大幅增長。Precedence Research 數據顯示，邊緣計算市場在 2032 年可能達到 3.61 萬億美元（CAGR 30.4%）。

在巨大的市場誘惑下，大廠也紛紛將目光投向這片新藍海，近幾年成功轉型雲服務提供商的Akamai也與NVIDIA聯手，推出了分佈式、生成式邊緣平臺Akamai Inference Cloud。

Akamai首席執行官兼聯合創始人Tom Leighton表示：「下一波AI浪潮的發展同樣需要靠近用户——這正是互聯網能夠擴展為今天廣泛應用的全球平臺的原因。Akamai過去曾成功解決過這一難題，如今我們再次應對這一課題。依託NVIDIA的AI基礎設施，Akamai Inference Cloud將通過部署在全球數千個節點的AI決策能力，來滿足日益增長的AI推理算力與性能擴展的需求，從而實現更快速、更智能以及更安全的響應。」

黃仁勛則指出：「推理已成為AI中計算最密集的環節——需要在全球範圍內進行實時推理。NVIDIA與Akamai共同協作正在將推理能力部署更靠近每一位用户，提供更快速、可擴展性更強的生成式AI服務，釋放新一代智能應用的潛力。」

不過，這條賽道不僅僅只有Akamai。谷歌、微軟、亞馬遜等傳統雲巨頭憑藉其強大的技術實力和龐大的用户基礎，率先在邊緣計算領域展開佈局。國內廠商同樣不甘示弱，在邊緣計算領域加速跑馬圈地，形成了各具特色的技術路徑與應用佈局。華為憑藉在通信技術與硬件設備領域的深厚積累，推出了 「華為雲邊緣計算解決方案」，阿里則依託其在電商生態與雲計算領域的優勢，將邊緣計算與業務場景緊密結合。

而在李文濤看來，Akamai在多年前就已開始在全球部署分佈式邊緣節點。截至目前，我們已經構建了一個覆蓋廣泛、技術成熟的全球化平臺，擁有超過4200個邊緣節點，基礎設施層已完全就緒。與此同時，我們持續優化平臺的網絡能力，通過跨國骨干網與城域網的深度融合，全面打通了從互聯網核心到邊緣、邊緣之間乃至最終用户的連接路徑，現已形成一個高度協同的全球化邊緣智能平臺。

「這一次通過推出Akamai Inference Cloud，我們可以幫助這些企業在海外能更快地部署其AI推理相關的服務，提升海外市場的競爭力。」李文濤補充道，「我們也希望針對中國企業‘出海’的目標市場和一些常見的，像技術服務、合規性相關的一些痛點，去加強對中國客户的這樣一些支持。」

（編輯：張靖超 審覈：李正豪 校對：翟軍）