內存漲價倒逼技術「革命」：內存優化技術將成為AI下一個盈利勝負手？

財聯社8月20日訊（編輯 李瑩）伴隨AI大模型迭代發展，行業算力與內存需求激增，內存芯片採購成本大幅攀升。業內指出，為控制開支，各大科技巨頭正通過軟件與系統優化，降低AI數據處理過程中的內存佔用以實現降本。

據媒體近日報道，谷歌、英偉達、微軟等頭部科技企業接連推出數據壓縮、內存負載分流等技術，以此應對AI業務帶來的內存壓力。

多種技術

谷歌研究院於今年三月推出的TurboQuant算法是代表性技術。該技術將AI推理過程中產生的鍵值（KV）緩存壓縮至3-4比特，降低DRAM的計算壓力。

可大致理解為藉助特殊量化算法，用更小空間存放AI推理臨時數據，不用改動原有模型即可減少內存消耗。

業內指出，在無需對AI模型重新訓練的前提下，相較現有方案，其最高可將內存使用量降至原有水平的六分之一。

英偉達於3月正式公佈上下文記憶存儲平臺（CMX）平臺方案，通過增設獨立存儲層減輕內存壓力。

業內指出，其依託數據處理單元（DPU）搭建共享CMX平臺，將原本集中於高帶寬內存（HBM）中的計算數據進行分流，此舉旨在避免HBM過載，同時提升能效。

微軟近期披露了IndexMem技術，該技術會在推理階段篩選優先級相對較低的數據並對其壓縮。

據稱學術界也推出EVICPRESS系統作為主流備選方案，該系統將鍵值緩存分散存儲至HBM、普通DRAM、固態硬盤（SSD）等多層存儲介質，再依據上下文重要性對數據執行壓縮或刪除操作。

可以理解為把AI臨時緩存分流到快慢不同的存儲設備，優先保障關鍵數據，以此緩解HBM的壓力。

上述技術均於今年上半年陸續公佈，目前尚無消息表明已實現大規模商業化落地。

成本壓力倒逼技術優化

內存價格持續上升，促使大型科技企業着手削減內存消耗。

摩根士丹利最新預測顯示，2026年第三季度DDR4等成熟DRAM價格預計將環比大漲50%，第四季度將進一步上漲10%。

該機構表示，成熟的DRAM芯片的供應緊張局面，即將進一步惡化。

據韓國券商iM證券測算，今年全球前十五大科技巨頭的資本開支總預算中，存儲芯片採購佔比達到37%，較去年15%的佔比高出2.5倍左右。

有媒體指出，內存成本上漲也對大型科技企業的自由現金流形成拖累。

谷歌母公司Alphabet，受AI基礎設施投入影響，今年第二季度錄得史上首次負自由現金流。為應對該局面，Alphabet本月初發行約250億美元公司債完成融資。

英偉達同樣於6月發行至少200億美元公司債，這是其五年以來首次發行債券，用於覆蓋基礎設施建設開支。

一位業內人士表示：「大型科技企業已經走到僅靠經營活動產生的現金不足以覆蓋AI基礎設施投入的階段。能夠提升有限芯片資源利用效率的內存優化技術，未來將成為決定企業盈利水平的關鍵變量。」