HBM被搶瘋了

在人工智能的推動下，存儲漲價已經不是什麼新鮮事了。

據市場調研公司TrendForce於9月29日的數據顯示，通用 DRAM(DDR4 8Gb)的平均現貨價格上月達到 5.868  美元，創下年內最高水平。與第一季度 1 美元的低位相比，這一價格上漲了近五倍，達到近 6 美元。他們進一步指出，主流內存半導體 DDR5 16Gb 的平均現貨價格達到 6.927 美元，較年初的 4.70 美元上漲了 40%  以上。這一價格正迅速逼近半導體熱潮高峰期 2018 年的價格(7.19-8.19 美元)。在這種供應緊張情況下，機構預測今年第四季度多類DRAM產品將繼續漲價。

但隨着昨夜晚間OpenAI宣佈與SK海力士和三星達成合作協議后，這種存儲供應關係可能會進一步緊張。

OpenAI，掃貨HBM

據媒體報道，全球兩大內存芯片製造商三星電子和 SK 海力士已同意加強與 OpenAI 的合作，成為一項 5000 億美元項目（星際之門）的中心。該項目旨在到本世紀末構建下一代人工智能基礎設施。

從此前的報道可以看到OpenAI正在與美國雲計算公司甲骨文（Oracle）以及日本投資公司軟銀（SoftBank）合作開展「星際之門」項目，該項目涉及建設一個大型數據中心。預計到2029年將投資約5000億美元。

衆所周知，數據中心建設需要高性能、高效率的內存來處理海量數據。這需要各種各樣的產品，包括企業級 NAND（eSSD）、服務器 DRAM 和 HBM（高帶寬內存）。尤其是 HBM，由於其帶寬（即內存傳輸路徑）比傳統 DRAM 更高，作為一種高附加值產品備受關注。

因此，三星電子和 SK 海力士等國內主要存儲器公司已獲得中長期銷售增長的額外動力。

三星電子表示，「公司計劃支持正在進行星際之門項目的OpenAI，以便其能夠順利獲得高性能、低功耗的內存」，「我們計劃支持OpenAI， 以便其在採購內存解決方案時不會遇到困難」。

SK海力士解釋道，「我們作為HBM半導體供應合作伙伴參與了星際之門項目 」，「此次簽署內存供應意向書，是因為SK海力士的AI專用內存半導體技術和供應能力在今年上半年被認可為全球第一大DRAM銷售公司。」

於是，關於這個合作的另一個關注點，就落在他們究竟能需要多少HBM？

有報道指出，OpenAI首席執行官Sam Altman在與兩家公司的一次會議上就要求他們每月供應90萬片DRAM晶圓。三星和SK也在各自的新聞稿中明確了這一數量。

三星電子目前的 DRAM 總產能 (CAPA) 估計為每月 60 萬至 65 萬片。SK 海力士的產能約為每月 50 萬片。考慮到這一點，OpenAI 的要求相當於兩家公司的 DRAM 產能總和（這也太可怕了）。

一位半導體行業人士解釋道：「每月90萬片晶圓，相當於SK海力士所有季度HBM的銷量，這是一個很大的數字。」他補充道：「但實際銷量可能會根據我們持續訂購的時間而有所不同。」 SK海力士的HBM月產能估計約為16萬片（以晶圓計）。

預計SK海力士今年第二季度的銷售額將達到22萬億韓元，其中約10萬億韓元將來自HBM。如果每月90萬片全部以HBM形式生產，則每月將產生10萬億韓元的銷售額。然而，考慮到SK海力士目前生產的HBM3E已獲得高利潤訂單，實際銷售額可能會有所下降。

爲了更好地理解 90 萬片 DRAM 晶圓的數量，TechInsights預測，到 2025 年，全球 300 毫米晶圓廠的產能將達到每月 1000 萬片晶圓 (WSPM) 。DRAM 產能（包括商用 DDR5 和 LPDDR4/LPDDR5 以及高端 HBM 和專用 DRAM 類型）在 2024 年佔 22% 的份額（207 萬 WSPM）。分析師預測，2025 年 DRAM 產能可能增長 8.7%，達到約 225 萬 WSPM，這意味着 Stargate 計劃消耗其中的 40%。

面對這個需求，SK海力士計劃建立一個能夠快速響應每月高達90萬片HBM DRAM晶圓需求的生產體系。這一月產量，換算成HBM產品數量，將是目前DRAM晶圓產能的兩倍以上。此外，通過此次合作，SK海力士計劃與OpenAI積極合作，共同實現其確保AI加速器（GPU）安全的戰略。

一位半導體業內人士表示：「據我瞭解，OpenAI 在開發自己的 AI 加速器的同時，也對內存的供需非常關注，例如向美國本土內存公司索要 HBM 樣品。」他還表示，「OpenAI 目前請求的內存量相當於兩家公司產能的總和，這與實際情況相差甚遠。」他還補充道：「從中長期來看，構建 AI 基礎設施需要大量內存，這或許更合適。」

人工智能吞噬了所有內存

在OpenAI的這個合作公佈的同時，樹莓派也同日宣佈——Raspberry Pi 部分設備的成本將上漲兩位數百分比。在該公司首席執行官 Eben Upton 看來，這主要是由「人工智能應用對高帶寬內存 (HBM) 的無限需求」引致存儲供應的而導致的。Upton 今天表示：「目前，內存成本比一年前高出約 120%。」

造成這個結局的一個原因，那就是因為內存帶寬對於人工智能來説非常重要。

分析師Ray Wang 在其分析文章中寫道，在生成式人工智能時代，內存帶寬至關重要，因為模型訓練通常受帶寬而非計算能力限制。Transformer 模型中的注意力機制必須存儲並計算所有 token 之間的關係。內存需求與序列長度呈二次方關係。同樣，由於需要在 Transformer 模型中處理更長的上下文窗口和更大的鍵值緩存（KV 緩存），內存在推理過程中也是一個更大的制約因素。KV 緩存的內存消耗隨 token 大小線性增長。

這時候，擁有高速、功耗和麪積效率的HBM就成功突圍。

每一代 AI 芯片的升級，HBM 的升級都是提升性能（更高帶寬或容量）的關鍵因素。在周期性升級中，NVIDIA GPU 在其同架構的第二代產品中，主要的升級點在於 HBM 容量。HBM 容量從 H100 到 H200、從 B200 到 B300 分別提升了 50%，從 Rubin 到 Rubin Ultra 也提升了 4 倍。

具體表現形式包括：每個 GPU 模塊擁有更多 HBM 堆棧、每個 HBM 模塊擁有更多 DRAM 芯片，或者升級 HBM 版本。HBM4 通過將每個堆棧的通道數從 8 個增加到 16 個，並顯著提高每個引腳的 I/O 速度，實現了更高的帶寬。

鑑於未來 GPU 和 ASIC 中 HBM 容量的增加，HBM 市場預計將快速增長。據 SK 海力士預測，HBM 行業在 2024 年至 2028 年期間的複合年增長率將達到 50%。對於 DRAM 生產商而言，HBM 已被證明比傳統 DRAM 更不受周期性影響。雖然未來 HBM 的產量可能仍會波動，但 HBM 的合約價格通常提前一年商定。這比短期合約甚至 DRAM 的現貨價格更有利。

作為HBM供應商的龍頭，SK海力無疑是最大的贏家。在今年年初的年度股東大會上，SK 海力士透露，公司2025 年的HBM供應已賣光 ，2026 年的大部分 HBM 內存芯片已售罄。

上個月的財報説明會上，美光首席商務官 Sumit Sadana也指出，該公司2025年的HBM產能已經賣光，公司過去幾個月一直在與客户就 2026 塊 HBM 的供應進行談判，並有信心將全部配額售罄。至於另一家HBM的供應商三星卻暫時沒有看到相關消息。

SK海力士高管估計，今年HBM市場將比2023年增長9倍。除了HBM以外，其他存儲需求也水漲船高。如SK海力士預計，企業級固態硬盤（eSSD）市場同期預計將增長3.5倍。

知名分析機構野村更是在日前的一份報告中指出，在AI的推動下，存儲迎來了超級周期。

野村預計，美國大型科技公司將繼續擴大其人工智能服務器投資，預計 2026 年傳統服務器資本支出將增長約 20-30%。因此，DDR4/DDR5 內存需求預計將增長約 50%，企業級 SSD 需求預計將增加近一倍。與此同時，由於 HDD 供應短缺和 AI 存儲需求激增，NAND 市場也將蓬勃發展，預計 2026 年比特出貨量將同比增長 50% 以上。 NAND 的利潤預計將從當前的盈虧平衡點突破至 30-40%。

來到DRAM方面，野村指出，DRAM 營業利潤率預計將從目前的 40-50% 範圍攀升至 2026 年的近 70%，接近 2017 年超級周期期間的峰值水平。野村強調，HBM 競爭可能會加劇（三星預計將在 2026 年重新加入 NVIDIA 的供應鏈）。然而，預計到 2025 年至 2026 年，混合平均售價仍將保持 15%+ 的年增長率，貢獻 SK 海力士營業利潤的 75% 左右。

摩根士丹利(Morgan Stanley)日前也預測，隨着明年供需失衡的局面即將出現，存儲器將迎來「超級周期」。

據摩根斯坦利所説，領先的AI處理器製造商英偉達（Nvidia）持續吞噬最先進的HBM芯片供應，而隨着其加速器產品贏得更多客户，預計AMD和博通公司也將加大采購力度。Allspring的Tan表示，隨着國產AI芯片越來越多地採用HBM，中國市場需求的不斷增長應該會為HBM芯片帶來額外的「紅利」。

其他產品的存儲供應或受波及？

衆所周知，在所有半導體市場中，內存是最接近純商品的。儘管進一步整合，內存仍然會經歷繁榮與蕭條的周期，因為它是一種需要大量資本支出的成品，而現有企業只要投入更多，就能獲得更多收益。內存很像能源，因為你可以投入更多資本支出，然后增加供應。雖然對數據存在長期需求，但如果供應增加過快，就會導致供應過剩。即使像能源一樣，商品也分為不同的類型。

有分析師曾經做過類比，那就是將 NAND 比作天然氣，將 DRAM 比作原油。在這種情況下，HBM 是全新的 SuperOil+，可以將其視為石油的超集，並且目前需求旺盛。

假設石油和天然氣生產商神奇地發現了一種我們之前提到的名為「SuperOil+」的新型能源。他們可以重新利用併購買他們熟悉的設備來開採這種「SuperOil+」，但要開採出相同數量的「SuperOil+」，需要兩倍的設備。然而，「SuperOil+」的成本是石油的五倍。此外，對「SuperOil+」的需求量巨大，至少在未來幾年內，只要你能開採，就能買到儘可能多的「SuperOil+」。

那麼你會怎麼做？如果你是能源生產商，你可能會把每一美元的資本支出都投入到SuperOil+項目中，因為回報更高，並能減少石油和天然氣支出的資本支出。但在大家轉向這些高毛利的市場時，傳統市場的需求肯定會被擠佔，尤其是在消費和汽車還不振的當下。

有報道指出，由於供應緊張，主要供應商將生產能力分配給利潤更高的服務器 DRAM 和 HBM，PC 內存價格將上漲。據稱，這些供應商主要將先進工藝產能分配給高端服務器 DRAM 和 HBM，這限制了其 PC、移動和消費芯片的產能。

TrendForce 警告稱，總體而言，傳統 DRAM 價格預計將比上一季度上漲 8% 至 13%，如果算上 HBM，漲幅可能高達 13% 至 18%。

預計價格上漲的不僅僅是PC內存。由於供應商減產，用於中低端智能手機的LPDDR4X內存供應正在萎縮。設備製造商爲了避免供應中斷而增加訂單，這加劇了這一問題，這可能會導致第四季度價格上漲超過10%。

TrendForce 還預測用於高端智能手機的 LPDDR5X 的價格將會上漲，儘管該公司表示這種格式目前沒有出現短缺，而是將其歸咎於「供應動態和定價策略」。

圖形內存也將受到影響，對英偉達 RTX 6000 系列的預期將推動價格上漲，尤其是 GDDR7，因為供應商預計會出現供應短缺。與此同時，在上一代 GPU 中仍然廣泛使用的舊款 GDDR6 也面臨供應受限的問題，其價格上漲速度甚至比 GDDR7 更快。

當然，這一切都可能在未來幾個月內發生變化，因為周期性內存市場的需求再次發生變化，製造商會相應地增加或減少特定內存類型的產量。

總而言之，存儲的這波大周期，跟過去有點不同。