繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

存儲大廠,開卷CXL

2024-03-07 10:37

HBM市場有多火?

根據Yole Group的最新分析報告,由於人工智能服務器的需求超過了其他應用,HBM 在整個 DRAM出貨量中所佔的份額預計將從 2023 年的約 2% 上升到 2029 年的 6%,由於 HBM價格遠高於 DDR5,就收入而言,其份額預計將從 2024 年的 140 億美元攀升至 2029 年的 380 億美元——而此前該份額已從 2023 年的約 55 億美元逐年飆升了 150% 以上。

Yole Group表示,內存供應商已經增加了 HBM 晶圓產量,預估產量從 2022 年的每月 44,000 片晶圓 (WPM) 增加到 2023 年的 74,000 WPM,並可能在 2024 年增至 151,000 WPM。

在HBM這一蓬勃發展的市場中,雖然只有三個玩家,但競爭之激烈,超出了許多人的想象。簡而言之,旱的旱死澇的澇死,排行*的海力士在技術和市場上遙遙*,拿走了最多的利潤,排名第二的三星正在積極發起進攻,又拿走了一部分,至於第三的美光,由於技術路線的判斷失誤,市場份額較小,目前還處於一個追趕狀態,短期內恐怕很難貢獻大額利潤。

而最新的新聞也從側面證明了這種差距。SK海力士在2月確認,自己在過去幾個月的HBM銷量創下了新紀錄,同時帶動第四季度實現盈利,並預測產業即將復甦,SK海力士副社長金起台(Kim Ki-tae)指出,生成式AI服務日益多樣並持續發展,作為AI存儲解決方案的HBM需求也出現爆炸性成長。

更重要的是,他提到今年海力士旗下HBM已經全部售罄,雖然2024年纔剛開始,但公司爲了保持市場*地位,已開始為2025年預作準備。‘

2024年剛開始,SK海力士就已經在考慮2025年的HBM市場了,隔壁三星和美光所揹負的壓力也是巨大,在追趕技術和市場的同時,他們在思考,能否繞開HBM這項技術,從另一個方向去搶佔AI市場呢?

此時,CXL(Compute Express Link)再度進入到了內存廠商的視線當中。

AI存儲新方向?

據報道,爲了增強在AI存儲芯片領域的競爭力,三星計劃在下個月於硅谷舉行的MemCon 2024全球半導體會議上展示其對被稱為HBM下一代技術的CXL DRAM的技術和願景。

在 3 月 26 日至 27 日舉行的為期兩天的活動中,三星執行副總裁韓鎮滿 (Han Jin-man) 將致開幕詞。此外,該公司執行副總裁將在題為「在 AI 時代引領 HBM 和 CXL 創新,實現高內存帶寬和高容量實現」的主題演講中分享三星的 CXL 技術和願景。

CXL是何方神聖,能讓三星如此重視,將它視作HBM的替代呢?

先來簡單介紹下這項技術的來龍去脈吧。CXL (Compute Express Link) 技術是一種高速、大容量中央處理器(CPU)到設備以及 CPU 到內存連接的開放標準,專為高性能數據中心計算機而設計。其建立在串行 PCI Express(PCIe)物理和電氣接口的基礎上,包括基於 PCIe 的塊輸入/輸出協議(CXL.io)以及用於訪問系統內存(CXL.cache)和設備內存(CXL.mem)的新高速緩存一致性協議。串行通信和池功能使 CXL 內存在實現高存儲容量時能夠克服常見DIMM內存的性能和插槽封裝限制。它最初由英特爾、AMD和其他公司聯合推出,並得到了包括谷歌、微軟等公司在內的大量支持。

CXL技術的背景可以追溯到PCIe (Peripheral Component Interconnect Express) 技術,PCIe是用於連接計算機內部組件的一種標準接口技術。PCIe設備可以發起一個DMA來訪問內存,只要知道目標物理地址即可。在CXL之前就有以IBM牽頭的OpenCAPI,ARM為代表支持的CCIX,AMD等支持的GenZ和Nvidia自行提出的Nvlink等等多種協議。雖然PCIe已經有了很多改進,但其難以滿足現代計算機處理器和加速器之間的高帶寬、低延迟通信需求。於是,CXL技術應運而生。

2019年3月11日,基於PCIe 5.0的CXL 1.0規範發佈,其允許主機 CPU使用緩存一致性協議訪問加速器設備上的共享內存,改進后的CXL 1.1規範則於 2019 年 6 月發佈。

2020年11月10日,CXL 2.0規範發佈。新版本增加了對 CXL 交換的支持,以允許將多個 CXL 1.x 和 2.0 設備連接到 CXL 2.0 主機處理器,同時將每個設備匯集到多個主機處理器,採用分佈式共享內存和分解存儲配置,此外它還實現了設備完整性和數據加密,不過,與 CXL 1.x 相比,帶寬沒有增加,因為 CXL 2.0 仍然使用 PCIe 5.0 PHY。

2022年8月2日,CXL 3.0規範發佈,其基於PCIe 6.0物理接口和雙倍帶寬的PAM-4編碼;新功能包括具有多級交換和每個端口多種設備類型的結構功能,以及增強的點對點 DMA 和內存共享一致。

2023年11月14日,CXL 3.1規範發佈,新規範對橫向擴展 CXL 進行了額外的結構改進、新的可信執行環境 enhancements 以及對內存擴展器的改進。

從2019年到2023年,CXL經歷了高速的發展,其應用涉及服務器端,以及存儲產品與解決方案端這兩大層面。在過去2年時間里,實際上已經有許多廠商發表CXL相關元件、產品,以及成套解決方案,但有個現實問題制約影響了CXL的發展:由於英特爾、AMD這兩家處理器廠商的拖延,導致服務器端迟迟未能實際支持CXL協議,以致無法形成完整CXL應用環境。

直到2022年底到2023年初,終於迎來轉機,伴隨着AMD發佈第四代EPYC(代號Genoa),盒英特爾發佈第四代Xeon Scalable(代號Sapphire Rapids),新款處理器平臺上線終於將CXL帶到服務器端,補上了CXL應用環境缺失的環節。

經過數年的發展,目前CXL的生態已經相當完整與豐富。在元件層級的芯片供應商與設計商,有Astera Labs、Cadence、 Marvell、Microchip、Rambus、Synopsys、Montage Technology、Mobiveil、 SmartDV、Xconn等,它們發佈了對應的CXL控制器(Controller)、定時器(Retimers )、交換器(Switch)產品。

而系統層級,目前有三星、SK Hynix、美光,Astera Labs,以及台 灣的世邁科技(SMART Modular Technologies),推出擴展存儲類型的CXL產品。另外,還有Elastics.cloud、IntelliProp、UnifabriX、SK hynix、三星/ H3 Platform、Panmnesia,發佈或展示了存儲池類型的CXL解決方案。

其中,三星作為CXL聯盟的董事,在推廣CXL上可謂是不遺余力。

2021年5月11日,三星宣佈推出了業界*支持新的 Compute Express Link (CXL) 互連標準的內存模塊(基於128 GB DDR5),其表示,這款基於 CXL 的模塊與三星的DDR5技術集成,將使服務器系統能夠顯着擴展內存容量和帶寬,從而加速數據中心的人工智能 (AI) 和高性能計算 (HPC) 工作負載。

與內存通道有限的傳統 DDR 內存不同,三星支持 CXL 的 DDR5 模塊可以將內存容量擴展到 TB 級,同時大幅減少內存緩存導致的系統延迟。除了CXL硬件創新之外,三星還整合了多種控制器和軟件技術,如內存映射、接口轉換和錯誤管理,這將使CPU或GPU能夠識別基於CXL的內存並將其用作主內存。

而在2022年5月10日,三星又發佈了CXL 內存模塊的512 GB 版本,新款 CXL DRAM 採用專用集成電路 (ASIC) CXL 控制器構建,是*配備 512GB DDR5 DRAM 的產品,與上一代128GB版本相比,內存容量增加了四倍,系統延迟減少了五分之一。

隨后,三星還推出了其開源可擴展內存開發套件 (SMDK) 的更新版本。該工具包是一個綜合軟件包,允許CXL內存擴展器在異構內存系統中無縫工作——使系統開發人員能夠將CXL內存整合到運行人工智能、大數據和雲應用程序的各種IT系統中,而無需修改現有應用程序環境。

2023年5月12日,三星宣佈開發出業界*支持CXL 2.0 的 128 GB DRAM,新的CXL DRAM支持PCle 5.0接口(x8通道)並提供高達每秒35GB的帶寬,其表示,與英特爾的密切合作,最終在英特爾至強平臺上實現了這一里程碑式的進步。

值得注意的是,三星所推出的CXL 2.0 DRAM模塊,其中搭載了來自中國瀾起科技的控制器芯片,瀾起科技早在2022年5月就發佈全球*CXL內存擴展控制器芯片(MXC),2023年8月,瀾起科技是全球首家進入CXL合規供應商清單(CXL Integrators List)的CXL內存擴展芯片廠家。

2023年12月26日,三星宣佈針對開源軟件提供商Red Hat的Enterprise Linux 9.3(即 RHEL 9.3)優化了 CXL 內存,並在Red Hat KVM 和 Podman 環境中驗證了內存識別、讀寫操作。其表示,這將使數據中心客户能夠使用三星的 CXL 內存,而無需對其現有硬件進行額外調整。

三星在CXL上的持續不斷的投入,讓它成爲了目前CXL內存廠商中的領頭羊。

AI的寵兒

三星如此看重CXL,除了在下一代先進標準上佔據主動權的心思外,CXL在人工智能上的優勢也是它全力以赴的重要原因。

近年來,隨着數據吞吐量的快速增長,現有計算系統的極限已不堪重負,人工智能數據吞吐量每年增長十倍,而現有計算系統的內存容量不足以處理急劇增長的數據量,HBM解決了帶寬問題,但卻無法同時解決容量擴展的問題。

目前,一箇中央處理器(CPU)最多可容納 16 塊 DRAM(最多 8 TB),這個數字遠遠小於處理人工智能和機器學習中使用的海量數據存儲所需的容量。隨着人工智能時代的日益臨近,對支持快速接口和易擴展性的內存平臺的需求變得越來越明顯,而基於CXL的新型 DRAM 模塊可能是未來人工智能時代中前景最為廣闊的內存解決方案之一。

與傳統接口相比,CXL的DRAM模塊*的優勢,就是所謂的可擴展性,而其他方面的優勢,同樣不容小覷。

首先是強大的內存擴展能力,與固態硬盤(SSD)這種外置存儲設備類似,CXL 內存擴展器安裝在插入固態硬盤的位置時,可以擴展 DRAM 容量。換句話説,只需改進接口,就能擴大 IT 系統的 DRAM 容量,而無需修改或完全改變現有的服務器結構。

而后是簡化數據處理,內存擴展器的一個主要優勢是高效的數據處理。通過擴展更高的帶寬,它可以讓不同的設備共享內存,更有效地利用它們的資源。它們可以通過共享公用內存區域,像使用主內存一樣使用加速器的內存。沒有自己內部內存的設備也可以利用主內存,將其作為自己的內存使用。

最后是加速計算速度,CXL 內存擴展器的一個關鍵功能是*限度地減少因數據吞吐量增加而導致的延迟問題(或延時)。內存擴展器同時利用加速器和 CPU 來提高系統計算速度,支持更流暢、更快速的數據處理。

CXL種種優勢,讓它在人工智能時代來臨之際成爲了新寵兒,雖不及HBM耀眼,但其前景之廣闊,並不遜色於后者多少。

據市場研究公司 Yole Group 10 月 12 日預測,到 2028 年,全球 CXL 市場預計將達到 150 億美元(約合 20.1 萬億韓元)。雖然目前只有不到 10% 的 CPU 與 CXL 標準兼容,但預計到 2027 年,全球所有 CPU 都將兼容 CXL 接口。

而CXL 市場的核心是 DRAM。Yole Group 預計,到 2028 年,120 億美元(即 CXL 市場總收入的 80%)將來自 DRAM,在當今以數據爆炸為特徵的人工智能時代,PCIe等現有計算標準限制了DRAM模塊的簡單安裝,並阻礙了物理可擴展性,CXL 解決了這些挑戰,未來有望驅動DRAM市場新一輪的發展。

有意思的是,SK海力士與美光也看到了CXL的潛力,並已經成爲了CXL聯盟的會員,但它們在這一技術上的進度,與三星相比,還存在着一定的差距。

2022年8月1日,SK海力士開發了*基於 DDR5 DRAM 的 CXL(Compute Express Link)內存樣品,該樣品的外形尺寸為EDSFF(企業和數據中心標準外形尺寸)E3.S,支持PCIe 5.0 x8 Lane,使用DDR5標準DRAM並配備CXL控制器。同年10月,海力士又在OCP 全球峰會上推出了業界*基於 CXL 的計算內存解決方案 (CMS)。

對比三星,海力士在 2023 年 9 月才展示了自己* CXL 2.0 產品,落后三星約四個月。不過海力士自己倒是非常上心,SK海力士總裁在2023年10月還強調了CXL市場的重要性,他説:「我們正在大力投資基於CXL的新興存儲技術的發展,可以起到第二、第三個HBM的作用。」

美光雖然正式進入CXL市場較晚,但在這項技術上的發展也不容小覷,2023年8月,美光在FMS 2023大會上宣佈推出*用於服務器的 CXL 2.0 內存擴展模塊的樣品,該模塊搭載 128 GB 和 256 GB DRAM,並使用 PCIe 5.0 x8 接口連接到 CPU。在新標準支持這方面,美光反而比海力士早了約2個月。

除了三大內存廠外,CXL IP的重要性也愈發凸顯,據HTF MI Research,預計到2029年,CXL IP市場將達到8.923億美元,複合年增長率為37.6%。目前提供CXL IP的公司包括Cadence、Synopsys、Rambus(PLDA) 等;面對廣闊前景,國內廠商也開始涉足這一領域,據悉,問道以芯已推出支持20TB級別內存拓展的CXL2.0 IP。

截至目前,許多業內人士對 CXL 接口的概念還很陌生,雖然內存廠商出於AI的需求快開始踴躍推出樣品並量產,但具體的應用還是較少,遠不如HBM那樣火熱。

寫在最后

就2024初來看,CXL標準落地仍有許多障礙需要克服。三星開發的 CXL 2.0 DRAM 與現有標準相比,可擴展性有限。開發與 GPU、CPU 和 DRAM 兼容的 CXL 交換設備、設計 CXL DRAM 模塊以及快速開發支持軟件等挑戰都是當務之急。

而建立生態系統也同樣重要。CXL領域的知名企業包括與擁有 CXL 3.0 設計資產和集成解決方案的全球半導體公司合作的韓國初創企業Panmesia,以及擁有 CXL DRAM 控制器設計技術的中國的瀾起科技,業內人士指出:"要在 CXL 3.0 中實現理想的可擴展性,僅僅停頓在部分技術開發上是不夠的,必須要有涵蓋整個生態系統的整體技術。"

好消息是,截至目前,CXL內存擴充模組的應用環境已經較為完善,主要的內存廠商均已推出自家的CXL內存擴充模組產品,雖然現在的服務器只能支持CXL 1.1標準,但基本上已經可以連接與運行,等到下一代也就是支持CXL 2.0服務器上線后,就能更好地利用它的優勢,從而實現這一標準的普及。

在2024年年初,我們可以用一句話來形容,就是萬事俱備,CXL只欠應用這場東風了。

當然,關於CXL競爭依舊不可避免,有韓國業內人士表示,「雖然公眾不知道,但三星電子和 SK 海力士都‘全力以赴’確保在 CXL 技術方面取得*地位,就像他們對 HBM 所做的那樣。」

卷完了HBM,內存廠商又瞄上了CXL,一場新的內存戰爭,即將展開。

【本文由投資界合作伙伴微信公眾號:半導體行業觀察授權發佈,本平臺僅提供信息存儲服務。】如有任何疑問,請聯繫(editor@zero2ipo.com.cn)投資界處理。

風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。