HBM之后，SK海力士要把「光」焊進內存接口！

8月20日，SK海力士與弗吉尼亞大學等機構的研究團隊在《自然·電子學》雜誌聯合發表論文。

論文探討了用於高性能計算和人工智能的共封裝光學器件（CPO）的開發，指出了關鍵的技術挑戰，概述下一代光互連技術的發展軌跡。

從更廣泛的層面上看，論文提出了一份全面的技術路線圖，說明了內存、先進封裝和光學計算互連（OCI）應如何協同進化，以支持下一代人工智能系統。

更關鍵的是，這也展示了SK海力士如何超越HBM創新，幫助定義系統層面下一代AI基礎設施的架構。

CPO是關鍵

超大規模AI模型不再是在單芯片或服務器上訓練的。

相反，它們通過龐大的網絡組織成機架和艙體。

在這些架構中，整體系統性能不僅取決於處理器、內存和人工智能加速器之間的連接，還取決於數據在機架間的高效傳輸。

計算吞吐量通常每兩年增長三倍，而互連帶寬僅提升約1.4倍，形成了「帶寬牆」

實際上，計算吞吐量每兩年增長三倍，而互連帶寬同期僅增長了1.4倍，使帶寬牆成為日益嚴峻的挑戰。

傳統的基於銅的電氣互連，能夠將數據傳輸到芯片封裝之外並在機架之間傳輸，但隨着傳輸距離的增加，信號損失和功耗迅速增加。

因此，它們越來越被視為下一代AI數據中心的限制因素。

弗吉尼亞大學教授Kyusang Lee指出，即使計算芯片變得更強大，除非芯片間的數據流動跟上節奏，整體系統性能也無法提升。

「用光鏈路替代存在固有物理限制的銅線互連，是實現未來擴展最有前景的途徑。 」

隨着帶寬瓶頸日益成為人工智能基礎設施的根本制約因素，論文也將CPO定位為克服這一挑戰的核心。

SK海力士人工智能基礎設施團隊負責人Seunghoon Hong對此描述稱：「CPO將光收發器（TRx）集成到與處理器相同的封裝中，使芯片能夠使用光而非長距離的電氣互連來交換數據。這從根本上改變了數據在人工智能系統中傳輸的方式，消除了計算擴展的最大障礙之一。」

傳統銅互連在短距離傳輸中仍然是一種經濟高效的解決方案。

然而，隨着傳輸速度的提高和通信距離的增加，它們需要越來越複雜的補償電路，從而導致更高的功耗和更大的數據傳輸延迟。

CPO通過在封裝內集成光引擎，最大限度地縮短了高速電信號的傳輸距離，並使用光鏈路完成剩余的傳輸路徑。

這使得高速通信能夠跨越芯片、機架和模塊進行擴展，同時保持高帶寬密度、卓越的能效和強大的信號完整性，並具有更強的抗電磁干擾能力。

基於此架構，研究人員為下一代人工智能基礎設施設定了明確的技術目標，包括每個節點超過100Tb/s的帶寬、低於1 pJ/bit的能耗以及小於10納秒的芯片間延迟。

論文還提出了一個全面的技術路線圖，概述了從基於2D和2.5D中介層的配置到3D異構堆疊的演進過程，以及商業部署必須解決的關鍵技術挑戰。

將光互連擴展到內存

從長遠來看，CPO的發展預計將光互連延伸至內存接口。

超越傳統封裝的物理限制，所提議的光學中心架構利用光子中介器直接連接內存和處理器，最大化系統中數據傳輸的效率。

通過這種架構，多個AI加速器可以共享一個龐大的內存池，這不僅實現了更靈活的系統級數據傳輸，也讓AI基礎設施隨着模型不斷增長而更高效地擴展。

李教授表示，光互連很可能成為未來人工智能基礎設施的基礎連接技術。

這項技術已經超越了實驗室，進入了商業化的早期階段。從集成低功耗光子器件到開發相干協議以及提升系統可靠性，仍面臨重大挑戰。

然而，關鍵在於將存儲設備和控制器、光子元件和封裝作為一個整體系統共同設計。這正是與SK海力士合作尤為重要的地方。

SK海力士為什麼要參與定義CPO

目前，SK海力士已經通過HBM進入GPU和AI加速器的核心封裝。

SK海力士親自下場定義CPO，本質上是一場「去商品化」的生存突圍——當HBM紅利觸頂，它必須從「賣內存」轉型為「AI系統架構師」。

過去幾年，HBM靠TSV堆疊解決了封裝內的內存牆，但當AI集群擴展到萬卡規模，瓶頸已外溢到機架之間。

算力每2年漲3倍，互連帶寬卻只漲1.4倍，銅線在長距離下的損耗讓昂貴的GPU陷入「空轉等數據」的窘境。

如果系統級搬運問題不解決，HBM堆得再高也失去意義，SK海力士必須主動接住這外溢的瓶頸。

更關鍵的是，當前CPO敍事里缺了「內存側」這一角。

英偉達、博通從交換芯片向下打，臺積電做硅光代工，都把內存當成被動連接的終點。

海力士在拋出以光為中心的架構，首次把光互連延伸到內存接口，用光子中介層打通XPU池與內存池，讓多加速器共享遠超單封裝上限的內存資源。

這一視角只有內存廠能定義，它讓海力士拿到了系統架構桌的入場券，不再被動適配別人定好的接口。

正如Seunghoon Hong所言，公司正從組件供應商演變為「系統級co-design夥伴」。

在CPO尚未定標的當下，這篇頂刊論文就是海力士搶先卡位生態、鎖定下一代AI基礎設施話語權的關鍵落子。