英偉達LPU新品會擠壓HBM市場？黃仁勛早就澄清過這個誤解

財聯社3月5日訊（編輯 史正丞）隨着韓國股市近3天坐上「過山車」，一些揣測也在股價巨震期間敲打着股民們緊繃的神經。

作為背景，上周五美股收盤后有爆料稱，英偉達將在當地時間3月15日舉行的GTC大會上發佈一款專門用於推理計算的新系統，這個新平臺將採用初創公司Groq設計的芯片。

隨着上周末中東戰火重燃，韓國股市周一休市后，周二、周三均遭遇大跌，三星電子、SK海力士均累計跌近20%。除了中東戰火外，市場里似乎也有一些聲音將內存巨頭的大跌歸因於「Groq搶了HBM的飯碗」。

（三星電子、SK海力士周四均強勁反彈，來源：TradingView）

何來憂慮？

作為背景，英偉達去年底豪擲200億美元，獲得芯片初創公司Groq的人才團隊和非獨佔專利授權。這也是英偉達在覈心算力芯片產品上首次大規模引入外部架構。

引發部分三星、海力士股東焦慮的點，正是Groq自研的LPU（語言處理單元）芯片。該芯片的核心特點是在片上集成數百兆SRAM（訪問速度比HBM快約20倍），通過減少或者完全不調用外部存儲，實現超低延迟的token輸出。

隨着英偉達發佈會臨近，「Groq是否利空HBM」又被拿來討論：如果推理芯片路線從HBM堆料轉向片上SRAM，存儲公司的生意不是被搶走了麼？

作為這一猜想的佐證，OpenAI上周五在宣佈獲得英偉達300億美元融資時，就專門強調將從該公司購買大量「專用推理算力」，暗示了這款新型處理器的存在。

黃仁勛也曾表示，將在GTC上發佈「世界前所未見」的全新芯片。市場猜測，如果不是Rubin CPX或下一代Feynman架構的GPU旗艦產品，確有可能是以SRAM為核心的LPU。

兩者真的是替代關係麼？

對於這種説法，韓國科技分析師Jukan周四開盤前引用獨立分析機構KIS的分析稱，認為SRAM推理芯片的出現將減少HBM使用的想法，反映出對存儲器的理解不足。

分析稱，與DRAM相比，SRAM的單元面積大、密度低。相同容量的SRAM需要DRAM 5到10倍的芯片面積，因此也限制了容量的擴展。正因如此，SRAM歷來被用於對延迟要求極低的緩存或片上緩衝區應用，而不是作為存儲大量數據的主存儲器。

因此，與其説取代GPU，這類芯片更多會成為針對特定推理工作的額外選擇，例如需要極低延迟的物理AI邊緣應用（機器人和自動駕駛），而不是取代HBM或DRAM。

事實上，英偉達CEO黃仁勛也在1月CES的分析師問答活動上詳細解釋過這件事。

黃仁勛表示，如果把所有東西都放在SRAM里，那麼當然就不需要HBM內存了。但問題是：能夠放進這些SRAM里的模型規模會小大約100倍。工作負載的形態一直在變化，有時候會遇到MoE模型，還有多模態模型等，因此英偉達需要提供普適性的解決方案。

黃仁勛也指出，對於某些特定工作負載來説，SRAM可能會「快得驚人」，因此在預填充階段和解碼階段可以看到一些好處。