人工智能支出正在發生變化--博通、Marvell有望獲勝

人工智能數據中心正在悄然進入一個新階段，它可能會重塑哪些公司從下一波支出中受益最多。Scale AI數據科學家、Meta Platforms Inc（納斯達克股票代碼：META）前高級數據科學家Sri Kanajan表示，他參加了摩根大通主辦的電話會議，旨在分析人工智能基礎設施的發展方式以及資金的實際去向。

卡納詹表示，儘管人們對怪物前沿模型給予了所有關注，但真正的轉變正在其他地方發生：計算資本支出從訓練到推理的速度比預期要快。蒸餾、量化、思想鏈和多步優化等技術正在使推理更便宜、更高效，而訓練周期則顯示出回報遞減。

Kanajan預計，到2027年，推理將佔據增量計算支出的大部分份額，2025-2026年已經朝着這個方向傾斜。

實用的外賣？公司不再想要最大的型號--他們想要最便宜的型號來完成工作。

另請閲讀：軟銀將Nvidia換成OpenAI -硬件遊戲完成了嗎？

這種轉變也重塑了誰獲勝。

Kanajan指出，Broadcom Inc（納斯達克股票代碼：AVGO）是主要受益者，這要歸功於其在自定義ASIC方面的工作，為Alphabet Inc（納斯達克股票代碼：GOOGL）（納斯達克股票代碼：GOOG）Google（TPUs）、Amazon.com Inc的（納斯達克股票代碼：AMZN）（Inferentia）和Meta ' s（MTIA）提供推理支持。在一個更小、更便宜、更高效的型號很重要的世界里，博通正處於潮流之中。

Marvell Technology Inc（納斯達克股票代碼：MRVL）也受益匪淺，因為推理工作負載嚴重依賴以太網和ASIC，而不是昂貴的、面向培訓的NVLink和InfiniBand結構。隨着人工智能網絡標準化並轉向多源，Marvell的解決方案變得越來越重要。

但贏家不僅僅是籌碼。

Celestica Inc（紐約證券交易所代碼：CLS）處於有利地位，因為行業傾向於白盒、OCP一致的硬件，特別是當運營商尋求可以從多個供應商採購更便宜、標準化的推理架時。

與此同時，Arista Networks Inc（紐約證券交易所代碼：ANET）繼續錨定最高性能的培訓網絡，但Kanajan指出，更廣泛的混合轉向以太網推理將為未來幾年更多的網絡受益者打開大門。

推動這一轉變的另一個因素是：權力。訓練仍然非常耗電--通常比推理高出5- 10倍--而且許多數據中心根本沒有電網容量來充分利用運行大型訓練集羣。與此同時，推理可以在分佈式服務器和邊緣集羣之間更好地擴展。

這種動態使得推理不僅更便宜，而且更容易部署。

人工智能的下一步並不是構建最大的模型。這是爲了讓人工智能更便宜、更快、更容易運行--隨着支出遵循這一方向，博通和Marvell將受益。

閲讀下一步：

照片：YAKOBCHUK V在Shutterstock.com