Marvell，背刺博通？

這則消息的內容很簡單，就是谷歌計劃逐步放棄博通定製的TPU，最早在 2027 年轉向Marvell，由它來定製新的AI芯片。

要知道，博通和Marvell在定製芯片領域可是老對手了，而谷歌又是對定製芯片需求最大的廠商之一，如果它選擇其中一位作為長期合作伙伴，那麼此消彼長之下，行業老大和第二就可能會出現互換位置的情況。

更重要的是，伴隨着巨頭模仿谷歌做自研芯片，定製芯片市場迅速膨脹，連英偉達都動了心，根據研究公司 650 Group 的估計，數據中心定製芯片市場今年將增長至 100 億美元，到 2025 年將翻一番。Needham 分析師 Charles Shi 表示，到 2023 年，更廣泛的定製芯片市場價值約為 300 億美元，約佔全球芯片年銷售額的 5%。

博通之前舉辦了半導體解決方案的投資者日活動，對自己的半導體業務做了一個詳盡的介紹，尤其是對博通的定製XPU，半導體解決方案集團總裁 Charlie Kawwas強調，博通所定製的XPU在HBM上比英偉達B200多出了整整50%，博通可以比其他任何人做得更好、更快、更省電。

而在半個多月后，Marvell也按捺不住，舉辦了一場 "人工智能時代的加速基礎設施 "活動，在活動里着重提到了數據中心的未來預期和增長動力，其中當然也包括了定製芯片。

那麼，Marvell對於定製芯片有多少底氣呢？

Marvell的AI佈局

Marvell的ASIC業務，來自於它在2019年5月花了7.4億美元從格芯那里收購的Avera，在收購完一年后，Marvell就宣佈了提供定製 ASIC SoC 服務，對於客户來説，通過這項服務，不僅能夠利用自己現有的IP和定製位，還同時獲得了Marvell豐富的IP庫，同時大幅縮短研發芯片時間，有百利而無一害

Marvell表示，客户可以使用標準的Marvell芯片，然后添加定製接口、加速器或適合所需工作負載的定製算法，定製工作通常需要 12 到 18 個月的周轉時間，一旦定製ASIC芯片完成組合、模擬和驗證，Marvell將充當客户與工廠之間的聯絡人，以確保按時交付。如果客户選擇在任何產品中使用與ARM兼容的CPU內核，Marvell還將負責許可和版税交易。

就當時而言，這項服務並沒有掀起太大的波瀾，即使是博通已經連續為谷歌定製數代TPU，獲得的營收與利潤依舊保持着一個較低的水平，並不足以撬動更大的市場。

不過，最大的雲服務廠商——亞馬遜，卻很樂意為這項服務買單。早在 2020 年12月，亞馬遜推出了一款全新的機器學習定製訓練芯片 Trainium，與標準的 AWS GPU 實例相比，AWS 承諾可帶來 30% 的吞吐量提升、以及降低 45% 的單次引用成本，隨后亞馬遜又在2023年11月推出了升級版Trainium 2，這兩代芯片推出的最大功臣，就是 Marvell的定製部門。

2023年6月，自由時報報道稱，Marvell 獲得亞馬遜 AI 訂單。通過此次合作，Marvell 將協助亞馬遜第二代 AI 芯片（即Trainium 2）的設計，預計2023年下半年啟動委託設計，2024年進入量產。

在Marvell官網上，你可以輕松找到它在AWS背后發揮的作用，作為戰略供應商，Marvell不僅提供了雲優化芯片，幫助滿足AWS客户的基礎設施需求，還提供了電子光學、網絡、安全、存儲和定製設計等一系列解決方案。

在Marvell發佈的截止至2024年2月3日的第四財季與年度財務報告中，該季度營業收入為14.27億美元，超出此前預期。Marvell的董事長兼首席執行官馬特·墨菲先生強調：「Marvell第四季度營收超過了預期，而人工智能帶來的收入增長更是驚人，Marvell的數據中心終端市場的收入環比增幅達到了38%，同比增長則高達54%。」

趕上了人工智能浪潮的Marvell，實質上成爲了繼英偉達和博通后的第三大芯片贏家。

Marvell的AI業務現狀

在最新的人工智能活動上，Marvell也是第一時間宣佈了關於定製芯片超大規模客户的重要消息，據Needham 分析師 Quinn Bolton稱，除了已經為某位客户（可能是亞馬遜）推出的人工智能培訓加速器之外，Marvell 還計劃在 2025 年為另一位客户（可能是谷歌）推出人工智能推理加速器。

Marvell提供了一部分關於客户的細節：第一位客户正在將 Marvell 芯片用於其 AI 集羣和系統，兩家公司正在共同開發新的定製 AI 接口加速器，而Marvell 還在為其第二個超大規模客户設計 Arm計算機處理單元 (CPU)，以部署在其雲平臺和 AI 基礎設施中。

首席執行官 Matt Murphy 還宣佈了一個重磅消息，Marvell已經獲得了第三個 AI 超大規模客户（可能是微軟），兩家公司正在合作設計一款 AI 加速器，預計將於 2026 年投入生產，該客户所貢獻的收入可能比與前兩位客户的總和還要大。他也指出，Marvell 與 AI 超大規模廠商的關係使其「相對於競爭對手（即博通）具有顯着優勢」。

比較有意思的是，Marvell在介紹完定製芯片后，還分析了數據中心的市場與機遇。Marvell 認為，傳統通用計算將以 3% 的複合年增長率增長，實際上是根據通貨膨脹調整后的負增長率，而加速計算市場的複合年增長率將高達 32%，由於超大規模企業構建自己的芯片，定製細分市場將以 45% 的複合年增長率增長，並在 2028 年佔據加速計算市場的更大份額。

根據Marvell公佈的數據，預計其明年與人工智能相關的總收入將增加兩倍，在 2025 財年，人工智能收入將超過 15 億美元，佔總收入的 30%，是前一年人工智能所佔份額的三倍，而在與人工智能相關的收入中，交換互聯產品約佔三分之二，定製計算約佔三分之一。

Needham 分析師 Quinn Bolton表示，在互連方面，Marvell通過新市場支持了超過 40 億美元的新數據中心。在交換領域，Marvell的路線圖很有競爭力，與博通的戰斧（Tomahawk）和傑里科（Jericho）路線圖相比，Marvell已經獲得了更多份額。

具體而言，Marvell提到數據中心內部的前端網絡/后端網絡中，其在DSP、驅動器、TIA 方面保持領先，產品率先應用到 8*200G 的 1.6T 光模塊中，且積極構建 AEC DSP 產品生態系統，新增 10 億美元 DSP 潛在市場規模；數據中心之間互聯，在相干 DSP、驅動器、TIA、硅光芯片方面保持領先，目前Marvell產品可以覆蓋 120km，針對更遠距離已經開發出新技術 PCS，使可插拔模塊的覆蓋範圍擴展到 1000 公里，新增 10 億美元潛在市場規模。

Marvell在交換方面的投資推動了交換和某些互連方面的發展。該公司表示，其數據中心交換研發增加了 2.5 倍，由Innovium 衍生的 Teralynx 10 51.2T 產品已開始量產。

在這一領域中，Marvell 正在與博通正面交鋒，其計劃加大 AI 雲交換方面的投資，目前它已在 12.8T交換機芯片產品殺個實現大規模量產，並推出 51.2T 交換芯片，預計將於 2024 年夏季量產。

Marvell還詳細介紹了互連的必要性以及人工智能基礎設施中有多少互連，其中包括機箱內互連以及數據中心、前端和后端網絡，Marvell表示，隨着集羣規模的增加，互連需求的增長速度會更快，較大的集羣需要更多級別的交換，且目前互連代際轉變的速度正在加快， 2023 年作為 AI 元年，AI 在一半的時間內將互聯速度提升一倍，互聯速度由過去的 4 年兩倍變為 2 年兩倍，由 400G 向着 1.6T、3.2T 等更高速發展。

此外，Marvell還提到，AI 大規模集羣帶來更多的光互連需求。ChatGPT 3.0 在 1000XPU 集羣上訓練，對應 2000 個光學互連（XPU：光模塊需求為 1:2）；ChatGPT 4.0 在 2.5 萬XPU 集羣上訓練，對應 7.5 萬個光學互連（XPU：光模塊需求為 1:3），Marvell 預計未來對於更復雜的 AI 大模型，需要 10 萬級甚至百萬級規模的 XPU 集羣。預計 10萬級 XPU 集羣需要五層交換技術，對應 50 萬個光學互連（XPU：光模塊需求為1:5）；預計 100 萬級 XPU 集羣需要十層交換技術，對應 1000 萬個光學互連（XPU：光模塊需求為 1:10）。

Marvell表示，AI 訓練和推理對集羣存在差異化需求，催化新的基礎設施建設。訓練時，集羣大，數量少。推理時，小集羣，但數量多。但這兩者都將驅動大量的光互聯。同時 AI 發展需要更多的電力、更好的製冷、有望推動更多的數據中心建設、對應更多的地點和更多的互聯。AI 集羣的連接距離從不到 2 公里增加到 10-20 公里，因此需要具有相干技術的長距離傳輸特性且與 PAM 連接相似體驗的互連技術。

對此，Marvell 不僅擁有交換機，還擁有龐大的光學產品組合以及 DSP 等，在人工智能時代到來之際，Marvell能夠藉由自己的互連產品拿下更多市場份額。

此外的Marvell還宣佈了 3D SiPho（硅光子）引擎，該技術將 32 個 200G 鏈路置於單個芯片上，並能夠將其集成到不同的應用中。它討論了這些 3D SiPho 引擎在許多用例中的使用，包括明年的可插拔模塊和未來的光學小芯片。

需要注意的是，雖然博通在之前的活動中提到了51.2T 聯合封裝光學交換機，但 Marvell 表示其客户尚未為此做好準備，但它已準備好大部分 IP。它還表示，隨着速度的提高，因為使用了更低成本的 CW 激光器和更少的組件，SiPho 以更低的成本進行擴展變得更加重要，

另外值得一提的是，Marvell首席執行官Matt Murphy還告訴投資者，就目前而言，定製芯片目前的毛利率低於該公司的現成產品，即所謂的「商業」芯片。

「我們總是説定製業務的毛利率會低於商業型產品。但隨着時間的推移，運營利潤率實際上會大致持平。」 Murphy説。

博通曾在3月表示，其定製芯片利潤率將與其公司平均水平持平，這意味着目前Marvell的定製業務還未完全成熟，或是收取的定製費用相較於博通更低一些，隨着谷歌和微軟這樣的超大規模客户加入，Marvell的定製利潤率或許會有一定改善。

寫在最后

對比博通，Marvell似乎更看重自身產品在AI中發揮的作用，説是情有獨鍾也不為過。

其中固然有Marvell在市場中處於一個相對弱勢的地位的原因，但從另一角度來看，Marvell對於新機遇有着更積極的態度，在2023年之前，Marvell還只有亞馬遜一家大客户，而2024年剛開始，Marvell就擁有了四大定製客户中的三家，和行業龍頭博通平齊，這樣的速度讓其他廠商相形見絀。

隨着AI基礎設施與定製需求的膨脹，博通和更積極擁抱AI的Marvell的差距會不會進一步縮小呢？我們拭目以待。