谷歌正與美滿電子洽談合作，研發全新AI推理芯片

　　據兩位直接知情人士透露，谷歌正與美滿電子科技（Marvell）洽談合作，研發兩款全新芯片，旨在更高效地運行人工智能模型。其中一款為內存處理單元，設計用於配合谷歌張量處理單元（TPU）協同工作；另一款則是專為運行 AI 模型打造的全新 TPU 芯片。

　　這些舉措凸顯出，用於支撐智能體等商用產品的 AI 推理芯片需求正急劇攀升。英偉達在 3 月的 GTC 大會上發佈了一款旨在提升推理任務效率的芯片，名為語言處理單元（LPU），該芯片基於英偉達以 200 億美元從初創公司 Groq 獲得授權的技術打造。

　　谷歌此前也曾向美滿電子採購過數據中心芯片，但均為現貨標準產品；而本次洽談旨在開發專為谷歌定製的半導體芯片。這一動向再次表明，谷歌希望擺脫長期以來作為其 TPU 唯一設計合作伙伴的博通，實現合作方多元化。

　　據《信息》（The Information）2023 年報道，谷歌曾考慮將美滿電子替換為博通，作為其數據中心內連接服務器與以太網交換機的網絡接口芯片供應商。

　　一位谷歌員工透露，谷歌原本就計劃研發新型推理芯片，而在英偉達推出 LPU 后，相關工作進一步加速。美滿電子正是 Groq 第一代 LPU 的芯片設計合作伙伴，這使其具備設計推理芯片的成熟經驗。

　　Funda AI 此前曾報道過谷歌與美滿電子就全新 TPU 展開洽談的消息。

　　谷歌此前已向美滿電子採購過 CXL 控制器芯片，據兩位谷歌員工介紹，這類芯片用於管理服務器在數據中心間的內存共享。雙方過往的合作經歷，也讓谷歌對美滿電子與其聯合設計更多新芯片的能力抱有信心。

　　兩位知情人士稱，谷歌全新的內存處理單元將與 TPU 協同工作，根據算力與內存需求與 TPU 分擔 AI 運算任務。雙方計劃最快於明年完成該內存處理單元的設計，隨后交付試產。

　　兩人還補充道，谷歌計劃生產近 200 萬顆內存處理單元，不過由於洽談仍處於初期階段，這一數字可能發生變動。作為對比，摩根士丹利預計谷歌 2027 年將生產約 600 萬顆 TPU。目前尚不清楚全新 TPU 的設計工作何時完成，以及谷歌計劃的量產規模。該內存處理單元可與現有 TPU 兼容使用。

　　谷歌目前的芯片均由臺積電生產，新款芯片將由臺積電還是其他廠商代工仍未可知。

　　多年來，谷歌僅在自有數據中心內部使用 TPU，支撐搜索、YouTube 與 Gemini 模型等業務，並僅向谷歌雲客户開放使用。這一局面在去年被打破，谷歌開始向客户出租 TPU 用於非谷歌數據中心，直接挑戰英偉達在 AI 芯片領域的主導地位。谷歌 TPU 也已贏得 Anthropic、元平臺（Meta）與蘋果等客户的青睞。

　　專用推理芯片的興起，源於 AI 企業陸續推出智能體等更復雜的產品，這類產品所需算力遠超聊天機器人等傳統 AI 應用。

　　不過，並非所有推理任務都具有相同特性。生成回覆的部分環節需要大量算力，而另一些環節則受限於芯片在內存中讀寫數據的速度。針對不同任務使用不同類型的推理芯片，而非僅依靠單一處理器完成所有運算，已成為 AI 企業提升效率、降低成本的關鍵方式。

　　例如，OpenAI 近期達成協議，將向英偉達與 Groq 的競爭對手 Cerebras 採購超過 200 億美元的推理芯片，同時也在使用其他企業的推理芯片。OpenAI 還在與博通聯合研發自研推理芯片。

　　美滿電子主營數據中心所用的標準網絡、存儲與光互聯芯片設計，目前為客户定製芯片的業務規模持續擴大，已成為其增長最快的業務板塊。

　　自 2023 年起，谷歌便試圖擺脫對博通的依賴，主要原因是博通收費高昂。博通會對每一顆量產的 TPU 收取費用，隨着 TPU 需求激增，谷歌向博通支付的費用也水漲船高。

　　去年，谷歌引入臺灣企業聯發科參與 TPU 芯片的設計與生產，但博通仍是谷歌核心的芯片設計合作伙伴。本月早些時候，博通與谷歌簽署新協議，將在 2031 年前為谷歌下一代 AI 數據中心機櫃開發並供應定製化 TPU 與網絡組件，這表明博通在谷歌芯片業務中仍佔據核心地位。