熱門資訊> 正文
2024-10-19 13:28
一. 英偉達GB200概覽
英偉達是全球GPU龍頭廠商,在高端服務器GPU領域,英偉達佔據全球92%市場份額;在PC GPU領域,佔據20%份額。
2024年3月19日,英偉達發佈了新一代AI芯片Blackwell GPU:
(1)B200 GPU擁有2080億個晶體管,可提供高達20petaflops的FP4算力。
(2)GB200是將兩個B200和一個Grace CPU進行配對,再通過NVLink連接在一起。
與H100相比,GB200的性能是其7倍,訓練速度是其4倍,能耗更低。
如果要訓練一個1.8萬億參數的GPT模型,需要8000張Hopper GPU,消耗15兆瓦電力,連續跑90天。
但如果使用Blackwell GPU,只需要2000張,消耗四分之一的電力。
(3)機櫃方面,提供了4種不同的外形尺寸,基於GB200的NVL72機櫃,功率密度約125kW/rack。
二. GB200量產情況
英偉達Blackwell系列是第一個使用臺積電CoWoS-L封裝工藝的芯片,將成為英偉達2024、2025年的重要營收驅動。
由於功率密度和系統設計複雜,CoWoS-L當前良率較低,量產爬坡的挑戰性巨大。
當前臺積電無法向英偉達提供足夠的Blackwell芯片,英偉達已將原定的2024Q3和Q4生產目標延后。
在此期間,Hopper系列正彌補出貨缺口,Blackwell爬坡計劃預計在2024Q4開始。
10月8日,鴻海精密透露,正在墨西哥建設全球最大的英偉達GB200工廠,預計到2025年,產能將達到2萬台。
10月9日,OpenAI在官網宣佈,收到英偉達的首批DGX B200。
英偉達以每年一次的更新節奏,構建覆蓋整個數據中心規模的解決方案,Blackwell Ultra將於2025年發佈,下一代平臺名為Rubin。
三. GB200供應商匯總
(1)代工:臺積電(GPU代工)、工業富聯(服務器代工)。
(2)封測:日月光、Amkor安靠。
(3)HBM存儲:SK海力士、美光科技。
(4)液冷:維諦技術、英業達、英維克。
(5)光模塊:中際旭創、Mellanox、Fabrinet(天孚通信代工)。
(6)銅纜:安費諾。
(7)PCB:勝宏科技(供應算力板)、滬電股份(供應服務器PCB)。
(8)元器件:麥格米特(供應電源等IDC部件)、鉑科新材(供應電感、軟磁粉芯)、揚傑科技(供應功率器件)。
(9)檢測:淳中科技(提供液冷測試平臺、AI檢測平臺、測試板卡 )。
(10)分銷:神州數碼、中電港。
(轉自:伏白的交易筆記)