夜讀 | 誰能代替英偉達？

來源：遠川科技評論 

作者：葉子凌/何律衡

今年夏天，英偉達創始人黃仁勛專門騰出時間，拜訪了一家名叫戰略與國際研究中心(CSIS）的智庫。在美國，智庫的意見能在很大程度上左右華盛頓的政策走向，深處科技戰前線的黃仁勛自然深知這一點。

黃仁勛上來就是一頓彩虹屁，並明確表達了捐贈的意向。隨后他話鋒一轉，表示有一位小同志嚴重拖累了智庫隊伍的整體水平，建議清除出去。

這位小同志不是別人，正是CSIS高級研究中心主任Gregory C. Allen，也是美國芯片出口管制政策的堅定鼓吹者。

面對美國的打壓，英偉達似乎比中國公司還着急。過去數月，黃仁勛一直在竭盡全力阻止制裁落地。

除去給智庫施壓，黃仁勛還當面警告了華盛頓決策層，認為制裁會造成嚴重代價。與此同時，他還不忘敦促美國半導體行業協會發表譴責聲明，強調進一步限制將損害行業的競爭力[2]。

今年7月，黃仁勛還拉上高通和英特爾去了趟華盛頓，目的也是説服美國政府放松對華限制。

然而，美國依然在10月17日更新了芯片出口管制，中國特供版芯片H800和A800也被列入禁售範圍。更令人驚訝的是，用於遊戲的消費級顯卡RTX 4090也進了名單。

這對英偉達來説無疑是致命一擊，長期以來，中國大陸市場一直佔據其20%以上的收入。10月17日出口管制發佈當天，英偉達股價下跌近5%，AMD和英特爾也跟風跌了1%。

那麼，英偉達是否真的無法替代？中國市場之於英偉達又意味着什麼？

最好的選擇

簡單來説，美國政府在新的出口管制政策中添加了多個新指標，不僅把特供產品H800和A800牢牢卡死，還順便誤傷了消費級顯卡RTX4090，搞得國內黃牛趁機漲了一波價。

為什麼説是「誤傷」？雖然RTX4090和H100都是GPU，但兩者的設計思路截然不同。

比如，RTX4090的頻率強於H100，因為更高的頻率能夠提供更強的圖形渲染能力。而H100的強項則是理論算力、顯存大小和顯存帶寬，這是因為AI推理和訓練都非常考驗數據的吞吐效率，這也是為什麼H100需要昂貴的HBM3內存。

至於玩遊戲，H100甚至都不支持主流遊戲的圖形接口。這也符合英偉達官方的「消費類」和「計算類」歸類。

在一些討論中，RTX 4090由於更低的價格、不差的算力、更低的功耗，一度被認為同樣可以用於高性能計算。

客觀地説——鐵了心也能用。但一般而言，RTX 4090由於顯存和帶寬的限制，最多隻能用作推理芯片。

AI芯片根據部署位置區分，大致上可分為雲端芯片和終端芯片。雲端芯片用於訓練模型，俗稱訓練芯片；終端芯片用於終端設備，根據訓練好的模型對實時數據執行推理任務，俗稱推理芯片。

職責不同，導致對訓練芯片和推理芯片的性能要求也有很大差異：

訓練芯片需要通過海量數據訓練可靠的模型，因此對數據傳輸速率、算力等指標有相當極端的要求。這也是為什麼H100不惜用上昂貴的HBM內存和CoWoS封裝，目的都是爲了數據吞吐效率。

「特供版」的H800和A100，閹割的也是內存帶寬，算力其實沒有變化。

推理芯片一般處理實時任務，對於低延迟的要求更高，而且由於部署在終端，還要考慮功耗、大小、成本等問題。因此，用RTX4090這類消費級顯卡強行訓練，過低的帶寬會帶來「內存牆」的問題。

無論是谷歌的TPU、還是特斯拉的FSD芯片，大部分應用場景都是推理。大部分國產AI芯片，也都是走推理芯片的路子。

而在訓練芯片這個場景下，英偉達的確是目前最好的選擇。

從絕對的算力來講，H100並不是巔峰。但在AI訓練這件事上，一口氣買幾百塊顯卡的科技公司更在意的是另一個指標：單位成本的算力。

這也是為什麼大家寧願加價搶H100，也不願意買「青春版H100」A100：按照H100 SXM版本、A100 80GB SXM版本8月的銷售價格（24000美元、15000美元）計算，每單位算力的成本分別為12.13美元、24.04美元，H100 SXM優勢明顯。

另外，數據中心搭建完成后，還需要考慮電力、運維、故障、后期支持等多方面成本。種種因素疊加，大家還是老老實實地拿起了號碼牌，加入了漫長的H100等待序列中。

比如特斯拉，前腳宣佈給自研的Dojo超級計算機投10億美元，后腳就透露要購買10000張H100用於驅動AI負載。

簡而言之，在推理場景下，英偉達尚有替代方案；但在訓練芯片里，英偉達是事實上的唯一方案。

原因在於，英偉達真正的護城河，是軟件。

隱形的護城河

今年10月10日，AMD宣佈打算收購一家名為Nod.ai的AI開源軟件初創公司，以補足其軟件短板。

雖然貴為GPU行業的世界第二，但長期以來AMD的市場份額只能和英偉達二八開，在以AI為代表的高性能計算市場，存在感就幾乎為0。

事實上，AMD的AI芯片理論參數並不差，與H100對標的MI250X，雖然在FP32/FP64精度下的算力略遜於H100，但考慮到10000美元的售價，MI250X的「單位成本算力」其實更高，理論上可以成為比H100更好的選擇。

但實際上，不管是大公司還是創業公司，大家還是更喜歡H100。原因就在軟件，也就是大名鼎鼎的CUDA。

衆所周知，GPU最初的目的是為遊戲和視頻進行圖像渲染。黃仁勛是幾乎所有奧斯卡「最佳視覺效果」提名影片背后的男人。2007年，英偉達還曾獲得一個分量十足的獎項：艾美獎，以表彰其對娛樂行業作出的重大貢獻。

首先發現GPU被大材小用的是華爾街精英，在渲染圖像時所用到的並行計算能力，正符合金融場景里高頻交易的需求。

不過，在用GPU跑交易之前，得先編寫大量的底層語言代碼，這顯然勸退了一大批交易員。

爲了降低GPU的編程門檻，David Kirk説服黃仁勛在2006年推出CUDA，CUDA的全稱是Compute Unified Device Architecture，即計算統一設備架構，其作用也直白地寫在名字里了：為GPU編程提供統一架構，使之滿足不同應用場景下的算力需求。

伴隨CUDA推出的是一本編程指南，里面詳述了實現性能的具體方法，並且隨着產品的升級迭代不斷更新，至今已更新到12.3版。

這樣的説明書在今天看來是基礎必備，在當時與競爭對手的差距也不過兩年，但先發者的一步領先卻足以定義行業。

CUDA推出后，英偉達迅速打開了新業務的大門，在航空航天、天文學、氣象學領域里都有GPU的身影。

2009年，蘋果的開發團隊推出OpenCL，支持者包括AMD和英特爾，希望能憑藉着通用性在CUDA身上分一杯羹。但作為追趕者，OpenCL平臺上的開發者天然地更少，很容易陷入惡性循環。

而CUDA則在「使用人數越多，CUDA平臺就越好用，新開發者就越傾向於選擇CUDA」的良性循環中，加固了生態優勢。

深度學習爆發后，許多學習框架要麼是在CUDA發佈之后纔會支持OpenCL，要麼壓根不支持OpenCL，使得OpenCL始終無法觸及更高附加值的業務[5]。

2016年，AMD自家軟件ROCm姍姍來迟，在投入不如英偉達的情況下，服務更新上滯后於CUDA，因此也難與CUDA抗衡。

芯片的架構和製程可以靠一兩代產品迅速拉近差距，但一個成熟的生態系統卻很難被破壞。CUDA生態遍佈各行各業，從企業蔓延到教育系統。吳恩達曾評價：

CUDA出現之前，全球能用GPU編程的可能不超過100人。而目前全球的CUDA開發者已經達到幾百萬。

從某種程度上來説，CUDA已成為行業的事實標準。它的另一個特點是：只能和英偉達的硬件適配。

因此，任何開發者想要脱離CUDA生態，都不得不考慮標新立異的成本和風險。

不過對英偉達來説，繁榮的CUDA生態既是一座令競爭對手望而生畏的高山，卻也是自己的軟肋所在。

英偉達在擔心什麼？

黃仁勛之所以如此着急，道理也簡單：如果鐵了心換掉英偉達，也不是不可以。

英偉達固然是人工智能得以走上時代舞臺中央最大的功臣之一，但在當下，它卻存在兩個不容忽視的問題：

一是成本過高。以「地表最強GPU」H100為例，首發價為3.3萬美金，如今二手市場價格更一度上漲至5萬美金左右。

科技公司如果要搭建擁有一萬塊H100的數據中心，即便不考慮其他成本和后續開支，光GPU採購費就需要數億美金——即便對《財富》世界500強排行榜上的科技公司來説，這也不是筆小錢，更遑論初創企業。

二是通用芯片難以實現差異化。堆疊算力不是簡單往車里加汽油，需要考慮軟件適配性、自身業務需求等一系列問題。更何況，如果只用英偉達的GPU，意味着只有當英偉達出新產品，自家產品才能跟着升級，徹底將戰略主動權交給了黃總。

這就是英偉達面臨的一個尷尬情景：自己的客户都是自己的對手。

早在2014年，谷歌已開始了自研芯片的計劃，其最新成果就是TPUv5系列。對參數量小於200B的大模型來説，TPUv5在推理時更具性價比，相較於英偉達GPU有着肉眼可見的成本優勢[4]。

而在重要的中國市場，美國的出口管制實際上在給黃總幫倒忙。

如前文所述，英偉達的核心壁壘在CUDA組成的繁榮生態——它就像一個無數開發者組成的「圈子」，后來者想要進入AI產業，就得融入這個圈子。如果把一部分開發者攔在圈子外面，那麼他們最有可能做什麼呢：

組建一個自己的圈子。

事實上，英偉達非常清楚這一點，其法律顧問Tim Teter就曾這樣警告華盛頓：你冒的風險是刺激了一個由競爭對手主導的生態系統的發展，這可能會對美國在半導體、先進技術和人工智能領域的領導地位產生非常負面的影響。

如果「被踢出圈子」的概率只有1%，那大家只會把它當作一個黑天鵝事件；但一旦這個概率上升到哪怕只有10%，就一定會有人行動起來。這也是為什麼英偉達對美國的出口管制如此警覺——中國科技公司會鐵下心來掀桌子，開始搭建自己的生態。

英偉達並非是唯一有着類似境遇的公司，英特爾與高通也一同參與到了施壓美國政府的行動當中。它們的一部分競爭力同樣來源於生態的構建，英偉達的境遇讓這兩家芯片巨頭深感脣亡齒寒。

要知道，上一輪針對英偉達的出口管制發佈后，英特爾專門把Gaudi 2芯片的發佈會放在北京開，一口一個「幫助構建中國人工智能的未來」、「攜手中國產業生態」，趁機挖黃總牆角的心思昭然若揭。

結果新版出口管制出爐，AMD的MI250X、MI300，英特爾的Gaudi 2、Gaudi 3和黃總一起上了名單。這也難怪有小道消息説，英特爾高層和美國高級官員交涉時[2]，一度急得指着對方鼻子問「到底懂不懂半導體？」

儘管相比美國，國內的芯片產業整體的差距並不小，但長期的封鎖，一定會加速中國芯片產業的發展。一旦這個過程開始，也許就不可逆了。

這就是英偉達害怕的、美國眾多芯片公司所擔心的事情，正如黃仁勛所説[1]：There is no other China，there is only one China。

風險提示: 投資涉及風險，證券價格可升亦可跌，更可變得毫無價值。投資未必一定能夠賺取利潤，反而可能會招致損失。過往業績並不代表將來的表現。在作出任何投資決定之前，投資者須評估本身的財政狀況、投資目標、經驗、承受風險的能力及瞭解有關產品之性質及風險。個別投資產品的性質及風險詳情，請細閲相關銷售文件，以瞭解更多資料。倘有任何疑問，應徵詢獨立的專業意見。