黄仁勋谈TPU&台积电成功之道

（来源：君实财经）

英伟达黄仁勋：解释为什么TPU不能打败英伟达！

问：Jensen，你之前有一页幻灯片提到，Rubin 上的 token 数量相比 Blackwell 要多出 10 倍。我想问的是，你过往曾展示过 Blackwell 在训练性能上对标 TPU 的对比数据，目前是否有相关模拟测算，可以对比 Rubin 在推理场景下与 TPU 的性能表现？

Jensen：

这一点其实很难直接对比，目前行业里唯一公开可用的基准测试只有 MLPerf。

众所周知，我们主动接受了大量行业基准测试的检验 —— 因为英伟达的产品应用无处不在，也很容易被拿来做基准评测；但除了谷歌自身团队之外，外界几乎没有办法对 TPU 进行有效评测。因此我们并没有可直接对标参照的数据。如果各位手上有相关对标素材，我们很乐意参考，我相信对比结果会非常亮眼。

如果以 MLPerf 为参考依据，这套基准体系是相当严谨的，且主要由谷歌主导制定。它的严苛程度极高，几乎没有厂商能够完整跑完测试，而我们是全球唯一一家每次都能完成测试、并且持续提交成绩的企业。

MLPerf 规则允许厂商参与测试，但如果在看到其他厂商成绩后对自身结果不满意，也可以撤回提交。这是全球唯一具备这种 “包容性” 的测试，我们对此完全接受。我们通常都是首个提交成绩的厂商，行业其他参与者会根据我们的结果，再决定是否提交自身数据。在我看来，不少厂商其实参与了测试，只是部分未能完成，还有部分即便完成了，可能出于其他考量并未提交成绩。这一点本身就很能说明问题 —— 并非没有企业参与这场 “竞赛”，只是最终选择让我们独自交出答卷。

除此之外，SemiAnalysis 其实是目前非常优质的实时基准参考，它会持续动态更新数据，我个人很认可这一评测体系。我们也希望行业更多厂商能够参与其中。

当前 DeepSeek、Qwen 等都是顶尖的推理模型，对算力要求极高，并非普通硬件可以支撑。几乎所有硬件都能跑出基础 token，但要达到我们所说的高效吞吐速率，需要超一流的系统能力。这正是英伟达的核心优势：我们的极致代码设计能力贯穿 GPU、CPU、网络接口、NVLink 交换机、CXN 全链路，整套体系协同工作。今天我展示的整机柜、算力集群，从底层芯片到上层软件全部由英伟达自主设计、编写代码、优化算法，并且所有成果都会回馈开源社区，让全行业受益，这也体现了我们的行业领导地位。

今天还有机构发布了相关分析数据，Hopper 到 Blackwell 的性能提升达到 10 倍，成本也同步下降 10 倍；但两代产品的晶体管数量仅提升了 2 倍。这足以说明，我们所做的全栈式软硬件协同设计至关重要 —— 如果无法对整套体系进行全方位优化，根本无法突破摩尔定律的限制。

对于行业内仅聚焦单芯片研发的厂商而言，想要追上 Rubin 的水平，难度极大，我甚至可以说几乎接近不可能。这并非单芯片就能实现的突破。

很多厂商采用环形点对点直连的方式搭建互联，无需设计专用交换机，实现难度更低；但 AI 算力需要全互联架构，每一层都要实现全域互通。我们的 GPU 通过交换机实现全域数据传输，仅需一跳即可完成；而其他架构则需要在芯片间多次传递 token，根据集群规模不同，可能需要 5 跳、9 跳。这种操作作为核心处理流程反复执行，延迟与开销会被急剧放大，最终直接体现在性能差距上

黄仁勋：台积电的成功之道

问： 您来自中国台湾，与台积电关系十分密切。所以我必须问一句 —— 台积电无疑是一家传奇企业，无论工程团队还是技术实力都堪称顶尖。在您看来，台积电的企业文化与经营模式，究竟是什么让他们在半导体领域取得了如此独一无二、无人能及的成就？

Jensen Huang：

首先，外界对台积电最大的误解，就是认为他们只靠技术取胜，仿佛只要别家做出更好的晶体管，台积电就会被颠覆。

技术当然是核心，我指的不只是晶体管本身，还包括金属互联工艺、先进封装、3D 封装、硅光子等全套技术体系，正是这些技术让台积电与众不同。

但更关键的是，他们拥有极强的产能调度与运营能力，能够统筹全球数百家客户动态变化的需求：产能上调、下调、延后、提前，不同客户之间切换，晶圆投产、停投，紧急插单等等。面对整个行业瞬息万变的复杂格局，台积电依然能维持工厂高产能、高良率、优异成本与出色的客户服务。

他们信守承诺。当他们承诺晶圆按期交付，就一定会准时到货，因为他们清楚，这直接关系到客户公司的正常运转。可以说，台积电的整个制造体系堪称奇迹。

第二点是他们的企业文化。台积电一边极致专注于技术前沿，持续推进工艺迭代；另一边又极度重视客户服务。很多公司客户服务很好，但技术不够顶尖；很多公司技术领先，却不擅长服务客户。而台积电在这两方面都做到了世界一流，并且取得了完美平衡。

第三点，也是我最看重的，是他们建立起了一种名为信任的无形资产。我敢把英伟达的命运托付给他们，这分量极重。当然，他们也信任我们。这种紧密关系建立在数十年的合作业绩之上，同时也包含深厚的个人情谊。三十年来，我们通过台积电达成的业务规模数以百亿美元计，却甚至没有一份严苛的书面合同，这一点非常难得。

Lex Fridman访谈