繁體
  • 简体中文
  • 繁體中文

熱門資訊> 正文

博通推出Tomahawk Ultra:为高性能计算和人工智能扩展重新构想以太网交换机

2025-07-15 13:00

超低延迟、64B 线速交换、无损光纤网络和网络内集合定义了 HPC 和 AI 扩展中以太网的全新性能水平

美国加州帕洛阿尔托,2025年7月15日——全球领先的半导体和基础设施软件解决方案供应商博通公司( Broadcom Inc. ,纳斯达克股票代码:AVGO)今日宣布其突破性的以太网交换机——Tomahawk Ultra正式上市。Tomahawk Ultra旨在将以太网交换机转型为高性能计算(HPC)和人工智能(AI)工作负载,提供业界领先的超低延迟、海量吞吐量和无损网络性能。

博通核心交换事业部高级副总裁兼总经理Ram Velaga表示:“Tomahawk Ultra是创新的典范,凝聚了数百名工程师多年的心血,他们重新构想了以太网交换机的方方面面。这彰显了博通致力于投资推进以太网高性能网络和人工智能扩展的决心。”

打破神话,重新定义性能

Tomahawk Ultra 专为满足 HPC 环境和紧密耦合的 AI 集群的极致需求而全新打造,它重新定义了以太网交换机的功能。长期以来,以太网一直被认为具有高延迟和高损耗的特点,如今它承担了新的角色:

  • 超低延迟:在 51.2 Tbps 的吞吐量下实现 250ns 的交换延迟。
  • 高性能:即使最小数据包大小为 64 字节,也能提供线速交换性能,支持每秒高达 770 亿个数据包。
  • 适应性强、优化的以太网报头:将报头开销从 46 字节减少到 10 字节,同时保持完全以太网兼容性 - 提高网络效率并实现灵活的、特定于应用程序的优化。
  • 无损结构:实现链路层重试(LLR)和基于信用的流量控制(CBFC)以消除数据包丢失并确保可靠性。

彭博行业研究首席半导体分析师 Kunjan Sobhani 表示:“AI 和 HPC 工作负载正在融合到紧密耦合的加速器集群中,这些集群需要超级计算机级的延迟——这对于推理、可靠性以及来自网络架构本身的网络内智能至关重要。开放标准以太网现已能够提供亚微秒级交换、无损传输和片上集成,这标志着我们朝着满足 AI 扩展堆栈需求迈出了关键一步——预计几年后 AI 扩展堆栈的规模将达到数十亿。”

专为 HPC 和 AI 扩展而构建

Tomahawk Ultra 针对高性能计算系统和 AI 集群中常见的紧密耦合、低延迟通信模式进行了优化。凭借超低延迟交换和自适应优化的以太网接头,它为大规模模拟、科学计算以及同步 AI 模型训练和推理提供可预测的高效性能。

当与 Scale-Up 以太网(SUE 规范在此处向公众开放)一起部署时,Tomahawk Ultra 可实现低于 400ns 的 XPU 到 XPU 通信延迟,包括交换机传输时间 - 为大规模紧密同步的 AI 计算树立了新的基准。

Tomahawk Ultra 通过将以太网报头开销从 46 字节减少到仅 10 字节,同时保持完全以太网兼容性,显著提升了网络效率。此优化的报头可根据每个应用程序进行调整,从而在各种 HPC 和 AI 工作负载中提供灵活性和性能提升。

Tomahawk Ultra 采用无损交换结构技术,可消除大容量数据传输过程中的丢包现象。该交换机集成 LLR 技术,可使用前向纠错 (FC) 检测链路错误并自动重传数据包,从而避免线路层面的丢包。同时,CBFC 技术可防止缓冲区溢出(这种溢出通常会导致丢包)。这些机制共同构成了真正无损的以太网交换结构,能够满足当今数据密集型工作负载所需的可靠性。

Tomahawk Ultra 还通过网络内协同 (In-Network Collectives) 加速性能,解决了 AI 和机器学习工作负载中最顽固的瓶颈之一。Tomahawk Ultra 无需让 XPU 承担 AllReduce、Broadcast 或 AllGather 等协同操作的负担,而是直接在交换芯片内执行这些操作。这可以缩短作业完成时间,并提高昂贵计算资源的利用率。更重要的是,此功能与终端无关,可在各种系统架构和供应商生态系统中立即采用。

Tomahawk Ultra 采用拓扑感知路由创新设计,支持 Dragonfly、Mesh 和 Torus 等先进的 HPC 拓扑,同时符合 UEC 标准并拥抱以太网网络的开放性和丰富的生态系统。

介绍 SUE-Lite

作为博通面向 AI 扩展的以太网前向战略的一部分,该公司推出了 SUE-Lite——这是 SUE 规范的优化版本,专为功耗和面积敏感型加速器应用量身定制。SUE-Lite 保留了完整 SUE 的关键低延迟和无损特性,同时进一步降低了 AI XPU 和 CPU 上以太网接口的硅片占用空间和功耗。

这种轻量级变体使得符合标准的以太网结构能够更轻松地集成到 AI 平台中,从而促进以太网更广泛地作为扩展架构中的首选互连。

AI 扩展和 HPC 扩展平台

Tomahawk Ultra 与 102.4 Tbps Tomahawk 6 一起构成了统一以太网架构的基础:支持用于 AI 的横向扩展以太网,以及用于 HPC 和分布式工作负载的横向扩展以太网。

现已发货

Tomahawk Ultra 与 Tomahawk 5 引脚完全兼容,确保快速上市。它现已开始发货,可用于部署于机架式 AI 训练集群和超级计算环境中。点击此处,了解更多博通 Tomahawk Ultra 系列产品信息。点击此处,探索完整的 Scale-Up/Scale-Out 媒体工具包,获取博通可扩展解决方案的资源和见解。

关于博通
博通公司(纳斯达克股票代码:AVGO)是一家全球技术领导者,设计、开发并提供广泛的半导体、企业软件和安全解决方案。博通领先的产品组合服务于云、数据中心、网络、宽带、无线、存储、工业和企业软件等关键市场。我们的解决方案涵盖服务提供商和企业网络及存储、移动设备和宽带连接、大型机、网络安全以及私有云和混合云基础设施。博通是一家特拉华州公司,总部位于加州帕洛阿尔托。欲了解更多信息,请访问www.broadcom.com

Broadcom、脉冲徽标和 Connecting everything 是 Broadcom 的商标。“Broadcom”一词指的是 Broadcom Inc. 和/或其子公司。其他商标均为其各自所有者的财产。

媒体联系方式:
乔恩·皮亚扎
全球通信
press.relations@broadcom.com
电话:+1 310 498 5254

行业引言

Michael KT Lee,智邦科技研发中心高级副总裁
XPU 节点内的网络需求与节点间的网络需求同样重要。Tomahawk Ultra 拥有 51.2 Tbps 以太网交换能力、250 纳秒延迟、基于信用的流量控制以及可配置的优化报头,是构建高带宽、高可靠性、高效率、低延迟、无损系统的理想解决方案,可用于扩展 AI 和 HPC 应用。智邦科技非常高兴地宣布 Tomahawk Ultra 的发布,并与博通紧密合作,将 Tomahawk Ultra 解决方案推向市场。

AMD数据中心解决方案事业部执行副总裁兼总经理 Forrest Norrod
低延迟对于释放人工智能的全部潜力至关重要——从缩短训练时间到支持实时推理。通过将博通的全新 Tomahawk Ultra 交换机与 AMD Instinct GPU 和 EPYC 处理器相结合,我们将为人工智能基础设施提供高性能、基于标准的以太网解决方案。我们携手推进开放的生态系统,使我们“人工智能无处不在、人人共享”的愿景更接近现实。

Simon Capper,Arista Networks 人工智能网络首席工程师
Arista 非常欣赏 Tomahawk Ultra 将超低延迟与可扩展以太网创新技术相结合,为 AI 网络带来革命。博通再次引领了 AI 和交换机行业的潮流。

Shekar Ayyar,Arrcus 董事长兼首席执行官
博通 Tomahawk Ultra 的推出标志着以太网创新的突破性进展,尤其适用于人工智能和高性能计算 (HPC) 扩展环境。凭借超低延迟和无损结构,它显著加快了作业完成时间——这对于现代人工智能工作负载至关重要。在 Arrcus,我们自豪地倡导基于标准的开放网络生态系统。结合我们高性能的 ArcOS 网络操作系统,客户可以解锁灵活且面向未来的可扩展基础架构。

台达电子数据网络基础设施总经理王旺森
台达电子始终着眼于未来,我们非常高兴地宣布,我们的 51.2T 以太网交换机平台已准备好充分发挥博通 Tomahawk Ultra 芯片的全部性能。我们认为 Tomahawk Ultra 将彻底改变 AI 扩展和高性能计算 (HPC) 的格局。台达电子与博通的合作彰显了我们致力于突破数据中心网络基础设施极限的决心。在台达电子现有 800G 交换机成功的基础上,全新推出的 Tomahawk Ultra 芯片使我们能够提供先进的解决方案,这些解决方案不仅提供无与伦比的性能和效率,还提供高可靠性和可扩展性,以满足最苛刻的网络工作负载需求,从而支持客户快速部署 AI/ML 网络。

Praveen Jain,HPE Networking 高级副总裁兼 AI 集群和云就绪数据中心总经理
HPE致力于为现代数据中心提供开放、高性能且易于管理的以太网解决方案。我们非常赞赏博通的新产品,其超低延迟、高吞吐量以及对网络内集群的支持完全符合当今工作负载的需求。它体现了我们共同的愿景,即构建以操作简便性为核心的最先进、最开放的数据中心基础设施解决方案。

英特尔人工智能技术产品管理副总裁 Saurabh Kulkarni
博通的 Tomahawk Ultra 系列凭借其高吞吐量和超低延迟,实现了每机架最多 64 个英特尔® Gaudi® 3 AI 加速器的全连接,总 HBM 带宽高达 76.8TB/s,并能够扩展跨多个机架的连接。这种机架级带宽为最复杂的 LLM 的训练和实时推理开辟了新的可能性,重新定义了行业的 SLA。通过与博通的合作,英特尔展示了我们为大规模全球 AI 部署而构建的机架级平台的开放式架构和模块化设计优势以及全部功能。

英业达电子事业部总经理 Vincent Lin
英业达祝贺博通推出Tomahawk Ultra以太网交换机。该交换机提供业界最低的250纳秒交换延迟和领先的800W功耗(51.2T性能下),显著提升了人工智能解决方案的效率和可持续性。英业达的愿景是通过与博通的紧密合作,提供高性能、可扩展的解决方案,支持客户不断发展的人工智能和高性能计算需求,开发尖端的人工智能产品,推动人类和环境的可持续变革。

大石清,IPI 首席执行官
Tomahawk Ultra 代表着 AI 工作负载和 HPC 集群领域的一次大胆飞跃,提供无与伦比的带宽、低延迟以及诸如 In-Network Collectives 和纵向扩展以太网等尖端功能。通过利用非专有以太网,Tomahawk Ultra 将赋能客户以无与伦比的性能、效率和可靠性扩展其数据密集型应用,为数据密集型计算领域的突破性创新铺平道路。

屈瞿,Micas Networks 首席执行官
博通的 Tomahawk Ultra 是人工智能和高性能计算 (HPC) 领域以太网扩展的重大进步。凭借 250 纳秒延迟、51.2 Tbps 交换能力以及链路层重试、网络内集合和 AI Fabric Header 等先进功能,它能够满足客户大规模人工智能所需的性能、可靠性和效率。得益于与 Tomahawk 5 的引脚兼容,Micas 能够快速将基于 Tomahawk Ultra 的系统推向市场,并实现无缝升级以满足下一代人工智能基础设施的需求。

Anshul Sadana,Nexthop AI 创始人兼首席执行官
凭借 Tomahawk Ultra,博通将人工智能网络提升到了一个新的水平,使我们能够实现新一代低延迟、无损的横向扩展以太网解决方案。结合 Nexthop SONiC,我们现在为全球最大的超大规模企业提供一些最高效的纵向扩展和兼容 UEC 的横向扩展以太网解决方案。

杨迈克,广达云科技总裁
在 QCT,我们致力于提供满足极致规模、性能和效率需求的下一代 AI 和 HPC 基础设施。博通的 Tomahawk Ultra 以太网交换机将彻底改变 AI 时代,它能够实现 51.2 Tbps 的交换容量和 250ns 的超低延迟,从而显著加速 AI 训练和推理工作负载。我们很高兴能继续与博通合作,利用基于以太网的基础设施推动 AI 的下一个前沿发展。

UfiSpace首席执行官Vincent Ho
“Tomahawk Ultra 性能卓越,并且与 Tomahawk 5 完全引脚兼容。这种无缝升级路径缩短了我们下一代平台的开发周期,我们很高兴将其集成到我们即将推出的解决方案中。”

纬创企业及网络事业群总裁林卓麟
博通的Tomahawk Ultra为人工智能和高性能计算(HPC)的开放以太网树立了新的标杆。Tomahawk Ultra专为GPU扩展而设计,在51.2 Tbps的速率下实现了250纳秒的延迟,支持64B线速交换和无损架构。这项创新代表着行业向前迈出了重要的一步。纬创正在将这些可扩展的人工智能系统与Tomahawk Ultra解决方案无缝集成。

Johnson Hsu,WNC 高级副总裁兼总经理
我们很荣幸能与博通合作开发创新的Tomahawk Ultra。这款先进的平台专为满足人工智能和高性能计算的需求而打造,将高性能与开放以太网的灵活性相结合,使我们的客户能够部署可扩展、可靠且面向未来的网络。


風險及免責提示:以上內容僅代表作者的個人立場和觀點,不代表華盛的任何立場,華盛亦無法證實上述內容的真實性、準確性和原創性。投資者在做出任何投資決定前,應結合自身情況,考慮投資產品的風險。必要時,請諮詢專業投資顧問的意見。華盛不提供任何投資建議,對此亦不做任何承諾和保證。