热门资讯> 正文
2025-10-27 22:00
高通技术公司(纳斯达克股票代码:QCOM)周一宣布推出针对数据中心的下一代人工智能推理优化解决方案,即基于高通AI 200和AI 250芯片的加速卡和机架。
高通表示,这些解决方案基于该公司在神经处理单元(NPU)技术方面的领先地位,提供机架级性能和卓越的内存容量,用于快速生成人工智能推理,以每瓦每美元提供高性能。
高通AI 200推出了专门构建的机架级AI推理解决方案,旨在为大型语言和多模式模型(LLM、LMM)推理以及其他AI工作负载提供低总拥有成本(COO)和优化的性能。
另请阅读:高通和法雷奥扩大合作,加快驾驶功能
它支持每张卡768 GB的LPDDR,提供更高的存储容量和更低的成本,同时为人工智能推理提供出色的规模和灵活性。
高通AI 250解决方案将首次亮相,采用基于近内存计算的创新内存架构,通过提供提高10倍以上的有效内存带宽和显着降低的功耗,为人工智能推理工作负载提供效率和性能的代际飞跃。
这使得分解的人工智能推理能够有效利用硬件,同时满足客户的性能和成本要求。
这两种机架解决方案都具有直接液体冷却以提高热效率、使用用于扩展的ASIC、用于横向扩展的以太网、用于安全人工智能工作负载的保密计算以及160千瓦的机架级功耗。
高通AI 200和AI 250将分别于2026年和2027年上市。
高通的人工智能加速器竞争对手包括Nvidia Corp(纳斯达克股票代码:NVDA)的H100和H200芯片、Advanced Micro Components,Inc(纳斯达克股票代码:AMD)的Instinct MI300 X加速器和英特尔Corp(纳斯达克股票代码:INTC)的高迪加速器。
Alphabet Inc.(纳斯达克股票代码:GOOGL)谷歌开发了自己的张量处理单元(TPA),这些单元针对流行的机器学习框架(包括TensorFlow和PyTorch)进行了优化。
Amazon.com Inc.(纳斯达克股票代码:AMZN)亚马逊网络服务(AWS)创建了Inferentia芯片,以帮助客户更有效地扩展机器学习应用程序。
QCOM Price Action:根据Benzinga Pro数据,截至周一发布时,高通股价上涨3.48%,至174.91美元。
阅读下一步:
照片来自高通