熱門資訊> 正文
2025-10-27 22:00
高通技術公司(納斯達克股票代碼:QCOM)周一宣佈推出針對數據中心的下一代人工智能推理優化解決方案,即基於高通AI 200和AI 250芯片的加速卡和機架。
高通表示,這些解決方案基於該公司在神經處理單元(NPU)技術方面的領先地位,提供機架級性能和卓越的內存容量,用於快速生成人工智能推理,以每瓦每美元提供高性能。
高通AI 200推出了專門構建的機架級AI推理解決方案,旨在為大型語言和多模式模型(LLM、LMM)推理以及其他AI工作負載提供低總擁有成本(COO)和優化的性能。
另請閲讀:高通和法雷奧擴大合作,加快駕駛功能
它支持每張卡768 GB的LPDDR,提供更高的存儲容量和更低的成本,同時為人工智能推理提供出色的規模和靈活性。
高通AI 250解決方案將首次亮相,採用基於近內存計算的創新內存架構,通過提供提高10倍以上的有效內存帶寬和顯着降低的功耗,為人工智能推理工作負載提供效率和性能的代際飛躍。
這使得分解的人工智能推理能夠有效利用硬件,同時滿足客户的性能和成本要求。
這兩種機架解決方案都具有直接液體冷卻以提高熱效率、使用用於擴展的ASIC、用於橫向擴展的以太網、用於安全人工智能工作負載的保密計算以及160千瓦的機架級功耗。
高通AI 200和AI 250將分別於2026年和2027年上市。
高通的人工智能加速器競爭對手包括Nvidia Corp(納斯達克股票代碼:NVDA)的H100和H200芯片、Advanced Micro Components,Inc(納斯達克股票代碼:AMD)的Instinct MI300 X加速器和英特爾Corp(納斯達克股票代碼:INTC)的高迪加速器。
Alphabet Inc.(納斯達克股票代碼:GOOGL)谷歌開發了自己的張量處理單元(TPA),這些單元針對流行的機器學習框架(包括TensorFlow和PyTorch)進行了優化。
Amazon.com Inc.(納斯達克股票代碼:AMZN)亞馬遜網絡服務(AWS)創建了Inferentia芯片,以幫助客户更有效地擴展機器學習應用程序。
QCOM Price Action:根據Benzinga Pro數據,截至周一發佈時,高通股價上漲3.48%,至174.91美元。
閲讀下一步:
照片來自高通