热门资讯> 正文
2023-08-09 00:03
AI和显卡NVIDIA OVX系统的强大性能将使每台服务器最多支持8个NVIDIA L40S GPU,每台服务器配备48 GB内存。L40S基于NVIDIA Ada Lovelace图形处理器架构,包括第四代张量内核和一个FP8变压器引擎,可提供超过1.45千万亿次的张量处理能力。与NVIDIA A100张量酷睿图形处理器相比,对于具有数十亿个参数和多种数据形态(如文本和视频)的复杂AI工作负载,L40S支持的生成性AI推理性能高达1.2倍,训练性能高达1.7倍。
为支持实时渲染、产品设计和3D内容创建等高保真专业可视化工作流,NVIDIA L40S GPU包括142个第三代RT内核,可提供212万亿次的光线跟踪性能。这使创意专业人士能够创造身临其境的视觉体验和照片般的逼真内容。 对于计算要求苛刻的工作流,如工程和科学模拟,NVIDIA L40S包括18,176个CUDA®核心,提供近5倍于NVIDIA A100图形处理器的单精度浮点(Fp32)性能,以加速复杂的计算和数据密集型分析。 CoreWeave是首批提供L40S实例的云服务提供商之一,它专门从事大规模、GPU加速的工作负载。 CoreWeave首席技术官布赖恩·文图罗表示:“随着生产性人工智能的爆炸式发展,我们各行业的客户都在寻求强大的计算产品和规模,以匹配任何工作负载的复杂性--从互动视频到人工智能设计和自动化。”NVIDIA L40S图形处理器将进一步扩展我们广泛的NVIDIA解决方案组合,使CoreWeave成为第一家提供这些新资源的专业云提供商,以实现快速、高效和具有成本效益的加速计算,为下一波生产性人工智能应用程序提供动力。助推AI的软件部署L40S GPU的企业可以受益于NVIDIA AI企业版软件,该软件今天宣布了一项重大更新。该软件为100多个框架、预先培训的模型、工具包和软件提供生产就绪的企业支持和安全,包括用于模拟的NVIDIA模块™、用于数据科学的NVIDIA Rapids™和用于生产人工智能的NVIDIA Triton™推理服务器。
Omniverse Expands NVIDIA还宣布了对Omniverse智能平台的重大更新,引入了功能和平台增强功能,使开发人员能够利用生成性AI的力量加速和推进OpenU.S.管道和工业数字化应用程序。支持Omniverse Cloud的下一代NVIDIA OVX智能系统将采用L40S GPU,以提供增强生成性AI管道和Omniverse工作负载所需的AI和图形性能。上市NVIDIA L40S将于今年秋季上市。包括华硕、戴尔技术、技嘉、HPE、联想、QCT和SuperMicro在内的全球系统建造商将很快提供包含NVIDIA L40S图形处理器的OVX系统。这些服务器将帮助世界各地的专业人士推进人工智能,并为各行业的用户带来智能聊天机器人、搜索和摘要工具等生成性人工智能应用程序。