NVIDIA Vera Rubin NVL72 系统为 AI 代理提供高达 30 倍能效提升

Techub News 消息，NVIDIA 发布 Vera Rubin NVL72 系统的早期性能数据。数据显示，在运行 AI 代理工作负载时，该系统每兆瓦的吞吐量比 NVIDIA GB300 NVL72 系统高出高达 30 倍，同时每百万个令牌的成本降低高达 35 倍。 性能测试基于 SemiAnalysis AgentX 工作负载进行，该负载模拟了现实世界的代理编码会话，保留了实际上下文增长、工具调用和子代理生成。对于受电力限制的 AI 工厂而言，这意味着在相同能耗下可完成多达 30 倍的代理工作。 NVIDIA 表示，其 DSX MaxLPS 技术可在 GPU、机架和工作负载级别管理功耗，从而在相同的兆瓦预算内调配多达 40% 的 GPU，进一步提升了 AI 工厂规模的每兆瓦吞吐量。 （NVIDIA Blog）