英伟达披露Vera Rubin平台部署进展:CoreWeave测试称单位功耗Token吞吐提升10倍
据界面新闻援引消息,英伟达于7月21日公布了Vera Rubin平台的最新进展。该平台面向“千兆级AI工厂”场景,正在全球范围扩大部署,CoreWeave、谷歌云、微软Azure和甲骨文云等云服务与AI基础设施厂商已开始采用Vera Rubin NVL72系统。英伟达同时表示,CoreWeave测试显示,Vera Rubin NVL72相较Grace Blackwell NVL72,在每兆瓦功耗下可实现10倍Token吞吐提升。对于正在快速扩张的大模型训练与推理基础设施市场而言,这一信息的核心不只是新平台上线,而是AI算力竞争正在从“峰值性能”进一步转向“单位能源效率”和“数据中心级系统能力”。
从GPU到AI工厂:Vera Rubin面向更大规模算力集群
从来源信息看,英伟达此次强调的并非单颗芯片或单台服务器,而是Vera Rubin NVL72这一系统形态。NVL72通常意味着以机架级、整柜级方式组织加速计算资源,其目标是服务更大规模的大模型工作负载。英伟达将其定位为面向“千兆级AI工厂”的平台,也反映出当前AI基础设施的建设逻辑正在改变:云厂商和模型公司需要的不只是更多GPU,而是能够持续供应Token、支撑多租户推理和训练任务的大型计算系统。
CoreWeave、谷歌云、微软Azure和甲骨文云等厂商出现在采用名单中,也具有较强的产业信号意义。这些公司分别代表了AI云、通用公有云以及企业级云服务的重要参与者。它们开始采用Vera Rubin NVL72,说明下一代AI算力平台很可能会率先在云端形成规模化供给,再逐步影响模型开发、企业AI应用和推理服务成本。
10倍每兆瓦Token吞吐意味着什么
英伟达披露的关键指标是:CoreWeave测试显示,Vera Rubin NVL72相比Grace Blackwell NVL72,每兆瓦可实现10倍Token吞吐提升。这里的重点是“每兆瓦”,也就是以功耗为约束衡量系统输出能力。对AI服务商来说,Token吞吐直接关系到模型推理可服务的请求规模、响应能力和单位成本;而电力、散热、机房容量则是大规模AI数据中心扩张中越来越关键的瓶颈。
如果该测试结果在实际生产环境中得到验证,Vera Rubin NVL72的价值可能不仅体现在更高性能,还体现在同样电力预算下承载更多AI调用。这对于面向企业客户提供大模型API、智能体服务、代码生成、图像与多模态应用的平台来说,意味着基础设施效率有机会显著改善。不过需要注意的是,来源只提到CoreWeave测试结果,并未披露测试任务、模型类型、精度设置、并发条件等细节,因此仍应将其视为厂商披露的阶段性性能信息。
对云厂商和模型应用生态的潜在影响
AI产业过去两年的主线之一,是算力供给紧张与模型需求增长之间的拉扯。随着模型从训练阶段走向大规模推理,云厂商不只要购买更强GPU,还要优化整套基础设施的能耗、网络、存储和调度能力。Vera Rubin NVL72的部署进展,可能推动云端AI服务进入新一轮平台升级周期。
- 对云厂商:更高单位功耗吞吐有助于提升数据中心投资回报,尤其是在电力容量受限的地区。
- 对模型公司:如果云端推理成本下降,模型服务定价和应用扩展空间可能改善。
- 对企业用户:更高效的AI基础设施有望提升复杂AI工作流、智能体和多模态应用的可用性。
- 对硬件竞争:评价AI芯片的指标将继续从单卡算力扩展到机架级系统效率和生态适配能力。
总体来看,英伟达此次公布的Vera Rubin进展显示,AI基础设施竞争正在进入更系统化的阶段。对于中文科技读者和企业用户而言,值得关注的不只是“下一代GPU有多强”,而是这些平台何时在主流云服务中形成可用资源,以及其效率提升能否真正传导到模型API、企业AI工具和自动化应用的成本与体验上。