Vera Rubin NVL72 全面量产:每兆瓦 Token 吞吐量 10 倍于 Blackwell,AI 工厂算力成本骤降
NVIDIA Vera Rubin 平台正式进入量产阶段,CoreWeave、Google Cloud、Microsoft Azure 等合作伙伴机架已投入运行。CoreWeave 首次公布的实测数据显示:Vera Rubin NVL72 每兆瓦 Token 吞吐量较 Grace Blackwell NVL72 提升 10 倍——直接命中 AI 工厂最核心的盈利指标。
NVIDIA Vera Rubin 平台正式进入量产阶段,CoreWeave、Google Cloud、Microsoft Azure 等合作伙伴机架已投入运行。CoreWeave 首次公布的实测数据显示:Vera Rubin NVL72 每兆瓦 Token 吞吐量较 Grace Blackwell NVL72 提升 10 倍——直接命中 AI 工厂最核心的盈利指标。
CoreWeave 在 Vera Rubin NVL72 上运行 DeepSeek-R1 基准测试,与 Grace Blackwell NVL72 对比:每兆瓦每秒 Token 吞吐量提升了 10 倍。这不是实验室模拟数据,而是来自实际运行硬件的首份公开实测结果。
注:柱形长度示意相对倍数,精确数值以标注为准。每兆瓦 Token 吞吐量是衡量 AI 工厂盈利能力的核心指标——同等电力预算下产出越多,单位算力成本越低。
但数据只是故事的一部分。更值得关注的是,这些提升并非来自单一芯片的规格升级,而是来自整个系统层的协同重构。
问:这些数字可信吗?
Vera Rubin 的供应链覆盖 30 个国家 350 多家工厂,是 NVIDIA 迄今规模最大、最成熟的机架级供应链。CoreWeave 经过数月联合工程研发,成为首家完成部署与验证的 AI 云服务商,并首次公布实测数据。DeepInfra 则基于其生产级 AI 智能体基础设施独立设计了基准测试。
首批部署伙伴:CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure、SpaceXAI、Tesla。
DeepInfra 每周处理近 5 万亿个 Token,其中约 30% 由智能体系统驱动——其生产环境下的验证结果,比任何实验室测试都更有说服力。
那么,这些性能提升在实际场景中到底意味着什么?
10 倍效率提升的背后,是 7 款芯片 + 5 种机架托盘 作为一个完整系统被工程研发,而非通用产品的简单拼凑。以下四个技术维度构成了核心突破。
专为智能体时代重新定义的 AI 工厂 CPU。定制 Olympus 核心相较竞品芯粒方案,单线程性能提升 2 倍、核间带宽提升 3 倍、内存延迟降低 40%。DeepInfra 实测编排速度提升 2.2 倍,直接受益于此。
处理复杂工作负载时,相比通用以太网,吞吐量提升超过 2 倍、延迟降低 1/3、数据包处理速率提升 10 倍。NVLink Fusion 同时向第三方 XPU 开放,合作伙伴可借助成熟堆栈快速上市。
Spectrum-6 交换机系统集成 102.4T 交换能力与 1.6T ConnectX-9 SuperNIC,RDMA 带宽比通用以太网高 1.6 倍。全球首款量产 CPO 交换机,能效提升 5 倍,MTBI 提升 10 倍。CoreWeave、Lambda、OCI 率先采用。
45°C 液冷进水温度设计,系统无需冷水机组,仅靠干式冷却器即可运行。托盘内实现无电缆、无风扇、无液冷软管的极简设计,计算托盘组装时间从数小时缩短至 1 分钟。
三代机架级协同设计的迭代,让 NVIDIA 把「系统」做到了极致——不是把最好的芯片放在一起,而是让所有部件像一个有机体一样协同工作。
AI 基础设施的竞争焦点正在从「芯片参数」转向「系统级每瓦 Token 产出」。Vera Rubin 的 10 倍跃升证明:当芯片、网络、散热、供电被作为一个整体重新设计时,效率提升不再是线性叠加,而是指数级跃迁。下一阶段,谁拥有最深的系统协同能力,谁就能定义 AI 算力的成本底线。
Vera Rubin NVL72 已通过 Google Cloud A5X 实例、CoreWeave 云平台及 DeepInfra 基础设施提供服务,合作伙伴用户可直接使用。
Google Cloud A5X 实例 → 立即体验