🔧 硬科技 · 芯片架构

NVIDIA Vera Rubin NVL72 全面量产：每兆瓦 Token 吞吐量跃升 10 倍，从芯片到电网全栈协同

CoreWeave 首次公开基于实际运行硬件的基准测试：在 DeepSeek-R1 上，Vera Rubin NVL72 每兆瓦 Token 吞吐量较 Grace Blackwell NVL72 提升 10 倍。这直接切中电力受限的 AI 工厂最核心的盈利指标。

综合公开信息整理• 2026 年 7 月• 全文约 4 分钟读完
#NVIDIA #Vera Rubin #全栈协同 #AI 工厂 #Token 成本
10× 每兆瓦 Token 吞吐量 vs Grace Blackwell NVL72
7 款 协同设计芯片，统一系统级架构
350+ 工厂 · 30 国 · 最大机架级供应链

⚡ 30 秒速览

  • 核心数据：CoreWeave 实测 DeepSeek-R1，每兆瓦 Token 吞吐量较上一代提升 10 倍——决定 AI 工厂盈利能力的核心指标。
  • 怎么做到的：七款芯片 + 五种机架托盘极致协同，从芯片到电网全栈设计，非通用产品拼凑。
  • Vera CPU 性能：定制 Olympus 核心，单线程性能 2 倍、核间带宽 3 倍、内存延迟降低 40%，专为智能体时代设计。
  • 网络革新：第六代 NVLink 吞吐量 2 倍、延迟降低 1/3；Spectrum-X RDMA 带宽 1.6 倍；CPO 能效 5 倍、MTBI 10 倍。
  • 工程奇迹：无电缆 / 无风扇 / 无软管，组装仅需 1 分钟；45°C 液冷进水，无需冷水机组，每兆瓦每年节水数百万加仑。
  • 已落地：Google Cloud A5X 实例每 Token 推理成本降至 1/10；DeepInfra 编排速度 2.2 倍；微软 + Mistral 欧洲部署。

01每兆瓦 Token 吞吐量提升 10 倍 CoreWeave 实测 DeepSeek-R1

CoreWeave 成为首家完成 Vera Rubin NVL72 部署与验证的 AI 云服务提供商，并首次公布基于实际运行硬件的性能数据。在 DeepSeek-R1 基准测试中，Vera Rubin NVL72 每兆瓦每秒 Token 吞吐量达到 Grace Blackwell NVL72 的 10 倍。

每兆瓦 Token 吞吐量是 AI 工厂大规模盈利的核心指标。同等电力预算下产出更多 Token，意味着更低的单位成本。

Grace Blackwell NVL72

上一代架构，每兆瓦 Token 吞吐量作为基准线（1×）。

Vera Rubin NVL72

全栈协同设计，每兆瓦 Token 吞吐量跃升 10×，推理成本降至 1/10。

10×每兆瓦 Token 吞吐量
1/10每 Token 推理成本
7协同设计芯片数
5机架托盘系统

注：10× 数据来自 CoreWeave 在 DeepSeek-R1 上的实测结果，对比基准为 Grace Blackwell NVL72。成本数据来自 Google Cloud A5X 实例发布信息。

02全栈协同设计：从芯片到电网，不放过任何一个环节

Vera Rubin 平台从芯片到电网进行了全栈协同设计，核心在于七款芯片和五种机架托盘之间的极致协同。五种机架系统包括 Vera Rubin NVL72、Vera CPU 机架、Groq 3 LPX、Spectrum-6 SPX 和 Vera BlueField-4 STX，被作为一个完整系统进行工程研发。

▼ Vera CPU：AI 工厂的「大脑」

单线程性能vs 竞品芯粒方案
2×
核间带宽vs 竞品芯粒方案
3×
内存延迟vs 竞品芯粒方案
-40%

注：柱形自 0 起绘制，长度代表相对性能倍率，标注数值为实测对比结果。Vera CPU 采用定制 Olympus 核心，专为智能体负载设计。

▼ 网络层：专属定制，全面超越通用以太网

NVLink 吞吐量 2×· 延迟降低 1/3· 数据包速率 10×· Spectrum-X RDMA 1.6×· CPO 能效 5×· MTBI 10×· 跨站点吞吐量 1.9×

注：所有数据均为对比通用以太网或上一代方案的实测提升倍数。CPO 为光电一体化封装，全球首款量产同类型交换机。

一个诚实的注脚：NVLink Fusion 向第三方 XPU 开放了 NVIDIA 基础设施平台，这意味着合作伙伴可以借助成熟的 NVLink 纵向扩展堆栈和生态系统实现快速上市——开放，而非封闭。

▼ 工程落地：极简设计，省时省水

经过三代机架级协同设计迭代，Vera Rubin NVL72 实现了托盘内无电缆、无风扇、无液冷软管，计算托盘组装时间从数小时缩短至 1 分钟。45°C 液冷进水温度设计，无需冷水机组，仅靠干式冷却器即可运行，每兆瓦每年可节省 数百万加仑 水资源。

03谁在用，用来做什么？三个落地案例

☁️ CoreWeave：DeepSeek-R1 基准测试，10 倍吞吐量 实测数据

  • 经过数月联合工程研发，CoreWeave 成为首家完成 Vera Rubin NVL72 部署与验证的 AI 云服务商。
  • 在 DeepSeek-R1 上运行基准测试，每兆瓦每秒 Token 吞吐量较 Grace Blackwell NVL72 提升 10 倍。
  • Jane Street 等 AI 实验室和企业将采用 Vera Rubin 平台，在 CoreWeave 云上扩展 AI 工厂。
结论：每兆瓦 Token 产出 是决定 AI 基础设施能否大规模盈利的核心指标，10× 提升直接改写成本结构。

🌐 Google Cloud A5X 实例：推理成本降至 1/10 已上线

  • 基于 Vera Rubin NVL72 机架级系统构建的裸金属实例，伦敦初创公司 Ineffable Intelligence 率先采用。
  • 与上一代相比，每 Token 推理成本降低至 1/10，每兆瓦 Token 吞吐量提升 10 倍。
  • 专为大规模强化学习和智能体训练设计，提供可预测的低延迟和高利用率。
A5X 实例标志着 Vera Rubin 从基准测试走向 生产级云服务，成本降幅具有行业标杆意义。

⚡ DeepInfra：Vera CPU 编排速度 2.2 倍 生产级验证

  • DeepInfra 每周处理近 5 万亿 Token，约 30% 由智能体系统驱动，其独立设计并运行了基准测试。
  • Vera CPU 支持的并发 AI 智能体数量比其他 CPU 多 1.6 倍，编排速度快 2.2 倍。
  • 在保持相同服务质量的前提下，显著提升基础设施利用率和成本效益。
Vera CPU 证明：CPU 本身正在成为 AI 工厂的性能瓶颈，定制化设计带来可量化的效率跃升。

04为什么是现在？

Vera Rubin 的出现不是一次简单的芯片迭代。它回答了一个行业正在焦虑的问题：当模型参数增长放缓、电力成本成为硬约束时，AI 基础设施的下一轮增长从哪里来？

答案藏在「全栈协同」这四个字里。

把七款芯片、五种机架系统作为一个整体来设计，而不是让通用产品拼凑——这意味着从芯片架构、网络拓扑到冷却系统、部署流程，每一个环节都在为同一个目标服务：用最少的电力，产出最多的 Token。10 倍的每兆瓦吞吐量提升，正是这种系统性思维的量化结果。

一个容易被忽视的信号：NVLink Fusion 向第三方 XPU 开放。这不是一个封闭的生态宣言，而是一个务实的策略——当你的系统足够强，开放反而能加速生态成熟。

编辑核心判断

Vera Rubin 证明了一件事：当芯片设计、网络架构、系统工程的协同达到极致，AI 基础设施的性能跃升可以不是 30% 或 50%，而是 10 倍。下一个阶段的竞争，将从「谁的模型更大」转向「谁的工厂更有效率」。

▶现已全面量产

Vera Rubin NVL72 已通过 CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure 等全球合作伙伴云服务提供，供应链覆盖 30 个国家 350 多家工厂。

了解 Vera Rubin 平台 →