AI·快讯
⚡ 硬科技 · 算力突破

Vera Rubin NVL72 全面量产:每兆瓦 Token 吞吐量 10 倍于 Blackwell,AI 工厂算力成本骤降

NVIDIA Vera Rubin 平台正式进入量产阶段,CoreWeave、Google Cloud、Microsoft Azure 等合作伙伴机架已投入运行。CoreWeave 首次公布的实测数据显示:Vera Rubin NVL72 每兆瓦 Token 吞吐量较 Grace Blackwell NVL72 提升 10 倍——直接命中 AI 工厂最核心的盈利指标。

综合公开信息整理 2026-07-22 全文约 4 分钟读完
#NVIDIA #Vera Rubin #AI 工厂 #算力效率 #协同设计
10× 每兆瓦 Token 吞吐量 vs Blackwell
7 款协同设计芯片 · 统一系统
350+ 工厂 · 30 国供应链覆盖

⚡ 30 秒速览

  • 核心数据:CoreWeave 实测 Vera Rubin NVL72 每兆瓦 Token 吞吐量达 Blackwell 的 10 倍,Google Cloud A5X 实例每 Token 推理成本降至 1/10
  • 量产的底气:供应链覆盖 30 国 350+ 工厂,是 NVIDIA 迄今规模最大、最成熟的机架级供应链。
  • 怎么做到的:7 款芯片 + 5 种机架托盘极致协同设计,从芯片到电网全栈优化,而非通用产品拼凑。
  • 谁已经用上了:CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud、SpaceXAI、Tesla 等已部署。
  • 一个关键信号:AI 基础设施的竞争,已从单一芯片参数转向「系统级每瓦 Token 产出」的工程效率比拼。

0110 倍跃升 从 Blackwell 到 Vera Rubin,效率曲线陡峭

CoreWeave 在 Vera Rubin NVL72 上运行 DeepSeek-R1 基准测试,与 Grace Blackwell NVL72 对比:每兆瓦每秒 Token 吞吐量提升了 10 倍。这不是实验室模拟数据,而是来自实际运行硬件的首份公开实测结果。

每兆瓦 Token 吞吐量Vera Rubin vs Blackwell
10×
每 Token 推理成本Google Cloud A5X 实例
1/10
AI 智能体编排速度DeepInfra 实测
2.2×
并发智能体数量DeepInfra 实测
1.6×

注:柱形长度示意相对倍数,精确数值以标注为准。每兆瓦 Token 吞吐量是衡量 AI 工厂盈利能力的核心指标——同等电力预算下产出越多,单位算力成本越低。

但数据只是故事的一部分。更值得关注的是,这些提升并非来自单一芯片的规格升级,而是来自整个系统层的协同重构

02谁在用,谁在测 从云巨头到前沿实验室

问:这些数字可信吗?

Vera Rubin 的供应链覆盖 30 个国家 350 多家工厂,是 NVIDIA 迄今规模最大、最成熟的机架级供应链。CoreWeave 经过数月联合工程研发,成为首家完成部署与验证的 AI 云服务商,并首次公布实测数据。DeepInfra 则基于其生产级 AI 智能体基础设施独立设计了基准测试。

30+国家供应链
350+工厂覆盖
6首批部署合作伙伴
2独立基准测试来源

首批部署伙伴:CoreWeave、Google Cloud、Microsoft Azure、Oracle Cloud Infrastructure、SpaceXAI、Tesla。

DeepInfra 每周处理近 5 万亿个 Token,其中约 30% 由智能体系统驱动——其生产环境下的验证结果,比任何实验室测试都更有说服力。

那么,这些性能提升在实际场景中到底意味着什么?

03三个落地案例 从云实例到欧洲开放模型

☁️ Google Cloud A5X 实例 · 强化学习训练推理成本降至 1/10

  • 基于 Vera Rubin NVL72 机架级系统构建的裸金属实例,伦敦初创公司 Ineffable Intelligence 率先采用。
  • 专为大规模强化学习设计,提供可预测的低延迟和高利用率,每 Token 推理成本降至上一代的 1/10
  • Ineffable Intelligence 正在开发新一代「Superlearner」系统,通过经验持续学习,Vera Rubin 是其理想训练平台。
关键价值:强化学习对算力消耗极大,成本降低 10 倍意味着实验规模可以扩大一个数量级。

⚡ DeepInfra · 智能体编排速度翻倍并发量提升 1.6 倍

  • DeepInfra 独立基准测试显示:Vera CPU 支持的并发 AI 智能体数量比其他 CPU 多 1.6 倍,编排速度快 2.2 倍
  • 在保持相同服务质量的前提下,显著提升基础设施利用率和成本效益。
  • DeepInfra 每周处理约 5 万亿 Token,其生产环境验证结果直接反映了 Vera CPU 在真实负载下的表现。
关键价值:智能体时代,CPU 成为瓶颈——Vera CPU 重新定义了 AI 工厂中 CPU 应有的性能基线。

🇪🇺 Mistral · 欧洲开放模型新基石数千 GPU 部署

  • Mistral 正在扩充 GPU 算力,引入数千个最新的 Vera Rubin GPU,增加面向客户的 AI 算力供给。
  • 与微软合作,将开放的欧洲模型与云环境及客户管理环境相结合,服务于各国政府和重点监管行业。
  • Vera Rubin 提供训练、推理和大规模部署的统一平台,使欧洲在不牺牲创新与经济效益的前提下采用 AI。
关键价值:本土化 AI 部署不再需要在「控制权」与「性能」之间做取舍。

04技术解析 从芯片到电网,全栈协同设计

10 倍效率提升的背后,是 7 款芯片 + 5 种机架托盘 作为一个完整系统被工程研发,而非通用产品的简单拼凑。以下四个技术维度构成了核心突破。

🧠

Vera CPU · 定制 Olympus 核心 单线程性能 2×

专为智能体时代重新定义的 AI 工厂 CPU。定制 Olympus 核心相较竞品芯粒方案,单线程性能提升 2 倍、核间带宽提升 3 倍、内存延迟降低 40%。DeepInfra 实测编排速度提升 2.2 倍,直接受益于此。

🔗

第六代 NVLink · 纵向扩展 吞吐量 2×,延迟降 1/3

处理复杂工作负载时,相比通用以太网,吞吐量提升超过 2 倍、延迟降低 1/3、数据包处理速率提升 10 倍。NVLink Fusion 同时向第三方 XPU 开放,合作伙伴可借助成熟堆栈快速上市。

🌐

Spectrum-X + CPO · 横向扩展 RDMA 带宽 1.6×,能效 5×

Spectrum-6 交换机系统集成 102.4T 交换能力与 1.6T ConnectX-9 SuperNIC,RDMA 带宽比通用以太网高 1.6 倍。全球首款量产 CPO 交换机,能效提升 5 倍,MTBI 提升 10 倍。CoreWeave、Lambda、OCI 率先采用。

💧

液冷系统 · 45°C 高温进水 每兆瓦年节水数百万加仑

45°C 液冷进水温度设计,系统无需冷水机组,仅靠干式冷却器即可运行。托盘内实现无电缆、无风扇、无液冷软管的极简设计,计算托盘组装时间从数小时缩短至 1 分钟

三代机架级协同设计的迭代,让 NVIDIA 把「系统」做到了极致——不是把最好的芯片放在一起,而是让所有部件像一个有机体一样协同工作

编辑核心判断

AI 基础设施的竞争焦点正在从「芯片参数」转向「系统级每瓦 Token 产出」。Vera Rubin 的 10 倍跃升证明:当芯片、网络、散热、供电被作为一个整体重新设计时,效率提升不再是线性叠加,而是指数级跃迁。下一阶段,谁拥有最深的系统协同能力,谁就能定义 AI 算力的成本底线。

现在就能用

Vera Rubin NVL72 已通过 Google Cloud A5X 实例、CoreWeave 云平台及 DeepInfra 基础设施提供服务,合作伙伴用户可直接使用。

Google Cloud A5X 实例 → 立即体验