🔧 硬科技 · 基础设施

原生液冷打破 AI 算力三重困境:单柜算力密度提升 10 倍,Token 吞吐 146 万/秒

Token 需求井喷推高算力密度天花板,传统冷板液冷在散热、空间、互连三个维度同时触顶。原生液冷从系统底层重构计算、散热、互连、供电关系,让单柜算力密度跃升 10 倍以上,单柜功率覆盖 1MW,持续满速输出不降频。

综合公开信息整理 2026-07-27 全文约 4 分钟读完
#原生液冷 #Token工厂 #算力密度 #浪潮信息 #系统架构
10倍+ 单柜算力密度提升
146 Token / 秒 · 大模型吞吐
1MW 单柜功率覆盖上限

⚡ 30 秒速览

  • 三重困境:Token 需求暴涨,传统液冷在算力密度、空间密度、互连密度三方面同时触顶——散热跟不上、空间被挤占、互连被拉长。
  • 系统重构:原生液冷将热设计从后置变前置,计算、散热、互连、供电统一规划,算力密度提升至传统方案的 10 倍以上
  • 产品落地:浪潮信息推出 GPU 与 CPU 两类原生液冷整机柜,48U 空间承载 千卡算力,单柜功率覆盖 330kW 至 1MW。
  • 关键数据:装配接口减少 80%,流阻降低 60%,释放 50% 设备空间,64 卡互连带宽达 300TB/s
  • 深层信号:硬件趋同的背景下,系统架构能力正在成为 Token 产能天花板的决定性因素。

01三重困境 传统液冷在 MW 级功率下集体触顶

Token 需求爆发,直接推高了 AI 基础设施的规模天花板。单 Agent 的 Token 消耗量可达传统对话应用的 百倍至千倍级,千卡集群已不够用,万卡、十万卡正在成为标配。但数据中心的电力和空间是有限的——唯一的出路是在单位空间内塞进更多算力,把算力密度逼到极致。

算力密度提升,单机柜功耗从数十千瓦跃升至数百千瓦,并进一步向 MW 级迈进。当单柜功率到达这个量级,传统冷板液冷方案的三条瓶颈同时在有限空间里收窄:

🌡️

算力密度受限

传统冷板"逐个加板"的方式追不上全系统发热增长。散热跟不上,芯片触发温度墙而降频,Token 产出从峰值持续衰减。

📦

散热挤占空间

风扇、冷板、软管、分液器层层叠加,不断挤占计算单元空间。单柜 GPU 装载上限被锁死,Token 产能天花板由此形成。

🔗

互连冲突加剧

背板、线缆、风道、液路各自规划,互连路径被拉长,时延上升。多卡并行推理的整体效率被系统性压低,Token 生成变慢。

三重困境指向同一个结论:Token 工厂的问题已经超出"散热"本身,而是计算、互连、供电、散热在有限空间内互相掣肘的系统性困局。

—— 要同时解这三道题,必须从系统设计的源头重新思考。

02原生液冷 从系统源头回应三重困境

传统液冷是"先定计算、再配散热",在计算系统定型后再找空间塞液冷设备。原生液冷不是冷板液冷的"Pro Max"版,其本质区别体现在三个维度:

传统冷板液冷

热设计后置,散热与计算各自为政;分散覆盖,局部优化;散热部件层层堆叠,挤占计算空间。

原生液冷

热设计前置,计算、散热、供电、互连统一规划;全域热管理,协同散热;极简工程,零软管零线缆零风扇。

这种系统重构,沿着算力密度、空间密度和互连密度逐一展开,最终都指向 Token 产能

📈

算力密度

一体化冷板将 GPU、CPU、内存、网卡、光模块、SSD 全部纳入统一热管理,整机柜算力密度提升至传统方案的 10 倍以上。芯片持续高负载不掉频。

📐

空间密度

零软管、零线缆、零风扇,装配接口减少 80%,流阻降低 60%,释放 50% 设备空间用于芯片和互连。单柜 Token 产能上限被彻底打开。

互连密度

无中背板正交直连架构,单 GPU 与 Switch 4.8TB/s 高速直连,64 卡全互连提供 300TB/s 带宽,支持 224G 高速数据传输。

三个维度相互咬合:散热能力上去了,芯片不掉频;空间释放了,计算单元更多;互连路径短了,多卡协同效率更高——最终 Token 吞吐被系统性拉高。

03两类算力底座 浪潮信息原生液冷整机柜

Agent 的完整工作流是"两条腿走路":GPU 负责高速生成 Token,CPU 负责高效调度 Agent。两类算力缺一不可,任何一端掉链子,整个系统的响应速度都会被拖垮。

浪潮信息基于原生液冷架构,针对这两类需求分别推出了对应的高密整机柜产品:

🖥️ GPU 原生液冷整机柜 千卡算力 · 48U

  • 48U 空间承载千卡算力,单柜算力密度达到传统方案的 10 倍以上
  • 一体式 SDAC 冷板,将 GPU、CPU、内存、网卡、光模块等热源在整块冷板上双面高密平面化部署,散热效率翻倍。
  • 首创无中背板 MDP 矩阵式直连架构,1024 颗 GPU 与 Switch 之间高速直连,支持千卡、万卡超大规模无损扩展。
  • 单柜功率覆盖 330kW 至 1MW,大模型吞吐达到 146 万 tokens/s。一个 MW 级机柜就能撑起一条高产的 Token 产线。
关键指标:持续满速输出,不降频、不掉速。

🧠 CPU 原生液冷整机柜 384 颗 CPU · 4 万+ Agent

  • 基于液冷 OCM 架构,单柜集成 384 颗 CPU,支持 4 万以上 Agent 高并发运行。
  • 高负载下不掉频、不降速,Agent 调度响应始终保持在低延迟状态。
  • 与 GPU 整机柜在统一的原生液冷架构下协同工作,从 Token 生成到 Agent 执行,全链路不再有散热瓶颈。
定位:让 Agent 的编排调度不拖后腿,两类算力底座协同输出。

GPU 整机柜负责高速生产 Token,CPU 整机柜负责高效调度 Agent——两类算力底座在统一的原生液冷架构下协同,Token 从生成到执行始终保持高效。

04Token 工厂的关键指标 数字背后的系统能力

从三重困境到三个维度的突破,原生液冷用数据证明了系统重构的价值。以下是一组核心指标:

10× 算力密度提升
80% 装配接口减少
60% 流阻降低
50% 设备空间释放
300 TB/s 互连带宽
146 万 Token / 秒吞吐
1 MW 单柜功率
4 万+ Agent 并发

以上数据均来自公开报道与产品技术规格。算力密度提升为传统冷板液冷方案对比基准,非零起点。

一个诚实的注脚:这些数字不是孤立的——它们是在"计算、散热、互连、供电统一规划"的系统级设计下,协同作用的结果。

05为什么是系统架构?

当下,AI 基础设施赛道硬件层面的差距正在收窄。各家厂商能采购到的核心器件几乎一样,芯片本身的性能天花板也越来越透明。你有的 GPU,别人也有;你用的 HBM,别人也能买到。单纯的硬件堆砌已经拉不开身位了。

当 GPU、HBM、网络芯片逐渐趋同,电力和空间成为 AI 基础设施的硬约束时,真正的分水岭在于:谁能把这些相同的组件组织成更高效率的算力 Token 产线。

同样的千卡规模算力,放进不同的系统里,最终的 Token 产出可能差出 30% 甚至更多。差距不在芯片本身,而在芯片与芯片之间如何通信、热量如何导出、供电如何分配、空间如何利用——这些系统层面的设计选择,最终决定了每一颗芯片的性能有多少能被真正释放出来。

芯片趋同系统架构Token 产出

原生液冷正是这种系统级创新的物理层体现。它证明了一件事:当散热、互连、供电、空间被统一规划时,算力密度的天花板可以被打碎重建。

编辑核心判断

硬件趋同的时代,系统架构能力才是 Token 产能的真正天花板。谁能在有限的空间和电力约束下,把芯片、散热、互连、供电组织成最高效的算力产线,谁就定义了下一阶段 AI 基础设施的竞争门槛。

产品状态

GPU 原生液冷整机柜与 CPU 原生液冷整机柜已通过浪潮信息对外提供,面向大规模 AI 训练与推理场景部署。

浪潮信息官网 → 产品详情