原生液冷打破 AI 算力三重困境:单柜算力密度提升 10 倍,Token 吞吐 146 万/秒
Token 需求井喷推高算力密度天花板,传统冷板液冷在散热、空间、互连三个维度同时触顶。原生液冷从系统底层重构计算、散热、互连、供电关系,让单柜算力密度跃升 10 倍以上,单柜功率覆盖 1MW,持续满速输出不降频。
Token 需求井喷推高算力密度天花板,传统冷板液冷在散热、空间、互连三个维度同时触顶。原生液冷从系统底层重构计算、散热、互连、供电关系,让单柜算力密度跃升 10 倍以上,单柜功率覆盖 1MW,持续满速输出不降频。
Token 需求爆发,直接推高了 AI 基础设施的规模天花板。单 Agent 的 Token 消耗量可达传统对话应用的 百倍至千倍级,千卡集群已不够用,万卡、十万卡正在成为标配。但数据中心的电力和空间是有限的——唯一的出路是在单位空间内塞进更多算力,把算力密度逼到极致。
算力密度提升,单机柜功耗从数十千瓦跃升至数百千瓦,并进一步向 MW 级迈进。当单柜功率到达这个量级,传统冷板液冷方案的三条瓶颈同时在有限空间里收窄:
传统冷板"逐个加板"的方式追不上全系统发热增长。散热跟不上,芯片触发温度墙而降频,Token 产出从峰值持续衰减。
风扇、冷板、软管、分液器层层叠加,不断挤占计算单元空间。单柜 GPU 装载上限被锁死,Token 产能天花板由此形成。
背板、线缆、风道、液路各自规划,互连路径被拉长,时延上升。多卡并行推理的整体效率被系统性压低,Token 生成变慢。
三重困境指向同一个结论:Token 工厂的问题已经超出"散热"本身,而是计算、互连、供电、散热在有限空间内互相掣肘的系统性困局。
传统液冷是"先定计算、再配散热",在计算系统定型后再找空间塞液冷设备。原生液冷不是冷板液冷的"Pro Max"版,其本质区别体现在三个维度:
热设计后置,散热与计算各自为政;分散覆盖,局部优化;散热部件层层堆叠,挤占计算空间。
热设计前置,计算、散热、供电、互连统一规划;全域热管理,协同散热;极简工程,零软管零线缆零风扇。
这种系统重构,沿着算力密度、空间密度和互连密度逐一展开,最终都指向 Token 产能:
一体化冷板将 GPU、CPU、内存、网卡、光模块、SSD 全部纳入统一热管理,整机柜算力密度提升至传统方案的 10 倍以上。芯片持续高负载不掉频。
零软管、零线缆、零风扇,装配接口减少 80%,流阻降低 60%,释放 50% 设备空间用于芯片和互连。单柜 Token 产能上限被彻底打开。
无中背板正交直连架构,单 GPU 与 Switch 4.8TB/s 高速直连,64 卡全互连提供 300TB/s 带宽,支持 224G 高速数据传输。
三个维度相互咬合:散热能力上去了,芯片不掉频;空间释放了,计算单元更多;互连路径短了,多卡协同效率更高——最终 Token 吞吐被系统性拉高。
Agent 的完整工作流是"两条腿走路":GPU 负责高速生成 Token,CPU 负责高效调度 Agent。两类算力缺一不可,任何一端掉链子,整个系统的响应速度都会被拖垮。
浪潮信息基于原生液冷架构,针对这两类需求分别推出了对应的高密整机柜产品:
GPU 整机柜负责高速生产 Token,CPU 整机柜负责高效调度 Agent——两类算力底座在统一的原生液冷架构下协同,Token 从生成到执行始终保持高效。
从三重困境到三个维度的突破,原生液冷用数据证明了系统重构的价值。以下是一组核心指标:
以上数据均来自公开报道与产品技术规格。算力密度提升为传统冷板液冷方案对比基准,非零起点。
当下,AI 基础设施赛道硬件层面的差距正在收窄。各家厂商能采购到的核心器件几乎一样,芯片本身的性能天花板也越来越透明。你有的 GPU,别人也有;你用的 HBM,别人也能买到。单纯的硬件堆砌已经拉不开身位了。
当 GPU、HBM、网络芯片逐渐趋同,电力和空间成为 AI 基础设施的硬约束时,真正的分水岭在于:谁能把这些相同的组件组织成更高效率的算力 Token 产线。
同样的千卡规模算力,放进不同的系统里,最终的 Token 产出可能差出 30% 甚至更多。差距不在芯片本身,而在芯片与芯片之间如何通信、热量如何导出、供电如何分配、空间如何利用——这些系统层面的设计选择,最终决定了每一颗芯片的性能有多少能被真正释放出来。
原生液冷正是这种系统级创新的物理层体现。它证明了一件事:当散热、互连、供电、空间被统一规划时,算力密度的天花板可以被打碎重建。
硬件趋同的时代,系统架构能力才是 Token 产能的真正天花板。谁能在有限的空间和电力约束下,把芯片、散热、互连、供电组织成最高效的算力产线,谁就定义了下一阶段 AI 基础设施的竞争门槛。
GPU 原生液冷整机柜与 CPU 原生液冷整机柜已通过浪潮信息对外提供,面向大规模 AI 训练与推理场景部署。
浪潮信息官网 → 产品详情