TPW:AI基础设施的效能新标尺,商汤大装置首提单位电力Token产出
当Token消耗指数级增长,AI基础设施的衡量标尺正在从PUE转向TPW。商汤大装置提出Tokens Per Watt指标,以单位电力成本产生的有效Token为核心,重新定义AI基础设施的效能标准——并在临港AIDC实现单位电力成本Token产出提升80%。
当Token消耗指数级增长,AI基础设施的衡量标尺正在从PUE转向TPW。商汤大装置提出Tokens Per Watt指标,以单位电力成本产生的有效Token为核心,重新定义AI基础设施的效能标准——并在临港AIDC实现单位电力成本Token产出提升80%。
PUE作为数据中心总能耗与IT设备能耗的比值,过去十几年一直是行业衡量能效的"黄金标准"。从气流组织优化到液冷技术规模化部署,每一轮努力的目标都是把PUE压得更低。
但AIDC的服务模式正在从"卖卡时"转向"卖Token"。生意的计量单位变了,评价效率的标尺自然需要同步迭代。PUE关注"用了多少电",却回答不了"这些电产出了多少有效价值"。
衡量电力使用效率,关注"用了多少电",回答的是设备能效问题。PUE下降不必然意味着总能耗或Token成本同步下降。
衡量单位电力Token产出,关注"这些电产出了多少有效价值",回答的是系统效率问题。将电价、储能、利用率等纳入统一评价。
一个典型矛盾:调高送风温度可能降低制冷能耗,让PUE账面更好看,却会使GPU与服务器风扇功耗上升,最终总用电未必下降,Token产出成本甚至可能升高。商汤大装置智算中心总经理林海指出,PUE无法准确回答"这些电创造了多少价值",行业需要一个新度量标尺。
TPW(Tokens Per Watt)以单位电力成本产生的有效Token作为核心指标,统一衡量算力效率、能源效率与业务价值。它不是对PUE的简单否定,而是在PUE基础上,进一步打通从电力投入到Token产出的全链路效率评价。
过去分散在各环节的优化动作——电价、储能、PUE、GPU利用率、模型效率——由此开始指向Token产出这同一个价值指标。
对行业而言,TPW的价值不止于一个新指标,更在于它建立了统一的价值语言。电网、IDC、算力平台、模型厂商可以在同一个标尺下进行优化,算电协同由此变成可度量的系统能力。
这套路径分为三级,层层递进:
构建八级数据穿透体系,贯通任务、算力资源与物理用电之间的映射关系,将GPU利用率、任务功耗、机柜负荷、楼栋用电统一到同一时间轴,实现每一度电与每一个算力任务的精准对应。
根据业务优先级和延迟容忍度,自动将可调度任务安排到低电价、低负荷时段运行。在线推理实时响应,训练、评测、批处理等任务灵活调节,在保障服务质量的前提下提升整体资源利用率。
结合容量挖潜、储能调度和电网需求响应,实现算力与能源的动态协同。通过负荷预测、容量优化和储能削峰,在不新增供电容量的前提下,让有限电力承载更多有效计算任务。
今年7月10日上海市迎峰度夏电力需求响应中,商汤临港AIDC率先启动算电协同调度模式,实现午间常规用电负荷削减75%,可调负荷规模达23MW,两小时向电网释放4.6万度削峰电量。
这意味着AIDC与电网的关系正在发生改变——从"刚性负荷"变为"可运营的弹性资产"。
商汤大装置智算中心运维总监张煦表示,算电协同Agent已全面应用于临港AIDC,并且通过模块化设计,这一能力可以快速复制到国家算力枢纽节点、万卡级智算中心、企业级智算中心等场景。
TPW的真正价值不在于替代PUE,而在于将AI基础设施的优化从"设备能效"转向"系统效率"。当算力任务可以被识别、分级和智能调度,负荷弹性便成为一种可运营的新型资产——这标志着AI基础设施正在从"卖卡时"进入"卖Token"的系统级算效时代。
算电协同Agent已全面应用于商汤临港AIDC,并面向国家算力枢纽、算力运营商、企业级智算中心开放标准化部署,新场景最快一周即可完成上线。
商汤大装置 · 算电协同 → 了解详情