Meta 自研 AI 芯片拓展至网络层:MTIA 300 集成 12 个 RDMA 网卡,推荐模型通信耗时剧降 3.9 倍
面对传统 GPU 在推荐算法中遭遇的“通信墙”瓶颈,Meta 披露了专为训练排序与推荐模型设计的自研加速器 MTIA 300 架构细节。通过将网络芯粒直接封入芯片并剥离通信计算,Meta 展现了超大规模数据中心避开通用 GPU 依赖的彻底路径。
面对传统 GPU 在推荐算法中遭遇的“通信墙”瓶颈,Meta 披露了专为训练排序与推荐模型设计的自研加速器 MTIA 300 架构细节。通过将网络芯粒直接封入芯片并剥离通信计算,Meta 展现了超大规模数据中心避开通用 GPU 依赖的彻底路径。
大语言模型训练主要消耗的是原始浮点算力,而推荐与排序模型的工作负载逻辑截然不同:计算节点大部分时间都在等待跨卡通信。
算力需求集中在密集矩阵乘法,重点关注芯片的 FLOPs 吞吐量。
嵌入表(Embedding Table)占据 99% 以上参数,产生海量 AllReduce 与 AllToAll 通信。
这意味着,算力再高,只要网络通信被卡住,加速器就会大半时间处于空转罢工状态。
在数十到数百个节点跨机架训练时,网络通信已成为与计算本身同等重要的核心瓶颈。
为破解通信瓶颈,Meta 在 MTIA 300 架构上做出了两项关键改动:
第一,将网卡吸收到芯片内部。封装内直接植入 2 个定制网络芯粒,配备 12 个 800 Gbps RDMA NIC,提供 1.2 TB/s 的 I/O 带宽,数据搬运不再绕道 PCIe 总线。
第二,彻底剥离通信与计算。传统 GPU 在执行集合通信时会挤占主计算单元资源。MTIA 300 设立了 16 个专用消息引擎 与近内存硬件,专门接管通信归约操作。
注:企业披露数据,基于两类工作负载同时运行时的实测算力损耗对比;待第三方针对大规模集群做复测验证。
硬件独立之后,软件编排方式也迎来了重构。
传统方案中,每次通信都需要主机 CPU 实时干预与调度。而 Meta 将自研集合通信库 HCCL 与芯片进行了深度协同设计:
一旦通信指令进入加速器,主机 CPU 便不再参与驱动。数据在生产机架内实现了最高 940 GB/s 的通信带宽。
实测表明,在 40 个加速器上训练 1500 亿参数推荐模型时,总通信耗时大幅缩减至同等配置 GPU 集群的 1/3.9。
MTIA 300 的发布标志着 Meta 自研芯片战略全面进入深水区。目前 Meta 已在生产线部署了数十万张 MTIA 加速器用于推理,并计划在未来两年推出涵盖生成式 AI 在内的 4 代后续产品。
与博通联合开发下一代芯片的同时,Meta 仍维持采购英伟达、AMD 加速器的多供应商策略。
这种“专用自研 + 采购通用”的组合拳,正是头部云服务商普遍转向专用 AI 芯片的缩影:
主攻推荐/排序与生成式 AI 协同,把网络通信直接压进芯片封装。
迭代至第六代 Trillium,构建大规模 Pod 级光交换网络系统。
持续扩建训练芯片阵列,主打极致高性价比的云端训练服务。
自研 Maia 系列加速器加速演进,优化 Azure AI 专有工作负载。
AI 算力竞赛的下半场,正从单纯的比拼“单卡算力”快速演化为“消灭通信墙”的系统工程之争。对于拥有特定巨量业务的云巨头而言,围绕特定工作负载协同重构芯片与网络,其投资回报率已开始显现出超越通用 GPU 集群的巨大潜力。