最新发表的论文 Nexus 提出两项核心技术——深度自适应 KV 缓存拼接与检索解耦工具路由，在统一内存框架下大幅提升多智能体 LLM 的推理效率与工具调用精度，为下一代 Agent 系统提供底层架构新范式。
多智能体系统正在成为 AI 应用的主流形态。但当多个 LLM 实例在统一内存环境下协同工作时，一个隐蔽却致命的瓶颈逐渐浮现：KV 缓存碎片化。
每个智能体在推理时都会产生独立的键值缓存（KV Cache），它们散落在统一内存的不同区域，彼此不共享、不互通。结果就是：同样的上下文被重复计算，显存利用率骤降，推理延迟飙升。
更糟的是，工具调用也在「打架」。
当多个智能体同时请求同一工具（如搜索、代码执行器），传统路由策略缺乏上下文感知，经常出现意图错配、参数冲突、资源争抢。工具越丰富，混乱越严重。
Nexus 的出发点很直接：能不能把「各占一摊」变成「统一调度」？
独立 KV 缓存 → 冗余计算；工具路由静态绑定 → 冲突频发；显存碎片化严重，扩展性差。
深度自适应缓存拼接 → 消除冗余；检索解耦路由 → 精确调度；统一内存池化，高效协同。
对比基于公开技术信息整理，Nexus 两项核心创新分别针对缓存与路由两个独立维度。
Nexus 的第一项创新是深度自适应 KV 缓存拼接（Depth-Adaptive KV-Cache Splicing）。它的核心思想是：不再让每个智能体维护独立的缓存，而是构建一个统一的缓存池，按需拼接。
具体来说，Nexus 会实时分析每个智能体的注意力分布，识别出高频访问的上下文片段。然后，它将这些片段按语义相关性进行拼接——而不是机械地合并——从而让后续智能体可以直接复用，无需重新计算。
这听起来像缓存共享，但难点在于「深度自适应」：不同智能体关注的信息粒度不同，有的需要全量上下文，有的只需要摘要。Nexus 通过一个轻量级的注意力指导模块，动态决定拼接的粒度与深度。
以上效果数据基于论文所述典型场景下的测试结果，实际表现因任务负载与硬件配置而异。
一个直观的类比：以前每个智能体都在独立抄写同一本书的不同章节，现在 Nexus 把书拆成可复用的「活页」，谁需要谁取用。
第二项创新是检索解耦工具路由（Retrieval-Decoupled Tool Routing）。传统路由将「选哪个工具」和「怎么调参数」混为一谈，导致意图模糊时频繁出错。
Nexus 将这两个阶段彻底分离：
第一阶段只做工具选择——基于智能体的当前意图，从工具库中召回最匹配的 2-3 个候选；第二阶段再做参数检索与填充——根据具体上下文，为选中的工具生成精确的参数。
这种解耦带来了一个关键收益：工具召回的精度大幅提升。因为意图匹配不再被参数噪声干扰，参数生成也不再受工具选择错误的连锁影响。
数据基于论文中多个 Agent 场景的对比实验，Nexus 路由策略 vs 传统静态路由策略。
单独看每一项创新都很有价值，但 Nexus 真正的优势在于两项技术的协同效应。
深度自适应 KV 缓存拼接释放了统一内存的潜力，让更多智能体可以共享上下文；检索解耦工具路由则确保了工具调用的精确性。两者结合，使得 Nexus 在多智能体高并发场景下表现尤为突出。
哪些场景最需要这种架构？
多个分析 Agent 同时访问同一数据集，Nexus 的缓存拼接让它们共享预处理结果，避免重复计算；路由解耦确保各 Agent 精确调用不同的分析工具。
典型场景 · 效率提升显著一个复杂任务被拆解为多个子任务，由不同 Agent 协作完成。Nexus 的统一内存让上下文无缝传递，路由机制确保工具调用互不干扰。
高并发 · 冲突率大幅下降一个诚实的注脚：Nexus 的架构优势在工具种类超过 10 种、智能体实例超过 5 个的场景中才开始显著体现。对于简单场景，传统架构的性价比可能更高。
过去一年，Agent 系统的竞争焦点几乎全部集中在模型能力上——谁的基础模型更强、谁的理解能力更好。但 Nexus 传递了一个不同的信号：当模型能力趋同，系统架构将成为新的分水岭。
统一内存管理、缓存智能调度、工具路由解耦——这些听起来不如「模型参数规模」性感，但它们决定了多智能体系统能否真正落地。Nexus 的贡献在于，它用工程化的思维，解决了 Agent 协作中「看不见的摩擦力」。
当然，这项技术仍处于早期阶段。论文中的实验场景以实验室环境为主，真实生产环境中的稳定性、扩展性还有待验证。但方向是清晰的：下一代 Agent 系统的核心竞争力，将从「模型有多强」转向「系统有多顺」。
多智能体系统的工程瓶颈正在从「模型能力」转向「内存协作效率」——Nexus 的缓存拼接与解耦路由，为这一转变提供了可操作的架构范式。
Nexus 论文已发表于公开预印本平台，全文可查阅。
搜索「Nexus Depth-Adaptive KV-Cache Splicing」即可获取完整内容。