LLM 提议,执行器落地:arXiv 论文提出自校验机制,拆解长时域 Agent 跑偏难题
面向复杂多步骤任务中智能体频繁出现的“越跑越偏”痛点,最新 arXiv 论文提出自校验智能体机制(Self-Verifying Agent Instrument),首次将长时域 Agent 执行中的承诺漂移(Commitment Drift)与绑定漂移(Binding Drift)精准解耦。
面向复杂多步骤任务中智能体频繁出现的“越跑越偏”痛点,最新 arXiv 论文提出自校验智能体机制(Self-Verifying Agent Instrument),首次将长时域 Agent 执行中的承诺漂移(Commitment Drift)与绑定漂移(Binding Drift)精准解耦。
在处理跨越数十个步骤的复杂任务时,AI Agent 常常在后半段表现出逻辑混乱或执行失效。过去的研究往往将这类现象统称为“智能体漂移”,但论文指出,这种模糊的归因掩盖了两种截然不同的失效机理:
高阶意图偏移:随着上下文累积与中间结果干扰,Agent 逐渐遗忘或歪曲了用户初始给出的终极目标。
低阶执行偏离:Agent 依然牢记原始目标,但在将方案映射到具体 API 参数、代码或环境状态时发生错误绑定。
如果混淆了这两者,就会出现“用 Prompt 改进高阶推理,却无法解决低阶接口调用失效”的工程困境。
注:传统评测仅依赖最终输出对错,难以区分是模型“想错了”(承诺漂移)还是系统“做错了”(绑定漂移)。解耦诊断是实现靶向修复的前提。
为了解决这种双重漂移,论文提出一种“分权”的自校验智能体架构:
这种机制的核心在于将大模型的职责从“全权包办”缩减为“提出方案”,最终的操作控制与状态确认交给具备自我校验能力的确定性执行器。
论文通过实验评估了该自校验机制在长时域任务中的表现。数据表明,将控制权分离并加入执行器校验后,智能体在长时域推理中的稳定性显著改善:
注:论文实验在多步代码修改、多表数据治理与自动化运维等长时域模拟场景中进行测试验证。
长时域智能体的突破口,不在于无限扩大大模型的上下文窗口,而在于建立“推理”与“状态控制”分离的自治工程体系。“LLM 提议,执行器落地”的范式将大模型退居为“提议者”,把确定性控制还给具备自校验能力的工程执行器——这是降低 Agent 生产环境失效率的必由之路。
关于自校验智能体架构与解耦诊断的理论推导与更多实验细节,可参阅预印本相关公开论文。