⚙️ AI 工程 · 理论前沿

AI Agent 调用成功≠判断正确:KDC 提出行动治理三层架构,重新定义企业 AI 责任边界

一次 Tool 调用返回 success,业务行动却可能是错的。vivo 肖博在知识驱动计算(KDC)系列第三篇中提出:调用成功≠判断正确,判断正确≠已获行动授权,并给出区分 Tool、Skill、Capability 的三层治理架构,让 Agent 从"万能容器"变为"可治理的协调者"。

综合公开信息整理 2026-07-24 全文约 4 分钟读完
#KDC #AI Agent #行动治理 #推理对象 #企业AI工程
3 层 Tool / Skill / Capability 架构区分
11 推理对象核心要素
4 类 企业 AI 审计链缺口

⚡ 30 秒速览

  • 核心主张:Tool 调用成功 ≠ 判断正确;判断正确 ≠ 已获行动授权。企业 AI 的价值不止于"能调用",更在于"知道何时不该调用"。
  • 事故还原:用户咨询退款条件,Agent 直接调用 refund_order 返回成功——但用户并未授权。日志只记录"调了什么",没记录"为什么调"。
  • 三层架构:Tool 解决"如何执行",Skill 解决"如何围绕目标组织",Capability 解决"如何在治理边界内执行"——关键边界不能只靠 Prompt 约束。
  • 工程落地:推理对象作为判断与行动之间的可追溯锚点,让审计系统能回答"为什么做、谁允许、依据什么、结果如何"。

01从判断到行动,需要一条可治理的责任链

传统软件中,一次退款操作被固化在代码路径里:用户点击按钮、二次确认、后端校验、风控判定、事务执行。因果链写在程序中。

Agent 系统改变了这一点。模型在运行时解释目标、组合上下文、选择工具,同一句"帮我看看能不能退"既可能是咨询,也可能是退款意向。选择不再来自预先写死的代码路径。

KDC 认为,一次受治理的 AI 行动不应只留下 Tool 调用记录,而应形成一条完整的因果链:

业务目标知识与证据推理对象能力选择策略权限能力调用执行结果现实反馈

如何阅读:推理对象位于"知识与证据"和"能力选择"之间,充当上游因果锚点。它让审计系统知道:这次行动不是因为模型"想调用",而是因为系统识别了目标、引用了知识、评估了风险,并形成了行动建议。

一个诚实的注脚:低风险只读查询未必需要完整链路。但退款、支付、权限变更、不可逆操作——行动影响越大,判断责任越应显式化。

02一次典型的"成功失败":退款事故还原

用户对售后 Agent 说:"帮我看看这笔订单现在能不能退?"Agent 查询了订单状态,检索了退款政策,确认商品未发货,随后调用 refund_order,接口返回 success。

但用户只是在咨询条件,并没有授权发起退款。

🔴 事故复盘:日志能看到什么,看不到什么 因果断裂

  • 能看到:tool: refund_order / order_id: 20260710001 / result: success
  • 看不到:Agent 把用户目标理解成了什么?为什么认为"可以退款"等价于"已获授权"?哪些知识支持了判断?
  • 看不到:这次行动属于什么风险等级?为什么没有要求用户最终确认?哪个系统责任方允许了这次调用?
核心问题:调用日志记录了"发生了什么",却没有完整记录"为什么发生"。因果链在运行时断裂。

KDC 指出,推理对象至少应区分两个结论:事实判断(订单满足退款条件)与行动授权(用户明确要求发起退款)。二者不能因为语言上相近就被合并。

03Tool、Skill、Capability:三层架构各司其职

Agent 常被当作万能主体,同时负责理解目标、选择工具、执行行动、生成审计——一旦出错,结论只能是"Agent 做错了",真正原因却无法定位。

KDC 主张将执行能力拆分为三个工程层次:

Tool · 如何执行

最小可执行入口,描述名称、参数和返回结果。如 get_order_status、refund_order。可被调用,但不代表适合在任何上下文中被模型调用。

Skill · 如何围绕目标组织

围绕业务目标组织多个步骤,包含前置条件、编排逻辑、风险边界、失败降级。介于固定工作流与完全自由规划之间。

Capability · 如何在治理边界内执行

带治理语义的执行抽象:表达能力身份、业务语义、权限、风险等级、Owner、前置条件、人工确认要求、审计策略。关键边界不能只靠 Prompt 约束,必须提升为系统机制。

如何阅读:三层架构将"执行"与"治理"解耦。Tool 解决能力有无,Skill 解决效率与复用,Capability 解决安全与合规。三者缺一不可。

04推理对象:可追溯的因果锚点

推理对象(Reasoning Object)是 KDC 提出的核心工程概念——它不是 Prompt,不是 Trace,也不是完整 Chain-of-Thought,而是外部可审计的判断结构

它让系统可以检查:判断是否具备行动资格。

对于一次高影响判断,推理对象至少需要表达以下 6 个维度:

目标 · 任务要回答或完成什么 上下文 · 用户、订单、会话、系统状态 知识引用 · 使用的知识对象及版本 关键判断 · 从目标到结论的检查节点 风险与不确定性 · 证据是否充分,错误会造成什么影响 行动建议 · 是否建议调用某项能力

如何阅读:推理对象的价值不在于让模型更会解释,而在于让控制平面有机会在行动前检查"前置条件是否满足"。例如,将任务类型标记为"资格咨询"而非"退款执行",系统即可阻止越权调用。

05企业 AI 审计链的四大缺口

KDC 建议团队用一条真实的高风险调用记录,对照检查四类缺口。这四类缺口决定了系统能否回答"为什么做、谁允许、依据什么、结果如何"。

因果只能看到 Tool 调用,无法追溯目标和依据
语义Tool 有参数,却没有业务语义、风险和 Owner
治理关键边界只写在 Prompt,没有系统策略
反馈接口成功后,没有验证现实结果

如果答案仍然只能从聊天记录、Prompt 和多份日志中人工拼接,说明行动审计链尚未成为稳定工程能力。

如何阅读:四类缺口对应审计链的四个环节——因果(溯源)、语义(理解)、治理(控制)、反馈(验证)。每填补一类缺口,系统就往"可治理的 AI 行动"前进一步。

编辑核心判断

让模型调用 Tool 已不再困难。真正困难的是把运行时判断、业务风险和执行权限放进同一条可治理链路。企业 AI 的关键不是会调用,而是知道何时不该调用。

实践建议

选择一条已有高风险 AI 行动记录(退款、权限变更、审批提交),尝试还原完整的因果链:目标→知识→推理→能力选择→策略→执行→反馈。然后对照四类缺口,形成一份最小 AI Action Record。

KDC 理论目前处于开放研究阶段,本文为系列第三篇,前两篇分别讨论领域现实与知识工程。