KDC 长期运行主张观察
保存历史不等于形成记忆:KDC 提出记忆生命周期与反馈治理框架,强调长期可靠性的关键在治理历史影响而非存储更多文本
AI 系统的长期可靠性不取决于积累多少历史,而取决于能否治理历史对当前判断与行动的影响——记忆需要门槛、生命周期和反馈验证,反馈不是自动真值。
案例引入:一次错误的偏好泛化
Agent 在上一次退款中执行了所有正确步骤,系统因此将“用户在符合条件时偏好直接退款”写入长期记忆;几周后用户表示“只是先了解一下”,记忆检索却把单次行动泛化为稳定偏好,导致 Agent 减少解释并直接推进退款确认流程。历史没有被记错,但系统把特定情景下的行动错误地泛化为跨时间、跨订单的稳定偏好。
用户行动(单次退款)
↓
泛化(错误)
⚠️ 记忆:用户偏好“直接退款”
↓
影响后续行动
Agent减少解释,直接推进退款确认
“系统记住得更多,却不一定变得更可靠。”
案例类型
退款咨询被误判为退款授权
KDC 长期运行主张部分的核心反例,说明单次正确不等于长期可靠。
“系统记住得更多,却不一定变得更可靠。”
—— vivo 肖博,KDC 长期运行主张作者
常规记忆 vs. KDC 记忆:从检索什么到历史如何生效
常规 AI 记忆关注“检索什么历史放进当前上下文”,KDC 记忆运行时追问“哪段历史可以在什么条件下影响未来判断和行动”。
核心问题
检索什么历史放进当前上下文
哪段历史可以在什么条件下影响未来判断和行动
关注对象
存储与检索:向量库、相似度召回
记忆对象:时间、经验、上下文、反馈和演化状态
向量相似度能帮助找到相关历史,却不能替系统回答治理问题:记忆何时形成、来自事实还是模型总结、是否被反馈支持、是否与新现实冲突、当前主体是否有权使用、应继续生效还是降低影响。
记忆形成门槛与四类候选记忆
日志回答“发生了什么”,记忆对象还要回答“这段历史对未来理解和行动有什么意义”。一次偶然事件只能形成候选记忆,保留来源和适用上下文,等待后续反馈;模型输出也不能直接写成长期记忆。
四类候选记忆类型
行动-结果记忆、偏好或画像记忆、决策先例记忆、情景记忆
KDC 当前阶段提出的用于能力治理的候选分类,前三类直接影响能力调用、风险和人工确认,情景记忆更多服务上下文连续性。
示例:从执行记录到错误记忆
refund_order 返回成功是执行记录;退款三天到账是行动结果;“节假日退款通常更慢”是经验;“用户永远偏好退款”可能是过度泛化的错误记忆
说明记忆形成需要区分执行记录、行动结果、经验和画像。
记忆生命周期:形成、强化、衰减、冲突、遗忘、迁移、归档
记忆系统如果只支持写入和检索,最终会被旧现实填满。KDC 记忆运行时至少需要考虑形成、强化、衰减、冲突、遗忘、迁移和归档七种状态变化。遗忘不是缺陷,而是治理能力。
生命周期状态
形成 → 强化 → 衰减/冲突 → 遗忘/归档
每个状态都需要对应治理逻辑:形成不等于稳定生效;强化不等于重复放大;冲突需显式标记;遗忘可表现为降权、过期、限制上下文或迁移到历史区。
“真正危险的不是系统忘记一段无关历史,而是它无法停止让过期、越权或错误经验影响未来。”
—— vivo 肖博,KDC 长期运行主张作者
反馈不是自动真值:来源、关联与错误归因
行动完成后可能收到执行结果、用户确认、投诉、人工审批、后续业务结果等多种反馈,它们重要性不同且可能相互矛盾。接口返回 success 不代表退款到账,用户说“已经到账”更接近现实结果但仍可能存在误解,对账系统确认则提供另一类证据。反馈不能绕过验证直接将知识升级或强化记忆。
最小反馈处理链
执行结果/现实观察 → 关联原目标、推理和能力 → 判断来源与可信度 → 错误归因/结果验证 → 更新推理对象 → 形成候选记忆或候选知识 → 由运行时决定强化、降级或归档
反馈应能改变知识、记忆、推理或治理策略中的具体部分,而不是笼统归因于“模型好不好”。
“没有错误归因,所有反馈都会被粗暴地归给‘模型好不好’。系统也就无法知道究竟该改知识、记忆、推理、能力实现还是治理策略。”
—— vivo 肖博,KDC 长期运行主张作者
持续一致性:发现偏差并保留修正路径
KDC 长期目标不是让 AI 自动越用越聪明,而是让应用软件能持续观察领域现实与数字系统的偏差,并保留修正偏差的工程路径。持续一致性要求系统知道覆盖和遗漏、发现数字表示与现实不一致、识别知识漂移、关联行动结果与原判断,并在偏差出现后更新相应对象。
五个候选度量方向
覆盖度、一致性、知识新鲜度、行动-结果关联度、审计链完整性
当前为 Derived + Open Research,候选操作性定义和最小信号已提出,但现实域枚举、真值判定、时效阈值、漂移计算和审计链强制仍需实践验证。
不应过早把所有度量组合成看似精确的“系统一致性分数”,一个总分可能掩盖局部高风险缺口。早期实践更适合从可采集信号开始,如活跃知识多久未验证、多少高风险行动缺少现实反馈、多少失败可归因于过期知识。
与日志、Trace 和传统可观测的关系
KDC 不替代 Logging、APM、Tracing、Audit Log 和 LLMOps,而是复用其数据,并要求现有信号通过稳定对象身份和因果关系形成审计链。
观察深度
哪个服务失败、请求耗时、哪个 Tool 被调用、Token 消耗
引用了哪个版本知识、哪段记忆影响判断、策略为何允许或拒绝、现实反馈是否验证原判断
可观测系统提供证据,不应越权直接修改知识或记忆;对象状态变化仍由相应运行时和治理流程负责。
实践建议:为一次重要行动建立 Feedback Contract
六个核心问题
1. 哪个现实结果可以验证成功?
2. 反馈由谁产生、多长时间返回?
3. 如何关联原目标、推理和能力调用?
4. 冲突时谁有权确认或修正?
5. 哪些结果应形成记忆及何时衰减、遗忘或归档?
6. 哪些稳定经验可升级为候选知识?
先为单个重要行动定义验证方式,而不是先设计统一指标平台。
Feedback Contract 的核心是明确“执行完成”和“现实目标实现”的区别,并规定反馈如何改变未来。第一版不需要综合评分,只要系统能稳定关联目标、依据、执行和结果,并知道反馈应进入知识、记忆、推理还是治理,就已经建立最小闭环。
开放边界与理论成熟度
成熟度划分
记忆对象与记忆运行时:Hypothesis + Derived;持续一致性五个度量:Derived + Open Research
统一遗忘策略、Memory Taxonomy、组织级迁移和记忆可信度计算仍是开放问题,尚未形成统一规范。
“保存历史 ≠ 形成记忆;检索到过去 ≠ 过去仍然适用;收到反馈 ≠ 获得真值;积累更多 ≠ 持续变好。”
—— vivo 肖博,KDC 长期运行主张作者
编辑观察
本文是 KDC 理论系列的第四篇,延续了前作“Human-led, AI-collaborated”的创作模式,核心贡献在于把 AI 记忆问题从存储检索技术层面提升到治理层面——明确提出记忆生命周期、四类候选记忆类型和反馈归因链路。对生产系统的启示是:记忆功能不能只解决“如何重新看到历史”,必须解决“历史是否应该影响当前行动”;反馈必须关联到知识、记忆、推理或治理的具体可修正对象,否则系统只会越用越偏。文章保持理论克制,明确标识成熟度和开放问题,未过度宣称工程完备性。
总结评价
本文提出了一个有实践指向的 AI 记忆治理框架:通过形成门槛、生命周期状态、反馈归因和持续一致性度量,把“长期记忆”从文本累积改造为可治理的影响机制。对工程团队最有价值的可落地建议是为关键行动建立 Feedback Contract,先在小范围内实现目标-依据-执行-结果的稳定关联,再渐进扩展。全文观点清晰、边界明确,适合作为大模型应用长期运行设计的参考基线;其开放问题提示读者,统一遗忘策略和组织级迁移仍有待实践验证。