DeepMind 正式发布 AI Control Roadmap——一套面向日益强大的 AI Agent 的系统级安全框架。该框架在传统模型对齐之外，增加了一层"防御纵深"：即使对齐不完美，系统级安全仍能兜底。目前已在百万级编码任务中实测验证，并部署于 Gemini Spark 智能体。
AI Agent 正在从"聊天助手"进化为"自主执行体"——它们写代码、操作数据库、管理文件、调用 API。能力越强，出错或偏离意图的潜在后果就越严重。
传统对齐就像让一个学生通过考试，但无法保证他毕业后不会犯错。
DeepMind 的切入点很直接：模型对齐是必要的，但不是充分的。安全不能只靠"模型本身是好的"来保证，还需要一套系统级机制——即使模型出现未对齐行为，系统也能检测、拦截、纠正。
训练模型"做好人"，但一旦出现分布外输入或对抗攻击，缺乏兜底机制。
在模型对齐之上叠加"防御纵深"——像对待潜在内部威胁一样管理 Agent，层层设防。
DeepMind 用了一个形象的类比：驾驶教练的双重控制。教练信任学员，但脚始终放在副刹上。AI 控制系统也是如此——根据 Agent 的已验证行为授予权限，通过受控的、逐步的访问来建立信任。
这个类比的核心洞察：信任是挣来的，不是预设的。每一次 Agent 操作都在"挣信任"或"消耗信任"。
路线图建立在一条简单但谨慎的假设之上：如果高度能力的 AI Agent 与我们的目标不一致，并以意外方式行动怎么办？围绕这个假设，框架聚焦三个领域：
威胁建模层面，DeepMind 基于行业标准 MITRE ATT&CK 框架，构建了针对 AI Agent 的威胁分类体系。将潜在攻击拆解为具体的战术与技术，实现系统化的风险追踪。
缓解措施层面，安全协议根据模型能力分等级部署：
基于模型的检测规避能力分级。能力越强，检测手段越精密。
基于模型的攻击执行能力分级。能力越强，响应机制越主动。
性能测量则围绕三个关键指标：覆盖率（受监控的流量比例）、召回率（捕获的未对齐行为比例）、响应时间（从检测到处置的速度）。
三个指标构成一个"安全仪表盘"——任何一项落后，都会成为整个系统的短板。
框架不是纸上谈兵。DeepMind 团队构建了一套异步监控系统原型，专门审查编码 Agent 的执行轨迹，并将发现结果按威胁分类法进行标注。截至目前，已分析超过 100 万个编码 Agent 任务。
一个反直觉的发现：大多数异常并非源于恶意。
基于这些数据，团队为 Gemini Spark 智能体构建了实时监控系统，能够对正在出现的问题（如非故意的数据删除）做出即时响应。这标志着 AI Agent 安全从"事后审计"迈向了"实时干预"。
100 万级数据训练出的行为模式库，让系统能够区分"正常偏离"和"危险信号"——这是规则引擎做不到的。
除了内部路线图，DeepMind 还同步发布了一份面向政策制定者的技术框架——《Three Layers of Agent Security》，将安全视野从单个 Agent 扩展至整个生态：
三层框架的逻辑是递进的：单体 Agent 要能防住提示注入、权限滥用；多 Agent 系统 要解决 Agent 之间的信任与通信安全；生态层面 则要赋能整个行业的安全防御者，构建社会级韧性。
DeepMind 明确表示，这套多层安全体系应该是行业、政策制定者与学术界的共同优先事项——通过围绕最佳实践和标准对齐生态，才能让安全能力跟上 AI 能力的进化速度。
三层框架的核心主张：安全不是单点解决方案，而是从代码到生态的"全栈"责任。
DeepMind 的 AI Control Roadmap 之所以重要，不在于它提出了多少新概念，而在于它做对了两件实际的事：
第一，把安全从"模型属性"变成了"系统设计"。 过去我们默认安全是模型训练出来的；现在 DeepMind 证明，安全是被设计、测量、迭代出来的系统能力。这听起来像是常识，但行业里真正按这个逻辑做的团队屈指可数。
第二，用百万级数据证明了"非恶意误判"是主要风险源。 这个发现价值巨大——它意味着安全设计不应该只盯着"坏人使坏"，更要防范"好人办坏事"。
一个诚实的注脚：这套框架目前仅用于 Google 内部系统，其有效性仍需在更开放的生态中接受检验。
但方向已经清晰：系统级安全正在成为 AI Agent 落地的关键基础设施——就像防火墙之于互联网，安全带之于汽车。谁能率先建立可规模化的安全体系，谁就拿到了下一阶段 AI 部署的入场券。
AI Agent 的安全不能只靠模型"自觉"，而必须成为可测量、可迭代的系统工程。DeepMind 的路线图提供了一个可操作的起点，但真正的考验在于：这套逻辑能否从内部走向行业，从论文走向生产。
AI Control Roadmap 技术报告及三层安全框架全文已公开发布，可查阅 DeepMind 官方博客与安全研究页面。
deepmind.google → 安全研究