🛡️ 治理框架 · 安全基建
arXivLabs 发布 Agentic AI 运行时治理框架：三大机制为自主智能体划定“行动边界”
6 月 19 日，arXivLabs 正式发布 Runtime Governance for Agentic AI——一套开源运行时治理框架，通过 行动边界控制、可信来源验证 与 故障关闭执行 三大机制，为自主智能体提供可审计、可验证的安全护栏。框架已在 arXivLabs 内部完成多轮实战测试。
综合公开信息整理•
2026-07-22•
全文约 3 分钟读完
#Agentic AI
#运行时治理
#行动边界
#arXivLabs
#AI安全
🔲 行动边界控制
🔐 可信来源验证
⛔ 故障关闭执行
⚡ 30 秒速览
- 核心痛点：Agentic AI 在执行复杂任务时，面临越权操作、来源不可追溯、故障后无法自愈等问题——现有方案要么过于僵化，要么审计缺失。
- 三大机制：行动边界控制（Action-Boundary Control）为每个 Agent 划定可执行域；可信来源验证（Trusted Provenance）为每一步操作建立可追溯链；故障关闭执行（Fail-Closed Execution）在异常时自动降级而非失控。
- 实战验证：框架已在 arXivLabs 内部的多个 Agent 场景中完成测试，覆盖代码生成、数据抓取、API 编排等任务，异常事件 100% 被捕获并闭环。
- 行业信号：这是首个由学术基础设施平台推出的 Agent 治理框架，意味着“AI 安全”从模型层延伸到运行时层，治理正在成为 Agent 的标配能力。
01框架核心 三个维度，覆盖 Agent 全生命周期
Runtime Governance 框架从 边界、来源、故障 三个维度构建治理闭环。它不是一套静态规则，而是一个可嵌入 Agent 运行时的动态防护体系。
3
核心治理机制
7
治理维度覆盖
4
安全防护层级
∞
可扩展策略
注：7 个治理维度涵盖权限、数据流、调用链、审计、降级、恢复与报告；4 个安全层级从准入控制到退出策略逐层递进。
一个诚实的注脚：框架目前仍处于早期阶段，尚未在超大规模生产环境中验证。但其设计思路——将治理内建于运行时而非外挂审计——已经获得了多位 AI 安全研究者的认可。
02为什么需要这个框架？传统方案的两难困境
当前 Agentic AI 的治理大致分为两派：一派是“事前规则”，通过静态权限列表限制 Agent 行为，但面对复杂任务时过于僵化，Agent 频繁触碰边界导致任务失败；另一派是“事后审计”，允许 Agent 自由行动，但风险发生后才能追溯，且审计链路往往不完整。
Runtime Governance 试图在两者之间找到第三条路。
传统方案：事前规则 or 事后审计
要么用静态权限列表限制 Agent，导致任务失败率高；要么先放行后审计，风险敞口大，且审计链路经常断裂。
Runtime Governance：运行时动态治理
在 Agent 执行过程中实时评估行动边界，每一步操作都经过来源验证，异常时自动故障关闭——既保持灵活性，又确保可追溯。
注：故障关闭（Fail-Closed）与故障开放（Fail-Open）的核心区别在于——异常时系统自动降级到最安全状态，而非继续执行可能越权的操作。
03三大机制详解 边界 · 来源 · 故障
🔲 行动边界控制 Action-Boundary Control
- 为每个 Agent 实例动态划定可执行域，细化到 API 端点、数据表、文件系统路径，而非粗粒度的角色权限。
- 边界支持 上下文感知——同一 Agent 在不同任务阶段拥有不同的执行边界，任务完成后自动回收。
- 越过边界时，系统不直接拒绝，而是触发 边界协商机制：Agent 可申请临时扩展，需附理由，由治理引擎裁定。
实战表现：在内部测试中，边界控制机制拦截了 100% 的越权尝试，其中 23% 通过协商获得了合规的临时扩展，77% 被正确拒绝。
🔐 可信来源验证 Trusted Provenance
- 为 Agent 的每一步操作建立 不可篡改的来源链：输入数据来自哪里、调用了哪个模型、经过了哪些转换。
- 来源链采用 类似 Git 的 DAG 结构，每个节点记录操作哈希、时间戳、调用者身份，支持任意节点的可追溯审计。
- 外部数据源接入时，需通过 来源验证网关 认证，未认证的数据源会被自动标记为“低可信度”。
审计价值：当出现异常输出时，可沿着来源链精确定位到产生问题的具体步骤，审计效率提升 10 倍以上。
⛔ 故障关闭执行 Fail-Closed Execution
- 当 Agent 运行时检测到异常（如来源链断裂、边界超限、资源耗尽），系统自动进入 故障关闭模式：暂停所有未授权操作，保留现场快照。
- 与传统的“故障开放”不同，不尝试继续执行，也不自动重试，而是等待人工干预或预定义的恢复策略。
- 恢复策略支持 分级回滚：可回滚到上一个安全状态、终止当前任务、或仅撤销越权操作。
安全意义：故障关闭切断了 Agent 在异常状态下“越走越偏”的可能性，是 AI 安全中最保守但最可靠的策略。
04为什么是 arXivLabs？
arXivLabs 是 arXiv 旗下的创新实验室，长期致力于学术基础设施与 AI 安全的交叉研究。这次推出的 Runtime Governance 框架，是其 “可治理 AI” 系列的首个成果。
一个值得注意的背景：arXivLabs 本身运营着全球最大的学术预印本平台，每天处理海量 AI 相关的论文提交与元数据管理。这意味着他们拥有 真实的 Agent 治理需求——不是凭空造概念，而是从自身业务中生长出来的解决方案。
框架的代码已经开源，社区可以自行部署、测试、改进。从架构设计到落地验证，arXivLabs 走了一条极为务实的路径：先在自己家里用起来，再拿出来接受行业检验。
编辑核心判断
Agentic AI 的治理不是“要不要”的问题，而是“以什么粒度”的问题。Runtime Governance 框架给出了一个可操作、可审计、可演进的范本——它不完美，但它让“治理”这件事从口号变成了代码。
一个诚实的局限：框架目前主要面向中低风险的 Agent 任务（如数据处理、文档生成、API 编排），在高风险场景（如金融交易、医疗决策）中尚未经过充分验证。生产级应用仍需谨慎。
▶获取框架
Runtime Governance for Agentic AI 已开源，访问 arXivLabs 官方页面可获取完整代码、文档与测试用例。
arxiv.org → arXivLabs 治理框架
* 框架目前处于早期发布阶段，欢迎社区提交 Issue 与贡献