道义策略：为自主AI智能体构建运行时治理框架
随着大语言模型驱动的自主智能体系统日益普及，它们带来的安全、隐私与合规挑战也愈发突出。一个能够调用工具、操作数据、安装软件、甚至跨组织边界与同伴协调的智能体，仅靠身份验证和访问控制远远不够——它需要完整的企业治理结构来约束。马里兰大学巴尔的摩分校的研究团队在最新论文中提出了 AgenticRei 框架，试图填补这一空白。
传统策略引擎的局限
当前主流策略引擎如 XACML、Rego 和 Cedar 主要专注于“允许/禁止”这类权限控制。然而，自主智能体的治理需求远不止于此。例如，智能体在完成某项操作后有义务通知安全主管（如CISO）；在特定条件下，某项义务可以被豁免；当多个策略冲突时，需要确定优先级。这些需求被称为“道义策略”（Deontic Policies），它们超越了传统引擎的能力范围。
AgenticRei：道义策略的运行时执行
AgenticRei 基于 Rei 框架构建，使用 OWL（Web本体语言） 表示策略，并在LLM外部由高性能逻辑引擎在运行时评估。这种设计避免了将治理逻辑嵌入模型内部，保证了可解释性和安全性。AgenticRei 不仅支持基本的允许/禁止约束，还实现了：
- 义务生命周期管理：跟踪义务的创建、激活、履行或违反。
- 豁免机制：在特定场景下暂时免除某项义务。
- 策略冲突解决：当多条规则矛盾时，按元规则裁决。
- 本体推理：利用领域类层次结构（如医疗、网络安全）进行推理。
应用场景与兼容性
论文通过示例展示了道义策略如何捕获安全与隐私领域的治理约束——这些约束在现有生产级引擎中大多无法表达。例如，智能体在访问患者数据后，必须记录审计日志，并在检测到异常时立即通知安全团队。这种义务在传统策略中难以自动化管理。
AgenticRei 的另一个亮点是它能够同时治理工具调用和智能体间通信，并且与 A2AS（Agent-to-Agent Security） 等工业标准框架自然兼容。这意味着企业可以在现有基础设施上引入道义策略，无需推翻重来。
对AI治理的启示
这篇论文发表于2026年IEEE服务型智能体研讨会，它指出了AI治理的一个关键方向：将策略逻辑与模型推理分离。随着智能体自主性增强，企业需要像管理人类员工一样管理它们——不仅要规定能做什么，还要规定必须做什么和绝对不能做什么。AgenticRei 提供了一种形式化、可执行的方案，有望成为下一代AI治理的基础组件。