新上线今天0 投票
企业AI的真正风险不是自主智能体，而是它们之间的复杂性
在当今企业纷纷拥抱AI智能体（Agent）的浪潮中，真正的威胁并非来自单个智能体的失控，而是源自多个智能体协同工作时产生的复杂网络。Gravitee的Rory Blundell指出，企业部署的从来不是单个智能体，而是成群的智能体，它们相互调用API、彼此通信，并深入那些并非为机器决策者设计的应用系统。这种复杂性的累积，往往让人难以看清全局，更遑论有效治理。
复杂性：线性增长还是指数爆炸？
当一个系统加入第二个智能体时，只是多了一条连接；但当加入第十个智能体时，情况就完全不同了——潜在连接数可能达到数十条，因为任何智能体都可能调用其他智能体，而每一次调用都可能触发链式反应。复杂性并非随智能体数量线性增长，而是随着智能体之间的路径数量呈指数级膨胀。更棘手的是，没有人专门负责绘制这张交互图谱。
治理的盲区：权限蔓延与责任模糊
这种复杂性带来的首要问题是权限蔓延。一个原本用于总结支持工单的智能体，可能因初期授权过于宽泛，在六个月后意外获得访问支付系统的路径，而没有人记得是谁批准了这一步。其次，责任归属变得模糊。当五个智能体共同处理一个工作流，某一步骤出错时，很难确定该由谁负责——因为组织架构在“部署智能体”时就戛然而止，从未明确指定“负责人”。
清单式治理的误区
面对这种局面，许多企业的本能反应是采用清单式管理：审批智能体、记录日志、然后继续前行。但Blundell认为，这是错误的思路。清单只检查单一时间点，而复杂性贯穿整个链条。就像吃一次蔬菜不能代表健康饮食一样，一次性审批无法治理动态演进的智能体网络。
结语
企业AI的真正风险不在于自主智能体本身，而在于它们之间错综复杂的交互。要想有效治理，必须超越清单思维，建立对智能体间连接路径的持续可见性和动态管理机制。否则，当问题爆发时，你甚至不知道从何查起。
