SheepNav
精选今天0 投票

构建以AI智能体为先的治理与安全体系:企业面临的新挑战

随着AI智能体在企业中与人类协同工作的场景日益增多,一个全新的安全攻击面正在悄然形成。德勤AI研究所的《2026年AI现状报告》显示,近74%的公司计划在未来两年内部署智能体AI,但只有21%的企业报告称拥有成熟的自主智能体治理模型。这一数据揭示了企业在AI智能体治理方面的巨大缺口。

非人类身份激增带来的安全盲区

在现代企业中,非人类身份(NHI)的数量正在超越人类身份,而随着智能体AI的普及,这一趋势将呈爆炸式增长。企业可能尚未意识到,它们正在将智能体视为拥有“王国钥匙”的一等公民,这导致了潜在的安全盲点和暴露风险。

德勤网络安全实践负责人Andrew Rafla指出:“如果没有真正的控制平面,你实际上无法自主扩展智能体——你拥有的只是不受管理的执行,而这伴随着巨大的风险。”他进一步强调,如果企业无法回答“智能体做了什么、代表谁、使用了什么数据、遵循什么政策,以及是否能复制或停止它”,那么就不具备一个功能性的控制平面。

治理:从实验到规模化应用的关键桥梁

治理是将AI试点项目转化为生产用例的关键。它是让企业从令人印象深刻的实验走向安全、可重复、全企业范围自动化的桥梁。缺乏治理的智能体部署不会安全地失败,而是会以不可预测的方式大规模失败。

企业高管最关注的三大风险领域包括:

  • 数据隐私和安全(73%的受访者表示担忧)
  • 法律、知识产权和法规合规(50%)
  • 治理能力和监督(46%)

构建稳健的控制平面

企业需要的是一个强大的控制平面,用于治理、观察和保护AI智能体及其工具和模型在整个企业中的运作方式。Rafla将控制平面定义为“共享的、集中化的层面,用于管理谁可以运行哪些智能体、拥有哪些权限、遵循哪些政策,以及使用哪些模型和工具”。

治理必须使这些问题的答案变得显而易见,而不仅仅是理想化的目标。只有这样,企业才能在享受AI智能体带来的效率提升的同时,有效管理伴随而来的安全与合规风险。

小结

AI智能体的广泛应用为企业带来了前所未有的自动化潜力,但也引入了新的安全挑战。构建以智能体为先的治理与安全体系,不仅是技术问题,更是战略要务。企业需要提前布局,建立完善的控制平面和治理框架,才能确保智能体AI的部署既高效又安全。

延伸阅读

  1. 《下载》特辑:降低人类噪音对动物的伤害,洛杉矶地铁迎来惊人升级
  2. 北极冰层消融加速:科学家挖掘历史线索,探寻无冰北极的过去与未来
  3. Delegare:赋予AI代理支出权限,同时保持控制权
查看原文