智能体AI改变了CISO需要关注的关键问题

行业趋势 | 2026年9月22日

对于当今的CISO而言，问题已不再是“我们是否安全？”。AI应用的激增已经改变了局面。

我们的《2026 年 F5 应用安全战略现状电子书》深入分析了安全能力在哪些方面跟上了 AI 实施步伐，又在哪些方面未能跟上。研究中有一项与智能体 AI 激增相关的统计数据尤其引起了我的关注。

随着企业内部的AI智能体持续增多，超过四分之三（77%）的组织表示，管理激增的非人类身份正成为一项重大挑战，其中包括控制其访问权限并确保其不会被利用。

事实上，无论是否全面采用AI，每个组织都需要应对这一问题。如今，几乎人人都能构建自己的AI智能体，并部署多个相互协作的智能体。如果首席信息安全官（CISO）不了解这些智能体的行为，就根本无法有效应对。因此，CISO越来越需要提出并回答以下问题：“这个AI知道什么？它获准执行哪些操作？必要时，我们能否阻止它？”

F5研究显示，77%的组织预计，智能体AI将带来重大挑战，包括凭据盗窃、权限滥用和身份冒充。

通常的答案是“提高可见性并实施有效治理”。如果无法在运行时全面了解每个访问模型、与数据交互和触发工作流的智能体，就无法实现安全防护或管控。无论应用运行在本地数据中心还是混合多云部署中，都是如此。

这正是影子AI如今备受关注的原因。几乎人人都能构建自己的AI智能体，并部署多个相互协作的智能体。在这种情况下，如果首席信息安全官无法洞察这些隐蔽的AI活动，了解每个智能体的行为，就根本无法应对相关风险。

扩展信任边界，还是突破信任边界？

但即使CISO能够查明为组织工作的每一个智能体，这也绝非易事，因为组织架构中的非人类身份数量正迅速增至人类身份的3倍，治理挑战仍远非简单。

首先，创新往往快于管控。负责风险和监管合规的人员通常只能设法跟上。常言道，仅仅因为我们能够做某件事，并不意味着我们应该这样做。在部署特定AI智能体之前，组织需要考虑其业务收益是否值得为保障该智能体安全而投入相应工作。

其次，智能体在构建时会设定特定意图，并获得实现这些意图所需的权限。它们会根据自身用途访问数据、做出决策、调用API、触发业务流程，并与客户及其他智能体进行沟通。

每个此类非人类身份都会扩大企业的信任边界和威胁面。因此，需要像保护人类身份一样严格保护这些身份的权限，甚至可能需要采取更严格的保护措施。因为攻击者一旦劫持智能体身份并提升权限，安全人员可能很难将其识别出来。攻击者看起来仍像是授权用户，尤其是在其行为保持在特定参数范围内时。此时，侧重行为分析的概率安全模型或许能发挥作用。

遗憾的是，许多组织尚未完全解决这一问题，成熟度也参差不齐。但一旦失败，无论是在监管、声誉还是竞争层面，都可能危及企业的生存。如果不受控制的智能体或智能体身份导致数据泄露，客户信任或股价受到的影响可能难以挽回。

最后，从近期几起备受关注的事件（例如涉及OpenAI的Hugging Face事件）可以看出，智能体经常会执行其操作者意料之外的操作。智能体遇到阻碍时可能会持续尝试，直到找到完全出乎意料的规避方法。即使收到不要执行特定操作的指令，它们仍会执着地完成既定程序要求的任务。如果这一阻碍是为管理风险而设置的防护机制，甚至是专门用于在特定条件下停止智能体的机制，这就构成了安全问题。

AI开发人员不仅要确保所有配置正确，还要在治理系统中构建故障保护机制，从而保持控制。通常，仅依靠人工介入并不足够。治理必须在执行第一个提示词之前很早就开始。业务负责人应参与这一过程，确保其智能体按预期运行、结果可追溯且决策可解释。

往往缺乏问责机制

我认为，治理始于人的责任担当，但遗憾的是，许多讨论都忽略了这一点。我最担心的，也是其他CISO经常担心的问题是：“如果模型推断出了不该推断的内容，或者一个智能体或一系列智能体执行了并非我们本意的操作，谁来负责？”因为在默认情况下，这些错误最终将由CISO承担责任。

让CISO独自承担责任或默认成为风险责任人并非正确做法。必须采用共同问责模式。推动使用智能体的人员也应承担责任，因为他们了解智能体的用途，以及智能体无论正常运行还是失控时可能对业务造成的影响。

我经常交流的首席信息安全官（CISO）中，已经有人开始谈到这个问题。他们未必能够判断智能体的意图、到期时间或可能出现问题的方式。如果仍要求我们作出这些判断，我们往往会沦为“否决办公室”，而大多数CISO都不希望扮演这样的角色。这样一来，AI治理可能会退化为空洞的合规检查清单，而无法成为由业务战略驱动的运营规范。

相反，CISO需要借助工具，推动业务领导者共同明确并承担责任，界定每个智能体应该做什么、可以做什么以及不能做什么。如果AI智能体可以代表贵组织采取行动，组织内就必须有人为其负责。这样，CISO就能成为解决方案的设计者，而不只是规则的执行者。