网络安全领域的智能体AI：机遇与风险

行业趋势 | 2026年10月16日

要点

将智能体AI融入安全体系，对于应对以机器速度发起行动的攻击者至关重要。
与遵循固定决策树的传统安全流程不同，AI智能体会适应不断变化的条件，因此需要设置防护机制，以确保安全使用。
使用AI智能体保障安全也会产生新的攻击面，可能引发工具滥用、权限滥用、内存投毒及其他威胁。
为保护AI智能体，组织必须将其作为受治理的身份进行管理，为其授予权限范围明确且有效期较短的凭据，实施运行时防护措施，并确保不可逆的决策由人工审批。

各组织正将AI智能体引入网络安全领域，用于自动执行安全运营中心（SOC）的日常操作，发现并检测架构和流量模式中的漏洞，以及测试环境抵御直接威胁的能力。这些AI智能体可以大幅减少威胁管理、检测和响应所需的时间，但使用它们也会带来重大风险。AI智能体会引入一系列威胁，包括内存投毒、提示词注入、智能体级联故障和身份漂移。尽管存在这些风险，智能体AI仍是应对AI驱动型对抗攻击的重要措施。

在数字优先、AI驱动的时代，网络安全管理极其复杂。安全团队需要保护混合多云环境、分布式架构和复杂的AI系统，而这些系统如今会与整个IT环境中的应用、API及其他模型交互。与此同时，攻击者正利用AI，以前所未有的速度发起规模更大、更复杂的攻击。

利用智能体AI增强安全能力，有助于应对机器速度的威胁、持续测试环境，并自主缓解告警疲劳。AI智能体可以扫描未检测到的漏洞、识别动态签名异常并自主确定告警优先级，从而帮助团队减少识别和响应AI驱动型威胁所需的时间。

与此同时，在网络安全领域使用AI智能体也会带来新的风险。网络犯罪分子正利用AI辅助实施分布式拒绝服务（DDoS）攻击、凭据填充等传统攻击手段，以及提示词注入、数据投毒、智能体目标劫持等新型攻击。

根据《2026 年 F5 应用策略现状报告》，98%的受访组织表示，他们正在调整应用，以支持智能体AI访问。这些组织平均已在使用或积极评估7种AI模型。随着AI采用率持续上升，攻击面将不断扩大。

智能体AI如何应用于网络安全？

智能体AI是指能够自主执行多个步骤以实现特定目标的AI系统。智能体会获得一个目标、工具访问权限、可在各步骤之间持续保留的记忆，以及具有实际权限的身份。

在支持网络安全措施方面，智能体AI主要有两项功能：1）通过AI增强的流量监控、特征码追踪和漏洞发现，提供应对AI驱动型攻击的对策；2）通过风险优先级排序和自动化，改进事件响应管理。

在内部，安全智能体会循环运行。每次循环都可能产生新信息，智能体可利用这些信息优化循环。

在典型的循环中，智能体可能会执行以下所有操作：

感知：智能体接收安全信号，例如警报、日志、遥测数据、身份事件和外部威胁情报。
推理和规划：然后，智能体将目标分解为多个步骤，交替执行推理步骤和行动步骤，并在收到新信息时调整计划。
执行：智能体采取行动，使用完成各项任务所需的工具。智能体可能会查询安全信息和事件管理（SIEM）系统、查找IP信誉信息、提取端点进程树、隔离主机，或创建或关闭工单。
观察：智能体读取工具输出并将其与目标进行比较，必要时返回推理和规划步骤。
持久化：将输出和发现写入内存，使后续决策能够沿用先前决策的上下文。
升级处理：在预先定义的检查点，智能体会停止运行，并将决策交由人工处理。

适应新信息的能力，是AI智能体区别于现有自动化工具的关键特征之一。正因如此，攻击者能够更快地采取行动，因此有必要借助AI赋能的网络安全技术来发现漏洞，并对整个IT环境进行压力测试。

传统安全运营与智能体AI对比

许多安全团队已将自动化安全运营（SecOps）集成到关键流程中。例如，安全编排、自动化与响应（SOAR）解决方案属于确定性工具，能够以机器速度执行任务。如果条件A成立，工具就会执行操作B。这些解决方案速度快且可审计，但实际情况一旦偏离现有决策分支，就会失效。

AI智能体具有非确定性。它们不遵循僵化的规则，而是根据新的输入动态调整并适应变化，因此更善于应对新型威胁。此外，AI智能体可以在有限或无需人工干预的情况下自主执行复杂任务，并且通常能提供比SIEM和SOAR解决方案更全面的覆盖，从而更快获得结果。但由于其动态特性，需要实施更严格的治理，并确保其可观测性。

	传统安全运营（SIEM与SOAR）	智能体AI安全
警报处理	这些工具执行基于规则的关联分析，然后将告警放入人工处理队列。	智能体对警报进行分类、补充信息并关闭低风险警报，仅将经过优先级排序的警报上报给分析人员。
平均响应时间	处理速度取决于分析师是否有空。严重程度较低的工作通常需要数小时或数天才能完成。	智能体能够以机器速度遏制威胁，让人员将时间用于决策，而非信息查找。
适应性	传统工具能够有效应对已知模式。但面对没有现成处置方案的新型攻击路径，则需要人工调查。	智能体可以应对尚未有人编写脚本处理的威胁，并随着新证据的出现调整计划。
调查范围	深度取决于人工记得检查哪些集成。	客服人员可以针对每个案例使用全套工具。
运营回报	分析人员的工时被重复的初步研判和误报所占用。	分析师可以将工作时间转用于威胁搜寻和安全加固，从而减轻疲劳，并帮助组织降低人员流失率。
故障模式	当playbook中断时，工具会停止运行，并且很容易发现这一故障。	被劫持或偏离预期的智能体会继续执行操作，而且看起来仍然合法合规。团队可能根本没有意识到出现了问题。
需要治理	团队需要对行动手册和规则实施变更控制。	治理必须包括智能体身份管理、限定范围的凭据、运行时防护机制、不可篡改的审计记录和人工审批。

应对速度更快、由智能体驱动的威胁

在网络安全领域部署AI智能体已不再是可选项。要应对智能体AI威胁，智能体AI安全已成为必要条件。

2025年11月，Anthropic披露了首起有公开记录的AI编排间谍活动。一个智能体框架针对约30个目标组织执行了多达90%的战术工作，人工操作人员仅参与了少数几个决策环节。

对于遭到针对性攻击的组织，攻击者使用AI智能体会大幅缩短其防御攻击的时间窗口。当侦察、漏洞利用开发和横向移动均由机器驱动时，从漏洞公开到遭到利用，组织只有数小时的应对时间。根据M-Trends 2026，漏洞平均利用时间已降至估计的−7天，这意味着漏洞利用甚至可能发生在补丁发布之前。

以人工为中心的任务队列根本无法如此迅速地弥合这一差距。安全团队需要使用AI智能体来防御AI智能体。

认识到智能体也会成为攻击目标

让网络安全形势更加复杂的是，组织引入网络安全体系的AI智能体也会成为攻击者的目标。毕竟，这些智能体本质上是拥有特权、受到信任且可访问安全技术栈的自动化用户，因此具有很高的攻击价值。

网络犯罪分子可通过多种方式攻击AI智能体。劫持智能体的目标是常见的攻击类型之一。在这种情况下，攻击者会改写智能体的目标，通常是通过隐藏在网页、文档或电子邮件中的间接提示词注入来实现，而智能体会在执行任务时读取这些内容。攻击者也可能改变智能体的运行方式，诱使其调用API、运行代码，或向预定任务范围之外的系统写入数据。

身份和权限滥用是另一种常见手段。例如，攻击者可能利用提示词注入，诱使AI智能体使用已获授的权限执行有害操作。

这些策略及其他类型的策略可能造成多种危害。攻击者以用于网络安全的AI智能体为目标时，可能窃取敏感数据或削弱企业防御能力，使其得以成功发起规模更大、破坏性更强的攻击。

保护AI智能体

组织应如何保护用于网络安全及其他功能的智能体？遵循一些最佳实践，有助于为智能体安全奠定坚实基础。

不仅要授予最小权限，还要赋予最小自主权。最小权限限制智能体可以访问的资源。最小自主权限制智能体在无需确认的情况下可以执行操作的范围。采用即时授予且仅限当前会话的权限，并在特定任务结束时使其失效。
拆分工作流。将工作流拆分为多个步骤，确保任何单个步骤都不会同时包含敏感数据、不可信输入和出站通道。这样可以限制单次安全事件造成的损害。
实施沙箱执行。在临时的高安全性容器中运行工具调用和生成的代码，将安全事件的影响范围控制在有限范围内。
在运行时对每次循环实施防护措施。当智能体自行决定下一步操作时，仅在入口处检查一次并不足够。每次循环都应检查提示词、工具调用、内存读写和输出。
为每个AI智能体分配独立身份。避免使用共享服务账号和硬编码API密钥。每个智能体拥有独立身份后，团队便可确定具体操作由哪个智能体执行。
保留日志并设置人工审核关卡。保留代理推理过程、工具调用和有效负载的不可篡改日志，包括每次运行的触发因素。在写入生产环境、资金转移或执行任何其他不可撤销的操作之前，必须通过带外方式获得人工批准。

F5如何应对智能体AI网络安全

F5深知，AI智能体在网络安全领域扮演着多重角色。它们能够快速应对AI驱动的威胁，帮助组织以远超单靠人工的速度检测和响应攻击。此外，AI智能体还能帮助团队简化任务，显著降低管理复杂性。最后，AI智能体本身也经常成为攻击目标，因此同样需要借助AI智能体进行防御。

借助F5 Application Delivery and Security Platform (ADSP)，F5可将外部威胁情报和内部日志转化为实时且按优先级排序的洞察。团队看到的是按重要性排序的问题，而不是未区分优先级的警报队列。

与此同时，F5 AI Security Platform有助于保护增强网络安全能力并协助执行其他职能的AI智能体。该平台帮助安全负责人持续了解、治理和保护AI应用、模型、智能体及API。借助F5 Workforce AI Security、F5 AI Red Team、F5 AI Guardrails和F5 AI Gateway等工具，团队可以发现、治理、测试和保护AI环境，并随着威胁演变持续进行观测。

要详细了解AI增强型威胁和AI驱动型解决方案，请参阅F5 Labs威胁研究和F5 AI安全解决方案。