Anthropic的Claude Mythos具备先进的网络安全能力,因此目前在Project Glasswing框架下仅限少数受信任的组织使用。它与前几代AI有着本质区别。
前沿AI的风险与恶意意图关系不大,主要源于模型实时推理、规划、适应和优化的能力。无论是自主运行,还是通过遭入侵的集成运行,Mythos级模型都可以生成极具迷惑性的社会工程活动,以机器速度探测API,持续测试安全控制措施,并在遇到阻力时立即改变策略。
这改变了网络防御的经济逻辑。
大多数企业安全架构旨在阻止遵循可识别模式的攻击者。基于特征的检测、预定义策略和人工调查一直能够有效支持组织开展防御,因为人类攻击者在侦察、利用和调整策略等阶段之间不可避免地会留出时间间隔。
推理模型会让这一优势不复存在。当AI智能体能够在数秒内完成观察、学习并改变行为时,安全团队已无法再等到检测到攻击后才作出响应。如今,在哪里拦截攻击比能否检测到攻击更为重要。
答案就在流量路径中。每个提示、每次API调用、每个模型上下文协议(MCP)请求以及每次工具调用,都必须先经过应用交付层,才能到达任何有价值的目标。无论AI模型变得多么智能,都无法绕过网络。这是攻击者无法避开的唯一控制点。
“当AI智能体能够在数秒内完成观察、学习并改变自身行为时,安全团队已无法等到检测到威胁后再作出响应。”
了解三种截然不同的控制模型
当今AI安全市场的一大困惑源于以下术语经常被混用:实时、运行时和内联。这些术语含义不同,区分它们至关重要。那么,它们之间有何区别?
实时控制(可见性和事后告警):实时控制可在可疑活动发生时进行检测,并在数秒或数分钟内发出告警。此类控制可提供可见性,但通常需要依靠其他系统或人工分析师采取行动。
设想一下,凌晨2:47,一个AI智能体正在高频查询客户数据库API。您的SIEM准确识别出这一异常行为,并立即创建事件。
警报准确无误,发出也很及时。但遗憾的是,等分析人员查看工单时,AI早已完成侦察并转向下一个目标。只有检测而不采取强制措施,只能记录攻击,却无法阻止攻击。
运行时控制(执行级防护机制):运行时控制会在应用、端点或智能体运行期间主动实施策略。
由于系统会自动采取行动,相比仅进行检测,这是一项显著改进。不过,运行时保护仍受预定义策略以及特定运行时环境可观测范围的限制。
假设端点代理阻止了本地AI助手发起的可疑系统调用。模型会分析此次失败,找到策略未预见的另一条执行路径,并通过不同的技术实现相同目标。
运行时保护对预期行为的防护效果非常出色,而推理模型的设计目的恰恰是产生意料之外的行为。
内联网络和应用控制(流量路径拦截):内联控制在完全不同的层级运行。内联执行机制无需等待应用或端点做出决策,而是直接部署在流量路径中,在每个请求到达推理引擎、API、应用或下游服务之前对其进行检查。
假设一个Mythos级模型尝试实施复杂的多阶段提示词注入,旨在通过间接推理提取训练数据。
可能没有已知特征、既往示例或历史失陷指标(IOC)可供匹配。即便如此,仍可在请求到达模型之前对其进行检查、评估和阻止,或在不安全的输出到达用户之前将其拦截。
这一区别至关重要:内联安全机制会从一开始就阻止请求完成,而不是等到系统已遭入侵后再作出响应。
前沿AI为何会打破传统安全假设
过去,防御方拥有一项重要优势:时间。即使是技术高超的攻击者,也需要数小时甚至数天才能完成侦察、漏洞利用和权限提升。安全团队可以在造成重大损害之前检测可疑活动、开展调查、更新特征码并加强控制措施。
前沿AI大幅缩短了这一时间线。在单次会话中,对抗性AI智能体可以:
- 发现已暴露、影子和未受管理的API。
- 生成数千种提示词变体,以识别薄弱的防护机制。
- 确定哪些响应表明实施了真正的强制执行,而非简单过滤。
- 即时更改技术、编码方式和有效载荷结构。
- 通过看似合法的输出渠道窃取敏感信息。
过去需要经验丰富的红队耗时数天才能完成的操作,如今几分钟内即可完成。因此,依赖人工干预的架构会越来越难以发挥作用。如果防护依赖分析师审查警报、更新特征码或手动修改策略,那么在首次响应开始之前,攻击者就已经完成了多轮迭代。
面对推理型AI,必须以线速执行安全策略。
为此所需的架构
要在线路层面应对推理型AI,需要采用不同于大多数安全技术栈原有设计思路的架构。
控制能力需要作为统一界面覆盖整个应用交付路径,而不是分散在彼此孤立的单点产品中。检查必须在推理层进行,以便在提示词和响应到达人员或模型之前对其进行实时分析。API发现必须持续运行,因为受管清单通常无法涵盖自主智能体优先寻找的非受管API和影子API。
针对攻击者技术的测试必须持续开展,而非定期进行,并且测试结果需要直接反馈到策略执行中;否则,防护措施按以周为单位的策略周期更新,而攻击者却能在几分钟内完成迭代。还需要将AI智能体识别为一种独立的身份类别,与人类用户和传统机器人区分开来,以便对智能体与工具之间的流量(包括MCP交互)实施与用户身份验证相同的治理。
这些能力无法通过一组彼此割裂的工具发挥作用。它们必须整合为统一的执行架构,涵盖API、推理流量、智能体身份和应用安全,并在混合云和多云环境中采用统一的策略框架。
随着AI持续演进,为何这一点至关重要
当前的讨论通常聚焦于提示词注入。未来的挑战将是自主系统在基本无需人工干预的情况下,协调数千次API调用、调用工具并与其他智能体协作;与此同时,组织也将面临机器生成流量的相应激增。
每次此类交互都需要做出一次策略执行决策。分别保护各个孤立层,例如在一处部署提示词过滤器,在另一处部署API网关,再在其他位置部署机器人检测器,会造成架构衔接处的薄弱环节,而推理型AI首先会寻找的正是这些薄弱环节。对手的能力越强,架构一致性就越重要。
CISO的战略要务
前沿AI正在改变网络防御的本质。随着自主模型深度融入企业应用、API和业务工作流,流量路径成为您可控范围内至关重要的策略执行面,因为每个提示词、每次API调用、每次MCP交互以及每次自主工具调用都要经过这一路径。
实时控制可告知您已经发生的情况。运行时控制可阻止策略预见的行为。内联控制可在请求到达目的地之前,阻止正在发生的行为。
对于CISO而言,这是最关键的架构问题。
对于安全负责人而言,战略任务十分明确:围绕攻击者无法绕过的结构层构建企业防御体系。
如需了解详情,请访问F5 Application Delivery and Security Platform网页。
关于作者

相关博客文章

WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全,需要通过API发现和Web应用防火墙(WAF)实施切实可行的控制措施。




