闭环防护：为何AI安全修复至关重要

Jessica BrennanAI安全高级产品营销经理 | F5

AI安全修复是企业网络安全领域的一项重要工作。随着组织大规模采用生成式AI，它们面临着大量涌现的新漏洞。但如果缺乏能够跟上AI发展速度的有效修复措施，这些漏洞往往长期得不到解决，导致暴露窗口延长并带来合规风险。

什么是AI安全修复

修复在网络安全领域并非新概念。其核心是修复漏洞或消除威胁的过程。NIST将其定义为消除漏洞或降低漏洞被利用的可能性。在实践中，这通常意味着修补软件、重新配置系统或移除恶意代码，而这些操作往往会导致停机

在企业环境中，修复是事件响应的核心环节，遵循一套结构化流程：识别问题、控制影响、采取纠正措施、恢复，并监控问题是否再次发生。数十年来，修复工作主要依靠人工完成，且耗时较长。安全团队需要接收警报、创建工单、权衡风险，并决定采取多严格的防御措施。

但这一循环始终需要权衡取舍。安全负责人常将其比作一个旋钮：向左转可收紧控制，向右转则可放宽控制。限制过严会干扰正常活动；过于宽松则会使组织面临风险。

当前的挑战在于，AI已经重塑了这个调节机制原本要控制的系统。

传统修复方法为何难以满足AI需求

保护AI模型、应用和智能体的安全与保护操作系统或网络的安全有着根本区别。生成式模型具有概率性且不透明。它们可能连续99次表现安全，却在第100次出现问题。AI智能体或许能正确完成任务，但采用的方式可能不安全或不合规。不断演进的安全系统也存在局限：

• 红队测试发现的漏洞数量超过了团队实际能够修复的数量
• 防御性防护措施可即时阻止威胁，但无法解决根本弱点
• 从检测到解决问题的时间（即修复缺口）会延长至数周甚至数月

简而言之，如今的AI安全技术非常善于发现问题，但难以足够快地修复问题。

MTTR：核心价值驱动因素

对于部署AI的企业而言，韧性至关重要。长期以来，韧性一直通过平均修复时间（MTTR）来衡量，即漏洞被发现后的修复速度。MTTR越短，暴露窗口就越短，攻击者可乘之机越少，客户、监管机构和管理层也会更有信心。

在传统IT安全领域，缩短平均修复时间（MTTR）是降低合规风险、增强运营韧性的关键目标。在AI安全领域，其重要性更为突出。

随着新模型和更新带来新的漏洞，攻击面不断变化。攻击者以机器速度行动，发现并利用弱点的速度往往与防御者测试这些弱点的速度不相上下。此外，随着《欧盟人工智能法案》等新法规的出台，企业不仅面临检测风险的压力，还必须证明能够快速缓解风险，并确保整个过程可追溯。

在这种环境下，平均修复时间（MTTR）不仅是衡量运营效率的指标。较低的MTTR意味着，企业能够在安全的测试环境中发现弱点，而不是等到弱点已在生产环境中遭到利用后才着手应对。它是衡量AI安全计划能否真正跟上受保护系统变化速度的直接指标。

从MTTR到自动修复

需要注意的是，问题并不在于组织无法洞察基于AI的漏洞。专门针对AI的红队测试和实时防御解决方案能够以前所未有的速度发现弱点。问题在于接下来如何处理。如果这些发现积压未决，平均修复时间会延长，企业也将持续面临风险。

在传统安全运营中，修复工作几乎完全依赖人工，因此进展缓慢。安全团队必须逐一筛查警报、明确责任归属并制定修复方案。这一流程根本无法跟上AI的发展速度，因为新漏洞出现的速度已经超过人工团队实际能够修复的速度。

因此，要缩短AI安全领域的平均修复时间（MTTR），需要采用新方法。自动修复会在发现漏洞时进行分析，根据实际风险确定优先级，并生成可快速测试和部署的修复方案，从而形成从检测到防御的完整闭环。

实际上，自动修复将MTTR所衡量的目标落实到实际运营中：缩短从发现问题到解决问题的时间，使AI系统在不减缓创新步伐的情况下保持安全。关键是，整个流程必须保留人工监督，以确保自动化不会矫枉过正或引入新问题。

形成闭环

修复是实现AI安全闭环的关键。红队测试和防御控制可以识别并遏制AI带来的风险，但如果缺乏明确的解决路径，组织仍将面临风险。自动修复提供了这一路径：将发现的问题转化为经过测试且可部署的修复方案，确保弱点不仅能被发现，还能得到解决。

对于安全团队而言，这一转变意味着可以减少处理积压任务的时间，将更多精力投入更具价值的优先事项。对于安全负责人而言，这意味着更有信心以AI所要求的速度管理风险。对于整个组织而言，自动修复有助于构建更强大、更具韧性的安全态势，让创新能够规模化发展，而不会导致风险同步扩大。

归根结底，修复不仅是一项技术流程，更是一套方法体系，能够推动AI安全形成持续、自适应且不断自我改进的系统。正因如此，修复至关重要，也应成为每项AI安全战略的核心。

关于作者

Jessica BrennanAI安全高级产品营销经理 | F5

Jessica Brennan 的更多博客文章