利用前沿AI保护代码安全：F5的实践与经验

Kunal Anand首席产品官 | F5

今年4月，我曾撰文探讨为何传统的软件安全模式已不再适用。那篇文章讨论了问题及相关原则。本文将介绍F5为保护代码安全所开展的工作。

大约9个月前，我们开始使用前沿AI模型，系统地扫描自己的源代码以查找漏洞。起初，我们只是探索这些模型能在真实的生产规模代码库中发挥什么作用；如今，这项工作已成为产品组织的一项重大投入。我们为此构建了专用基础设施，调集了全公司的工程资源，并将其列为组织各层级的优先事项。

全球《财富》500强企业中，超过80%信赖F5。全球半数以上的应用交付控制器（ADC）环境由我们提供支持。全球排名前15的银行、美国排名前30的商业银行、全球排名前10的保险公司、全球排名前10的电信公司，以及美国排名前15的行政部门，均在其基础设施中运行F5。

我们以更高标准要求自己，因为各组织将F5部署在其最关键的路径上：一端连接用户与应用，另一端连接智能体与API。

这些模型起初表现并不理想，但现在已大为改观。

2025年秋季，当我们开始探索这条道路时，可用的前沿模型展现出潜力，但能力有限。它们可以识别表层问题，但在分析复杂代码库、理解跨模块上下文，以及区分真实漏洞与误报方面，表现并不稳定。

误报率很高。非常高。

我们必须从头学起很多东西：

• 如何构建有效的测试框架
• 如何设计提示词结构，提供足够的上下文，以便对实际代码进行推理
• 如何构建可大规模区分有效信号与噪声的验证管道
• 如何将一个模型的输出用作另一个模型的输入，以确认或否定分析结果

当时没有可直接应用于F5的通用方案，因此我们必须自行构建一套。

这些模型的改进速度令人惊叹。Anthropic和OpenAI的前沿模型（包括Claude Mythos和GPT Cyber）如今可以发现真实存在的漏洞，演示这些漏洞可能如何被利用，并帮助工程师修复漏洞。在某些情况下，这些模型不仅能处理源代码，在处理二进制文件和编译后的代码时也表现出色。去年秋季时还无法做到这一点。

并非只有我们注意到这种进步。我们一直与全球一些规模较大的组织密切合作，其中包括参与Project Glasswing的组织。这些机构在其最关键的业务路径中运行F5，也在应对与我们相同的转变。

有几点已经很明确：

• 预览模型和研究模型展现出卓越的能力。Anthropic和OpenAI的最新模型可以对编译后的代码进行推理，识别复杂的漏洞链，并生成复杂的概念验证。
• 模型的改进速度并非线性，而是在加快。每一代新模型都意味着能力实现显著跃升。未使用最新模型分析自身代码的组织正在落后。
• 最初的瓶颈在于误报，而非模型本身。刚开始时，信噪比低得令人难以承受。我们不得不投入大量资源，构建验证框架、分类处置自动化机制和反馈闭环，训练系统区分实际问题与噪声。因此，我们的误报率已经下降，并且能够向工程师提供需要解决的真实安全问题和缺陷。
• 保护和管控前沿AI模型输出的漏洞信息是安全工作的重点。当模型发现远程代码执行等严重漏洞时，处理相关信息本身就成为一项安全工作。我们在如何以负责任的方式管理此类信息方面积累了丰富经验。

这一切都进一步印证了我反复强调的一点：我们用来发现漏洞的模型，最终也会被对手用来攻击我们。从博弈论角度看，唯一负责任的策略是抢在攻击者之前，持续使用前沿AI模型扫描并改进我们的代码。

构建工具、测试框架和流程

我们构建了内部工具，从根本上采用不同的方法开展缺陷分析和漏洞管理。

我们的代码库包含数千万行代码，涵盖C、C++、Python、Tcl、Java、Go，以及为FPGA编写的底层C代码。我们要查找的问题存在于已在生产环境中运行多年的代码中，涉及以不同方式交互的多个模块。要构建一个能够覆盖如此广泛的代码范围、跨语言和抽象层进行推理的测试框架，是一项重大的技术挑战。

我们构建的一款工具可在任何提供商推出新模型后将其引入，并持续使用这些模型分析我们的代码库。我们正与前沿AI实验室积极合作，并可使用多款先进模型，包括预览模型和研究模型。该工具综合运用这些模型、图论、静态组合分析等技术。我们还会向工具输入威胁情报，包括公开的漏洞和弱点数据集。

这并不是我们工具箱中的唯一工具。我们的团队还构建了其他工具，用于扫描特定类别的缺陷，并利用其他组织的研究成果。此外，许多前沿AI实验室都拥有功能强大的测试框架，旨在充分发挥底层模型的能力。

无论使用哪种工具，扫描基础设施都遵循如下严格的多步骤流程：

1. 摄取。 我们将涵盖主要模块和语言的代码库输入模型，使模型能够基于实际实现细节进行推理，而不是依赖摘要或抽象信息。
2. 分析。我们运行AI驱动的静态分析，以检测缺陷、高风险模式和可疑流程，包括身份验证逻辑错误、不安全的加密方式、内存安全问题等。
3. 分类。我们提取结构化发现结果，包括CWE映射、严重性评估、文件和行号引用，以及可利用性相关信息。
4. 验证。在发现项进入工程流程之前，由第二个模型进行确认、降低严重性评级或驳回。此步骤旨在解决误报问题。早期并没有真正意义上的这一步骤，噪声多得令人难以应对。如今，它已成为系统中非常重要的组成部分之一。
5. 修复。经验证的发现项将按优先级进入修复流程。修复方案随后会完成构建、测试和发布。

每个周期都会构建一个知识库，让下一个周期更快、更精准。随着时间的推移，代码库本身的抵御能力也会增强。模型发现的问题越来越少，因为可发现的问题本身就在减少。这正是我们持续投入所带来的复利效应。

F5的扫描基础设施采用严谨的多步骤流程。

我们的发现

我们发现的问题几乎存在于每个成熟的代码库中，包括配置加固不足、需要收紧的默认设置、内存安全问题（缓冲区溢出、整数溢出）、竞态条件以及输入验证不足。

这些正是我们希望发现并修复的问题类型。如今，AI模型已经能够推理如何将多个漏洞串联起来，因此，系统性地消除这些问题可以显著增强整个代码库抵御漏洞利用的能力。这些问题是构成漏洞利用链的基本要素，消除它们可以提高软件的攻击难度。

培养新能力：扫描、分类处置、修复、测试、发布，循环往复

这项工作的一项重要成果，是我们的工程团队在过去几个月中形成了一套成熟的运营机制。扫描只是我们新构建的端到端能力中的一个环节。

我们正在将所有软件从按季度发布转向更频繁地发布安全加固版本。这是一项重大的运营转变。以BIG-IP工程团队的严谨做法为例，他们正在测试客户群中所有仍在使用的F5OS和TMOS组合。每种组合都需要专用的测试环境。每个版本都要经过严格的分支控制、回归测试和长期稳定性测试。我们会记录升级和重启所需的时间，并在相应版本中标记每项修复，无论是缓冲区溢出修复、输入加固，还是CVE修复。

多年来，我们一直采用严格的扫描和测试实践。如今的变化在于，由AI驱动的扫描、分类处置、修复、测试、发布和重复迭代周期。

下一步

随着AI驱动的扫描发现更多漏洞，预计我们将发布更多版本。这表明安全性正在增强，并不意味着软件变得更脆弱。我们会先发布经过安全加固的版本，再披露发现的问题。

随着整个行业的补丁发布日益频繁，客户将需要更频繁地处理来自各供应商的更多更新。我们致力于让这一过程更轻松，而不是更困难。鉴于机群管理、自动更新和简化升级工作流至关重要，我们已加快相关工作。

此外，运行时安全也必须跟上形势。AI驱动的检测和响应能力将成为一道关键防线，无需依赖已知特征码或等待补丁，即可识别并阻止威胁。面对不断变化的威胁形势，我们正在构建这些能力。相关信息即将发布，敬请关注。

9个月前，我们开始探索前沿AI模型能否从根本上改变我们发现和修复自身代码漏洞的方式。答案是肯定的。这些模型的表现超出预期，我们的运营执行能力也比预想的更强，而采取行动的紧迫性只增不减。

将最关键基础设施托付给我们的组织，理应得到这样的保障。

如需了解详情，请参阅我之前的博客文章《补丁窗口期已经结束。F5如何为未来做好准备》。

关于作者

Kunal Anand首席产品官 | F5

Kunal Anand担任首席产品官，负责领导F5产品组织。他负责产品愿景、战略和执行，推动开发突破性解决方案，以应对关键挑战，并为客户打造卓越体验。在此前担任首席技术与AI官期间，Kunal制定了公司的技术与AI战略和愿景。 加入F5之前，Kunal曾在Imperva同时担任首席技术官和首席信息安全官。2018年，Imperva收购了他于2013年联合创立的应用安全初创公司Prevoty，他也由此加入Imperva。在加入Prevoty之前，他曾担任BBC Worldwide技术总监。Kunal拥有深厚的创新经验和技术专长，曾在Gravity、MySpace和NASA Jet Propulsion Lab担任领导职务，负责安全、数据、技术和工程团队。 Kunal在AI和机器学习领域拥有超过15年的经验，涵盖模型训练、运用AI驱动的算法增强产品，以及设计和实施AI架构。 Kunal拥有Babson College计算机科学理学学士学位。

Kunal Anand 的更多博客文章