F5 Distributed Cloud Web App Scanning：保护支持AI的Web应用

F5生态系统 | 2025年4月18日

随着人工智能（AI）持续改变企业的运营方式，通过大型语言模型（LLM）为AI服务提供支持并将其集成到Web应用中，已变得越来越普遍。然而，这项创新也带来了额外风险，包括新的AI服务和漏洞，可能危及新型关键服务、更多敏感数据、应用和业务的整体可靠性，并最终损害用户信任。

扩展安全措施至关重要，而F5 Distributed Cloud Web App Scanning可满足这一需求。Distributed Cloud Web App Scanning是一款智能Web应用安全解决方案，旨在帮助组织应对保护现代AI赋能Web应用时不断变化的挑战。该服务具备先进功能，包括将组织域名的外部攻击面映射与动态应用安全测试（DAST）功能相结合，以及用于测试AI组件是否存在OWASP大语言模型（LLM）十大风险的综合套件，可持续、有效地检测现代Web应用漏洞。

“F5 Distributed Cloud Web App Scanning集成了LLM测试套件，可提供组织安全应对当前不断变化的环境所需的可扩展性和覆盖范围，帮助组织在应用不断演进的过程中及时掌握漏洞情况。”

本文将探讨，对于在Web应用中集成AI和LLM的组织而言，为何必须采用此服务、Distributed Cloud Web App Scanning可识别哪些漏洞，以及该服务如何运作。

面向新一代应用的安全防护

随着越来越多的组织采用AI来增强功能并提供更丰富的用户体验，确保这些系统的安全性、可靠性和合规性已成为必要要求。AI威胁不断变化，加之生产环境中可能出现现实漏洞，凸显了持续开展严格测试的必要性。

Distributed Cloud Web App Scanning对采用AI的组织至关重要，原因如下：

广泛覆盖的持续测试：与传统软件不同，AI系统具有动态性，会不断学习、适应和演进。持续测试可确保组织识别并缓解OWASP LLM十大威胁类别中的各类漏洞，包括实际使用LLM时产生的漏洞。
维护用户对AI赋能服务的信任：提示词注入或模型幻觉等问题可能削弱用户信心，尤其是在AI赋能的聊天机器人或助手、翻译服务、内容生成和搜索等面向客户的应用中。主动测试有助于在漏洞遭到利用并影响这些全新AI体验之前发现并修复漏洞，从而维护用户信任。
满足监管和道德标准：随着对AI系统的审查日益严格，采用现代AI赋能数字体验的组织必须能够证明其符合相关监管框架。Distributed Cloud Web App Scanning可帮助组织识别和跟踪Web应用漏洞，包括影响集成式LLM服务的漏洞，从而为合规流程中的报告提供关键审计记录。

了解这些漏洞

AI系统（尤其是大语言模型）功能强大，但本身也十分复杂。将其引入Web应用会带来新的风险，包括以下需要关注的新漏洞和攻击：

提示词注入攻击：恶意行为者精心构造输入，操纵LLM执行非预期操作，例如生成未经授权的输出。
数据泄露：LLM通常依赖海量数据集运行。如果缺乏适当的防护措施，可能会无意中泄露训练期间或交互过程中提供的敏感数据。
跨站脚本（XSS）：攻击者将恶意脚本注入支持AI的输入中，从而危害应用、输出，并可能危及用户。
模型幻觉：LLM可能会生成不符合上下文或不准确的结果，从而损害用户信任，并引发法律或合规问题。

Distributed Cloud Web App Scanning不仅能发现这些问题，还能提供修复指导。借助AI助手深入了解每个漏洞并获取可执行的建议，组织可以确保其Web应用受到保护并保持可用，同时维护用户信任。

Distributed Cloud Web App Scanning 的工作原理

在现代AI赋能的Web应用中发现和测试LLM，首先要通过一个自动化的四步流程实现全面覆盖：

侦察：Web App Scanning服务首先与所有面向外部的域进行交互，以检测并绘制整个Web应用、其子域及支撑基础设施，包括暴露的LLM集成服务。
识别：检测到大语言模型（LLM）后，该服务会运行指纹识别算法，以确定正在使用的具体模型，例如Mistral 7B Instruct，或其他广泛采用的模型，涵盖业内150多种常用LLM。
测试：初步映射完成后，将进行自动化渗透测试，其中包含一套广泛的测试套件，涵盖OWASP Web App和LLM Top 10中的特定威胁。该服务利用NVIDIA的garak和Microsoft的PyRIT等业界广泛采用的测试框架，模拟对抗性攻击，以发现关键安全问题，包括提示词注入攻击、因中继和重复中继漏洞导致的数据泄露、跨站脚本（XSS）、关键词探测、模型幻觉、误导性声明等。
报告：扫描和测试会生成一份完整、详细的渗透测试报告，重点说明在LLM和Web应用十大风险列表所涵盖范围内发现的所有漏洞。报告提供可执行的修复指导，并附有整个测试过程及漏洞的视频和屏幕截图，以及结合上下文的洞察，帮助组织轻松修复发现的漏洞，保护其现代化的AI赋能Web应用。