随着AI融入应用，选择网络安全合作伙伴变得前所未有地困难。遗憾的是，组织无法推迟这一选择。攻击者也在利用AI工具，以前所未有的速度发现并利用漏洞。
可供攻击的AI增强型应用并不少。根据《F5 2026年应用策略现状报告》，98%的组织正在为智能体AI做准备。然而，其中77%的组织预计在管理AI智能体访问权限方面会面临挑战。仅有28%的组织表示，已通过统一的AI管理点简化开发人员工作流。
AI应用与AI安全之间的差距引出了一个重要问题：组织应如何扩展应用安全能力，以保护AI赋能的应用？要回答这个问题，需要了解传统应用安全在哪些方面仍不可或缺，以及AI在哪些方面带来了新的安全要求。
应用安全基础的演进
应用安全可保护应用和API免受漏洞、恶意流量、滥用和未经授权的活动影响。在运行时，组织使用Web应用防火墙（WAF）、API安全、机器人管理和分布式拒绝服务（DDoS）缓解等控制措施，保护应用及其对外提供的服务。
现代软件架构使这些流程变得更加复杂。如今的应用由众多通过API通信的小型服务组成。这些服务通常分布在多个公有云提供商、本地数据中心和边缘位置。服务之间的每个连接都可能成为攻击者的入口。
现代Web应用和API防护（WAAP）通常整合了4项核心运行时控制措施：
- WAF：检查HTTP和HTTPS流量，并帮助在应用层攻击到达应用之前将其阻止。
- API安全：发现并保护API，包括影子端点和未受管端点，同时识别恶意或滥用API的活动。
- Bot管理：区分合法自动化流量与恶意Bot，并帮助防范数据抓取、凭据填充、账户接管及其他自动化滥用行为。
- DDoS缓解：保护应用可用性，抵御旨在使应用和服务不堪重负的攻击。
AI赋能的应用带来了传统应用安全控制措施原本并非为应对而设计的风险。要保护这些应用，仅在现有WAF中添加新规则还不够。
传统应用安全控制措施主要评估协议、请求、代码、流量模式和已知攻击技术。AI带来了另一项挑战：恶意指令可以通过语法正确的自然语言提示词传递，因此安全控制措施还必须理解上下文和意图。
面对这种新的攻击方式，组织需要围绕AI提示词和响应、敏感数据、模型访问，以及智能体与工具的交互部署专门设计的控制措施，同时还要规范整个员工队伍对AI的使用。
应用安全如何扩展至AI
传统应用安全技术对于支持AI的应用仍然至关重要，但其作用不同于专为AI构建的安全技术。以下介绍常见方法如何融入更广泛的安全架构。如需深入比较特定公司及其能力，请点击此处。
云原生WAF
云原生WAF继续保护Web应用和API层，但仅靠传统WAF检查无法应对许多AI特有的威胁。因此，一些云服务提供商将WAF功能与独立的AI安全服务结合使用，以检查提示词和响应、检测提示词注入和越狱尝试、保护敏感数据，并实施AI专用防护机制。
优势
- 原生基础设施集成：云提供商提供的WAF通常可与其云生态系统进行原生集成，从而简化防火墙的部署和管理。
- 安全集成：云端WAF通常可与其他AI和传统网络安全功能集成，作为纵深防御策略的一部分。例如，可以轻松添加DDoS缓解、机器人管理及其他服务。
- 全球网络：云服务提供商通常拥有庞大的全球网络，有助于识别恶意活动，并降低威胁缓解工作的延迟。此外，云服务提供商和网络安全厂商通常设有研究实验室，每日提供威胁情报，为WAF规则的制定提供依据。
缺点
- 封闭的生态系统：云提供商提供的WAF主要保护部署在其云环境中的应用和AI工作负载。
- 部署限制：对于采用多云或混合环境的组织，云原生WAF并非始终是合适的选择。
- 网络复杂性：当流量通过提供商的网络传输时，威胁或其他应用问题可能难以发现。例如，可能需要检查网络配置、DNS设置、缓存行为或应用本身，才能找到根本原因。
- 按使用量付费：如果提供商根据所选规则或附加组件的数量收费，费用可能难以预测。
应用交付与安全平台
应用交付和安全平台可帮助组织在分布式环境中持续交付、优化和保护应用及API。一些供应商正在为这些平台扩展AI网关和AI安全功能，以管理推理流量、管控模型和智能体访问，并实施AI专用安全控制。
优势
- 部署灵活性：其中一些应用交付保护解决方案支持本地设备、云端和混合配置等部署方式。
- 混合安全模型：这些解决方案可能提供混合安全机制，同时采用基于签名的攻击检测和正向安全模型。该模型会学习应用的典型行为，进而识别异常。
- 多层安全防护：应用交付保护解决方案通常可以与其他安全产品集成，例如WAF、机器人管理、运行时可见性、DDoS缓解和API安全工具。
- 第三方集成：部分解决方案可与第三方WAF集成，帮助组织扩展功能，同时避免供应商锁定。
缺点
- 独立使用的局限性：尽管支持第三方集成，但有些解决方案更适合已使用相应提供商进行应用交付的团队。如果只需要安全功能，选择这些解决方案可能会带来过高的成本和不必要的复杂性。
- 附加费用：部分供应商仅以付费附加项的形式提供API发现或托管服务等功能，导致总成本增加。
F5 AI Security Platform
The F5 AI Security Platform 整合了企业AI领域的发现、治理、测试和运行时保护功能。F5 Workforce AI Security可帮助了解员工获准和未经批准使用AI的情况，包括所使用的模型、工具、提示词和数据。F5 AI Gateway提供控制点，用于管理对AI模型、智能体和工具的访问。F5 AI Red Team通过对抗性测试识别AI系统中的漏洞和弱点，而F5 AI Guardrails则在AI交互期间执行策略，帮助防止敏感数据泄露、恶意活动和违反策略的行为。
这些功能共同将应用安全扩展到AI引入的新控制点。F5 AI Security Platform将F5 Application Delivery and Security Platform (ADSP)战略扩展到企业AI领域，将专为AI构建的安全功能与F5成熟的应用和API安全功能相结合。
主要功能：
- 持续测试：Red teaming可发现漏洞并自动修复。
- 运行时保护：团队可以实施防护措施，抵御提示词注入和越狱等运行时威胁。
- 简化策略创建：自然语言功能让团队能够轻松编写自定义策略和控制措施。
- AI员工队伍安全：组织可以发现影子AI，按意图对工作流进行分类，并通过可强制执行的控制措施规范其使用。
AI Security平台是F5 Application Delivery and Security Platform (ADSP)的重要组成部分，可为应用和API提供高级安全防护和流量管理。该平台可部署在任何位置，帮助组织将AI安全集成到应用安全中，而不会增加复杂性。
常见问题
WAF能否保护AI应用？
WAF仍是保护AI赋能应用的重要组成部分，因为此类应用及其API仍面临传统Web攻击。然而，仅靠WAF保护无法应对提示词注入、越狱、恶意模型输出或不安全的智能体行为等AI特有风险。组织需要在采用传统Web应用和API保护的同时，部署AI专用安全控制措施。
AI安全如何与应用安全形成互补？
应用安全可保护支持AI系统的应用、API和流量。AI安全则增加了专为AI层设计的控制措施，包括对模型和智能体进行对抗性测试、检查提示词和响应、防范提示词注入和数据泄露、管控模型和工具的访问权限，以及掌握企业内AI的使用情况。
AI集成会对应用安全产生哪些影响？
保护AI赋能的应用，不能仅靠为Web应用防火墙（WAF）添加新规则。传统的应用和API安全仍然至关重要，但AI会在模型层和交互层带来额外风险。组织还需要为AI提示词和响应设置防护机制，测试模型和智能体抵御对抗性攻击的能力，管控模型和工具的访问权限，保护敏感数据，并持续掌握整个企业内AI的使用情况。
关于作者
Louise Scully现任F5 AI安全与威胁情报产品营销高级经理。她长期深耕AI安全和企业技术领域，职业经历涵盖产品营销、产品管理、市场进入策略、传播、思想领导力和品类发展。加入F5之前，Louise曾负责CalypsoAI和Artomatix的营销工作，助力AI技术和研究成果走向市场。
Louise Scully 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。