随着越来越多的组织采用AI,它们日益依赖API将AI模型连接到应用和数据,以进行训练和推理。然而,API连接越多,风险就越高。威胁行为者可能滥用API窃取数据、对AI模型实施越狱,甚至盗取模型本身。
单个AI应用可能包含数百个API端点,安全团队难以对其进行跟踪,而且配置只会越来越复杂。Gartner指出,到2026年,API需求增量中超过30%将来自AI以及使用大语言模型(LLM)的工具。1
不要忽视用于AI的API安全基础设施。此类API需要开展额外的尽职调查,并在监管和身份验证方面采取针对性措施,以帮助保护您和您的AI投资免受高级漏洞利用的侵害。
为何需要强大的API安全防护
如果缺乏API安全防护,AI模型将面临提示词注入、模型提取等诸多威胁,还可能遭遇影子API带来的混乱。影子API是指不可见且不受控的API。它们通常源于团队成员出于善意创建新的API端点,却未经过适当的安全监督,因而形成安全盲区,难以追踪哪些人员或对象正在访问哪些AI模型。
“如果缺乏API安全防护,AI模型将面临提示词注入、模型提取以及影子API造成的混乱等诸多威胁。”
还需注意,如果缺少适当的防护措施,API端点可能会在交互过程中泄露个人身份信息(PII)或知识产权,使看似无害的提示词暴露超出预期的信息。如果API缺少速率限制,还可能因大量请求而不堪重负,容易遭受拒绝服务(DoS)攻击,进而导致服务性能下降和高昂的计算成本。
API安全应具备的五大关键要素
要保护AI模型和应用,需要采用全面的API安全方法,涵盖发现、身份验证,并应对AI特有威胁带来的更高风险。建议优先考虑以下能力:
- 持续发现可监控连接到AI服务的任何新API端点,实现实时可见性。
- 访问控制可确保新的API端点遵循适当的身份验证流程,并实施最小权限原则,即授予的访问权限不超过所需范围。
- 输入和输出验证检查传入和传出AI模型的所有数据,防止恶意提示词进入或敏感数据外泄。
- 速率限制可对API调用实施阈值限制,防止系统过载,例如遭受DoS攻击时。
- 异常检测与其他监控软件一样,会检查常规流量模式中的可疑行为。
如何在AWS上启用全面的AI防护
成功部署AI既需要开发,也需要安全保障。Amazon Bedrock、Amazon SageMaker和Amazon CodeWhisperer等服务支持使用主流基础模型,也可借助AI驱动的开发功能构建并扩展自有模型。F5提供一系列解决方案,与这些AWS服务形成互补,为关键API提供安全保障,并整合上一节介绍的五项能力。
首先应考虑的解决方案是F5 Distributed Cloud API Security。即使新的API端点由影子IT创建,该解决方案也能自动识别并映射这些端点,从而提供更深入的可见性,帮助您更轻松地实施安全策略,并保护API免遭滥用、数据泄露和未经授权的访问。
接下来,F5 Managed Rules for AWS WAF是一组可在AWS Marketplace上获取的预配置规则集,旨在与AWS WAF集成。这些API专用规则集可提供额外一层防护,并由F5安全专家持续更新,以应对最新威胁。
这两种解决方案都有助于防止未经授权访问模型,保护敏感数据和知识产权,并确保AI始终可供人类或机器实体合法使用。
更有信心、更可控地加速创新
对于AI计划,AWS提供基础,F5提供安全保障。F5解决方案可与CI/CD流水线集成,让团队在快速推进工作的同时获得所需保护,减少对提示词注入、模型操纵等威胁以及AI可能泄露敏感数据的担忧。
这些解决方案可轻松部署在AWS云上,并提高基础设施的可见性,帮助您在影子IT活动失控前及时加以应对。AWS与F5携手帮助您应对日益复杂的AI环境,以便添加取得成功所需的所有数据源和API。
访问以下页面了解详情:Amazon Web Services (AWS) 上的 F5。
另请阅读我之前的博文《在AWS上为AI训练快速构建安全的数据管道》。
GARTNER是Gartner, Inc.和/或其关联公司在美国及其他国家和地区的注册商标和服务标志,本文经许可使用。保留所有权利。
1Gartner,《Gartner预测:到2026年,API需求增量中超过30%将来自AI和使用大语言模型的工具》,2024年3月20日
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start,在AWS上快速开展业务
在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。