过去一年，我们对生成式AI有了许多新的认识。尤其是，我们看到部署模式的成熟实践逐渐形成，AI工厂正成为数据中心的新型基础构件，而AI模型和应用的交付与安全问题也日益受到关注。
AI应用确实是“现代应用中最前沿的形态”，并且高度依赖API；但与此同时，AI应用也带来了独特挑战，涉及安全、监控和交付等方面。
AI应用的非确定性带来了一项重大挑战。也就是说，传入的输入和传出的响应差异很大，并且会随时间变化。AI应用还可以从结构化和非结构化来源提取数据，而这些数据源可能分布在多个位置。事实上，我们在开展市场调研时发现企业对AI的部署规划涵盖公有云、本地部署和混合部署等多种模式，这并不令人意外。
非结构化且不可预测的输入和输出带来的问题在于，很难判断请求或响应是否包含敏感信息或错误信息。虽然API安全和Web应用防火墙通常正是用于此目的，但它们处理的是确定性内容。也就是说，请求和响应的格式与内容是已知的，因此更容易检测恶意内容或敏感内容。AI虽然采用与API和Web应用相同的构造，但其内容变化很大，因此难以制定用于扫描或清理请求和响应的策略。
这一挑战还隐含着另一个问题：必须对双向AI流量进行监控。鉴于相当一部分组织计划使用ChatGPT、Azure、Google或Hugging Face等AI即服务，这一点尤为重要。
保护AI模型所需的安全措施
因此，现有的API和应用安全解决方案不足以保护AI模型和应用。AI安全是对这些现有服务的补充，可提供保护企业和客户所需的额外专有能力，例如防范提示词注入、模型操纵、幻觉和AI驱动的攻击。
要管理和保护AI模型及应用，应用交付和安全服务必须：
- 监控并记录所有请求、响应和管理操作，以支持法律及合规要求。
- 保护组织和用户：检查恶意、敏感或不准确的提示和响应，并采取相应措施。
- 提升性能，运用流量引导策略和控制措施，包括防范大流量攻击。
为何选择F5 AI Gateway？
20多年来，F5始终积极应对应用架构变革带来的交付和安全挑战。AI引入了一种新的应用架构，与此前的架构一样，需要应用交付和安全能力随之演进。F5 AI Gateway可保护、加速和观测AI驱动的应用，是F5应用交付和安全能力的自然演进。
这一演进还包括支持当今IT环境中的混合多云实际需求，因此，F5 AI Gateway既可独立部署，也可与现有F5软件、硬件或服务集成。
F5 AI Gateway初期将重点满足核心交付需求，并应对与实时安全挑战相关的OWASP LLM十大风险项目，未来还将推出更多功能。
其他功能包括通过OpenTelemetry报告各种指标、充分考虑审计日志要求、语义缓存、速率限制以及基于内容的模型路由，可确保支持AI交付和安全的三项要求：可观测、保护和加速。
鉴于AI发展迅速，且每家企业的情况各不相同，F5 AI Gateway还通过由适用于Python、Rust和Go的软件开发工具包（SDK）支持的插件生态系统，帮助组织适应定制化需求和新需求。
随时随地保护任何应用和API
F5致力于在任何环境中交付和保护每个应用及API。随着应用不断演进，我们也持续完善产品组合，以应对新的独特挑战。对于AI应用，F5 AI Gateway可提供组织在任何环境中交付和保护这些应用所需的能力。
如需进一步了解F5 AI Gateway，请点击此处，或联系F5客户经理或F5技术合作伙伴。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。