全球各地的组织正以惊人的速度构建生成式AI应用。这些自主开发的应用已成为推动创新和提升效率的重要力量。但即使是一些极具变革潜力的生成式AI应用，也可能使组织面临全新的攻击面。
提示词注入、越狱或远程代码执行等攻击一旦得逞，可能导致安全漏洞和数据泄露。同样，大语言模型（LLM）向组织的利益相关者提供可能有害或有毒的响应，也可能造成声誉损害、法律问题和经济损失。
为满足保护生成式AI应用日益增长的需求，F5 Distributed Cloud Platform正在拓展第三方技术合作伙伴关系，纳入可保护生成式AI应用的技术。AI防火墙Prompt Security现已获得F5 Distributed Cloud App Stack支持。Distributed Cloud Platform提供WAF、机器人防御、DDoS防护以及API发现和安全等应用安全功能，并通过Customer Edge降低网络复杂性。此次合作展现了F5 Distributed Cloud Services的可扩展性，让客户能够轻松保护本地、边缘、混合和多云环境中的AI应用。Prompt Security AI防火墙可保护入站生成式AI查询和出站响应，帮助组织防范提示词注入、敏感数据泄露、有害响应及其他攻击。
生成式AI应用安全防护的关键原则
1. 应对生成式AI特有的安全风险
生成式AI应用带来了一系列全新的安全风险。因此，仅依靠传统安全方法已不足以应对。Prompt Security会检查每条提示词和模型响应，防范提示词注入、越狱、钱包拒绝服务等各种新型威胁。生成式AI应用的所有流量都会经由Prompt Security路由，从而全面了解传入的提示词。
2. 审核LLM生成的内容
在用户提示到达组织系统之前对其进行检查固然重要，确保LLM的响应安全且不包含可能损害组织的有毒或有害内容也同样重要。
3. 确保数据隐私并防止泄露
在开发可投入实际运行的生成式AI应用时，为提供更有价值的用户体验，应用将访问组织（或第三方）的数据库和资源。然而，如果缺乏适当的安全措施，组织数据可能会在LLM生成的响应中泄露。用户可能会借此诱骗应用披露机密信息，从而可能引发法律和声誉方面的后果。
4. 实施治理并提升可见性
应用开发人员和安全团队会在所有可能的接入点监控生成式AI应用的入站和出站流量。随着组织围绕AI制定的治理制度和法规日益细化、执行力度不断加强，这项工作将变得更加重要。Prompt Security会完整记录每次生成式AI交互，日志内容包括用户、提示词、响应、检测结果等。
借助安全的生成式AI应用提升业务生产力
Prompt Security firewall for AI让F5 Distributed Cloud Services客户能够在每个接触点保护其生成式AI应用。借助内置的即时可观测性和策略管理功能，组织可以保护生成式AI应用、提高业务生产力并维护数据治理。
如需阅读Prompt Security的新闻稿，请点击此处。
如需观看Prompt Security与F5 Distributed Cloud Services的实际运行演示，请访问https://www.youtube.com/watch?v=rP4fgpXgv3Q。
如需进一步了解F5 Distributed Cloud Services如何帮助组织为随处运行的各类应用构建基础设施，请访问https://www.f5.com/cloud。
如需进一步了解Prompt Security，请访问https://www.prompt.security。
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。