治理当前AI，前瞻AI未来

Chuck Herrin现场首席信息安全官 | F5

我们常听人把AI比作前所未有的热情实习生。它不知疲倦、富有创造力，但有时也会编造内容，或坚信自己比您更懂。在适当的防护措施到位之前，许多企业就已将敏感数据和关键工作流交给AI模型及使用这些模型的应用。这很容易导致品牌受损和合规风险，也会让疲惫不堪的安全团队频频熬夜。很多时候，直到新模型上线或开放使用后，安全团队才得知此事。

这种方法必须改变，而我们将推动这一改变。过去几个月，F5分享了AI安全进程中的两个重要里程碑。首先，在收购CalypsoAI后，我们发布了两款新产品：F5 AI Guardrails和F5 AI Red Team，为大型企业提供先进的AI安全能力。其次，我们阐述了如何在不作妥协的情况下保护AI模型和智能体。今天，我想将这两点串联起来，说明这些举措如何帮助F5客户自信、快速地采用AI，更重要的是，无需作出取舍。现在正是自信创新之时；对安全团队而言，也应迅速提升精准定位漏洞的能力。

我们近期对安全团队如何看待AI所做的分析揭示了许多担忧。此外，还有3个值得关注的事实：

1. 71%的安全专业人员最担心内部滥用或模型行为带来的暴露风险。
2. 对AI模型误用的担忧比对恶意滥用的担忧高出134%。
3. 在安全团队关注的数据安全问题中，52%与影子AI的使用以及向大语言模型披露敏感数据有关。

换言之，外部攻击者固然不容忽视，但安全运营团队最担忧的日常风险，主要来自（通常）出于善意的用户、过度自信的模型，以及分散或缺失的控制措施。这些真实数据正是我们高度重视运行时安全和策略执行的原因，因为风险正是在运行时实际显现于提示词、响应、工具和智能体操作中。

F5专注于AI安全对客户意味着什么

鉴于AI应用正迅猛普及，我们正在加快实现F5的愿景，为AI应用、模型、智能体和数据提供从试点到生产阶段的全面、模型无关型安全防护。为此，我们将两款重要且互补的产品纳入F5 Application Delivery and Security Platform (ADSP)：

• F5 AI Guardrails：一个运行时安全与治理平面，可跨任何模型或提供商检查、治理和保护提示、响应以及代理和工具操作。它帮助团队检测并防止数据泄露，管控有害或存在偏见的输出，并对模型和代理实施最小权限原则，同时不影响用户体验。
• F5 AI Red Team：专为AI打造的红队能力，可通过大规模对抗性测试，使用数千种攻击模式持续检验AI系统，并且每月新增超过10,000条攻击提示词。这套持续改进的测试涵盖提示词注入、越狱、模型蒸馏、数据外泄等，并提供详细、可供审计的日志和指纹。

反馈闭环让一切发挥作用

测试获得的洞察和发现可直接转化为动态防护措施，即主动防护机制。这意味着，防御能力可随新兴威胁和系统变化同步演进，无需等待季度审查或供应商补丁周期。测试越完善，防护效果就越好，并且逐月持续提升。

这种方法对于跟上威胁行为者持续迭代的步伐至关重要。近期，威胁行为者已利用AI，实现了根据CVE发现全自动开发漏洞利用代码。我们必须使用AI来防御AI驱动的攻击，否则攻防双方将严重失衡。持续改进将成为AI驱动防御的显著特征，F5正采用这种方法，并将其直接集成到F5 ADSP中。

兼顾AI效能与安全

在我们最近发布的博客文章《兼顾安全，保护AI模型和智能体》中，我们提出，不应在用户体验、速度和安全性之间取舍。说起来容易，而我们将通过提供以下功能来兑现这一承诺：

1. 在任何模型或云环境中保持一致。模型会变，提供商会变，但防护机制不应随之改变。F5可在混合、多模型环境中提供统一策略，涵盖本地部署和开源模型选项。
2. 专为低延迟防护而设计。即使以内联方式执行安全策略，避免故障转移也有助于保持快速、弹性的体验。
3. 合规能力内置于系统，而非后期附加。针对《通用数据保护条例》（GDPR）、HIPAA和《欧盟人工智能法案》等合规要求，提供预设和自定义审计模板，并结合端到端可观测性以及第三方SIEM/SOAR集成，让证据收集更轻松、可重复且可靠。

F5开启AI安全新篇章，值得期待

您已经了解F5在帮助应用保持快速、可用和安全方面的能力。AI安全可无缝融入这一现有体系。AI安全的新篇章将帮助缓解并揭示来自各个方向的风险。借助每月从10,000多个新攻击提示词中学习的智能体威胁情报，应对提示词注入、越狱、模型蒸馏和数据渗漏尝试等新型对抗性威胁。实时检测并防止敏感数据泄露给公共和私有大语言模型（LLM），并实施与数据分类相匹配的数据丢失防护（DLP）和访问策略。

最后，通过审核有害或存在偏见的输出、对模型和智能体实施基于角色且可感知上下文的权限控制，并在公共模型和内部模型中应用风险评估框架，规范负责任的AI使用。在落实这些防护措施的过程中，可借助详细日志、智能体指纹以及与现有SIEM/SOAR的集成，集中查看和追踪所有AI交互，从而简化可观测性、减少噪声并增强有效信号。

直面当今的潜在风险

仅依赖前沿模型自身的防护措施存在风险。攻击者会优先将其作为目标，而您面临的风险远不止来自某一家提供商。彼此割裂的单点工具会增加噪声并造成盲区。黑盒式的“AI 驱动”魔法也不等于治理。您需要透明且有人参与决策的控制措施，以及随时可供审计的证据和能够向监管机构及董事会清楚说明的策略。

如果刚开始采用AI，请从风险最高的环节入手，例如发现影子AI、保护敏感数据或开展对抗性测试，然后逐步扩展。如果AI已投入生产，请梳理智能体工具链和数据流，并在边界处实施最小权限原则和运行时防护措施。

融会贯通

F5 AI Guardrails和F5 AI Red Team助力F5加快实现其使命，提供覆盖广泛的AI安全平台。这些产品体现了我们在不牺牲其他方面的前提下保护模型和智能体的承诺，旨在应对安全运营团队在实际工作中面临的挑战。AI攻击面每天都在演变。借助这些新功能，您可以获得与时俱进的自适应运行时保护和智能体威胁情报，从试点到生产环境，全程保护模型、智能体和数据。

使用您自己的模型，我们将展示适用于整个技术栈且不受模型限制的防护能力。如需了解详情，观看我们近期发布的视频。

关于作者

Chuck Herrin现场首席信息安全官 | F5

Chuck Herrin是F5的现场首席安全官。

Chuck Herrin 的更多博客文章