每项新技术都会带来机遇与风险，AI也不例外。AI带来了突破性进展，包括实现复杂工作流自动化、利用预测分析增强决策能力，以及创建逼真的合成媒体。同时，它也会引入数据泄露、模型利用和偏见放大等漏洞。随着AI能力快速发展，安全措施往往相对滞后，使组织面临显而易见的危险和难以预见的威胁。当技术发展速度超过安全防护措施的演进速度时，安全责任往往会从技术创建者转移到实际应用者。
数十年来，F5一直帮助组织应对不断变化的数字环境，加速创新、确保可靠连接，并保护敏感系统免受潜在危害。如今，AI已成为技术进步的前沿领域，不仅需要审慎采用，还需要采取自适应安全措施，以保护用户和数据、抵御对抗性威胁，并确保合乎道德的AI治理。希望尽快从AI中获益的组织需要自适应“护栏”，以保护每一位用户和高速、大规模流动的数据，并从各个方面防范恶意行为者。
F5 AI Guardrails 简介
今天，F5宣布已完成对CalypsoAI的收购。CalypsoAI是AI安全前沿领域的先行者。与此同时，我们推出了保障数字通道安全的最新解决方案：F5 AI Guardrails，为AI模型和智能体提供全面的运行时安全防护。借助这一新方案，F5现可提供不依赖特定模型的解决方案，保护AI数据、抵御对抗性威胁，并确保所有交互均遵循负责任的AI治理要求。AI格局不断演变，涵盖数百万个专有模型、开源模型及其微调变体。AI安全的现在与未来并不局限于少数几个单体大语言模型（LLM），而是由一系列专有和公共AI创新构成。无论采用哪家模型提供商，每项创新都需要一致的隐私和安全保障。每个模型面临的风险组合各不相同，因此都需要量身定制的Guardrails，防止AI交互偏离可接受的边界。
F5 AI Red Team 识别显性和隐蔽威胁
看不见，就无法保护。在所有实体和数字通道中，有无数位置可以设置防护措施。已知事故地点或交通繁忙的交叉路口自然应优先处理，但还需要更具战略性和预防性的方法。F5 AI Red Team如同空中之眼，通过分析整体环境，模拟现实世界中高峰时段的交通混乱、极端路怒驾驶者的行为，以及这些行为可能暴露的漏洞。AI Red Team不仅能识别AI系统中可能发生事故的位置，还能判断事故可能造成最大影响的位置，从而明确应在何处设置防护措施，以及设置的紧迫程度。
我们推出AI Red Team，旨在从容实现这一能力。它可调动自主智能体集群，模拟数千种攻击模式，并搜寻AI系统中的漏洞。这些智能体集群可加快发现常见AI漏洞，以及安全团队无暇考虑的隐蔽且可能造成严重后果的利用方式。此外，模拟攻击技术以我们出色的AI漏洞数据库为基础。这个庞大的数据库会定期更新，每月新增超过10,000种攻击模式，以反映新兴趋势。这些洞察本身就很有价值，而团队只需点击几下，即可将每项洞察转化为主动式AI Guardrails。
洞察AI黑箱
了解AI威胁的“内容”和“位置”是维持安全态势的基本要求，而了解其“方式”和“原因”对于改善安全态势至关重要。AI系统具有不透明的“黑盒”特性，长期以来一直难以深入了解，因此需要采用全新的方法。假设AI触发了Guardrails，某个提示词被阻止。采用静态关键字或正则表达式过滤等传统方法时，您可以知道用户、日期时间和触发条件，但无法全面了解具体情况。更重要的是，F5 AI Guardrails和AI Red Team将可解释性放在重要位置，帮助客户了解AI系统为何做出特定决策或采取特定操作。
借助Agentic Fingerprints和Outcome Analysis等高级功能，团队现在可以深入了解每一次AI交互，包括提示词为何被接受或拦截的详细原因，以及促成该决策的上下文。这种精细程度不仅对安全团队掌握相关信息至关重要，还可通过易于访问的审计跟踪记录和按监管框架提供的现成模板，大幅简化合规工作。
保障当前AI安全，前瞻未来AI发展
AI不会消失，发展也不会放缓。MCP服务器、A2A Protocol、检索增强生成（RAG）以及未来的各种创新，将推动全球AI效能呈指数级提升。然而，AI效能的提升不能以牺牲AI安全为代价。F5凭借在应用层的出色表现赢得了良好声誉，帮助组织在数字化道路上更快速、更智能地前行；在AI时代，我们仍将坚守这一方向。F5 AI Guardrails和AI Red Team有助于我们继续兑现兼顾智能与速度的承诺，并为AI模型、智能体和互联数据提供全面的安全防护。
我们无法准确预测一年后的AI格局。在F5，我们相信，为未来做好准备的有效方式，是为组织提供能够适应其需求的工具，而不是替其决定发展路径。借助AI Guardrails、AI Red Team，以及F5 Application Delivery and Security Platform (ADSP)的综合能力，我们为您提供灵活性，使您能够适应各种环境、云和AI模型。因为最了解您未来需求的不是我们，而是您自己。
关于作者
相关博客文章
三家企业如何借助AI驱动的WAF改进虚拟补丁和运行时安全
了解三家F5客户如何利用AI驱动的WAF加快虚拟补丁部署、将误报减少50%以上，并更有信心地启用阻断模式。
F5 BIG-IP v21.0增强S3工作流的AI数据交付与摄取能力
使用F5 BIG-IP 21.0版优化S3工作流：通过低接触式配置，为AI数据交付、对象存储和RAG管道提供可扩展的安全解决方案。
Everest Group报告：生成式AI行业应用的当前趋势与未来前景
我们很高兴能为全球知名研究机构Everest Group发布的一份重要新报告作出积极贡献。该报告题为《生成式AI应用：审视横向职能中的实际应用与未来展望》，深入分析了各行业对生成式AI（GenAI）的应用情况。报告指出，IT［……］