F5为何加入开放安全AI联盟

Kunal Anand首席产品官 | F5

AI正在改变软件和安全领域的经济模式。

智能体现在能够发现漏洞、编写代码、调用工具和API，并以机器速度在整个基础设施中执行操作。这为防御人员带来了强大的新能力，也意味着AI安全不能再局限于模型本身。

正因如此，F5与NVIDIA及其他行业领导者共同加入开放安全AI联盟，成为其成员。该联盟正在开发和共享开放技术、方法与工具，帮助防御人员在AI时代保护软件和智能体。

安全需要最低执行标准

AI智能体并非只是语言模型，而是由模型、指令、身份、权限、内存、工具、API、防护机制、日志和评估系统组成的系统。每一层都至关重要，但最持久的控制措施，是智能体无法改写、绕过，甚至无法通过说服来改变的措施。

我将其视为执行层：请求在此接受评估，策略也在请求方无法控制的情况下应用。对于AI智能体而言，这一执行层越来越多地位于智能体与其可访问系统之间的路径上。智能体的实际能力取决于它可以调用哪些资源、访问哪些数据，以及执行哪些操作。

这是F5熟悉的领域。

互联网之所以变得可靠，并不是因为每个端点都能正确运行，而是因为部署了关键控制措施：

• 负载均衡器负责管理可用性
• 防火墙强制执行网络策略
• Web应用防火墙保护应用程序

AI智能体让这一问题演变出新的形态。控制点再次转移，这一次转向用户、应用、API、智能体、工具和模型之间的连接。

F5带来的价值

数十年来，F5一直在应用和API流量的关键控制点发挥作用。过去几年，我们一直在将这一角色拓展至AI领域。

The F5 AI Security Platform旨在保护和治理AI应用、模型、智能体及连接它们的API。我们提供与模型无关的测试和运行时保护、智能体操作和工具调用的可见性，以及涵盖公有云、私有云、本地和物理隔离环境的部署选项。

这一点很重要，因为大多数企业不会统一采用单一模型或提供商。他们会根据不同的工作负载、风险状况、地理区域和成本结构使用不同的模型。其模型组合的变化速度可能会快于应用或安全架构。

因此，更换模型后，安全控制仍需继续有效。与单一模型绑定的策略必须在该模型变更时重新构建。在应用和API路径上实施的策略，可以跨不同模型、提供商和部署环境一致应用。

这正是F5为该联盟带来的设计原则：不仅要保护交互背后的智能，还要确保交互本身的安全。我们还计划贡献开放研究成果、测试框架、工具，以及从F5各部门精选的工作成果。我们的目标是为防御者社区提供帮助。

展望未来

开放与封闭之争不足以全面涵盖企业安全问题。

最终形态将是混合模式。企业将同时使用开放模型和封闭模型、托管系统和自行管理的系统，以及通用模型和专用模型。真正的问题在于，企业能否对所有这些模型和系统采用统一的安全策略，向客户和监管机构证明该策略得到落实，并在更换底层模型时无需从头重建控制措施。

这主要不在于哪种模型的能力上限更高，而在于系统是否具备可信的安全底线。

F5加入了Open Secure AI Alliance，助力以开放方式构建这一可信底线。如需了解详情，阅读此博客。

关于作者

Kunal Anand首席产品官 | F5

Kunal Anand担任首席产品官，负责领导F5产品组织。他负责产品愿景、战略和执行，推动开发突破性解决方案，以应对关键挑战，并为客户打造卓越体验。在此前担任首席技术与AI官期间，Kunal制定了公司的技术与AI战略和愿景。 加入F5之前，Kunal曾在Imperva同时担任首席技术官和首席信息安全官。2018年，Imperva收购了他于2013年联合创立的应用安全初创公司Prevoty，他也由此加入Imperva。在加入Prevoty之前，他曾担任BBC Worldwide技术总监。Kunal拥有深厚的创新经验和技术专长，曾在Gravity、MySpace和NASA Jet Propulsion Lab担任领导职务，负责安全、数据、技术和工程团队。 Kunal在AI和机器学习领域拥有超过15年的经验，涵盖模型训练、运用AI驱动的算法增强产品，以及设计和实施AI架构。 Kunal拥有Babson College计算机科学理学学士学位。

Kunal Anand 的更多博客文章