最近，我与一家金融服务公司进行了交流。该公司正致力于实现从交易执行到大规模分析等各项工作的自动化。为此，公司计划部署100,000个AI智能体，数量相当于其员工人数的5倍。
这样做的并非只有这家公司。各行各业的许多企业都在借助AI提升业务效率。
AI应用的急剧增长将深刻影响组织保护其环境的方式。我经常告诉企业，不能只保护AI基础设施的某一个方面。企业级AI需要采用新的架构，而这又需要一种新的安全模型，在端到端的整个AI应用过程中保护基础设施和工作负载。
“通过保护新的控制点，组织可以让企业AI在规模化应用中更安全、更快速、更可靠。”
那么，究竟应在哪些环节实施安全防护？为更好地保护AI架构，组织需要保护AI路径上新出现的控制点。
可以这样简单理解这条路径：提示词首先到达应用程序，我们将此过程称为入站。随后，工作流会整合上下文、调用内部API并协调智能体。经过扩充的提示词接着进入模型层，由推理过程将其转换为令牌，这些令牌再形成结果并返回给用户。
这就是新的价值供应链。接下来，我将介绍F5如何帮助保护这条链路上的关键控制点。
一切从这里开始：提示词
AI之旅始于提示词，这是外部世界与AI系统之间的第一个交互点。提示词可能来自用户在聊天界面中输入的查询、API调用或机器生成的事件。提示词本身可能包含自然语言、结构化指令或系统指令，也可能由照片、音频或视频输入组成。
入口：提示词进入系统
提示词通过入口层进入AI基础设施。入口层是AI系统的第一道防线和流量管理层，集检查、策略执行、净化和流量路由于一体。
这是前门入口。需要注意的是，如今敲门的访客已不再只是人类，还包括由AI驱动的自动化对抗系统。这些系统试图绕过端点安全和传统WAF防护，并以数据和应用安全系统为攻击目标。
AI驱动的攻击者如今可以即时生成新型有效载荷。如果威胁行为者能够实时学习并调整策略，您的防御体系也需要具备同样的能力。
因此，F5正在开发新一代WAF解决方案。该方案由从零构建的神经网络提供支持，并使用真实的实时攻击数据进行训练，无需依赖已有签名或静态WAF规则，即可检测和响应威胁。我们正在构建能够实时学习和适应的防御系统，利用AI功能识别新型攻击并立即采取行动。
内部测试结果显著：无需预先定义即可检测零日攻击，误报率从28%降至1%，开箱即用的准确率从64%升至98%。这并非传统WAF，而是一种根本不同的技术。我们正将其引入F5 Distributed Cloud Services以及F5 Application Delivery and Security Platform (ADSP)的其他部分。
工作流：将提示转化为操作
通常，工作流会连接数据源、应用、智能体和API，为提示词补充更多上下文，以生成有用的输出。这些工作流也会带来严重的安全漏洞，包括不安全的输出处理、数据泄露，以及因系统复杂且可观测性有限而难以检测的其他威胁。
新威胁每天都在出现，因此，组织需要保护和治理所有环境中的AI工作流，并通过无缝协同的多层防护抵御由AI驱动的复杂攻击。这正是我们提供的能力。F5 AI Red Team提供自动化的多步骤对抗性测试，并与F5 AI Guardrails协同工作，确保AI系统在既定边界内安全、负责任地运行。当这些解决方案发现薄弱环节时，F5 AI Remediate 会自动将按优先级排序的对抗性测试发现转化为经过验证和优化的运行时防护措施。
这些相互关联的解决方案，其真正价值不只是加快检测速度，更在于缩短从发现漏洞到修复漏洞的时间。当风险发现能够直接推动风险缓解时，AI安全的整体格局将发生根本性变化。
推理：令牌转化为价值
经过扩充的提示词现已转换为数值词元，随后传入训练好的模型。在模型中，这些词元经过一系列概率计算，用于执行分类或推理任务、评估概率、作出预测并生成结果。
Token体现了运行AI的成本，并受五个变量影响：吞吐量、首个Token生成时间、每Token成本、延迟和每瓦Token数。对每个变量而言，能源都是最终制约因素。如果AI基础设施未得到优化，就会浪费电力并侵蚀利润空间。在AI领域，性能决定经济效益，而经济效益则带来竞争优势。
F5正是在这一环节发挥作用，确保以尽可能低的延迟和功耗处理及传输AI数据和工作负载，从而降低运营成本，并推动AI工厂高效扩展。通过将高能耗的网络、管理和安全任务卸载到高能效DPU，基于F5和NVIDIA技术的现代AI架构可在推理请求到达资源密集型GPU之前，以尽可能低的延迟和功耗完成数据预处理。
部署了这一联合解决方案的组织发现，令牌吞吐量提升高达40%，首个令牌生成时间缩短61%，响应时间改善34%。这些结果已经The Tolly Group的独立测试验证。这种转变源于认识到，AI工厂不仅要快，还需要具备可编程性和可治理性。
满怀信心地推进AI计划
事实上，AI创新需要稳健且灵活的架构。通过了解并保护新的控制点，组织可以大规模提升企业AI的安全性、速度和可靠性。
在互联网和云时代，F5率先保护IT架构。如今，随着AI再次推动企业架构演进，F5 ADSP提供融合平台，旨在帮助组织在整个AI旅程中保护数据、模型和系统，并通过能够学习和适应的防御机制即时响应实时威胁。
如需了解更多信息，建议访问我们的AI安全解决方案网页。
关于作者
Kunal Anand担任首席产品官，负责领导F5产品组织。他负责产品愿景、战略和执行，推动开发突破性解决方案，以应对关键挑战，并为客户打造卓越体验。在此前担任首席技术与AI官期间，Kunal制定了公司的技术与AI战略和愿景。 加入F5之前，Kunal曾在Imperva同时担任首席技术官和首席信息安全官。2018年，Imperva收购了他于2013年联合创立的应用安全初创公司Prevoty，他也由此加入Imperva。在加入Prevoty之前，他曾担任BBC Worldwide技术总监。Kunal拥有深厚的创新经验和技术专长，曾在Gravity、MySpace和NASA Jet Propulsion Lab担任领导职务，负责安全、数据、技术和工程团队。 Kunal在AI和机器学习领域拥有超过15年的经验，涵盖模型训练、运用AI驱动的算法增强产品，以及设计和实施AI架构。 Kunal拥有Babson College计算机科学理学学士学位。
Kunal Anand 的更多博客文章相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
