本篇博文由F5服务提供商产品管理副总裁Ahmed Guetari与NVIDIA AI网络和安全生态系统高级总监Ash Bhalgat共同撰写。
AI正迈入一个由推理性能和安全性决定能否满足客户期望的时代。随着Token经济不断发展，AI基础设施已不再只是提供原始算力，还需要对从云端到边缘数据中心的推理能力进行编排、保护和扩展。构建生成式AI和推理平台的云运营商迫切需要提高GPU效率、增加Token容量、降低延迟，并保护AI基础设施的每一层。
F5通过借助NVIDIA Cloud Partner (NCP) reference architecture扩展推理能力来应对这些挑战。这一关键蓝图明确了先进的AI云提供商如何设计、构建和运营GPU加速基础设施。该参考架构集成了涵盖计算、网络、存储和安全领域的优质技术，确保NVIDIA Cloud Partner能够大规模提供可靠的高性能AI服务。
“通过将F5的能力与NVIDIA Cloud Partner参考架构相结合，我们正在推动建立一套新的衡量体系，将令牌吞吐量、每令牌成本、延迟、能效和安全性作为首要考量。”
通过此次合作，F5 BIG-IP如今在NVIDIA生态系统中实现安全、高吞吐量的推理方面发挥着关键作用。
F5正与NVIDIA紧密整合网络、安全和应用交付能力，为智能的令牌驱动型AI平台提供支持。这将重新定义大规模运行AI的方式，提供推动新令牌经济所需的速度、防护和智能。
NCP参考架构：AI云的基础
NCP参考架构为部署AI云提供了全面的框架。该架构将NVIDIA加速计算、网络和软件能力与领先生态系统合作伙伴的互补技术相结合，在云端提供高性能、可扩展且安全的AI解决方案。
作为该架构的一部分，F5 BIG-IP为GPU驱动的AI工作负载提供高级流量管理、零信任安全、高级服务和可观测性，帮助NCP更有信心地部署、扩展推理服务并保障其安全。
代币经济的兴起与NCP参考架构
对于AI云服务提供商和企业而言，token已成为新的价值衡量单位，其衡量指标包括吞吐量、总延迟、首个token生成时间、能源效率和单token成本。能否取得成功，取决于连接用户与GPU集群的基础设施。为支持高性能AI服务，流量路由、防护、可观测性、多租户和策略执行都必须以线速运行，且不能造成瓶颈。
NCP参考架构将这一蓝图规范化，定义了主权云和AI云应如何互连计算、网络、存储、遥测和安全功能。NVIDIA BlueField-3 DPU是这些架构中南北向流量的关键枢纽。
F5作为核心基础设施赋能者加入这一生态系统，将网络、安全和AI感知控制直接嵌入参考架构。
F5：加速NCP AI云，提升性能、安全性和效率
通过集成NVIDIA技术，F5已取得显著成效。2025年4月，F5宣布正式推出由NVIDIA BlueField-3 DPU加速的F5 BIG-IP Next for Kubernetes。该解决方案将网络处理、安全策略执行和流量智能卸载到DPU，从而释放CPU资源用于业务应用。SoftBank是一家近期完成云概念验证（PoC）测试的NCP，并取得了出色的性能测试结果。
除了原始性能之外，F5 BIG-IP的功能还与NCP的运营需求高度契合，可一次性实现统一的入口和出口策略控制、服务网格、分布式拒绝服务（DDoS）缓解、零信任实施、API保护、工作负载隔离和多租户可观测性。
在合作过程中，我们优化了大语言模型（LLM）路由逻辑、可感知令牌的流量计量与治理，以及对模型上下文协议（MCP）的支持，从而提升数据路径本身的控制力和智能化水平。
通过支持NCP参考架构，BIG-IP现已成为AI云构建、部署和治理方式中的核心组件。
提升AI吞吐量：令牌数增加30%，首个令牌生成时间缩短60%
早期验证结果令人瞩目。当F5 BIG-IP服务与NVIDIA加速计算平台协同部署时，令牌生成量提升超过30%，首个令牌生成时间（TTFT）缩短60%。
这些提升可带来更长、更具上下文感知能力的响应和更快的推理周期，并将每个词元的成本降低30%。结合更高的每瓦词元数，这项集成可同时提升性能和能源效率，而这两者正是AI新经济模式中的关键因素。
对于云客户，在NCP上运行可带来显著优势：更快实现价值、降低运营成本，并改善所有部署模型下的用户体验。
这些收益不仅体现了渐进式改进，更表明AI云在服务交付、保护和商业化方式上实现了结构性提升。
F5在NCP参考架构中发挥作用的三大支柱
F5纳入NCP参考架构后，将帮助部署AI服务的客户提升性能、增强安全性并扩展功能，主要涵盖以下领域：
1. 性能提升：专为令牌经济而构建：F5 BIG-IP可与NVIDIA GPU、DPU、网络结构及软件平台组件（NVIDIA Dynamo、NVIDIA NIM）无缝集成，从而尽可能提高AI推理吞吐量。F5解决方案可优化提示词路由、负载均衡和推理效率，消除瓶颈，使每个集群每秒能够处理更多令牌。
在每个token都影响收入和模型准确性的环境中，这些提升有助于提高生产力、加快响应速度并增强盈利能力。F5与NVIDIA携手释放加速基础设施的全部潜力，助力新兴token经济发展。在这一经济形态中，效率和性能直接推动业务成果。
2. 重塑AI推理安全：大规模AI推理带来了新的攻击面，包括数据暴露和模型端点滥用。F5将其在应用安全和策略执行方面的深厚专业能力直接融入NVIDIA参考架构，提供多层防护，增强GPU云从核心到边缘的安全性。其中包括：
- 面向推理API的高级DDoS防御和自适应流量防护。
- 跨环境实施零信任并执行基于策略的身份控制。
- 全面的第7层防火墙防护和MCP安全机制，保障端到端流量完整性。
- 全面的数据保护，满足全球合规与隐私标准。
由此构建出兼顾性能与防护的可信AI架构，使NCP客户能够从容扩展，同时不影响安全性或合规性。
3. 扩展功能与AI原生控制：除了提升吞吐量和安全性，F5与NVIDIA的合作还引入了新的增值服务，将控制能力、可见性和智能扩展至整个GPU集群。LLM路由、精细化令牌治理、自适应可观测性和上下文感知流量引导等功能，使AI运维人员能够实时优化工作负载部署和资源使用。
这些功能将企业级应用交付能力引入AI领域，确保每个令牌、每个模型和每次用户交互都得到精准、高效的处理。F5以此将复杂性转化为可控性，连接传统应用与快速发展的生成式AI领域。
AI基础设施的新账本
通过将F5的能力与NCP参考架构相结合，我们正在推动建立一套新的衡量体系，将吞吐量、每令牌成本、延迟、能效和安全性作为AI基础设施设计的首要考量因素。
基于这一基础构建的AI云能够更可预测地扩展、更透明地实现商业变现，并随着模型和工作负载的演进更迅速地适应变化。如今，NCP、企业和主权云可以依托经过验证的参考技术栈，同时兼顾可信度与性能。
F5并非只是加入NVIDIA生态系统。双方携手推动Token经济发展，让每一微秒、每一瓦和每一个Token都发挥价值。作为安全、高性能且具备经济可扩展性的AI基础设施的战略推动者，F5正与NVIDIA合作，帮助客户以更高效率、更快速度、更安全、更智能的方式生成Token。
我们期待与客户、合作伙伴及创新同行携手合作，共同打造不妥协的新一代AI服务。
要了解更多信息，请访问F5与NVIDIA网页。
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。