在NVIDIA GTC和CES上，NVIDIA都明确指出了企业AI的发展方向：AI工厂，即专为AI推理和训练构建并经过验证的基础设施与软件栈，旨在提供可预测的性能、降低成本并增强运营信心。
NVIDIA Enterprise AI Factory 验证设计将这一愿景变为现实，把NVIDIA加速计算、网络、软件和编排整合为经过验证的全栈设计，企业可放心地在本地部署。作为该架构的一部分，NVIDIA持续扩展其验证合作伙伴生态系统，帮助解决AI基础设施在实际生产规模下所面临的挑战。
今天，我们很高兴地宣布，F5 BIG-IP Next for Kubernetes已通过在NVIDIA RTX PRO Servers上运行的验证。该服务器搭载NVIDIA BlueField-3 DPU，且F5 BIG-IP Next for Kubernetes正被纳入NVIDIA Enterprise AI Factory验证设计。目前已有超过20,000家组织部署F5 BIG-IP；这些客户在部署NVIDIA Enterprise AI工厂时，可以无缝扩展其信赖的F5 BIG-IP功能。
“基于NVIDIA BlueField的F5 BIG-IP Next for Kubernetes将高性能流量管理、安全和AI感知控制整合到经过验证且可供企业使用的解决方案中。”
NVIDIA Enterprise AI Factory验证设计以可重复使用的构建模块为基础，确保企业在将AI投入生产时获得可预测的性能、安全性和可扩展性。该架构并非拼凑单点解决方案，而是明确了GPU、DPU、网络和软件如何协同构成一个统一系统。F5纳入这一验证设计，进一步强化了这种方法。
除设计验证外，我们还完成了详细的实验室性能测试，量化了在各种AI推理工作负载中运行由NVIDIA DPU加速的BIG-IP Next for Kubernetes所带来的实际性能和效率优势。测试结果和方法详见我们的《AI推理性能验证》报告。
AI工厂为何需要全栈方法
AI推理性能不仅取决于速度更快的GPU，还取决于能否通过全栈优化系统。在生产环境中，网络、安全和流量管理日益影响令牌生成速度、模型响应的一致性以及基础设施的使用效率。
随着AI服务扩展到更多租户、模型和用户，企业需要有效管理多个要素。对于部署本地或主权AI环境的组织而言，这一点尤为关键，因为其性能、治理和控制无法交由公有云服务负责。
企业需要充分利用目前必须处理网络和安全任务的主机CPU，保持稳定的延迟以优化首个令牌生成时间（TTFT），实现令牌使用情况的可视化和管控，并具备实施治理、公平性和合规要求的能力。
正是在这一环节，DPU及其上运行的软件成为AI工厂的基础。
将合适的工作负载卸载到合适的芯片
由NVIDIA BlueField-3 DPU加速的F5 BIG-IP Next for Kubernetes可将关键网络和安全功能从主机CPU卸载到DPU的可编程ARM核心和硬件加速引擎。
这些卸载的服务包括负载均衡和流量引导、TLS终止和加密、防火墙和安全策略实施，以及API保护和入侵检测。
通过将这些功能迁移到NVIDIA BlueField DPU上，可释放主机CPU资源来处理通用工作负载，同时让GPU继续专注于AI推理。
成效显著且可量化：令牌生成吞吐量提升超过30%，首个令牌生成时间（TTFT）最多缩短60%。
这些提升可直接带来更快的响应、更高的模型利用率和更高的基础设施效率，正好满足企业级AI工厂的需求。
超越卸载：令牌治理与智能LLM路由
卸载只是起点。
BIG-IP Next for Kubernetes中运行于NVIDIA BlueField DPU的可编程数据平面，可支持超越传统网络功能的高级AI感知服务。
内置令牌治理
BIG-IP Next for Kubernetes引入原生令牌治理功能，使企业能够按租户、用户或模型统计和跟踪令牌；实施令牌速率限制和使用策略；并支持合规、成本分摊和公平性要求。
随着基于令牌的定价成为AI领域的主流经济模式，基础设施层面的治理至关重要。
借助NVIDIA NIM实现智能LLM路由
通过与NVIDIA NIM微服务集成，BIG-IP Next for Kubernetes可根据查询复杂度、性能要求或策略约束，将推理请求动态路由到最合适的模型。
这有助于加快简单查询的响应速度，优化不同工作负载下的模型利用率，并根据策略进行路由，以满足成本、性能和合规性目标。
令牌治理与智能路由相结合，使BIG-IP Next for Kubernetes从网络组件转变为AI推理流量的控制平面。
NVIDIA企业级AI工厂中经过验证的构建模块
NVIDIA RTX PRO Servers与NVIDIA BlueField-3 DPU相辅相成，共同构成这一面向企业AI工厂的全栈验证设计中的关键加速计算平台组件。
BIG-IP Next for Kubernetes现已通过NVIDIA BlueField验证，并纳入企业AI工厂设计。客户可借助生产就绪的优化网络和安全层，为AI工作负载提供确定性性能，同时提高GPU和CPU效率，并获得用于令牌经济性和治理的内置控制功能。
此次验证进一步印证了F5与NVIDIA的共同愿景：AI基础设施必须经过系统化设计，而非简单拼装。
展望未来
随着企业从AI实验迈向生产级AI工厂，基础设施堆栈必须随之演进，以大规模支持性能、效率和治理需求。随着NVIDIA持续推进Enterprise AI Factory的发展，F5将在流量管理、安全和AI感知控制方面发挥更大作用，为下一代推理平台提供大规模支持。
在NVIDIA BlueField DPU上运行的F5 BIG-IP Next for Kubernetes正可满足这一需求，将高性能流量管理、安全和AI感知控制整合为经过验证且可供企业使用的解决方案。
我们很高兴能与NVIDIA携手，共同参与Enterprise AI Factory生态系统，并期待在未来几个月进一步拓展联合创新和市场推广工作。
详细了解NVIDIA Enterprise AI Factory验证设计，以及F5如何融入其中。
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。