F5 BIG-IP Next for Kubernetes现已在NVIDIA BlueField-3 DPU上正式发布

F5生态系统 | 2025年4月25日

今天,F5宣布部署在NVIDIA BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes正式全面上市,可在实现出色AI应用性能的同时,增强AI工厂云数据中心的资源管理。该集成解决方案可提高基础设施效率,并提供高性能网络、安全和流量管理功能,为GPU即服务(GPUaaS)和推理功能等创新用例提供支持。

将BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU集成,有助于应对组织在实施云规模AI基础设施时面临的紧迫挑战。大规模AI工作负载需要处理海量数据,并依靠高性能计算资源实时分析和解读数据,从中提取洞察。这会给传统网络基础设施带来巨大压力,限制性能,并可能导致处理效率低下和推理延迟。

行业标杆环境中的性能

F5、NVIDIA和SoftBank最近在NVIDIA GTC 2025的一场会议中展开合作,展示组合解决方案的价值。会上,SoftBank分享了具有突破意义的见解,介绍组织如何利用DPU加速的Kubernetes服务代理提升云原生AI工作负载的处理能力。会议展示了SoftBank近期开展的概念验证所采用的计算方法和性能指标。该概念验证在NVIDIA BlueField-3 DPU上部署了F5 BIG-IP Next for Kubernetes。SoftBank实现了HTTP吞吐量提升18%(达到77 Gbps)、首字节时间(TTFB)改善11倍,以及网络能效提升190倍。这些结果凸显了DPU加速为现代云原生环境带来变革的潜力,可提高令牌吞吐量,并改善AI推理期间的用户体验。

降低复杂性,优化性能,增强安全性

NVIDIA BlueField-3 DPU are 专为要求严苛的基础设施工作负载而设计,涵盖加速AI和5G无线网络、混合云及高性能计算。该联合解决方案利用F5 Application Delivery and Security Platform,对进出AI基础设施的数据流量进行加速、保护和简化,从而显著提升大规模AI工作负载的处理效率。通过优化流量管理,该解决方案可在AI推理期间提高数据摄取性能和服务器利用率,为AI应用用户带来更好的体验。

BIG-IP Next for Kubernetes通过统一网络、安全、流量管理和负载均衡功能,显著降低了集成复杂性,简化企业AI基础设施中多个要素的集成,并提供覆盖多云环境的全面可见性,同时增强AI工作负载的可观测性。该解决方案支持零信任架构、API保护、入侵防御、加密和证书管理所需的关键安全功能。正式发布后,该解决方案新增了硬件加速的分布式拒绝服务(DDoS)缓解和边缘防火墙功能,有助于更快速、更高效地提供网络安全防护。该解决方案还可自动发现并保护AI模型训练和推理端点,帮助组织隔离AI应用,使其免受针对性威胁,同时增强数据完整性和数据主权。

此外,BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU的集成支持多租户架构,可在同一AI集群上安全托管多个用户,同时将各用户的AI工作负载、数据和流量相互隔离。

助力客户采用AI的创新应用场景

F5与NVIDIA携手合作,不仅有助于改善基础设施管理并提高效率,还能实现速度更快、响应更及时的AI推理,从而支持以下新兴用例:

  • GPU即服务(GPUaaS)通过云端按需提供GPU访问,适用于AI模型训练、科学模拟和渲染等多种计算任务。组织可以按使用量付费或订阅的方式向云提供商租用GPU计算资源,仅在需要时为GPU付费,从而提高每单位支出可获得的GPU算力。BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU集成,可通过精细的租户隔离实现安全的多租户。这对GPUaaS场景至关重要,因为多个用户或组织可以在并发运行工作负载的同时,安全高效地共享GPU资源。通过将GPU服务划分为多个安全实例,精细的多租户机制可隔离不同租户和工作负载,防止数据泄露并降低安全风险。该机制还支持动态资源分配,确保每个工作负载都能获得所需的GPU和网络资源,而无需过度配置。
  • 推理服务,即由专门的云端AI平台提供经过优化的环境,以便对训练完成的AI模型高效执行推理。GPUaaS提供原始GPU算力,而推理服务则经过专门优化,可简化模型部署。这类服务的应用包括运行聊天机器人、实施欺诈检测、开展研究以及执行类似的AI任务。推理服务还可用于优化图像识别和自动驾驶场景,以及面向语音助手或情感分析的自然语言处理。BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU可通过并发运行多个模型来提升推理性能并降低端到端延迟。基于F5与NVIDIA联合解决方案的推理服务还可动态扩展资源,以应对不断变化的工作负载和需求。

对于GPUaaS和推理服务,精细化可观测性都是一项关键要求。BIG-IP Next for Kubernetes提供集中式完全集成视图,可深入洞察整个AI生态系统,以监控性能和韧性,并能即时应用安全功能,保障数据隐私、防止未经授权的访问并隔离异常。

如需了解更多信息,请访问产品页面,或联系F5客户团队,探讨如何将BIG-IP Next for Kubernetes用于贵组织的AI基础设施。F5对AI的关注不止于此,进一步了解F5如何保护并交付各处的AI应用。

分享

关于作者

Ahmed Guetari
Ahmed Guetari产品管理高级副总裁(服务提供商业务) | F5

Ahmed Guetari 的更多博客文章

相关博客文章

F5纪念2021年世界艾滋病日
F5生态系统 | 2021/12/01

F5纪念2021年世界艾滋病日

值此世界艾滋病日,F5郑重承诺,将与员工、客户、社区和合作伙伴共同努力,消除社会对HIV感染者仍然存在的污名与偏见。

Thingbot正转变为攻击平台
F5生态系统 | 2018/11/29

Thingbot正转变为攻击平台

Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。

借助F5全新Quick Start,在AWS上快速开展业务
F5生态系统 | 2018/11/20

借助F5全新Quick Start,在AWS上快速开展业务

在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。

为什么声明式模型对NetOps自动化至关重要?
F5生态系统 | 2018/04/30

为什么声明式模型对NetOps自动化至关重要?

为什么声明式模型对NetOps自动化至关重要?阅读F5博客,了解基础设施即代码如何简化网络扩展。

开源聚焦:F5基础设施即代码与多云可管理性
F5生态系统 | 2017/11/16

开源聚焦:F5基础设施即代码与多云可管理性

开源聚焦:基础设施即代码与多云。阅读博客,了解模板和Terraform如何简化F5应用服务的部署。

破解IT“无解困局”的答案:私有云
F5生态系统 | 2016/09/12

破解IT“无解困局”的答案:私有云

破解IT“无解困局”的答案:私有云。阅读F5博客,了解本地部署的敏捷性如何化解安全与速度难以兼顾的问题。