过去几十年来,技术变革推动商业世界经历了许多转折点,F5始终与客户并肩前行,帮助他们应对这些关键时刻。
当各组织开始推进数字化转型时,应用成为业务的核心,F5确保应用能够大规模交付并得到安全保护。近年来,5G凭借前所未有的速度、服务和可靠性,有望推动商业世界发生变革,F5则帮助移动通信公司大规模部署云原生5G核心网。
如今,随着各组织积极探索如何利用AI的力量,我们再次迎来一个转折点,这可能是行业迄今面临的重大转折。客户在实施这项变革性技术时,F5正帮助他们充分释放大规模AI部署的潜力。
实现理想性能的难点
AI集群的日益普及正在推动向加速计算转型。沿用通用计算、网络、安全和监控领域的传统做法,往往会导致效率低下、进度延误和成本上升。
AI的海量数据处理需求给传统网络基础设施带来巨大压力,难以维持理想性能。NVIDIA BlueField数据处理单元(DPU)已成为一项关键解决方案。BlueField-3 DPU通过卸载并加速数据包处理、加密和压缩等高带宽网络与安全任务,提供高效的云网络连接。这种优化可提升整体性能,并加快图形处理单元(GPU)访问数据的速度。
服务提供商和大型企业正在建设大规模AI基础设施或AI工厂,利用NVIDIA全栈加速计算平台开展大规模生成式AI模型训练和推理。企业需要充分发挥AI工厂投资的价值,而这类投资可能十分可观。但如果缺乏适当的基础,AI基础设施可能无法得到充分利用。
高效管理流向AI服务器的海量流量
部署在NVIDIA BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes旨在解决这些问题。该解决方案重点在F5 BIG-IP Next Service Proxy for Kubernetes (SPK)上卸载并加速NVIDIA的BlueField-3 DPU。该解决方案既发挥F5在关键市场转折期应对重大应用交付和安全挑战方面的优势,也利用NVIDIA在加速计算和高性能网络领域的创新成果。
F5 BIG-IP Next SPK旨在解决服务提供商向5G转型时使用Kubernetes所面临的问题。5G基础设施基于云原生容器化架构构建,并使用Kubernetes管理容器工作负载。然而,Kubernetes最初并非为5G环境所需的复杂用例而设计。BIG-IP Next SPK帮助电信运营商针对5G基础设施调整Kubernetes网络,使其获得动态扩展5G网络所需的可见性、控制能力和安全性。过去几年,服务提供商一直使用BIG-IP为数百万用户提供5G技术支持。
正如BIG-IP Next SPK在上一轮市场转折期为5G核心网提供支持时发挥了关键作用,如今它也在不断演进,以应对AI市场转折期和AI工作负载交付带来的挑战。AI工作负载与5G工作负载有相似之处,但流量规模呈指数级增长。为满足这一新市场转折期的需求,F5将发布部署在NVIDIA BlueField-3 DPU上的BIG-IP Next for Kubernetes,以有效管理流向AI服务器的海量流量。
该解决方案革新了现代应用交付方式,以满足生成式AI的需求。它是F5 BIG-IP平台的Kubernetes原生实现,可处理网络、安全和负载均衡工作负载,部署在AI集群与数据中心其他部分之间的边界点。BIG-IP Next for Kubernetes将AI集群命名空间映射到数据中心网络租户,从而提供适当的安全防护并简化管理。BIG-IP Next for Kubernetes利用BlueField-3 DPU的硬件加速器,加速各种网络和数据服务,并通过卸载CPU计算资源来优化能效。
例如,Meta在今年早些时候举办的Networking @Scale 2024活动中提到,其开源大语言模型(LLM)Llama 3的训练受到网络延迟影响。通过调整硬件与软件之间的交互,这一问题得到了解决,整体性能提升了10%。10%的提升看似不大,但对于需要数月时间训练的模型而言,这意味着可以节省数周时间。
降低AI部署的复杂性
部署在BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes可为希望构建大规模AI基础设施的服务提供商和大型企业带来多项优势,包括:
- 简化集成: 此前,组织需要整合来自不同供应商的软件组件,才能交付并保护其AI应用,这一过程十分复杂。BIG-IP Next for Kubernetes将网络、安全、流量管理和负载均衡整合到单一解决方案中,降低了AI部署的复杂性。此外,它还提供AI基础设施中这些功能的集成视图,以及优化AI工作负载所需的丰富可观测性和精细控制能力。
- 增强安全性: BIG-IP Next for Kubernetes支持关键安全功能和零信任架构,包括边缘防火墙、分布式拒绝服务(DDoS)缓解、API保护、入侵防御、加密和证书管理;通过将这些功能卸载到DPU,释放宝贵的CPU资源。
- 性能提升:BIG-IP Next for Kubernetes可加速网络和安全功能,这对于满足AI基础设施以云规模交付应用的需求至关重要。
- 多租户支持: BIG-IP Next for Kubernetes支持多租户架构,使服务提供商能够在同一AI基础设施上安全托管多个用户,同时将各用户的AI工作负载和数据相互隔离。
成功交付针对AI优化的数据中心
通过审慎评估面临的挑战和可用解决方案,组织可以顺利交付针对AI优化的数据中心,同时不影响现有运营或降低安全性。在BlueField-3 DPU上部署F5 BIG-IP Next for Kubernetes是一种颇具吸引力的选择,可实现无缝集成、增强安全性并提升AI工作负载的性能,包括Llama 3等大规模LLM。
如需了解详情,请阅读我们的新闻稿和NVIDIA博客文章。
关于作者

相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start,在AWS上快速开展业务
在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。