什么是数据处理单元(DPU)?
数据处理单元(DPU)是一种专用处理器,旨在卸载并加速以数据为中心的任务,从而释放中央处理器(CPU)的资源,用于处理特定于应用的工作负载。DPU专为处理高速网络、存储请求和安全处理而设计,适用于现代高密度数据中心和高性能计算(HPC)需求。
深入了解DPU
DPU及其对应的基础设施处理单元(IPU)可满足从CPU卸载常见任务和吞吐密集型任务的需求。减少CPU承担的加密任务、存储I/O操作和高带宽网络数据包处理工作,使其能够专注于容器化应用、云或虚拟机监控程序分区以及人工智能(AI)计算密集型工作负载所需的高密度应用任务。
主要功能包括:
- 网络:在智能网卡(SmartNIC)的功能基础上,DPU能够以接近线速的速度处理大流量数据包,提供包括VXLAN在内的网络叠加卸载,并提供防火墙支持、TLS卸载、负载均衡和流量路由等安全及应用交付控制器服务。此外,DPU还可为加密安全伪随机数生成器(CSPRNG)提供熵源。
- 存储:DPU可加速主机与存储之间的数据传输,并支持基于网络结构的非易失性内存快速访问(NVMe-oF)等高级存储协议,为固态存储和超融合基础设施(HCI)提供所需的更高速度。DPU还支持加密和解密、压缩及重复数据删除处理,进一步减轻CPU负载。
- 虚拟化:卸载虚拟机监控程序和基于容器的网络任务,可增强HCI基础设施的分区和多租户能力,从而提高工作负载密度,并提升基础设施投资回报率。
使用DPU的优势
随着计算密度和功耗成为衡量基础设施成本效益的新指标,在HCI和HPC环境中针对特定应用任务优化CPU性能变得愈发重要。网络速度提升和延迟降低、存储性能改进,以及为更多用户提供计算资源的需求,进一步加重了CPU处理非应用特定任务的负担。目前普遍采用的成效衡量标准源自HPC行业,以CPU密度和性能为依据。
处理能力数据点的比率包括但不限于:
- CPU核心数(按机架、节点统计,或统计用户可用总数)
- 每秒浮点运算次数(FLOPS)1
- 功耗(以平均功率和峰值功率计,单位为千瓦)
- 物理空间测量(以平方英尺或平方米为单位)
长期以来,HPC一直使用这些指标来衡量超级计算机在投入运行时及后续运行期间的性能。随着这两个行业的技术不断融合,这些指标也越来越多地应用于传统数据中心。
DPU可提高CPU对应用和计算密集型流水线的可用性。如果CPU还需要处理较低层级的非计算任务,这些流水线可能会出现瓶颈。随着部署密度和应用任务量增加,此类任务带来的负担会进一步加重,而DPU有助于缓解这一瓶颈。通过在数据中心基础设施中添加DPU,可以释放CPU资源,从而提升单核性能。也可以对计算资源进行分区和多租户配置,让更多用户能够访问系统资源。
F5如何与DPU协同工作?
凭借在SmartNIC、ASIC和FPGA技术应用方面取得的成果,F5充分利用DPU在计算基础设施中的处理能力及其内联流量处理位置,提升HCI/HPC基础设施的工作负载容量、性能和安全性。
借助NVIDIA Bluefield-3 DPU,F5可为希望在充分利用计算资源的同时构建大规模计算资源的服务提供商和大型企业带来多项优势,包括但不限于:
- 简化集成:F5将网络、安全、流量管理和负载均衡整合为一套面向DPU集成的服务。该套件可跨HCI/HPC基础设施提供这些服务的统一视图,并提供优化计算密集型工作负载所需的可观测性和精细控制。
- 增强安全性:F5通过将防火墙、分布式拒绝服务(DDoS)缓解、API保护、加密和证书管理等关键安全功能卸载到DPU,为这些功能提供支持。
- 性能提升:F5可加速网络和安全功能,这对于满足高密度基础设施的需求、实现云规模的应用交付至关重要。
- 多租户支持:F5支持可扩展的多租户架构,使服务提供商能够在同一基础设施上安全托管大量租户,同时确保各租户的工作负载和数据相互隔离并受到保护。
如需详细了解DPU和F5集成解决方案,请点击右侧资源。
1传统上,基于科学计算的高性能计算(HPC)采用单精度或双精度浮点数(FP32和FP64)作为标准性能衡量指标。当前的AI趋势则以半精度或更低精度(FP16)衡量性能。采用精度更低的内存寻址方式(浮点和整数数据类型),可以加快语言模型的训练速度并减少内存占用。

