随着各组织加快创新步伐，开发自动驾驶汽车或大型语言模型（LLM）等由AI驱动、能够改变生活的产品，高效的基础设施对于扩展运营规模和保持竞争力至关重要。过去，数据中心主要使用中央处理器（CPU）进行通用计算，并使用图形处理器（GPU）执行AI和机器学习所需的高强度并行处理任务。随着AI模型的规模和复杂性不断提升，数据中心已成为新的计算单元，突破了传统云网络的边界。为推动向数据中心规模计算转型，数据处理器（DPU）已成为计算领域的第三大支柱。
AI工厂的兴起
在此前的AI工厂系列文章中，F5将AI工厂定义为一项大规模的存储、网络和计算投资，用于满足大容量、高性能的训练和推理需求。与传统制造工厂类似，AI工厂利用预训练AI模型将原始数据转化为智能。
什么是数据处理单元（DPU）？
DPU是一种可编程处理器，旨在通过硬件加速，以网络线速处理海量数据传输和数据处理。2024年末，我们宣布在NVIDIA BlueField-3 DPU上部署BIG-IP Next for Kubernetes。NVIDIA BlueField是面向数据中心基础设施的加速计算平台，专为支持NVIDIA AI工厂而打造。CPU负责计算应用的通用计算，GPU则擅长AI相关的大规模向量和矩阵计算、图形渲染等加速计算任务。NVIDIA BlueField DPU通常集成到PCIe（高速外围组件互连）网络接口卡（NIC）中，负责为AI集群的主机或机箱提供网络连接。换言之，NIC如今实际上已成为一种功能强大的处理器，经过优化，可在数据进出服务器时进行处理。当多个主机或机箱位于同一AI集群中时，BlueField DPU还可用作集群间网络设备。
“DPU是一种可编程处理器，旨在通过硬件加速，以网络线速处理海量数据传输和数据处理任务。”
释放强大性能
BlueField DPU通过处理软件定义网络、存储管理和安全服务，减轻CPU的计算负担，使其能够专注于更擅长的任务。这种卸载能力对AI工厂至关重要，因为AI工厂必须快速处理和传输海量数据，以满足复杂AI模型和实时推理任务的需求。
BlueField DPU显著提升了AI工厂的能源效率和可扩展性。AI工厂需要庞大的计算资源，因此，高效管理供电和散热至关重要。DPU凭借专用加速引擎和高性能网络接口，能够以极低的延迟和功耗处理及传输数据。这种高效率不仅有助于降低运营成本，还能支持AI工厂有效扩展。借助BlueField DPU，AI工厂和大规模基础设施可以构建兼顾高性能与高效率的均衡基础设施，为AI技术的持续创新和部署提供支持。
BlueField DPU部署在AI工厂的哪些位置？
从F5 AI参考架构来看，DPU通常部署在RAG语料库管理、微调、训练和推理服务等功能领域，以及为这些功能提供支持的存储集群中。此外，DPU还广泛应用于需要高性能数据吞吐量和高能效的场景，例如支持5G无线接入网（RAN）部署。
The F5 AI参考架构，重点标示DPU的常见部署区域。
将应用交付和安全卸载到DPU并加速处理
AI工厂对高效流量管理和强大安全防护提出了新要求，这标志着一项重要转变：更加注重数据流和基础设施加固，以防范安全威胁。部署在NVIDIA BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes可将数据移动任务从CPU卸载到DPU并加速处理，从而实现低延迟、高吞吐量的连接。此外，它还将防火墙、DDoS缓解、WAF、API保护和入侵防御等全面的安全功能直接集成到可编程的NVIDIA BlueField-3 DPU上。借助这些功能，可以构建将AI模型和应用与威胁隔离的架构，确保数据完整性和主权。
BIG-IP Next for Kubernetes支持多租户，可在单一基础设施上承载多个用户和AI工作负载，并实现网络隔离。BIG-IP Next for Kubernetes为网络、流量管理、安全和多租户环境提供集中管理点，让大规模AI基础设施的管理更加便捷。它提供详细的流量数据，帮助提升网络可见性并优化性能，从而简化运维并降低运营支出。BIG-IP Next for Kubernetes与NVIDIA BlueField-3 DPU的集成有助于充分发挥AI工厂的潜力，同时减少工具冗余和运维复杂性。
由F5提供支持
对于投资AI的企业而言，必须确保基础设施经过优化并具备安全保障。部署在NVIDIA BlueField-3 DPU上的F5 BIG-IP Next for Kubernetes是一项战略性投资，有助于实现高性能、可扩展性和安全性，并提高大规模AI基础设施的投资回报。对于部署GPU和DPU以支持AI工厂投资的组织，联系F5，了解BIG-IP Next for Kubernetes如何增强AI工作负载。
F5对AI的关注不止于此，了解F5如何在任何环境中保障AI应用安全并实现应用交付。
想进一步了解AI工厂？欢迎阅读AI工厂博客系列中的其他文章：
- 什么是AI工厂？›
- 面向AI工厂的检索增强生成（RAG）›
- 优化AI工厂数据摄取的流量管理 ›
- 优化边缘数据源与AI工厂的连接 ›
- 多云可扩展性和灵活性为AI工厂提供支持 ›
- AI工厂的API防护：迈向AI安全的第一步 ›
- 网络分段对AI工厂的重要性 ›
- AI工厂打造现代应用的新形态：AI应用 ›
关于作者
Hunter Smit是F5解决方案与战略产品营销高级经理。他负责F5产品组合的解决方案营销工作，涵盖AI基础设施和应用安全，并推动F5进军新兴的AI数据交付市场。Hunter是Whitworth University商学院顾问委员会成员，并曾担任产品营销兼职讲师。他拥有Whitworth University工商管理硕士学位和管理学工商管理学士学位。
Hunter Smit 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。