本篇博文是AI数据交付系列的第4篇。
20世纪60年代末，The Band的摇滚经典歌曲《The Weight》（“Take a load off Fanny …”）讲述了一个关于负担的简单故事：责任如何不断转嫁，直到有人默默承担了超出其应承受范围的重担。
几十年来，IT基础设施的运作方式也大致如此。系统尽其所能承载负载，而不均衡的压力往往也被视为“够用就好”。
AI彻底改变了这一局面。训练、微调和检索工作负载会产生极高的并发量和数据访问强度，使那些未被察觉的负载承载假设带来风险。在现代AI环境中，负载均衡不再是为了公平分配，而是为了防止系统崩溃。
AI如何改变负载均衡的讨论重点
AI工作负载会带来极高的读取扇出、突发并发和大对象访问模式，打破了长期以来对存储访问的固有假设。
“一种不同的设计模式正在兴起：在存储系统前端部署应用交付控制器（ADC），用于AI数据访问。F5 BIG-IP等解决方案可为数据摄取和读取流量提供统一且受策略控制的入口，而无需让每个工作节点分别建立连接。”
数千个AI智能体和数据加载进程可能会同时提取相同的数据集、写入检查点或检索嵌入向量。传统的存储直连架构并非为应对这种规模的并行处理而设计。
因此，负载均衡不再只是为了方便，而是成为一种稳定性机制。它对于维持可用性、保护共享资源，以及确保AI作业在压力下仍能按预期运行至关重要。
AI数据访问模式的新现实
AI数据访问的独特之处不仅在于数据量，还在于并发性。训练作业通常涉及大量工作进程同时读取相同的数据。微调会带来频繁的检查点写入。检索增强生成（RAG）则会在推理期间产生突发且对延迟敏感的读取流量。
这些模式会形成所谓的“热点”，即压力集中在特定的存储节点、网关或网络路径上。当单个组件成为热点时，影响通常不会局限于该组件。性能下降会迅速蔓延，使局部拥塞演变为训练运行停滞、检索性能下降，甚至作业彻底失败。
这使问题的重点从计算规模转向如何大规模访问数据。
“无为”架构如何在AI负载下失效
过去，许多团队采用简单的方式访问存储。客户端直接连接到存储端点。DNS轮询或客户端重试提供基本的流量分配。存储系统负责内部数据放置和复制。
当流量较为稳定且扇出规模有限时，这些方法可以奏效。但在AI工作负载下，它们会因以下三个原因失效。首先，这些方法假设请求成本相对一致，而AI工作负载并不符合这一假设。其次，它们将故障处理和拥塞控制交给缺乏全局上下文的客户端或作业。第三，在突发流量期间，重试和重新连接会给已经承压的组件增加更多负载，从而加剧不稳定性。
不采取行动已不再是中立选择，而是一种架构风险。
基础负载均衡技术在AI场景中的局限性
简单的负载均衡方法很快就会暴露这些弱点。轮询方法假定每个请求给后端带来的负载大致相同。基于DNS的方法无法实时感知后端的运行状况或拥塞情况。存储系统可以观察流量，但无法在造成损害之前对流量进行整形或调控。
在AI环境中，一个速度缓慢或过载的节点就可能拖慢数百个工作节点。重试风暴不仅无法缓解拥塞，反而会使其加剧。延迟峰值变得难以预测，尤其是在检索工作负载中，响应时间会直接影响应用行为。这些并非极端情况，而是大规模AI系统的常见运行状况。
在存储前端实施控制
一种不同的设计模式正在兴起：在存储系统前部署应用交付控制器（ADC），用于访问AI数据。此类解决方案（例如F5 BIG-IP）为数据摄取和读取流量提供由策略控制的统一入口，避免每个工作节点各自独立连接。
这从根本上改变了系统的运行方式。可以在流量压垮存储节点之前对其进行调控。产生大量干扰或行为异常的作业可以被隔离。智能分配可防止热点形成，而不是等问题发生后再作出响应。在节点性能下降、维护或重新平衡期间，故障转移会更加顺畅且可预测。
对于AI工作负载，此控制层可在训练负载激增和RAG查询突发期间保障集群稳定性，确保任何单个组件都不会在不易察觉的情况下承担过多负载。
数十年来，F5 BIG-IP等技术一直用于管理关键任务应用的负载、运行状况和故障。AI工作负载将这些原则延伸至数据层，而极高的并发量和突发访问模式使容错空间大幅缩小。
面向AI工作负载的健康状态感知型流量调度
在AI系统中，健康状况比公平性更重要。存储节点在持续负载下会出现性能下降。故障和重新平衡是常态，并非例外。然而，AI作业无法容忍部分可用或性能不一致。
跨存储节点和集群的健康感知型流量引导可让系统持续自适应。系统会自动避开运行状况不佳或过载的目标。发生故障或扩缩容事件时，流量会重新均衡，无需强制作业重启。由于系统能够预防拥塞，而不只是检测拥塞，因此恢复速度更快。
此功能直接支持大规模、可靠的训练、微调和检索。
可观测性：一项隐性优势
在存储前端设置控制层，一个常被低估的优势是可观测性。存储团队往往难以深入了解AI作业实际如何访问数据。仅依靠存储平台本身，很难观察作业级延迟模式、不同工作负载的错误率，以及突发期间的读取放大情况。
通过ADC集中管理访问，团队可以获得对AI数据行为具有实际指导意义的可见性，并实时掌握延迟分布、访问热点和不稳定的早期迹象。随着AI工作负载不断演变，这些洞察有助于改进容量规划、加快故障排除，并为架构决策提供更充分的依据。
无需更改存储即可保护AI数据访问
AI数据管道也需要更严格的治理。在存储边缘集中实施身份验证、加密和速率限制，无需修改存储平台或客户端，即可保护敏感的训练和推理数据。
这种方法可随AI并发需求自然扩展，在保持性能的同时保护数据流，并避免将安全逻辑嵌入每个应用或作业。
将负载均衡作为AI稳定性层
如今，AI数据摄取和访问决定着基础设施的承载极限。不能再想当然地认为存储系统会默默承受不均衡的负载。负载均衡已不再是可选项，也不能再采用通用方案。
在存储系统前端部署可感知健康状态的智能控制，可为AI工作负载提供更高的吞吐量、更低的延迟和更强的韧性。更重要的是，这会将负载均衡转变为稳定性保障层，使AI系统在并发量、规模和数据密集度达到峰值时仍能持续运行。
F5可在任何位置交付并保护AI应用
要详细了解F5的AI数据交付解决方案，请访问AI Data Delivery and Infrastructure Solutions网页。
F5对AI的关注不止于数据交付。了解F5如何在各种环境中保护和交付AI应用。
欢迎阅读AI数据交付系列中的其他博客文章：
关于作者
Mark Menger是F5解决方案架构师，专注于AI和安全技术合作伙伴关系。他负责开发F5的AI参考架构，推动安全且可扩展的AI解决方案。Mark曾担任全球解决方案架构师和解决方案工程师，参与构建F5安全云架构，并共同开发其分布式四层架构。他是《Solving IT Complexity》的合著者，在应对IT挑战方面拥有丰富经验。此前，他曾担任应用开发人员和企业架构师，专注于现代应用、自动化，以及加快实现AI投资价值。
Mark Menger 的更多博客文章
Griff Shelley是F5产品营销经理，专注于硬件、软件和SaaS应用交付解决方案。他热衷于以创新技术助力客户取得成功，负责推动全球和本地应用交付、云服务及AI数据流量基础设施领域的市场推广项目。在投身科技行业之前，他曾担任高等教育学业顾问，并获得Eastern Washington University和Auburn University的学位。
Griff Shelley 的更多博客文章相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
