消除现代工作负载中的瓶颈,优化AI管道

行业趋势 | 2025年12月11日

本文是AI数据交付系列博客的第2篇。

随着AI应用加速发展,数据管道必须以更快的速度扩展,才能避免瓶颈并保持性能。麦肯锡等公司的近期研究显示,到2030年,市场对支持AI的数据中心容量的需求预计将以每年约33%的速度增长。这意味着,如果交付管道不能相应扩展,即使采用出色的模型架构,也会面临数据不足的问题。

然而,随着AI工作负载不断扩展,组织很快发现了一个出人意料的事实:性能下降很少源于模型训练或微调过程本身,而是源于上游数据管道。该管道必须持续为模型工厂提供大量高质量数据。

“新创新使F5 BIG-IP能够提供智能流量管理、数据路径优化和安全控制,满足训练、嵌入生成和微调工作流中AI数据大容量、高速流动的需求。”

现代AI系统依赖数据在对象存储、检索层、特征管道和嵌入生成工作流之间快速且可预测地流动,在适用情况下还包括推理端点。当这种“流动”减缓时,性能会急剧下降,GPU处于闲置状态,企业开始实现价值所需的时间也会超出预期。

石油管道是一个恰当的类比,我们曾在本系列的首篇博客文章中提到过。即使拥有先进的炼油厂,也就是用于训练、微调或生成嵌入的大语言模型(LLM)、向量搜索引擎或多模态模型铸造集群,但如果为炼油厂输送原料的管道狭窄、泄漏或拥堵,生产就会陷入停滞。问题不在于炼制过程,而在于运输系统。如今的AI管道遵循同样的原理:数据流动决定系统性能。

AI瓶颈的真正成因

AI管道很少在单点彻底中断,更多时候是在一连串微交互中逐渐变慢。单个工作流可能需要从对象存储中提取训练数据集、企业知识库或嵌入向量,转换数据以供摄取,查询向量存储,调用多个微服务,之后才进入微调或模型构建阶段。

每个步骤都可能产生阻力。单独来看,这些延迟似乎微不足道,但叠加后会延长端到端处理时间,使GPU无法及时获得所需数据,在大规模训练或数据增强作业中尤其如此。

这就像输油管道出现压力下降、阀门错位和意外流量激增。流量会变得不稳定,下游设施也无法获得稳定、可预测的供应。当存储节点变慢、网络路径性能下降或工作负载出现不可预测的激增时,AI模型工厂系统也会遇到同样的问题。

现有研究清楚表明,AI性能问题通常源于数据管道,而非模型。根据一项Fivetran调查,42%的企业表示,由于数据未能及时准备就绪或无法及时访问,其超过一半的AI项目出现延迟、表现不佳或失败。

Broadcom的另一项研究发现,96%的组织表示,数据管道性能问题直接影响了其AI目标,导致训练和准备工作流延迟、自动化程度降低,并产生代价高昂的返工。

这些数据揭示了一个关键事实:如果数据无法快速、可靠地通过管道,即使是高度复杂的模型工厂运营也无法持续交付稳定的结果。

F5 BIG-IP如何实现AI数据交付现代化

随着F5 BIG-IP version 21的发布,BIG-IP的功能已远远超越传统应用交付控制器(ADC)的范畴。如今,它已成为面向AI驱动型数据管道的现代化ADC,尤其适用于围绕S3兼容对象存储构建的数据管道。

多项创新功能让F5 BIG-IP能够提供智能流量管理、数据路径优化和安全控制,支持AI数据在训练、嵌入生成和微调工作流中保持大容量、高速流动,而不仅限于推理工作流。

它旨在稳定并加速整个数据流。作为对象存储与AI应用堆栈之间的交付层,即使在高负载下,也能确保数据传入、检索和路由顺畅、安全且具有韧性。

BIG-IP持续监控存储节点的运行状况,并自动将流量从速度缓慢或发生故障的端点重新路由。其针对S3的优化(例如面向大型分段上传的增强型TCP/TLS配置文件)有助于减少请求开销,并加快大容量读取。还可根据对象大小、前缀或存储桶等元数据引导流量,使组织能够根据运营需求,为微调数据集、训练工件或RAG嵌入数据设置不同的优先级。

关键支柱:位置感知路由、缓存和安全

BIG-IP发挥作用的另一个重要因素,是其处理位置感知路由的方式。当某个存储区域出现延迟或某个集群进行维护时,流量会无缝重定向到运行正常的站点,无需更改应用本身。无论后端存储层发生什么情况,都能持续为AI管道提供数据。

流量管理和安全必须紧密集成到数据传输生态系统中。AI数据端点的运行成本高昂,也是攻击者觊觎的目标。如下图所示,BIG-IP为AI数据管道提供关键的交付和安全功能。高级DDoS防护、WAF功能和精细化API治理,让安全成为数据管道的一部分,而不是其中的瓶颈。

F5 BIG-IP支持高效传输、安全的对象交付和弹性S3存储集成,确保AI管道在规模化运行时保持顺畅。
F5 BIG-IP支持高效传输、安全的对象交付和弹性S3存储集成,确保AI管道在规模化运行时持续流转。

韧性和可靠性的重要性

即使经过优化,管道仍可能受到干扰。流量激增、节点故障、复制突发和网络变更都可能降低AI性能。韧性是指在这些情况下仍能保持数据流动的能力。BIG-IP通过主动故障转移、维护期间的流量排空以及可编程路由策略,在这方面表现出色,帮助管道保持稳定。

具体而言,这意味着数据存储可保持可用且可访问,训练周期得以持续推进,RAG嵌入和数据增强流程可按计划完成。企业也能避免因AI技术栈某一层过载或不可用而引发的级联故障。

BIG-IP如同整个AI数据管道的压力控制、流量平衡和安全阀系统,确保“炼油厂”(即AI模型工厂)始终获得所需的稳定优质“原油”供应。

F5可在任何位置交付并保护AI应用

AI性能优化不只是模型推理,还要确保训练、微调和嵌入工作流所需的海量数据能够快速、可预测且安全地传输。

要详细了解F5的AI数据交付解决方案,请访问AI Data Delivery and Infrastructure Solutions网页。

F5对AI的关注不止于数据交付。了解F5如何在各种环境中保护和交付AI应用。

欢迎阅读AI数据交付系列中的其他博客文章:

借助F5和S3兼容存储为AI数据管道提供动力

跟踪AI数据管道从摄取到交付的全过程

为何AI存储需要采用新的负载均衡方法

大规模优化AI基础设施的实践方法

大规模交付AI应用:ADC的作用

保护AI数据管道安全,同时不降低管道运行速度

分享

关于作者

Hunter Smit
Hunter Smit产品营销高级经理 | F5

Hunter Smit是F5解决方案与战略产品营销高级经理。他负责F5产品组合的解决方案营销工作,涵盖AI基础设施和应用安全,并推动F5进军新兴的AI数据交付市场。Hunter是Whitworth University商学院顾问委员会成员,并曾担任产品营销兼职讲师。他拥有Whitworth University工商管理硕士学位和管理学工商管理学士学位。

Hunter Smit 的更多博客文章

相关博客文章

AI与网络安全
行业趋势 | 2026/10/02

AI与网络安全

了解AI与网络安全如何协同发挥作用。探索AI和机器学习(ML)如何帮助企业提升安全性和效率,并借助F5为创新做好准备。

智能体AI改变了CISO需要关注的关键问题
行业趋势 | 2026/09/22

智能体AI改变了CISO需要关注的关键问题

随着非人类身份不断增加,F5研究表明,需要提高可见性、加强治理并明确责任,以尽可能降低网络安全风险。

AI经济格局将在数据传输中见分晓
行业趋势 | 2026/08/06

AI经济格局将在数据传输中见分晓

了解为何推理路由、安全性和路径内控制,而非仅靠更快的GPU,将影响每个令牌的成本和AI基础设施的经济效益。

WAF和API发现技术在保护智能体AI应用中的作用
行业趋势 | 2026/05/13

WAF和API发现技术在保护智能体AI应用中的作用

智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全,需要通过API发现和Web应用防火墙(WAF)实施切实可行的控制措施。

IT与OT融合:当前趋势及为何必须以安全为先
行业趋势 | 2026/04/29

IT与OT融合:当前趋势及为何必须以安全为先

随着IT与OT系统不断融合,攻击面也随之扩大。了解组织如何实现安全集成,以及F5 ADSP如何帮助大规模保护运营。

保护AI数据管道安全,同时不降低管道运行速度
行业趋势 | 2026/02/18

保护AI数据管道安全,同时不降低管道运行速度

保护AI数据管道并非可选项,这一点毋庸置疑。真正不那么显而易见且更具挑战性的是,如何妥善保护它。