本文是AI数据交付系列博客的第5篇。
大多数组织在AI方面遇到困难，并不是因为缺少模型；模型的数量和类型都在不断增加。真正的问题在于，其基础设施从未针对AI的数据传输方式进行设计。
训练、微调和检索增强生成（RAG）都需要在存储系统、网络和计算层之间可靠、安全且反复地传输海量数据。随着AI项目规模扩大，即使数据访问、安全策略或韧性方面存在轻微低效，也可能产生连锁影响，导致流水线变慢、作业中断或基础设施成本上升。
“优化AI基础设施并非一味追求峰值性能基准，而是要在数据、模型、环境和团队同步扩展时，确保设计兼顾稳定性、韧性、安全性和运营清晰度。”
这项挑战尤为棘手，因为AI工作负载会以全新且陌生的方式给基础设施带来压力。数据传输的持续时间超出传统应用的预期。存储系统需要更频繁地扩展和重新平衡。安全和监管要求涵盖本地、云和混合环境。此外，Web应用或许可以容忍的故障，例如短暂断开连接或重试，却可能导致持续数小时甚至数天的模型工作中断。
因此，许多组织往往只能应对表面问题，而无法解决根本原因。这些根本原因通常包括：训练作业在维护时段停滞；微调管道在不同环境中的行为不一致；RAG系统在高负载或重新编制索引期间速度变慢；安全控制不一致，或难以进行规模化管理。
优化AI基础设施并非一味追求峰值性能基准，而是要在数据、模型、环境和团队同步扩展时，确保设计兼顾稳定性、韧性、安全性和运营清晰度。
构建可扩展、高韧性AI基础设施的八项注意事项
无论是训练大型模型、针对特定任务进行微调，还是为可检索企业数据并据此推理的RAG系统提供支持，都请参考以下建议做法和注意事项。这些内容重点介绍了对可扩展性和韧性影响最直接的基础设施选择。
1. 统一规范AI工作负载访问存储的方式。 不要让每个作业都直接连接到单个存储节点。
- 训练：重复读取大型数据集需要稳定且性能可预测的存储端点。
- 微调：频繁运行的小型作业可通过一致的访问方式获益，无需重新配置。
- RAG：嵌入生成和刷新管道依赖可靠的对象访问。
统一且一致的访问层可避免在存储扩展或重新平衡时出现重试、脚本不稳定和管道故障。
F5 BIG-IP如何提供帮助： F5 BIG-IP可提供稳定的前端入口，避免后端变更影响AI作业。
2. 应针对长时间、大容量的数据传输进行设计。不要依赖短时、Web式流量的假设。
- 训练：持续数小时或数天的作业必须能够经受短暂的性能下降。
- 微调：持续吞吐量比突发速度更重要。
- RAG： 大型文档的导入和重新索引需要可靠的分段传输。
AI数据传输与应用流量具有不同的特性，必须采取相应的处理方式。
F5 BIG-IP如何提供帮助：支持对持久的高吞吐量连接进行调优，使其与AI数据流相匹配。
3. 务必在所有环境中实施一致的加密和访问策略。不要让安全规则因环境而异。
- 训练：无论计算在哪里运行，敏感数据集都能得到保护。
- 微调：从策略角度看，开发、测试和生产环境的行为方式一致。
- RAG：专有文档和嵌入在层级之间传输时始终保持加密状态。
集中实施策略可降低风险和运维开销。
F5 BIG-IP如何提供帮助：它为跨环境的加密和访问策略提供单一控制点。
4. 尽可能卸载重复的基础设施工作。不要将CPU周期浪费在无助于实现AI成果的任务上。
- 训练：释放主机资源，以支持预处理和模型执行。
- 微调：并行运行多个作业时，周转时间会缩短。
- RAG：在加密流量下，数据摄取和检索仍能保持快速响应。
基础设施工作必不可少，但不应与AI工作负载争抢资源。
F5 BIG-IP如何提供帮助：它支持在AI主机之外高效管理流量处理和加密的架构。
5. 务必将稳定的客户端端点与不断变化的后端隔离。不要让AI管道受到基础设施频繁变动的影响。
- 训练：存储节点扩容或更换时，作业可持续运行而不中断。
- 微调：迭代不会因后端维护而中断。
- RAG：故障转移期间，检索端点保持稳定。
这种分离对于实现韧性至关重要。
F5 BIG-IP如何提供帮助：它会绕过运行异常或发生变化的后端进行路由，同时不会中断客户端连接。
6. 务必将韧性作为运营基准。不要等到发生中断后才发现薄弱环节。
- 训练：长时间运行的作业可在计划内维护期间持续运行。
- 微调：无需暂停实验即可推出更新。
- RAG：持续可用性支持实时查询。
韧性应成为常态，而非例外。
F5 BIG-IP如何提供帮助： 它支持对数据路径进行平稳维护和受控故障转移。
7. 务必在高负载下优先处理关键AI数据流，避免后台流量挤占活跃工作负载所需的资源。
- 训练：在执行复制或同步作业期间，正在运行的任务仍可保持良好性能。
- 微调：迭代式流水线在高峰时段也能按计划完成。
- RAG： 查询和检索流量持续保持快速响应。
并非所有流量都同等重要。
F5 BIG-IP如何提供帮助：它可作为策略控制点，根据意图调整流量并确定其优先级。
8. 不要只优化性能，还应提升清晰度和可操作性。不要构建只有专业人员才能运维的AI技术栈。
- 训练：当作业运行缓慢或失败时，可以更快地排查问题。
- 微调：团队了解数据路径，因此可以加快迭代。
- RAG：随着系统扩展，关注点分离更加清晰。
真正具备良好可扩展性的系统，应便于团队理解、运维和持续演进。
F5 BIG-IP如何提供帮助：它为AI数据传输提供清晰、一致的控制层。
AI基础设施扩展的理想场景
当数据访问稳定、安全策略一致，且基础设施变更由交付层承接而不暴露给模型和管道时，AI基础设施能够更有效地扩展。
要详细了解F5的AI数据交付解决方案，请访问AI数据交付和基础设施解决方案网页。
F5对AI的关注不止于数据交付。了解F5如何在各种环境中保护和交付AI应用。
欢迎阅读AI数据交付系列中的其他博客文章：
关于作者
Mark Menger是F5解决方案架构师，专注于AI和安全技术合作伙伴关系。他负责开发F5的AI参考架构，推动安全且可扩展的AI解决方案。Mark曾担任全球解决方案架构师和解决方案工程师，参与构建F5安全云架构，并共同开发其分布式四层架构。他是《Solving IT Complexity》的合著者，在应对IT挑战方面拥有丰富经验。此前，他曾担任应用开发人员和企业架构师，专注于现代应用、自动化，以及加快实现AI投资价值。
Mark Menger 的更多博客文章相关博客文章
WAF和API发现技术在保护智能体AI应用中的作用
智能体AI系统的功能和集成会在运行时快速变化。要以同样的速度保障其安全，需要通过API发现和Web应用防火墙（WAF）实施切实可行的控制措施。
