2024年夏季，Nvidia创始人兼首席执行官黄仁勋提出：“新型数据中心AI工厂生产一种新的商品：人工智能。”因此，不妨将AI视为一种实体商品。这让人联想到福特的胭脂河工厂，它是垂直整合与工业化的典范。铁和橡胶从一端进入，福特汽车从另一端驶出。胭脂河工厂拥有自己的码头、100英里的内部铁路、专用发电厂，甚至还有自有的一体化钢铁厂、玻璃厂和造纸厂。工厂全天24小时运转，每年生产近150万辆汽车。
同样，当前及未来服务于大规模、高性能训练和推理模型的AI工厂，也会摄取海量原材料，也就是数据，包括结构化数据、非结构化数据、视频、文本等。这些工厂将数据转化为令牌化输出，供各种应用使用。正如River Rouge Complex需要精准控制每个生产环节一样，AI工作负载也需要强大的流量管理系统来处理数据摄取、处理和交付，概括来说就是物流。合适的流量管理解决方案让AI工厂能够获取现场的原材料，并将其转化为可用资源。借助合适的物流工具，团队可以确保数据顺畅流动，实现高吞吐量、低延迟和安全性，就像让装配线在每个环节都顺畅运行一样。
每座AI工厂的必备要素
《哈佛商业评论》于2020年介绍了阿里巴巴关联公司蚂蚁集团如何利用其AI工厂生成可付诸行动的情报，从而“管理多种业务，服务的客户数量是美国大型银行的10倍以上，而员工人数却不到后者的十分之一”。蚂蚁集团对AI工厂建设的构想同样引人注目：
“每个AI工厂都离不开四个组成部分。第一是数据管道，即以系统化、可持续且可扩展的方式收集、清理、整合和保护数据的半自动化流程。第二是算法，用于预测企业未来的状态或行动。第三是实验平台，用于检验有关新算法的假设，确保算法建议达到预期效果。第四是基础设施，即将这一流程嵌入软件并连接内部和外部用户的系统。”
在此前的AI工厂系列文章中，F5将AI工厂定义为一项对存储、网络和计算的大规模投资，用于满足大规模、高性能的训练和推理需求。因此，蚂蚁集团所列的第一个和第四个组成部分尤其值得关注：要建立安全、高效管理AI模型所摄取数据所需的系统，就必须重点考虑AI工厂应如何建设配套基础设施以创造价值。
AI数据摄取流量管理是一个持续不断的过程，负责管理包含数十亿参数和丰富媒体内容的AI数据流量，并将其传输到AI工厂，用于机器学习和训练。此时，高性能流量管理解决方案便可发挥作用，将这些流量导入AI工厂。如果没有此类解决方案，团队可能很快就需要重复使用连接来维持流量传输，或面临存储基础设施容量限制。这两种情况都不利于满足AI工厂按预期的优化速度和规模运行所需的高容量、低延迟数据传输要求。
管理流向、流经AI工厂以及在AI工厂之间传输的AI数据流量。
“AI工厂需要高性能流量管理解决方案，以便为拥有数十亿参数、并将很快达到数万亿参数的AI模型摄取数据。”
确保AI工厂持续运行
但这一领域的发展绝非停滞不前。日益复杂的AI模型需要以越来越高的频率输入更多数据。这带来了数据引力方面的挑战，因为数据部署在云端还是本地，对AI模型至关重要。要打造能够承受未来AI数据需求所产生引力的AI工厂，就需要可扩展的基础设施，以满足从接收的数据中更快获取洞察的需求。AI工厂基础设施最终可能决定其所支持AI模型能否取得成功并实现业务价值。如果通过某些云提供商处理，富媒体使用量的快速增长可能会显著增加网络流量及相关成本。因此，面临这种情况的企业需要应对双重挑战：既要维持高效AI学习模型所需的高速数据吞吐量，又要管理与云端数据传输和处理相关的复杂性与支出。
仔细评估首篇AI工厂文章中介绍的四种AI工厂部署类型（AI-SaaS、云托管、自托管或边缘托管），可以消除或减少对云带宽的依赖，帮助企业应对这些复杂问题。本地处理数据不仅无需再考虑云带宽问题，还能全面掌控敏感的训练数据集。这样一来，组织可以控制数据的存储、访问和处理方式，并将敏感信息保留在组织的安全网络内，以尽量减少数据暴露，从而更轻松地满足监管要求（例如GDPR、HIPAA或PCI DSS）。
更完善的基础设施为AI工厂创造更多价值
AI数据流量和应用流量与F5 BIG-IP Local Traffic Manager (LTM)及新一代 硬件解决方案的交互方式相似。这意味着，团队可以像优化传统应用流量一样，使用FastL4配置文件等工具优化AI数据流量，从而提升虚拟服务器的性能和吞吐量。团队还可以利用TCP优化来微调系统处理TCP连接的方式，这对网络性能至关重要。团队甚至可以部署BIG-IP的OneConnect，高效管理BIG-IP系统与后端池成员之间建立的连接，从而提高网络吞吐量。需要在AI工厂之间分配AI数据流量的组织无需费力寻找解决方案。F5开发应用流量管理优化工具已有20多年，因此BIG-IP LTM非常适合处理AI数据摄取流量。
AI应用代表着现代应用发展的前沿。如果没有部署稳健、灵活的流量管理解决方案，可用数据就会滞留在现场，AI模型也无法从中充分获取价值。正如鲁日工厂拥有码头和绵延数英里的铁轨，AI工厂也有BIG-IP等F5解决方案。
F5对AI的关注不止于此。了解F5如何在各种环境中保护和交付AI应用。
想进一步了解AI工厂？欢迎阅读AI工厂博客系列中的其他文章：
- 什么是AI工厂？›
- 面向AI工厂的检索增强生成（RAG）›
- 优化边缘数据源与AI工厂的连接 ›
- 多云可扩展性和灵活性为AI工厂提供支持 ›
- NVIDIA BlueField DPU 对 AI 工厂的强大作用与意义 ›
- AI工厂的API保护：迈向AI安全的第一步 ›
- 网络分段对AI工厂的重要性 ›
- AI工厂打造现代应用的新形态：AI应用 ›
关于作者
Griff Shelley是F5产品营销经理，专注于硬件、软件和SaaS应用交付解决方案。他热衷于以创新技术助力客户取得成功，负责推动全球和本地应用交付、云服务及AI数据流量基础设施领域的市场推广项目。在投身科技行业之前，他曾担任高等教育学业顾问，并获得Eastern Washington University和Auburn University的学位。
Griff Shelley 的更多博客文章相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。