有人说，IT预算决定着战略的成败。如果确实如此，那么AI战略正展现出强劲活力。
我们的最新研究显示，各组织平均将18%的IT预算专门用于AI。但这18%的具体分配方式，反映了其AI战略。
目前，约18%的AI预算用于AI服务，即集成或提供某种AI工具的第三方应用。其余预算用于模型（19%）、开发（16%）、安全（9%）、数据技术（11%）和GPU（9%）。
结合训练（50%）与推理（50%）支出各占一半，以及AI将分布在公有云（80%）和本地环境（54%）的调查结果，可以推断，各组织正计划对基础设施进行重大调整，以支持完整的AI生命周期。
要提供这方面的支持，需要重新审视网络。
构建同时支持训练和推理的基础设施时，需要密切关注Kubernetes等现代应用环境，以及流量如何在AI实例之间、模型与使用这些模型的应用之间流动。
虽然NVIDIA并非唯一的加速技术（GPU、DPU、IPU等）提供商，但其参考架构具有引领作用。正是这些细节会对网络和可扩展性架构产生重大影响。
AI Pod、集群和工厂
目前，业界对Kubernetes专用术语的使用颇为担忧。虽然运维人员已经理解Pod和集群的定义，但在大规模部署推理时，主要GPU提供商却模糊了这些定义。
例如，NVIDIA所称的AI pod实际上是Kubernetes集群，而一组相互关联的集群则被称为AI工厂。
我无意争论术语，毕竟这类争论我很少能赢。因此，我更关注这些AI能力单元及其对网络的意义。
尤其是在扩展生成式AI时，一个现实问题是对计算周期的需求，具体而言，就是对GPU计算周期的需求。为满足这一需求，特别是对于AI服务提供商而言，需要构建复杂的AI计算单元。NVIDIA将这些单元称为AI pod，其他厂商无疑也会有各自的专用名称。它们本质上是Kubernetes集群。
这意味着AI计算单元内部会产生大量东西向流量，同时也会有大量南北向流量进入这些AI计算单元。正是在传统数据中心基础设施与新兴AI计算集群的交界处，我们看到了显著变化。
该边界需要处理大量任务，对于需要按租户实施网络隔离的服务提供商而言尤其如此。此外，还需要大量L4-7流量管理功能，包括速率限制，以免AI资源不堪重负。还需要通过负载均衡实现扩展和流量分配，以及提供高级CGNAT功能等网络服务。
企业同样需要其中的许多功能，以扩展AI部署，支持日益丰富的业务用例，包括提高生产力、生成代码和内容、实现工作流自动化，当然也包括备受关注的AI运维。虽然企业可能不需要按租户隔离，但这有助于确保自动化和运营分析等高优先级AI工作负载不会因低优先级AI工作负载而资源不足。
无论是服务提供商还是企业，数据中心网络都将发生重大变化。将AI工作负载引入传统数据中心架构，可能导致架构无法扩展，甚至无法可靠运行。
了解数据中心架构的变化至关重要，同时还需要借助BIG-IP Next SPK等工具和技术，提供成功实现数据中心网络现代化所需的能力，从而支持各种AI工作负载以及最终依赖这些工作负载的业务。
关于作者
Lori MacVittie是F5首席技术官办公室的杰出工程师兼首席技术布道师，在应用交付、自动化战略和基础设施领域拥有深厚的专业知识。无论是为AI智能体定义防护机制、剖析脆弱的多云架构，还是探索可扩展系统的极限，她都善于化繁为简。她在应用开发、IT架构以及网络和系统运维领域拥有30多年的行业经验。加入F5之前，她曾担任技术编辑，并因出色表现获得奖项。 MacVittie拥有计算机科学硕士学位，著述颇丰，出版作品涵盖安全、云和企业架构领域。她还热衷于桌面游戏和电子游戏，并且对奶酪有着毫不掩饰的鲜明见解。
Lori Mac Vittie 的更多博客文章相关博客文章
2023年应用策略现状：成本与复杂性是推动多云网络发展的首要因素
多云网络解决方案可在核心、云和边缘环境之间实现无缝、安全的互联，为解决当今混合IT面临的挑战提供支持，因而备受业界关注。