在很短的时间内，AI已从一项有趣的实验发展为核心业务能力。为跟上这一趋势，云服务提供商正在扩展GPU即服务（GPUaaS）和大语言模型即服务（LLMaaS）产品，为现代AI工厂提供基础支撑。这些环境将数据、算力和模型转化为可为客户创造高价值的成果。
这些服务大幅简化了AI的采用，但也给提供商带来了新的财务和运营压力。部署AI基础设施是一回事，要以可预测的经济效益实现规模化盈利运营则是另一回事。GPU成本、基于token的商业化挑战、延迟问题和多租户安全共同构成了一道复杂的商业难题。
“能够实现可持续经济效益的云AI提供商，将是那些现在就开始为规模化发展进行架构设计的企业。”
正是在这方面，F5 BIG-IP Next for Kubernetes，尤其是在NVIDIA BlueField-3 DPU上部署时，已开始重塑AI云的运营方式。该平台为提供商提供了一套系统化的方法，帮助其增加收入、降低每个令牌的成本，并更高效地运行复杂的AI环境。
AI工厂不断变化的经济格局
GPUaaS和LLMaaS之所以迅速兴起，是因为它们大幅降低了准入门槛。
GPUaaS让客户无需投资GPU集群或专用基础设施，即可训练和微调模型。医疗服务提供商、工业公司和企业无需自行运营基础设施，也能开展诊断成像或预测性自动化等高价值AI项目。
LLMaaS则恰恰相反，它完全省去了训练模型的需要。客户可通过API将Gemini或GPT等预训练模型集成到应用中，专注于构建聊天机器人、智能助手或实时分析等体验。
这些模型降低了客户的使用门槛，但也将复杂性集中到了提供商一侧。其经济效益对GPU利用率、延迟（尤其是首个令牌生成时间）、令牌计量准确性、多租户安全性和运营开销高度敏感。
架构正是在这里直接影响盈利能力。
通过增加令牌数量推动收入增长
GPUaaS和LLMaaS的收入随使用量增长。处理的token越多、承载的工作负载越多，收入就越高。要实现这一点，平台必须提供快速且可预测的体验。
BIG-IP Next for Kubernetes让GPU专注于AI计算，有助于提升收入潜力，而无需承担网络、路由或检查任务。将这些功能卸载到NVIDIA BlueField-3 DPU，可释放计算周期并降低GPU开销，使其能够处理更多工作负载。
测试表明，该架构可利用相同的GPU基础设施多生成30%以上的令牌，并显著缩短首个令牌生成时间。
这些改进会直接影响客户体验和服务使用量。当LLM响应快速且交互流畅时，用户自然会更多地使用服务。吞吐量提升后，同样的GPU可支持更多可计费活动。这样一来，AI服务无需增加硬件即可实现收入增长。
提高GPU利用率，降低成本
GPU是任何AI云的成本核心。任何效率损失、闲置时段或CPU瓶颈，都会直接导致每个令牌的成本上升和利润率下降。
BIG-IP Next for Kubernetes将大量网络、安全和流量处理任务转移到NVIDIA BlueField-3 DPU上，有助于降低成本。这可消除原本会占用CPU和GPU周期的开销，同时优化流量模式和工作负载路由，使提供商的GPU利用率更接近理想水平。
因此，提供商可以显著降低每个令牌的成本，并大幅提升整个AI集群的效率。
提高GPU利用率会进一步放大这一效应。GPU获得的工作负载越稳定，单个客户的成本就越低，每GPU小时产生的总体收入也越高。架构直接影响经济效益。
提高运营效率
AI云必须跨多个集群、区域、GPU和模型类型运行。如果缺少适当的控制点，复杂性会迅速增加，令团队难以应对。
BIG-IP Next for Kubernetes可在Kubernetes环境中提供安全的多租户功能、强大的分段能力、API保护和深度可观测性。借助这些能力，提供商可以清晰掌控工作负载的行为、租户的隔离方式以及策略的执行方式。
对于LLMaaS，BIG-IP Next for Kubernetes可实现令牌感知路由、提高缓存效率，并在不同GPU和模型之间提供一致的流量处理，从而让推理工作流更快、更高效且更可预测。
从运营角度看，这意味着提供商可以更快地接入租户、更迅速地排查问题，并在不成倍增加管理开销的情况下扩展基础设施。这些优势有助于提升经济效益，并构建更具可持续性的服务模式。
让AI工厂实现可持续商业运营
AI需求的增长速度超过了大多数提供商建设基础设施的速度。能够实现长期成功的，不只是拥有大型集群的平台，而是那些通过提升性能增加收入、通过提高效率降低成本，并以清晰可控的方式开展运营的平台。
BIG-IP Next for Kubernetes专为这一业务现实而设计，尤其适合与NVIDIA BlueField-3 DPU配合使用。经测试验证，它可提高吞吐量、降低延迟、增强多租户能力、优化GPU效率，并降低每个令牌的成本。
AI工作负载仍在持续增长。能够实现可持续经济效益的服务提供商，将是那些现在就能构建可扩展架构的企业。
这一F5与NVIDIA联合架构为实现这一目标提供了清晰路径。
了解F5与NVIDIA如何奠定技术基础，助力下一代智能、目标驱动型AI系统。
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。