GPU即服务：推动东盟AI增长的催化剂、机遇与挑战

F5生态系统 | 2024年10月14日

随着人工智能（AI）不断发展，对高性能硬件的需求急剧增长。各组织发现，要跟上运行复杂AI模型和工作负载所需的算力变得越来越困难。GPU即服务（GPUaaS）正可帮助应对这一挑战。

GPUaaS通过云端提供对高性能图形处理器（GPU）的按需访问，正在改变企业构建AI基础设施的方式。它无需企业投入高昂成本购置硬件，可实现无缝扩展，并能与现有云服务顺畅集成，同时简化运维。但GPUaaS究竟如何运作？为什么它正日益成为AI驱动型组织青睐的解决方案？

释放东盟地区的AI潜力

在东南亚国家联盟（ASEAN），随着越来越多的参与者进入GPU即服务（GPUaaS）市场，以应对该地区的特定挑战，这一市场正在不断扩大。语言是推动市场增长的关键因素之一。开源大语言模型（LLM）主要使用英语进行训练，往往难以准确处理蕴含丰富文化内涵的当地语言。因此，组织需要使用本地数据重新训练或微调这些模型，以确保模型能够以当地语言提供更准确、更贴切的回答。

与此同时，GPUaaS带来的优势也在推动其普及。其可扩展性让用户能够根据项目需求轻松调整GPU资源；其弹性则通过按使用量付费模式，让组织只需为实际使用的资源付费，从而降低总体支出。GPUaaS还可让组织即时使用前沿技术，助力快速完成原型设计和部署，从而提高灵活性并缩短产品上市时间。

另一个重要的考虑因素是数据引力、数据驻留和数据主权。数据引力是指数据会吸引应用和服务部署到其所在位置，以提升性能和效率。在许多情况下，数据驻留和主权法规要求数据必须存储在特定位置，这意味着GPUaaS提供商需要靠近其用户群体。主权AI强调一个国家利用自身基础设施、数据和资源开发AI的能力，也在很大程度上影响着本地化GPUaaS的需求。

最后，在采用GPUaaS时，东盟地区云服务提供商（CSP）的GPU成本和供应有限也是需要考虑的因素。根据近期的一份Dell报告，与基于CSP的解决方案相比，本地部署AI最多可节省75%的成本。GPUaaS提供了一种经济高效的替代方案，使组织无需预先投入大量资金购买硬件，即可使用高性能GPU。对于希望在该地区扩展AI能力的组织而言，这是一个颇具吸引力的选择。

权衡GPUaaS的优势与风险

GPUaaS的优势有助于推动其广泛采用，但也带来了一系列问题。其中一个关键问题是数据安全，因为传入和传出GPU的数据可能遭到截获或未经授权的访问。此外，使用远程GPU处理数据时，可能需要应对不同的数据保护法规和合规要求。性能也是一项需要关注的问题。对互联网或专用连接的依赖，以及GPU性能的波动，都可能影响应用的速度和响应能力。GPUaaS依赖稳定的高速连接，为获得更优性能，通常更适合使用专用网络，而非公共互联网。

F5如何提供帮助？

F5通过单一控制台，为公有云和私有云（包括GPUaaS提供商）提供创新的多云SaaS网络、流量优化和安全服务。

通过在任意网络之上构建加密网状结构覆盖层，组织可以连接到GPUaaS提供商（AI工厂），开展AI推理、嵌入或训练。借助全面的网络和应用分段，基于现有底层网络构建的所有覆盖层连接均为私有且安全。此外，F5加密网状结构通过动态监控、检测和优化流量，并将流量传送至运行正常的AI组件，帮助应对数字韧性挑战，确保AI应用始终正常运行且可用。

以下是一个大语言模型（LLM）检索增强生成（RAG）部署示例，该部署利用GPU即服务（GPUaaS）提供商的AI工厂。数据经过加密，通过安全网格传输，因此无需担心传输中的数据；GPUaaS提供商处也不会存储静态数据。组织的静态语料库数据仍保留在原始位置，不会发生任何变化。此架构还支持在边缘位置（公有云甚至分支机构）为延迟敏感型应用执行AI推理。

如果AI应用（例如支持智能体RAG的聊天机器人）可通过互联网访问，应考虑采用基于云网络的Web应用和API保护（WAAP）服务，保护AI应用免受网络攻击。