过去18个月，生成式AI（GenAI）席卷全球。
ChatGPT和DALL-E等新服务可以根据用户的自然语言提示生成文本、图像和软件代码。
如今，生产力有望达到新的水平。根据彭博行业研究近期发布的研究报告，到2032年，生成式AI市场规模可能高达1.3万亿美元。
随着这项技术的价值日益凸显，业界正越来越积极地开发面向特定行业和地区的大语言模型（LLM）。这类模型可让计算机生成可信的文本及其他内容。
大语言模型（LLM）是使用海量数据训练的统计语言模型，可用于生成和翻译文本及其他内容，也可执行自然语言处理任务。LLM通常基于深度学习架构。
全球具有开拓精神的电信运营商已开始积极准备，在这些专业LLM的交付和安全保障方面发挥重要作用。尤其是，他们预计，无力自行建设必要计算基础设施的企业、初创公司、高校和公共管理机构将对端到端GenAI解决方案产生强劲需求。
这一趋势引人关注。在采取适当安全保障措施的前提下，LLM即服务解决方案可能很快就会用于开发面向医疗、教育、交通及其他关键行业（包括电信业）的特定GenAI应用。
挑战
那么，要让这一切顺利运作，接下来需要采取哪些步骤？未来又将面临哪些主要挑战？
由于需要具备快速响应、高可靠性和持续可用性，许多LLM可能会分布在多个云和网络边缘位置。
事实上，要满足用户对实时“对话式”响应的需求，GenAI必须具备适当的延迟水平，并将成为电信运营商边缘服务的重要组成部分。
对于一直难以实现收入增长的电信运营商而言，提供边缘基础设施来支持专业的生成式AI系统，可能会形成一个重要的新市场。彭博行业研究估计，到2032年，用于训练大语言模型的生成式AI基础设施即服务市场规模将达到2,470亿美元。
不过，希望从生成式AI机遇中获得丰厚回报的企业需要谨慎行事。
分布式架构可能会扩大潜在攻击面，因此需要采用稳健且可扩展的安全解决方案，防止数据和个人身份信息在AI训练和推理阶段发生泄露。
随着恶意行为者越来越多地利用横向移动技术跨越多个互联系统，电信运营商必须保护应用和第三方用于访问LLM即服务的API。为帮助提高对这一问题的认识，开放式Web应用程序安全项目（OWASP）近期启动了一个新项目，旨在帮助开发人员、设计人员、架构师、管理人员和组织了解部署和管理LLM时可能面临的安全风险。
有一点可以确定：生成式AI系统通常需要处理个人或商业敏感数据，因此，电信运营商要成为这一市场中值得信赖的参与者，就必须维持客户信任。为此，许多政府和监管机构希望这些系统使用位于其管辖范围内的计算资源运行。与此同时，企业也不愿共享可能危及其知识产权的敏感数据，因此更倾向于使用私有LLM服务。
其他值得关注的问题还包括，AI集群会像虚拟用户社区一样运行，因此需要通过高性能数据路径访问存储在各国家/地区和企业私有存储库中的数据。
此外，随着各国家/地区和企业计划自行托管AI应用，AI对网络流量和基础设施的影响将日益受到这些计划的影响。对幻觉、版权、安全以及AI环境影响的担忧，正促使许多国家/地区和企业寻求进一步保障数据安全并加强数据控制。此外，还需要采用新方法来缓解预期的GPU压力。所有这些因素都会影响AI基础设施的总体拥有成本。
电信运营商入局：为多种环境提供灵活且可扩展的保护
电信运营商可以在AI变革中发挥重要作用。它们拥有国家级基础设施和现有的B2B服务，因此很适合成为AI即服务提供商。
例如，F5已在帮助一家欧洲电信运营商保护其全新的生成式AI服务。在此案例中，该客户正使用Nvidia DGX Super POD和Nvidia AI Enterprise技术，开发首个直接使用当地语言训练的大语言模型（LLM）。其目标是准确把握该语言的细微差别，以及其语法、语境和文化特征。
为保护部署在多个边缘站点的解决方案，该电信运营商将采用F5 Distributed Cloud Web Application and API Protection (WAAP)。该产品以云服务形式提供。此外，该运营商还利用F5的ADC集群，在其边缘基础设施中为新的AI平台执行负载均衡。
更重要的是，F5解决方案可部署在公有云和多租户数据中心，也可部署在企业内部及其边缘基础设施中。
此外，F5 Distributed Cloud WAAP及相关API安全解决方案可随流量增长快速扩展，从而降低提供LLM即服务的总体成本。F5还可提供电信运营商及其他托管服务提供商所需的流量、延迟和响应时间可见性，帮助其为企业客户提供服务级别协议。
F5还可以帮助解决LLM推理和AI任务资源需求量大的问题。这些工作负载需要进行大量数据交换，而大规模安全数据交换的需求往往会造成瓶颈。这可能会降低宝贵资源的利用率，进而增加运营成本，并延迟实现预期成果。
如果电信运营商能够采取恰当策略，并充分利用可扩展的稳健安全解决方案，就具备成为值得信赖的行业专用和国家专用LLM提供商所需的一切条件。成功做到这一点的运营商将在未来几年获得显著的竞争优势。
想了解更多信息？预约会面，于2月26日至2月29日在巴塞罗那世界移动通信大会期间与F5会面（5号馆，5C60展位）
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。