您是否知道，94%的组织在多个环境中部署应用，包括公共云实例、私有数据中心和边缘系统的组合？如今已进入混合多云时代，考虑到它带来的优势，这一趋势并不意外。在多云环境中，企业不再受制于特定供应商，可以为包括AI在内的每项待处理工作负载选择最合适的服务和实例类型。
然而，多云AI面临独特的挑战。为保持AI的准确性和有效性，组织需要持续为其提供数据，这意味着必须无缝连接不同环境中的数据存储库。AI工作负载也具有高度动态性，从简单的问答提示到深入分析或内容创作，对GPU资源的占用并不均衡。
此外，网络威胁形势也更加复杂，因为提示词注入和模型越狱等技术已使AI本身成为一种攻击途径。AI对数据的大量需求也使其需要利用众多API连接，这会扩大攻击面，并增加源自AI的攻击在网络中横向移动的风险。
此外，我们还没有谈到多云蔓延问题。随着环境、连接和复杂性不断增加，管理所有资源并保持全面可见性会变得愈发困难。
应对多云AI挑战，充分释放价值
好消息是，应对这些挑战已有一套行之有效的方法，其核心是整合关键基础设施要素，为AI构建安全的高性能通道。整体架构通常如下：
- 专用连接骨干网比使用公共互联网连接不同环境更具优势。专用骨干网可提供安全可靠的连接，帮助避免受到不可控因素的影响。
- 智能流量管理应用可感知AI的路由指令，更高效地平衡各容器之间的工作负载，避免昂贵的GPU资源利用不足或过度利用。
- 统一安全框架跨云边界一致实施相同的保护措施（加密、身份验证等）。这意味着在公有云实例、私有服务器和边缘系统中统一应用相同的安全和隐私策略。
- 集中式编排平台将所有组件整合起来，并提供自上而下的端到端可视性。理想的编排平台还会呈现AI专用指标，例如模型加载时间和推理延迟，为优化工作提供依据。
满足这些条件，即可充分发挥多云AI的优势，按需将数据无缝、安全地传输到任何位置，为模型训练、微调、推理和优化提供支持，并实现检索增强生成（RAG）等强大用例。
触手可及的AI就绪型多云基础设施
当然，要快速实现多云AI愿景，可以采用可信提供商经过实践验证的解决方案。F5解决方案可与您可能已在使用的AWS服务形成互补，例如用于托管AI模型的Amazon Bedrock，或用于构建自有AI的Amazon SageMaker，并提供必要的连接能力，将多云环境整合为统一的基础设施。
- F5 Global Network可在不同环境之间提供高性能、安全的私有连接，无需暴露于公共互联网。遍布全球的多个接入点有助于将数据保留在本地，从而缩短响应时间。
- F5 AI Gateway通过高级负载均衡，为容器化AI提供智能流量管理。集成式安全控制和输入/输出验证还可保护AI模型，防范提示词注入及其他可能导致数据泄露的滥用手段。
- F5 Distributed Cloud Services提供自上而下的可见性和控制能力，并可通过一键式部署连接云、边缘和本地环境。这些服务有助于在所有环境中一致地应用IT和数据治理策略。
对于NetApp客户，F5和AWS还可与NetApp存储解决方案协同使用，包括NetApp BlueXP和NetApp ONTAP，让您能够利用这些统一的数据管理和迁移功能，支持并增强多云AI项目。
RAG与边缘计算正迎来发展热潮
RAG利用组织的专有数据，通过特定领域知识提高模型准确性。除功能最通用的聊天机器人外，RAG实际上已成为其他聊天机器人的必备技术。然而，由于使用的是专有数据，这些数据价值更高，也更容易受到威胁。F5 Distributed Cloud Network Connect可在这些数据通过混合多云环境传输时提供保护，并提供安全的第3层连接及对Amazon S3协议的支持。
网络边缘也具有增强AI的巨大潜力。通过在更靠近数据生成位置的地方处理数据并执行推理，可以更快获得结果并降低延迟。F5 Distributed Cloud Customer Edge可帮助更轻松地将边缘位置安全连接到Distributed Cloud Services中集中管理的模型。此解决方案还可与AI Gateway配合使用，将基于Kubernetes的AI服务和安全能力扩展到边缘，并支持AWS Local Zones和AWS Outposts等边缘服务。
简化混合多云AI
混合多云AI虽然复杂，却能带来诸多优势：无论在何处需要，都可让AI模型访问众多数据存储库和服务，也可让这些数据存储库和服务访问AI模型。F5与AWS携手提供AI专用安全防护、统一管理工具，并通过全球网络基础设施实现AI连接，帮助应对多云挑战。借助这些解决方案，您可以构建安全、灵活且可扩展的AI，在当今的AI经济中蓬勃发展。
了解详情，请访问Amazon Web Services (AWS) 上的 F5。
此外，也请务必查看我之前发布的博客文章：
关于作者
相关博客文章
Thingbot正转变为攻击平台
Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究，并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用，还被转变为攻击平台，这意味着攻击者可以更充分地利用这个必然增长的市场。
借助F5全新Quick Start，在AWS上快速开展业务
在AWS re:Invent开幕前，我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。