借助F5与Red Hat生态系统应对RAG挑战

F5生态系统 | 2025年4月24日

生成式AI有望提高生产力并赋能业务,这一前景已引起众多行业企业领导者的关注。根据F5《2025年应用策略现状报告》,几乎所有受访者(99%)都表示,他们不仅愿意使用AI辅助决策,也愿意用其自动执行至少一项运营职能。

F5首席创新官Kunal Anand表示:“各地的组织都在加快部署生成式AI及其他新兴技术,以转变工作、创新以及与客户互动的方式。”

然而,基于现成大语言模型(LLM)的标准生成式AI模型往往缺乏最新信息和情境智能,难以在当今瞬息万变的商业环境中发挥值得信赖的战略作用。在这样的环境中,实时数据访问、特定领域的专业知识和准确决策是取得成功的关键。

希望将生成式AI应用与更新、更准确且针对特定领域的信息源相集成的组织,正在部署检索增强生成(RAG)。这一AI框架结合了基于检索和生成的方法,有助于提升AI生成响应的质量和准确性。

企业AI需要团队协作

要在企业AI基础设施中成功实施RAG,并非简单的即插即用。RAG需要协调多种技术组件和技术,这充分说明,企业AI解决方案要取得成功,需要技术提供商、基础设施合作伙伴和渠道合作伙伴共同构建开放协作的生态系统。

部署RAG涉及多家供应商,包括数据存储、容器平台、LLM、流量管理工具、API和后端基础设施等领域的提供商。企业AI确实需要团队协作。F5深知,要帮助客户实现规模化AI,众多参与者必须携手合作。成功离不开一个强大的由技术提供商组成的协作网络,由技术提供商交付出色的组件和软件,由渠道合作伙伴将工具转化为业务成果,同时还需要秉持一种理念:AI不是单一产品,而是一个解决方案生态系统。

卓越的AI基础

F5与Red Hat OpenShift AI为在LLM中部署RAG提供强大而统一的基础,帮助应对将多个来源的数据集成到生成式AI系统时面临的重大安全和流量管理复杂性。Red Hat与F5拥有长期的技术合作关系。目前,双方携手为AI驱动型计划提供强大、受保护且可扩展的平台,包括将RAG集成到现有LLM中。

F5和Red Hat的领导地位已得到业界认可:CRN将F5评为25家“备受关注的AI公司”之一,涵盖数据中心和边缘领域,并指出F5的“一体化应用交付与安全平台……可帮助企业应对多云网络、AI和API安全需求”。Dataquest将Red Hat评为开源企业解决方案领域的领导者,并表示其“开源创新将塑造企业IT的下一个时代”。

F5的先进安全和流量管理技术与Red Hat OpenShift AI这一先进的AI应用开发平台相结合,有助于为AI驱动型计划构建更安全、更具可扩展性的架构。组织可以放心部署AI应用,因为这些应用能够抵御不断演变的网络威胁,并满足现代AI工作负载的严苛要求。

“RAG需要对多种技术组件和技术进行编排,这充分说明,企业AI解决方案要取得成功,需要技术提供商、基础设施合作伙伴和渠道合作伙伴共同构建开放协作的生态系统。”

Red Hat、F5及其技术合作伙伴生态系统将继续携手合作,帮助客户在复杂的混合环境中连接应用和API并保障其安全。随着各组织探索AI的潜力,他们可以依托Red Hat和F5等值得信赖的供应商,获得一致的统一平台,使AI环境易于管理、经济高效且安全,营造创新与安全并行的环境。

将RAG集成到现有大语言模型中的挑战

RAG对于企业级生成式AI应用日益重要,RAG市场有望实现显著增长。未来几年,该市场在2024年至2030年间的复合年增长率预计为44.7%,到2030年规模可能达到110.3亿美元。

虽然RAG可以显著改善生成式AI应用的输出,但在LLM中部署RAG并非易事。由于RAG的附加数据组件分布在多个数字环境和外部知识库中,系统复杂性和安全风险会大幅增加。传输检索请求和增强数据响应所需的网络连接会带来安全和数据泄露风险,因此需要实施严格的访问控制和加密机制,以保护敏感数据。

将Red Hat OpenShift AI与F5 Distributed Cloud Services和F5 BIG-IP Next for Kubernetes集成,可提供一套基础服务,通过先进的安全和流量管理技术,为多种RAG用例提供支持和保护。

Distributed Cloud Services是基于SaaS的安全、网络和应用管理服务,支持客户根据需要在数据中心、多云环境、网络边缘或企业边缘等任意位置的云原生环境中部署、保护和运行应用。

相应地,BIG-IP Next for Kubernetes可优化AI处理集群之间的流量管理和分配,确保API通信可扩展且高效,从而支持基于RAG的工作负载,并保障数据流可靠且高性能,避免性能下降。

Meta近期发布的Llama 4大语言模型系列中,Llama 4 Scout支持1,000万token的上下文窗口,这引发了一些讨论,认为此类超大上下文窗口可能很快会让RAG被淘汰。然而,Llama 4大语言模型经过预训练且自成一体,除非专门设计了相关功能,否则无法实时访问外部或私有数据。相比之下,RAG使模型能够从海量数据存储中实时获取并整合最新且最相关的信息,确保AI输出既准确又符合上下文。F5认为,RAG将继续作为生成式AI的一项基础机制,因为它更能适应AI工作流的动态性和交互性。

用于保护RAG工作负载的F5与Red Hat联合平台

在Red Hat OpenShift AI上部署Distributed Cloud Services和BIG-IP Next for Kubernetes,可构建强化的安全解决方案,用于保护RAG工作负载。F5与Red Hat联合打造的平台可增强RAG的可靠性和可扩展性,为基于RAG的生成式AI解决方案提供易于管理的基础,帮助提高准确性和相关性,从而改善成果和用户体验。

如需了解更多信息,请阅读解决方案概述。如果您计划参加今年的Red Hat Summit,欢迎参加F5专题会议。

分享

关于作者

相关博客文章

F5纪念2021年世界艾滋病日
F5生态系统 | 2021/12/01

F5纪念2021年世界艾滋病日

值此世界艾滋病日,F5郑重承诺,将与员工、客户、社区和合作伙伴共同努力,消除社会对HIV感染者仍然存在的污名与偏见。

Thingbot正转变为攻击平台
F5生态系统 | 2018/11/29

Thingbot正转变为攻击平台

Lori MacVittie重点介绍了F5 Labs对2018年1月至6月全球物联网设备攻击的研究,并指出了其中令人警醒的影响。物联网设备不仅持续遭到利用,还被转变为攻击平台,这意味着攻击者可以更充分地利用这个必然增长的市场。

借助F5全新Quick Start,在AWS上快速开展业务
F5生态系统 | 2018/11/20

借助F5全新Quick Start,在AWS上快速开展业务

在AWS re:Invent开幕前,我们很高兴与大家分享F5与AWS之间全新的Quick Start集成。F5的Tom Atkins将介绍该服务如何启动、配置和运行在AWS上部署工作负载所需的计算、网络、存储及其他AWS服务。

为什么声明式模型对NetOps自动化至关重要?
F5生态系统 | 2018/04/30

为什么声明式模型对NetOps自动化至关重要?

为什么声明式模型对NetOps自动化至关重要?阅读F5博客,了解基础设施即代码如何简化网络扩展。

开源聚焦:F5基础设施即代码与多云可管理性
F5生态系统 | 2017/11/16

开源聚焦:F5基础设施即代码与多云可管理性

开源聚焦:基础设施即代码与多云。阅读博客,了解模板和Terraform如何简化F5应用服务的部署。

破解IT“无解困局”的答案:私有云
F5生态系统 | 2016/09/12

破解IT“无解困局”的答案:私有云

破解IT“无解困局”的答案:私有云。阅读F5博客,了解本地部署的敏捷性如何化解安全与速度难以兼顾的问题。