面向AI工厂的检索增强生成（RAG）

Hunter Smit产品营销高级经理 | F5

在当今快速演进的技术环境中，AI的部署和运营已成为企业形成差异化优势的关键。随着企业利用AI增强决策能力、提高效率，或借助AI开发差异化产品，AI工厂已成为一种基础模型。AI工厂的核心是检索增强生成（RAG）。作为七大AI构建模块之一，RAG可使AI输出更好地感知上下文，并提高准确性和时效性。

在此前的AI工厂系列文章中，我们将AI工厂定义为一项对存储、网络和计算的大规模投资，用于满足大容量、高性能的训练和推理需求。本文将探讨我们定义的两项AI构建模块：RAG和RAG语料库管理。

了解AI工厂

与传统制造工厂类似，AI工厂旨在通过由服务器、GPU、DPU和存储系统精密协同构成的基础设施，生成AI输出并构建模型。AI工厂支持训练和推理，对于大规模开发AI应用至关重要。不过，只有引入RAG来增强输出的上下文相关性，才能充分释放AI工厂的潜力。

什么是检索增强生成（RAG）？

在深入探讨之前，先来定义检索增强生成：RAG是一种AI技术，通过整合专有数据来补充AI模型，从而生成能够感知上下文的AI输出。随着应用部署日益分散，并托管在混合云和多云环境中，企业数据也分布在各处。对于希望利用数据为AI创造战略优势的组织而言，问题在于：如何连接相关数据，以增强大型语言模型（LLM）等AI模型的输入？组织正采用RAG来解决这一问题，并在AI模型与分散的数据孤岛之间建立安全通道。这样便可访问最新信息，使输出更及时、更能感知上下文，也更准确。否则，即使经过微调的AI模型也无法访问最新信息，而这些信息往往在训练完成后很快就会发生变化。

有哪些示例？可以考虑以下两种情况：基于视觉的自动驾驶车辆，以及大语言模型（LLM）因请求缺乏相关上下文而产生幻觉或作出假设。

对于自动驾驶车辆，推理必须纳入基于车辆位置及周围不断变化环境的实时数据，才能在有行人、骑行者和其他车辆的道路上安全行驶。以客户支持聊天机器人为例，大语言模型（LLM）在获取变更日志、知识库、系统状态和遥测数据等产品信息，并结合支持工单、购买历史和客户资料等客户专属信息后，可将通用回答转化为有价值的输出。

混合云和多云环境日益复杂，存储部署也越来越分散，形成彼此隔离的孤岛。在F5，我们将这种现象称为“火球”。

面向AI工厂的RAG

在AI工厂环境中，RAG通过从向量数据库和内容存储库中提取更多上下文，增强基础AI模型的基本推理能力，并利用这些上下文生成信息更丰富的响应。在AI工厂中，RAG的编排层负责管理AI模型与增强服务之间的复杂交互，确保补充数据无缝集成到AI工作流中。

例如，在上述客户支持场景中，RAG可以访问并整合来自各种相关数据库和数据源的数据，从而生成高度相关的AI输出。通过将RAG集成到AI工厂框架中，企业可以提高推理响应的质量和及时性，进而提升决策成效和运营效率。

F5 AI参考架构重点展示了RAG。RAG是成功构建大规模AI基础设施所需的七大AI构建模块之一。

面向AI工厂的RAG语料库管理

RAG语料库管理侧重于使用RAG进行推理所必需的数据摄取和预处理。这包括数据规范化、分词、嵌入以及填充向量数据库等一系列步骤，确保内容为RAG调用做好充分准备。

在AI工厂中，此流程首先对各种数据格式进行规范化，以创建一致且结构化的数据集。接下来，生成嵌入向量，将这些数据转换为AI模型可查询的格式。处理后的数据会被写入向量数据库、知识图谱和内容存储库，以便在推理期间进行实时检索。RAG语料库管理通过确保数据干净、结构化且可检索，有助于提升AI输出的整体有效性和准确性。对于希望持续提供高质量、上下文丰富的AI响应的企业而言，此流程至关重要。

RAG语料库管理是F5为构建成功的AI架构而定义的七大AI构建模块之一。

RAG是否仅适用于AI工厂？

虽然RAG是AI工厂的核心构建模块，但各种规模的AI模型部署都需要RAG。基础AI模型（例如GPT、Llama）基于公开信息进行训练，因此，与部署相同模型的其他组织相比，仅部署基础模型并不能为组织带来足够的竞争优势。无论组织的AI部署规模如何，都必须通过RAG集成专有和非公开数据，以使用自身数据补充请求。例如，客户支持聊天机器人以及由LLM驱动的支持应用需要访问特定于产品和客户的信息，才能提供实用的解决方案。即使对模型进行训练或微调，也需要访问不断变化的数据，才能获得更准确的输出。

构建安全的数据通道，支持RAG

随着各组织持续投资AI以推动创新并提高运营效率，RAG在AI工厂中的重要性不容忽视。RAG通过增强上下文感知能力、准确性和时效性，确保AI模型提供更相关、更可靠的输出。对于希望在数据孤岛与AI工厂之间建立安全集成的企业，F5 Distributed Cloud Network Connect可提供现代化的数据通道，安全连接企业专有数据所在位置，提供受限访问，简化网络连接，并支持数据跨可用区和区域存储与移动。

F5对AI的关注不止于此，了解F5如何在任何环境中保障AI应用安全并交付AI应用。

想进一步了解AI工厂？欢迎阅读AI工厂博客系列中的其他文章：

• 什么是AI工厂？›
• 优化AI工厂数据摄取的流量管理 ›
• 优化边缘数据源与AI工厂的连接 ›
• 多云可扩展性和灵活性为AI工厂提供支持 ›
• NVIDIA BlueField DPU 对 AI 工厂的强大作用与意义 ›
• AI工厂的API保护：迈向AI安全的第一步 ›
• 网络分段对AI工厂的重要性 ›
• AI工厂打造现代应用新形态：AI应用 ›

关于作者

Hunter Smit产品营销高级经理 | F5

Hunter Smit是F5解决方案与战略产品营销高级经理。他负责F5产品组合的解决方案营销工作，涵盖AI基础设施和应用安全，并推动F5进军新兴的AI数据交付市场。Hunter是Whitworth University商学院顾问委员会成员，并曾担任产品营销兼职讲师。他拥有Whitworth University工商管理硕士学位和管理学工商管理学士学位。

Hunter Smit 的更多博客文章