检索增强生成技术解析

检索增强生成（Retrieval-Augmented Generation）是一种将大型语言模型与外部知识库相连接的技术，使模型在回答问题之前能够检索相关信息。该模型不再仅依赖训练期间记忆的内容，而是在收到问题的那一刻检索最新且经过验证的事实，并据此构建其回答。

那么，如何用一句话概括RAG呢？它相当于人工智能领域的“开卷考试”。标准的大语言模型（LLM）仅凭记忆作答，就像学生参加“闭卷考试”一样。而RAG模型则会先拿到“教科书”，找出相关段落，然后根据眼前的资料撰写答案。

工作流程中的这一微小改变却产生了巨大影响。RAG 人工智能系统能够注明来源，及时跟进模型训练后发布的新信息，并回答有关模型从未接触过的私营公司数据的问题。正是这种综合优势，使得检索增强生成（RAG）已成为严肃生成式人工智能应用的默认模式。

该术语是在一篇……中广为流传的 Meta AI 2020年发表的一篇研究论文，但其核心思想很直观：将知识与推理区分开来。让一个快速、可搜索的知识库来存储事实，而让语言模型发挥其最大优势，即理解问题并撰写流畅且有用的答案。

要理解RAG为何重要，就必须了解它所解决的故障模式。

大型语言模型经过训练，能够预测序列中可能性最高的下一个词。它们是出色的模式匹配器，但无法区分“我真正知道的事情”和“听起来似乎合理的事情”。 当问题超出其训练数据范围，或涉及小众、新近或私密的话题时，它们往往会生成一段行云流水、听起来颇具权威性的回答，但实际上却是错误的。这就是所谓的AI幻觉。

普通的大型语言模型（LLM）会产生这些错误，主要有以下三个结构性原因：

• 知识被冻结了。 模型只了解截至某个固定截止日期之前训练数据中存在的内容。如果询问该日期之后的事件、产品或政策，它就只能进行猜测。

• 知识是通用的。 模型是在广泛的公开文本上训练的。它们从未阅读过贵公司的内部维基、合同或支持工单，因此无法准确回答与此相关的问题。

• 没有绝对的真理。 由于该模型是从压缩的统计记忆中而非文档中获取答案，因此无法验证或引用某项论点的来源。

RAG 同时解决了这三个问题。通过在查询时从知识库中检索相关文档，该模型不再局限于固定且通用的记忆。它基于真实、具体且最新的上下文进行推理，而且由于这些上下文来自可追溯的文档，系统能够展示其推理过程。 其结果是人工智能的准确率实现了可量化的飞跃，而自信的虚构内容则大幅减少。

RAG 架构分为两个阶段。第一阶段仅执行一次，并会定期更新：对知识进行预处理，以便后续检索。第二阶段则在用户每次提出问题时都会触发。

第一阶段：索引编制（准备知识库）

在 RAG 能够检索任何内容之前，必须先使您的原始信息可供搜索。该索引处理流程会在事前运行：

1. 摄入并分块。 源文档（例如 PDF、网页、支持文章和数据库记录）会被分割成较小的段落，即“片段”，通常每个片段包含几百个单词。分片处理之所以重要，是因为您希望检索到重点突出且相关的片段，而不是整本 50 页的手册。

2. 创建嵌入向量。 每个文本片段都会经过一个嵌入模型的处理，该模型将文本转换为向量——即一个能够体现其含义的长数字序列。即使两段关于同一概念的文字使用的词汇完全不同，它们最终生成的向量在数学上也是相似的。

3. 存储在向量数据库中。 这些嵌入向量存储在向量数据库中，例如 Pinecone、Weaviate、Milvus、pgvector 或 FAISS，这些数据库专为在大规模和高速环境下查找与任意查询最相似的向量而设计。

第二阶段：检索与生成（回答问题）

当用户提交查询时，RAG 管道便会立即启动：

1. 嵌入查询。 使用相同的嵌入模型，将用户的问题转换为向量。

2. 语义搜索。 向量数据库会将查询向量与每个存储的片段进行比对，并返回最匹配的结果。由于这是语义搜索，即根据语义而非关键词进行匹配，因此关于“降低客户流失率”的问题，即使文档中没有共同的词汇，也会检索到关于“提高客户留存率”的文档。这一步是整个系统的文档检索引擎。

3. 提示词增强。 检索到的片段将与原始问题一起插入提示词中。这一上下文检索和插入步骤正是“检索增强生成”中的“增强”部分：模型的提示词被精准地补充了其所需的事实。

4. 世代。 大型语言模型会读取增强后的提示（即问题加上辅助上下文），并生成基于事实的答案，通常还会附上指向源文档的引用。

这种生成式人工智能工作流的优雅之处在于，语言模型无需事先“了解”您的数据。您可以随时更新知识库，下一次查询时系统将立即检索到新信息，且无需进行耗时的重新训练。

每一个RAG模型，无论多么复杂，都是由相同的构建模块组成的。了解每个构建模块，有助于您对成本、性能和准确性进行分析。

知识库。 这是您的“可信来源”：即您希望人工智能从中获取答案的文档集合。其质量决定了整个系统的上限。干净、结构清晰、内容最新的文档能产生准确的答案；而过时或自相矛盾的内容则会产生看似自信实则毫无意义的回答。

嵌入模型。 这将文本转换为向量。嵌入效果越好，检索到的片段就越相关。选择一个针对您所在领域（无论是法律、医疗还是技术领域）进行过调优的嵌入模型，可以显著提升检索结果的质量。

矢量数据库。 它用于存储嵌入向量并执行闪电般的相似度搜索。它是检索功能背后的核心引擎，正是得益于它，RAG才能从处理数百份文档扩展到数亿份文档。

寻回犬。 决定检索什么内容以及检索多少内容的逻辑。高级检索器将语义搜索与传统的关键词搜索相结合，采用“混合”方法，并可能对结果进行重新排序，将最相关的片段推至首位。

大型语言模型。 将检索到的上下文转换为流畅、易于人类理解的答案的生成器。这可以是Frontier模型，也可以是在您自己的基础设施上运行的规模较小的开放权重模型。

编排层。 这种“粘合剂”借助 LangChain 或 LlamaIndex 等框架，将这些组件整合为一个统一的生成式人工智能工作流，并负责提示词构建、错误处理和输出格式化。

一个常见的问题是：应该使用 RAG，还是直接利用自己的数据对模型进行微调？它们解决的是不同的问题，而正确的答案往往是“两者兼而有之”。

最简单的经验法则是：微调会改变模型的行为方式，而 RAG 则会改变模型所掌握的知识。 如果你需要 AI 采用特定的语气或遵循严格的输出结构，就进行微调；如果你需要它从随时间变化的事实库中准确作答，就使用 RAG。对于企业级 AI 而言，RAG 几乎总是起点，因为知识在不断变化，而引用来源是不可妥协的。

RAG 并非一种理论模型。它为人们日常使用的许多人工智能产品提供了动力。以下是各行业中 RAG 的具体应用案例：

• 客户支持专员。 客服机器人会从公司的帮助中心、产品文档以及历史工单中检索答案，因此能够提供准确且符合品牌调性的回答，而不是泛泛的猜测。

• 内部知识搜索。 员工用通俗易懂的语言提出问题，并获得基于公司维基、人力资源政策和工程运行手册的解答。这是企业人工智能在提升生产力方面取得的一项重大成果。

• 法律与合规审查。 RAG 模型能够检索出与问题相关的确切条款和法规，并附有引用出处，以便律师能够对照来源核实每一项主张。

• 医疗决策支持。 临床医生查询最新的研究和治疗指南时，系统会检索并总结经同行评审的证据，而不是随意编造剂量数据。

• 金融研究。 分析师会询问有关收益、申报文件和市场数据的问题，而该助手会从最新报告中提取信息，而非依赖于固定的训练数据快照。

• 开发者文档讨论。 一种“与文档对话”的体验，开发者可通过检索官方文档，获取准确且针对特定版本的代码示例。

所有示例都有一个共同点：其价值在于将答案建立在可信的知识库基础上，而这正是检索增强生成所实现的。

为什么RAG会成为生成式AI生产环境的默认架构？因为它提供了一系列其他任何单一技术都无法比拟的优势：

• 更高的AI准确率，更少的“幻觉”。 将答案基于检索到的文档，可确保模型立足于事实，而非仅凭合理的推测。

• 始终最新的知识。 更新知识库后，系统会立即保持最新状态，无需重新训练周期，也无需等待下一个模型版本的发布。

• 来源引用与可信度。 由于答案可追溯至具体文件，用户可以核实相关陈述。这种可追溯性对于受监管行业至关重要。

• 私密数据，安全无忧。 RAG 使模型能够基于您的专有内容给出答案，而无需将该内容嵌入到模型的权重中。

• 比微调成本更低。 对文档进行索引的成本远低于反复对大型语言模型进行再训练。

• 机型更小，效果更佳。 只要具备强大的检索能力，即使是性能一般的LLM，也能超越缺乏正确上下文的、规模大得多的LLM。

这些优势相结合，使生成式人工智能从一个令人印象深刻的演示变成了一个可靠的商业工具。

RAG 虽然功能强大，但并非魔法。了解其薄弱环节，正是区分可靠系统与脆弱系统的关键。

• 垃圾进，垃圾出。 如果您的知识库内容过时、存在矛盾或撰写质量低下，检索结果就会如实呈现这些错误信息。

• 检索质量至关重要。 如果检索器检索到的片段与主题无关，模型就无法获得有用的信息。调整片段大小、嵌入向量以及重新排序，是当前正在进行的工程工作。

• 上下文窗口的限制。 提示词中能容纳的检索文本量是有限的。检索量太少会错过答案；检索量太多则会增加冗余信息并提高成本。

• 延迟与成本。 现在，每次查询都涉及一个嵌入步骤、一次数据库查询以及更长的提示词，这会增加几毫秒的处理时间并消耗更多令牌。

• 它能减轻幻觉，但无法完全消除。 模型仍可能误读正确语境或对其进行过度外推，因此在涉及重大后果的应用场景中，人工审核依然至关重要。

这些都不是致命缺陷。它们仅仅是那些能将原型转化为稳健的生成式人工智能工作流的设计考量。

如果您已准备好构建您的第一个 RAG 模型，以下是将端到端工作流提炼成的实用步骤：

1. 定义用例并整理知识库。 明确系统必须回答哪些问题，并收集包含这些答案的文件。

2. 对数据进行清理和分块处理。 删除重复和过时的内容，然后将文档拆分为大小适中、逻辑连贯的段落，以便检索。

3. 选择一个嵌入模型并生成向量。 选择一个适合您所在领域和语言的模型，然后将每个语块进行嵌入。

4. 建立一个矢量数据库。 加载您的嵌入向量并配置索引，以便在预期规模下实现快速的语义搜索。

5. 组装寻回犬。 首先采用语义搜索，然后加入混合关键词匹配和重新排序功能，将相关结果提升至前列。

6. 优化提示词。 设计一个提示模板，将用户的问题与检索到的上下文清晰地结合在一起，并指示模型仅基于该上下文进行回答，同时注明来源。

7. 连接 LLM 并进行协调。 使用编排框架将检索器与您的大型语言模型进行连接，并自动处理提示词增强。

8. 评估并迭代。 使用真实问题进行测试，评估准确率和引用质量，并根据测试失败的情况调整分块、检索和提示词。

请将步骤6至8视为一个循环过程，而非一次性任务。表现最优异的RAG系统，其开发团队会持续衡量检索质量并不断优化处理流程。

RAG 正在迅速发展，下一波浪潮已初现端倪。基于代理的 RAG 允许系统自主决定何时进行检索、检索什么内容，以及是否需要执行多个检索步骤来回答复杂的多部分问题。 多模态 RAG 将检索范围从文本扩展到图像、表格、音频和视频，因此单次查询即可从更丰富的知识库中获取信息。

与此同时，上下文窗口的扩展和基于图的检索正在推动模型能够同时推理的相关信息量不断增加。其主线非常明确：值得信赖的人工智能的未来在于“接地气”的人工智能，而检索正是实现这一目标的途径。RAG并非一种昙花一现的技术，它正逐渐成为现代人工智能架构中一个永久性的层级。

您所了解的关于检索增强生成的一切，都直接适用于人工智能领域发展最迅速的领域之一：视频流媒体和OTT平台。 流媒体服务本质上是一个庞大且不断变化的知识库，其中包含节目名称、剧集、元数据、文字记录、字幕、观看历史和帮助内容。正是RAG将这一知识库转化为智能、对话式且精准的用户体验，而非静态的目录。

这正是那种基于人工智能的体验 Vodlix 专为实现价值而打造。Vodlix 堪称 OTT 领域的 Shopify：这是一个完全支持白标模式的视频流媒体平台，让任何内容创作者、广播机构或媒体公司都能在无需资本支出且不依赖工程团队的情况下，推出具有自有品牌、媲美 Netflix 品质的服务。而且由于 Vodlix 由人工智能驱动，本指南中提到的内容检索原则将在最关键的环节得到体现：

• 立足实际的内容发现。 与泛泛的建议不同，基于您自有片库和观众行为的RAG式检索，能够将合适的片名推荐给合适的观众，从而提升观看时长并降低流失率。

• 自然流畅、精准的搜索。 语义搜索让您的受众能够根据内容含义（例如“一部令人心情愉悦的关于海洋的纪录片”）来查找内容，而非仅靠精确的标题，且搜索结果均基于您实际拥有的资源库。

• 值得信赖的支持。 由 RAG 驱动的助手能够基于您实际的帮助中心和文档，全天候准确地回答订阅用户和管理员的问题，且不会虚构政策。

• 无需猜测，洞察真谛。 Vodlix 分析功能为您提供“可信数据源”，确保任何 AI 层都能基于观众的实际行为进行运作。

结论很简单：流媒体的未来在于落地型人工智能，而落地型人工智能则依赖于检索技术。无论您是首次推出视频点播（VOD）服务，还是在多设备上扩展直播电视网络，Vodlix 都能为您提供白标基础设施、变现方案（SVOD、AVOD 和 TVOD）以及支持人工智能的基础架构，助您实现目标。

准备好推出一个更智能的流媒体平台了吗？ 预约免费的Vodlix演示 了解200多个品牌如何借助一套完全定制化、由人工智能驱动的OTT解决方案实现营收增长——该方案可在数天内上线，而非数月。

检索增强生成（RAG）弥合了大型语言模型（LLM）所能表达的内容与其所能证明的内容之间的差距。通过将快速、可检索的知识库与大型语言模型的推理能力相结合，RAG 能够提供准确、及时且可追溯至来源的答案，这正是现实世界应用所要求的。 从企业客服中心到全球流媒体平台，检索正逐渐成为人工智能架构中不可或缺的一层，而现在就采用该技术的团队，将打造出未来十年最值得信赖的产品。