大型语言模型(LLM)功能强大,但有两个关键局限性:
  • 有限的上下文——它们无法一次性处理整个语料库。
  • 静态知识——训练数据在某个时间点被冻结。
检索通过在查询时获取相关的外部知识来解决这些问题。这是**检索增强生成(RAG)**的基础:使用特定上下文信息增强 LLM 的回答。

构建知识库

知识库是用于检索期间存储文档或结构化数据的存储库。 如果您需要自定义知识库,可以使用 LangChain 的文档加载器和向量存储从您自己的数据构建一个。
如果您已经有知识库(例如 SQL 数据库、CRM 或内部文档系统),您不需要重建它。您可以:
  • 将其作为工具连接到代理中的代理式 RAG。
  • 查询它并将为检索提供的内容作为上下文给 LLM (两步式 RAG)
请参阅以下教程来构建可搜索的知识库和最小化 RAG 工作流程:

教程:语义搜索

了解如何使用 LangChain 的文档加载器、嵌入和向量存储从您自己的数据创建可搜索的知识库。 在本教程中,您将构建一个基于 PDF 的搜索引擎,能够检索与查询相关的段落。您还将在此搜索引擎之上实现一个最小化的 RAG 工作流程,以了解外部知识如何集成到 LLM 推理中。

从检索到 RAG

检索允许 LLM 在运行时访问相关上下文。但大多数实际应用更进一步:将检索与生成相结合以产生有依据的、上下文感知的答案。 这是**检索增强生成(RAG)**的核心思想。检索管道成为更广泛系统的基础,该系统将搜索与生成相结合。

检索管道

典型的工作流程如下: 每个组件都是模块化的:您可以交换加载器、分割器、嵌入或向量存储,而无需重写应用程序的逻辑。

构建模块

文档加载器

从外部来源(Google Drive、Slack、Notion 等)摄取数据,返回标准化的 Document 对象。

文本分割器

将大型文档拆分为较小的块,这些块可以单独检索并适合模型的上下文窗口。

嵌入模型

嵌入模型将文本转换为数字向量,以便含义相似的文本在该向量空间中彼此靠近。

向量存储

专门用于存储和搜索嵌入的数据库。

检索器

检索器是一个接口,在给定非结构化查询时返回文档。

RAG 架构

根据您系统的需求,RAG 可以有多种实现方式。我们在下文中概述每种类型。
架构描述控制性灵活性延迟示例用例
两步式 RAG生成前始终执行检索。简单且可预测✅ 高❌ 低⚡ 快常见问题解答、文档机器人
代理式 RAG由 LLM 驱动的代理在推理过程中决定何时如何检索❌ 低✅ 高⏳ 可变可访问多个工具的研究助手
混合式结合两种方法的特点并带有验证步骤⚖️ 中等⚖️ 中等⏳ 可变带质量验证的领域特定问答
延迟:延迟在两步式 RAG 中通常更可预测,因为最大 LLM 调用次数是已知且有上限的。这种可预测性假设 LLM 推理时间是主要因素。然而,现实世界的延迟也可能受到检索步骤性能的影响——如 API 响应时间、网络延迟或数据库查询——这些可能因使用的工具和基础设施而异。

两步式 RAG

两步式 RAG 中,检索步骤始终在生成步骤之前执行。这种架构简单直接且可预测,适用于许多应用程序,其中检索相关文档是生成答案的明确前提。

教程:检索增强生成(RAG)

了解如何构建能够基于您的数据回答问题的问答聊天机器人。 本教程介绍两种方法:
  • 一个使用灵活工具运行搜索的 RAG 代理——适合通用用途。
  • 一个每查询只需一次 LLM 调用的两步式 RAG 链——对于更简单的任务快速高效。

代理式 RAG

代理式检索增强生成(RAG)将检索增强生成的优势与基于代理的推理相结合。代理(由 LLM 驱动)不是先检索文档再回答,而是在交互过程中逐步推理,并决定何时如何检索信息。
代理启用 RAG 行为只需要访问一个或多个可以获取外部知识的工具——如文档加载器、Web API 或数据库查询。
import requests
from langchain.tools import tool
from langchain.chat_models import init_chat_model
from langchain.agents import create_agent


@tool
def fetch_url(url: str) -> str:
    """Fetch text content from a URL"""
    response = requests.get(url, timeout=10.0)
    response.raise_for_status()
    return response.text

system_prompt = """\
Use fetch_url when you need to fetch information from a web-page; quote relevant snippets.
"""

agent = create_agent(
    model="claude-sonnet-4-6",
    tools=[fetch_url],   # 用于检索的工具
    system_prompt=system_prompt,
)

教程:检索增强生成(RAG)

了解如何构建能够基于您的数据回答问题的问答聊天机器人。 本教程介绍两种方法:
  • 一个使用灵活工具运行搜索的 RAG 代理——适合通用用途。
  • 一个每查询只需一次 LLM 调用的两步式 RAG 链——对于更简单的任务快速高效。

混合式 RAG

混合式 RAG 结合了两步式和代理式 RAG 的特点。它引入中间步骤,如查询预处理、检索验证和生成后检查。这些系统比固定管道提供更多灵活性,同时保持对执行的一些控制。 典型组件包括:
  • 查询增强:修改输入问题以提高检索质量。这可能涉及重写不清晰的查询、生成多个变体或使用额外上下文扩展查询。
  • 检索验证:评估检索到的文档是否相关且足够。如果不是,系统可能会优化查询并再次检索。
  • 答案验证:检查生成的答案的准确性、完整性和与源内容的一致性。如果需要,系统可以重新生成或修改答案。
该架构通常支持这些步骤之间的多次迭代: 此架构适用于:
  • 模糊或未明确指定查询的应用程序
  • 需要验证或质量控制步骤的系统
  • 涉及多个来源或迭代优化的工怍流程

教程:带自我修正的代理式 RAG

结合代理推理与检索和自我修正的混合式 RAG 示例。