检索增强生成研究：RAG 的学术前沿与开放问题

检索增强生成（RAG）从 2020 年的两篇论文起步，五年内成为大模型落地最广泛的技术形态。但「学术前沿的 RAG」与「工程实践的 RAG」之间出现了明显的分层：工程界大量使用的是 2020 年就定型的「向量检索 + 拼接生成」基线，而学术界已经把它重构为一个自适应决策问题——何时检索、检索什么粒度、如何用图结构组织知识、如何在检索结果与参数化知识冲突时仲裁。本文梳理这条学术演进线：奠基工作及其量化结论、从固定管线到自适应智能体的转变、与长上下文的正面对比，以及知识冲突、归因忠实等尚未解决的开放问题。

一、奠基：把外部知识接进生成模型

RAG 与 REALM：两条奠基路径

Facebook AI 的 RAG（Lewis et al.，NeurIPS 2020）定义了现代范式：参数化记忆（BART 生成器）与非参数化记忆（DPR 检索器加 FAISS 向量索引，覆盖约 2100 万篇维基文档）联合训练，生成时对检索到的文档做边缘化积分，RAG-Sequence 与 RAG-Token 两种变体分别处理整段与逐 token 的文档选择。在 Natural Questions 开放域问答上，RAG-Sequence 达到约 44.5 EM，以不到 1B 的参数量逼近了 11B 的 T5-11B 加 SSM 方案，并在开放域知识敏感任务上显著超越纯参数化基线——更重要的是，它的输出天然带引用来源，幻觉可追溯。Google 的 REALM（Guu et al.，ICML 2020）走得更深：把检索当作隐变量，在预训练阶段就用「检索后重构被遮蔽文本」的目标端到端训练检索器与阅读器，330M 级参数在开放域 NQ 上拿到约 40 EM，显著超过当时体量大得多的纯参数化模型。两篇论文共同确立了一个此后被反复验证的定律：知识存外部、参数学推理，比把知识硬编码进参数更高效。

组件基线与评测校准

检索组件的演进有一条重要的校准性结论。DPR（Karpukhin et al.，EMNLP 2020）用对比学习训练双塔稠密检索器，在 QA 检索的 top-20 命中率上比 BM25 高出 9 到 19 个百分点。但 BEIR（Thakur et al.，NeurIPS 2021）在 18 个检索数据集的零样本评测里给出了相反方向的冷知识：BM25 的平均零样本表现优于当时多数稠密检索模型——稠密检索的优势高度依赖领域内微调，域外泛化反而不如词法匹配。这条结论直接塑造了此后五年的工程共识：生产系统用混合检索（BM25 加向量）兜底，稠密检索负责语义泛化。评测侧，MTEB（Muennighoff et al.，2022）把 embedding 模型的评测扩展到八大类任务，成为检索模型选型的事实标准。

flowchart TD
    Q["用户查询"] --> J{"自适应决策<br/>要不要检索？"}
    J -->|"低置信 / 时效问题"| R["检索器<br/>混合检索：BM25 + 向量"]
    J -->|"参数化知识足够"| G1["直接生成"]
    R --> E["检索质量评估<br/>Self-RAG 反思 token / CRAG 纠错"]
    E -->|"结果可疑"| W["回退：改写查询 / 全网搜索"]
    W --> G
    E -->|"结果可信"| G["生成器<br/>逐句生成 + 引用对齐"]
    G --> A["归因与忠实性检查"]
    A --> O["带引用的回答"]

二、从固定管线到自适应与智能体化

Self-RAG：让模型自己决定何时检索

固定管线（永远检索、固定 top-k）的第一层突破是自适应决策。Self-RAG（Asai et al.，NeurIPS 2023，UW 等）训练模型输出「反思 token」：先判断是否需要检索（Retrieve token），拿到文档后评估相关性（ISREL）、支撑性（ISSUP）与有用性（ISUSE），四个维度联合控制生成。7B 与 13B 版本在 PopQA 等开放域任务上超过 ChatGPT，且引用质量更高——反思 token 让「要不要检索、信不信检索结果」从工程开关变成了模型内生的判断。同期 CMU 的 FLARE（Jiang et al.，EMNLP 2023）从时间维度做自适应：生成过程中监控 token 置信度，低置信时主动触发检索并改写查询，在多跳与长形式任务上稳定提升。纠错方向上，CRAG（2024）加了显式的检索质量评估器与「不可信即回退全网搜索」的重试逻辑，把检索失败从静默污染变成了显式分支。

图结构与层次索引：GraphRAG 与 RAPTOR

第二层突破在索引结构。Microsoft 的 GraphRAG（Edge et al.，2024）针对「全局性问题」（如总结一个语料库的主题）重新设计：用 LLM 从语料抽取实体关系构建图谱，用社区检测算法分层聚合出各级主题摘要，回答时检索相关社区摘要做局部到全局的推理。在播客与新闻语料的感知类评测中，GraphRAG 在全面性与多样性维度的胜率约 72% 到 83%，显著优于朴素向量 RAG——代价是索引构建成本比向量库高一到两个数量级，因此它适合高频提问的封闭语料而非全网检索。Stanford 的 RAPTOR（Sarthi et al.，2024）用递归聚类摘要构建树形索引，让检索器可以按问题的抽象层级取不同粒度的内容，在长文档问答基准 QuALITY 上带来约 20% 的绝对提升。Ohio State 的 HippoRAG（Gutiérrez et al.，NeurIPS 2024）则受海马体索引理论启发：预先用 LLM 抽取实体图谱加个性化 PageRank，单步检索即可完成多跳关联，在三个多跳基准上比强基线最高提升约 16 到 20 个百分点，检索成本约为迭代式方法（IRCoT）的十分之一、速度快一个数量级——它证明「离线图谱索引加在线单跳检索」可以替代昂贵的在线多跳迭代。

RL 与检索智能体

第三层突破是把检索变成强化学习的动作空间。Search-R1（Jin et al.，2025，CUHK 等）把搜索引擎调用建模进多轮交互序列，用结果奖励（答案对错）直接训练策略决定何时搜、搜什么，Qwen2.5-7B 级模型在 NQ、HotpotQA 等基准上相对标准 RAG 基线最高提升约 20%（EM）。与 Self-RAG 的反思 token 相比，RL 路线不需要人工设计反思类别，直接从任务结果学习检索策略，2025 年已扩展出多轮规划、并行检索等多个变体，检索智能体（agentic RAG）成为信息获取类智能体最成熟的子领域。

三、RAG 与长上下文的正面对比

成本与鲁棒性的系统对照

长上下文窗口扩大后，「还需要 RAG 吗」成为 2024 年的核心争论。Google DeepMind 的「Retrieval vs Long-Context LLMs: A Comprehensive Study」（2024）给出了目前最系统的对照：从成本看，RAG 的成本随语料规模呈对数线性增长，长上下文呈二次增长，在十万文档量级上 RAG 便宜一到两个数量级；从效果看，长上下文模型在「完整上下文全部给出」时占优，但对干扰文档敏感——语料混入无关内容时性能明显退化，而 RAG 的检索过滤天然抑制干扰；最佳组合是「长上下文模型做 RAG」，两者收益相乘而非替代。这条结论终结了「二选一」的争论，也重新定义了 RAG 研究的目标：不是对抗长上下文，而是为长上下文提供高质量的上下文选择器。

四、开放问题

知识冲突：参数化知识与检索证据谁说了算

当检索结果与模型内部知识矛盾时，模型听谁的？Longpre et al.（2021，Johns Hopkins/UW）的「Entity-Based Knowledge Conflicts」首次系统构造了这类冲突：把检索证据中的实体替换后观察模型输出，发现模型高度依赖参数化知识、经常无视证据。后续工作（如 Zhou et al. 2023 的上下文忠实提示、对抗训练方案）虽有改善，但没有形成可靠机制——这直接影响时效性场景：新闻、价格、版本号等「参数化知识必然过期」的信息，模型仍可能用旧知识覆盖新证据。知识冲突的仲裁机制（何时该信任证据、何时该信任参数、如何向用户暴露不确定性）是当前 RAG 理论上最核心的缺口。

归因与忠实性评测

第二个缺口是「引用了不等于忠实」。ALCE（Gao et al.，2023）与 ATTRScore、AIS 等评测发现：即使模型输出了引用，被引文档与陈述内容的对齐质量也不稳定，顶级模型的引用精确率普遍只有七八成，幻觉引用（引用了不存在的支撑）与断章取义并存。归因评测本身还面临「检索错误」与「生成不忠实」的责任划分问题，目前的指标大多混为一谈。要让 RAG 在医疗、法律等高风险场景达标，逐句级别的细粒度归因与忠实性验证仍是必须补齐的基础设施。

时效性、增量更新与多跳

剩余的开放问题沿三个方向展开：时效性上，知识更新目前靠重爬重索引，缺乏「部分知识失效」的增量机制；多跳推理上，单步检索与图谱索引的路线竞争仍在进行，HippoRAG 式方案的成本优势明显但实体抽取质量依赖上游 LLM；交互形态上，RAG 正在与工具调用、代码解释器融合成统一的智能体信息栈，检索器作为独立组件的边界正在消失——这对评测提出了新问题：当「检索」内化进智能体的多步行为，怎么归因一个错误答案到底错在检索还是推理。

小结

RAG 的学术演进可以概括为三次升维：从「固定管线」到「自适应决策」（Self-RAG、FLARE），从「扁平向量库」到「结构化知识」（GraphRAG、RAPTOR、HippoRAG），从「监督学习」到「结果奖励强化学习」（Search-R1）。与长上下文的正面对比也给出了清晰结论：RAG 赢在成本与抗干扰，长上下文赢在信息完整性，二者是组合关系而非替代关系。尚未解决的问题中，知识冲突仲裁与细粒度归因是理论核心，时效更新与智能体化是工程前沿。对落地团队的选型启示是：基线采用混合检索加自适应触发的组合已被大量验证为收益最高的稳妥配置；图谱索引适合封闭高频语料，通用场景不必强上；评测侧务必自建带标注的归因测试集——榜单上的检索精度与生产里的答案忠实性之间，隔着的正是这批开放问题。