传统 RAG 的天花板:固定管线的四个假设
传统 RAG(本库 RAG 手册的管线)是一个固定的流程:查询 → 向量检索 → 塞上下文 → 生成。这个管线隐含四个假设,每个都在真实场景里被打破。假设一:每个查询都需要检索——打招呼、闲聊、追问上文的请求也被硬塞检索(浪费与噪音)。假设二:用户的查询是好的检索词——口语化的问题与文档的表述存在鸿沟(本库查询改写篇的核心痛点)。假设三:只有一个知识源——真实企业有文档库、数据库、API、网页——「从哪检索」本身是个决策。假设四:检索一次就够——复杂问题需要多跳(先查 A 得到线索、再查 B)与验证。Agentic RAG 的定义:把「要不要检索、检索什么、从哪检索、够不够好」这四个决策从管线搬进 Agent——检索不再是固定步骤,是智能体的可选工具与动态过程。
核心模式:路由、规划与自我修正
Agentic RAG 的三个核心模式。模式一:检索路由(routing)。一个前置的 Agent 判断「这个请求该走哪条路」——不需要检索的(闲聊、追问)直接答、该查向量库的查向量库、该查数据库的生成 SQL、该上网的上网——「检索路由器」是 Agentic RAG 的第一收益(省掉无效检索的成本与延迟,且各走各的专业管线)。模式二:查询规划与改写(query planning)。复杂问题被拆解成子查询(「对比 A 和 B 的方案」拆成「查 A」「查 B」「查对比维度」三个子检索)、每个子查询被改写成检索友好的表述(本库查询改写篇的自动化版)——多跳问题的分解是 Agentic RAG 的第二收益。模式三:自我修正循环(self-correction)。检索结果回来后,一个评估步骤问「这些材料能回答问题吗」——不够好就改写查询重检索(换关键词、换知识源、扩大范围)——「检索-评估-再检索」的循环把「一次检索定生死」的脆弱性变成迭代逼近。三个模式的组合构成完整的 Agentic RAG:路由进对门 → 规划拆对题 → 修正找对料——每一步都是 Agent 的决策,但每一步的决策范围都被窄化(本库窄化原则:窄化的决策可靠且可测)。
与传统 RAG 的分工:成本、延迟与可靠性的账
Agentic RAG 不是免费午餐——它的每个「智能决策」都是一次 LLM 调用(路由一次、规划一次、评估一次、修正再评估——成本与延迟成倍增加)。分工的账本。传统 RAG 适用:查询模式稳定(大部分是「文档问答」型)、知识源单一、对延迟敏感(生产服务的实时应答)——固定管线的快与便宜是它的护城河。Agentic RAG 适用:查询意图混杂(有的要检索有的不要)、多知识源、复杂问题多跳、精度要求高于速度要求。混合架构是生产的常态:简单查询走固定管线(快路径)、复杂查询走 Agentic 循环(慢路径)——路由器本身就是一个轻量判断(甚至可以用小模型或分类器),「快慢双路径」让 Agentic RAG 的成本可控(本库推理经济学篇的分层思想)。评估的提醒:Agentic RAG 的评测要覆盖「决策层」——路由的正确率、规划的拆解质量、修正的收敛性——只测最终答案会掩盖决策层的系统性错误(本库评测篇的分层评测原则)。
实施的务实建议:从最小 Agentic 到完全 Agent 化的阶梯
实施建议按阶梯递进(别一步跳到完全 Agent 化)。阶梯一:加检索路由(一个轻量分类:需要检索吗?查哪个库?——成本最低、收益立现的改造)。阶梯二:加查询改写(用 LLM 把用户查询改写成检索友好表述——本库查询改写篇的标准动作,一次改写不算 Agent 但收益巨大)。阶梯三:加评估与单次修正(检索结果的质量判断 + 一次改写重试——解决「检索垃圾进、垃圾出」的主要病灶)。阶梯四:完整的多跳 Agentic 循环(规划-检索-评估-修正的完整循环——复杂多跳问题的终极形态,成本与复杂度也最高)。阶梯的选择依据:看你的失败案例分布——统计你的 RAG 的 bad case:多少是「不该检索的检索了」(→ 阶梯一)、多少是「查询写得太差」(→ 阶梯二)、多少是「检索结果不够好」(→ 阶梯三)、多少是「单跳根本答不了」(→ 阶梯四)——按 bad case 的分布选阶梯,是 Agentic RAG 演进的唯一正确顺序。
Agentic RAG 实战:一个检索路由器的最小实现
Agentic RAG(正文阶梯)的实战:检索路由器的最小实现,四级阶梯的第一级。路由器的实现:一个轻量 LLM 调用(分类器式)——输入用户问题,输出路由决策(无需检索直接回答 / 查产品文档库 / 查工单数据库 / 查外部网页)——路由的 prompt 设计:每个知识源的「适用范围描述」(什么问题该查哪——描述的精准度决定路由的准确率)。路由器的评测:构建路由测试集(每个意图类别 20 个样本)→ 路由准确率的测量 → 错误路由的分析与描述迭代(路由器是一个可以独立评测与迭代的小 Agent——本库评测篇的粒度原则)。与固定管线的集成:路由器 + 多条固定 RAG 管线(每条管线针对自己的知识源优化——路由层是智能的、管线层是固定的——本库正文快慢双路径的落法)。进阶的路由策略:多源并行检索(判断为「可能多源」时并行查多个库——成本换召回)、路由的降级(路由器不确定时默认走全检索——宁可多查不可漏查的保守策略,视业务定)。最小实现的元价值:路由器是 Agentic RAG 里「性价比之王」——一次轻量分类的投入,省掉的是无效检索的成本与噪音——四级阶梯的第一级,多数团队的正确起点。
Agentic RAG 的评估:路由、检索与答案的三层度量
Agentic RAG(正文评测提醒)的评估体系展开:三层度量。层一:路由层的度量。路由准确率(每个查询的路由决策是否正确——标注测试集的人工成本在这里)、错路由的代价分级(该查没查 = 漏答、不该查查了 = 浪费——两种错误的代价不同,阈值要按代价调)。层二:检索层的度量。本库 Embedding 篇的 Recall@K/MRR——加上 Agentic 特有的指标:多跳的分解质量(复杂问题拆出的子查询是否覆盖了信息需求)、修正循环的收敛性(自我修正几次能找到合格材料——不收敛的修正循环是成本黑洞)。层三:答案层的度量。faithfulness(答案与检索材料的一致性——幻觉率)、answer relevancy(答案与问题的相关性)、以及引用的正确率(引用的文档真的支撑该论断吗——本库 Deep Research 篇的引用审计)。三层度量的联动分析:最终答案错了——错在哪一层(路由错→检索好也白搭、检索好→答案仍错是生成问题)——分层的错误归因是 Agentic RAG 调优的核心能力(传统 RAG 的归因简单,Agentic 的归因需要三层仪表)。评估的工程化收束:三层度量进 CI(本库评测篇)+ bad case 按层归因入库——Agentic RAG 的复杂度,要求评测的复杂度同步升级;三层的仪表盘是它的驾驶舱。
Agentic RAG 的进阶案例:多源知识库的企业检索
Agentic RAG(正文阶梯)的进阶案例:多源知识库的企业检索——四级阶梯的完整形态。场景:企业的知识散落在 Confluence(文档)、Jira(工单)、代码仓库、SharePoint(政策文件)——「查 X 政策下的 Y 流程怎么走」需要跨源。架构的搭建。路由层(阶梯一):意图分类 + 源路由(政策问题 → SharePoint、技术问题 → Confluence+代码、工单问题 → Jira)。查询规划层(阶梯二):复杂问题的拆解(「X 政策下 Y 流程」拆成「查 X 政策」+「查 Y 流程」+「查两者的交叉引用」)。修正层(阶梯三):检索结果的充分性评估 → 不足时换源重试(Confluence 没找到 → 试 SharePoint)。Agentic 层(阶梯四):多跳的完整循环(政策引用了另一个政策 → 追踪引用链)。权限的贯穿(企业场景的独有难题):检索的权限继承(用户查不到的文档 Agent 也不该返回——按用户身份过滤检索结果——权限不是检索后的过滤,是检索时的条件——安全篇的权限模型在 RAG 的关键落点)。进阶案例的收束:多源企业检索是 Agentic RAG 的「完全体」——路由、规划、修正、权限四个能力一个不能少;而它的价值,是把「员工找信息」的天级任务压成分钟级——企业 Agent 的第一 ROI 就在这里。
Agentic RAG 的成本核算:智能检索的账单管理
Agentic RAG(正文成本提醒)的成本核算:智能检索的账单管理。成本的构成拆解。路由层的成本(每次查询一次轻量调用——便宜)、规划层的成本(复杂问题的拆解——中档)、检索本身的成本(向量检索便宜、LLM 重排中等)、修正循环的成本(每次修正 = 重新检索 + 重新评估——循环是成本的大头:不收敛的循环是账单黑洞)、生成的成本(最终答案)。一笔真实账的示例(量级示意):简单问题走快路径 ≈ 1 单位成本;复杂问题走完整 Agentic 循环(路由 + 规划 + 3 轮检索评估 + 生成)≈ 10-30 单位——Agentic 的成本是传统的十倍以上,这是它必须「按需启用」的经济学理由。账单的管理手段。循环的硬上限(修正最多 N 轮——超限接受现有结果并标注置信度,本库后台 Agent 篇的熔断思想)、缓存(相同查询的路由与检索结果缓存——本库 Prefix Caching 篇)、模型分级(评估用小模型、生成用旗舰——本库正文的双路径)。成本核算的收束:Agentic RAG 的智能是买来的——每一层的「多想一步」都是 token;预算与熔断的设计,决定了它是「精度提升器」还是「账单放大器」。
小结
Agentic RAG 把检索的四个决策(要不要、查什么、从哪查、够不够)从固定管线搬进 Agent:路由省无效检索、规划解多跳问题、修正迭代逼近。它与传统 RAG 的分工是成本与复杂度的账——快慢双路径的混合是生产常态,评测要覆盖决策层。实施的正确姿势是按 bad case 分布走四级阶梯(路由 → 改写 → 修正 → 完整循环)——Agentic RAG 的每一级都该由你的失败案例来驱动,而不是由论文的酷炫来驱动。
读者留言
COMMENTS 暂无还没有留言,来说第一句?