AI 资讯 知识库 一叶一世界一篇读懂文档解析:RAG 的质量,卡在切块之前

一篇读懂文档解析:RAG 的质量,卡在切块之前

向量库换了、Reranker 加了、查询改写也调了,RAG 的答案还是错——大多数人这时候会去动切块参数。但真正的病灶往往在更上游:PDF 进系统的第一步,解析就已经把内容读坏了。文档解析(Document Parsing)是整条 RAG 链路里最容易被轻视的一环,却是 2026 年迭代最凶猛的一环:0.9B 参数级的专用小模型在公开基准上打赢了通用大模型,ThoughtWorks 把「VLM 端到端文档解析」列入了技术雷达。本文把「切块之前」这一公里讲透:解析难在哪、两代技术路线怎么分、工具怎么选、质量怎么评、落地怎么避坑。

一、为什么「读出文字」不等于「解析好」

先建立一个反直觉的认知:PDF 不是文档,是一套打印指令。它存的是「在坐标 (x, y) 处用某字体画这个字符」,而不是「这是一个段落」「这是表格第二列」。人类靠版面直觉把墨迹还原成结构,程序面对的却只是一堆带坐标的字符流——所有解析难题都从这里开始。

四个典型的深坑:

  • 阅读顺序。双栏论文、跨页表格、侧边批注,按坐标排序就会把左右两栏串成一行「横读」的乱码。人眼看的是版面,程序看到的只有位置。
  • 表格。单元格之间的行列关系靠视觉对齐维持,抽成纯文本就是一串失去结构的字符碎片。而表格往往是文档里信息密度最高的部分——财务数据、实验结果、参数对比全在表里。
  • 公式。行内公式被拆成孤立的符号碎片,学术与工程文档的硬伤。
  • 扫描件。图片型 PDF 根本没有文本层,必须走 OCR;老旧扫描件至今是所有模型的重灾区——DeepSeek-OCR 在 OlmOCR-Bench 的老旧扫描件分项上只有 33.3 分(满分 100,截至 2026-10 的官方模型卡数据)。

这些坑在 RAG 下游各有具体死法:串栏的文本切块后语义断裂,向量里存的是无意义字符流;表格碎片检索召回后,模型看到的是残缺的行列;页码元数据丢失,答案无法溯源引用。

还有一类坑不来自「识别错」,而来自「没洗掉」:页眉、页脚、水印、目录页被原样解析保留,切块之后变成一批高度相似的垃圾块,检索时白白挤占召回名额。清洗与识别同样属于解析,这一步省掉的工时,后面全都会以「检索质量莫名变差」的形式还回来。一句话:解析质量是整条检索链路的上限,下游所有优化都在这个上限之下工作。

二、两代技术路线:管道式与 VLM 直出式

把 2026 年的解析方案排开,本质上只有两代路线。

RAG 文档解析两代路线手绘信息图:脏 PDF 进来后,管道式与 VLM 直出两条路线汇合于质量四关

管道式(pipeline):版面检测模型先找出标题、段落、表格、图片区域,OCR 引擎逐区域识别文字,再用规则把结果拼装成 Markdown。MinerU、Docling、Marker 都属于这一代,各自组合了自家训练的版面模型与识别模型。优点是每一步可解释、可替换、输出确定——版面错了可以单独换版面模型;缺点是误差级联(上一步错,步步错),工程栈重。

VLM 直出式(端到端):把页面渲染成一张图,一个视觉语言模型直接输出结构化文本。dots.ocr 的论文把这个思路推到极致——版面检测、内容识别、结构还原三个任务统一进同一个 VLM,省掉的正是管道式里最容易级联出错的模块接口。GLM-OCR、PaddleOCR-VL、DeepSeek-OCR、olmOCR 也都属于这一代。优点是阅读顺序天然正确(模型直接「看懂」版面)、架构极简;缺点是生成式意味着可能幻觉,错了不知道错在哪个环节。

业界的采纳建议可以引用 ThoughtWorks 2026 年 4 月技术雷达的定位:VLM 端到端文档解析处于「评估(Assess)」阶段——olmOCR-2、DeepSeek-OCR(3B)、超轻量的 PaddleOCR-VL 等开源专用模型已能替代复杂的遗留管道、大幅降低维护成本,但生成式特性带来幻觉风险,低容错场景仍需混合方案或确定性 OCR。

还有第三个视角值得单独说:DeepSeek-OCR 的论文(arXiv:2510.18234)提出「上下文光学压缩」——论文报告约 10 倍压缩下解码精度约 97%,即用几百个视觉 token 承载上千个文本 token。它把 OCR 从「识别任务」重新定义为「压缩任务」,暗示文档图像可能是长上下文的一种存储形态。这个再定义影响的不只是解析:它让「把文本渲染成图喂给模型」从绕远路变成了正经路线。

三、2026 年的工具版图:一张表看清怎么选

三组玩家,各有地盘(star 数与分数截至 2026-10):

工具 路线 一句话亮点 注意点
Docling(IBM,开源) 管道式 统一文档结构模型,原生集成 LangChain / LlamaIndex 首次运行下载 1–2 GB 权重
Marker(Datalab,开源) 管道式 Markdown 还原度高,--use_llm 用 LLM 二次清理表格 生产吞吐需要 GPU
MinerU(OpenDataLab,开源) 双引擎 4.0 版管道 + VLM 四档解析,中文与公式强 许可证是 Apache 2.0 加附加条件
GLM-OCR(开源 VLM) VLM 直出 OmniDocBench v1.5 上 94.6% 刷新 SOTA 据基准方评测,超过 Gemini 3 Pro 的 90.3%
PaddleOCR-VL(开源 VLM) VLM 直出 超轻量(0.9B 级),准确率超过 94% 生态偏中文场景
dots.ocr(开源 VLM) VLM 直出 单模型统一版面 + 识别 + 结构 学术派,工程配套较新
DeepSeek-OCR(开源 VLM,MIT) VLM 直出 光学压缩视角,OlmOCR-Bench 总分 75.7 老旧扫描件弱(33.3)
LlamaParse(商用 API) 云服务 LlamaIndex 生态无缝,嵌入图片提取 多栏布局较弱,有误伤案例
Reducto(商用 API) 云服务 agentic OCR 审查层,据厂商口径已处理超 20 亿页 闭源企业定价,无自托管

三条关键洞察:

第一,专用小模型打赢通用大模型。据 Roboflow 对开源模型的评述,PaddleOCR-VL、GLM-OCR、MinerU 以 0.9B 量级的参数在 OmniDocBench 上超过了两百多 B 参数的通用视觉大模型——文档解析是个「窄而深」的任务,领域专精比参数规模值钱。

第二,许可证要逐个读。MinerU 的许可是「基于 Apache 2.0 加附加条件」,DeepSeek-OCR 是 MIT,商用集成前值得逐个确认,别等法务找上门。

第三,选型共识只有两条(多家横评一致):看你文档里扫描件占比(决定 OCR 权重),看你最有价值的数据是不是表格(决定表格能力权重)。且必须用自己的文档实测——各家工具在不同 PDF 类型上的排名会整体翻转,公开榜单只能当初筛。

四、怎么衡量「解析好了」

聊质量必须有基准。行业默认是 OmniDocBench(CVPR 2025,OpenDataLab 出品):1355 页真实文档、9 种类型,支持端到端与分项评测(版面、文本、表格、公式),指标包括归一化编辑距离、表格 TEDS、公式 CDM。

但它已经饱和了。LlamaIndex 的分析给出三个数字:GLM-OCR 94.6%、PaddleOCR-VL-1.5 超过 94%、Gemini 3 Pro 90.3%——继续刷分只会变成边缘案例修复。更重要的是方法论批评:基准集太小且偏学术论文,金融演示文稿、法律文件、保险表单这些真实复杂场景缺席;指标只认单一「标准答案」,输出 HTML 而非 Markdown、合理地拆分或合并表格都会被扣分——LlamaParse 就有被指标误伤的具体案例(同一质量输出因格式差异得到 0.63 与 0.56 两个悬殊分数)。结论一句话:在 Agent 时代,语义正确比格式精确匹配更重要。替代基准如 OlmOCR-Bench、OCRBench v2 正在补位。

给实践者的建议:公开基准只当初筛,真正该建的是自己文档的小评测集,加上下游 RAG 的端到端回归——解析改动的价值,最终要用检索召回率与答案忠实度来衡量。解析器升级应该被当作一次需要回归测试的变更,而不是换个 pip 包完事。

五、落地清单:八条实践

  1. 先分层路由,再上重炮。数字原生 PDF 直接抽文本层,快且零幻觉;扫描件才走完整解析。MinerU 4.0 的四档解析(flash / basic / standard / advanced)本质就是这个思路的工程化。
  2. 输出结构化 Markdown / JSON。标题层级、表格 HTML、公式 LaTeX 都要保住——纯文本输出等于扔掉切块策略最需要的结构信号。
  3. 表格单独处理。保留 HTML 或行列序列化,大表补一句自然语言摘要,否则检索根本召不回正确的表。
  4. 元数据与定位符一路携带。页码、章节路径跟到每个切块;MinerU 4.0 给 Agent 提供稳定引用定位符(文档 / 层级 / 页 / 块四级),答案可溯源靠的就是它。
  5. 低置信页降级与抽检。置信度低的页面换引擎重试或转人工;商用方案 Reducto 的 agentic 审查层,本质就是「识别完再自查一遍」的开源思想商业版。
  6. 给 VLM 路线加幻觉防线。关键数字与原文抽查对照;财务、法务等高风险文档用双引擎交叉验证,或退回确定性 OCR。
  7. 回归评测资产化。解析器版本升级 = 一次系统变更,用第四节的评测集跑回归,分数掉了就回滚。
  8. 永远保留原始文件。解析永远可以重放——模型明年会更强,你的 PDF 不会变。今天不满意的解析结果,留好原件就是留给未来的升级空间。

结语

管道式没死,VLM 直出正猛,基准在重建——这是 2026 年文档解析的三个关键词。RAG 系统的竞争力越来越取决于最不起眼的第一步:把一份脏 PDF 变成干净、带结构、可溯源的文本。下一次 RAG 答案不对,先别调切块参数,回头看看第一公里。

参考资料

读者留言

COMMENTS 暂无
仅本站原创文章开放留言 · 请勿留下手机号、邮箱等个人信息

还没有留言,来说第一句?