Datalab,完善普通OCR后的文档结构

把 PDF 里的字识别出来，并不意味着 AI 已经读懂了这份 PDF。

一份真实文档可能同时包含正文、表格、公式、多栏排版、页眉页脚，甚至整页都是扫描图片。OCR 可以把图片里的字符识别出来，但如果表格关系丢了、多栏文字顺序错了、公式变成乱码，或者页眉页脚被当成正文反复写入，那么得到的就不是一份"难读的文档"，而是一份已经损失了结构的数据。这样的数据，如果只是为了获取某个数值本身，这个没有问题。但是如果要整理整个文档中的数据逻辑关系，可能就比较折腾了

这也是我在项目中从开源方案、闭源模型一路尝试之后，到开始使用 Datalab 的原因。真正需要解决的问题已经不是"找一个 OCR 模型"，而是：如何把现实世界中的复杂文档，可靠地转换成 AI 可以继续处理的数据。

https://www.datalab.to/

01 OCR 解决的是"识字"，AI 需要的是"结构"

OCR解决的是从图像中识别文字的问题。但对于 AI 应用而言，文字本身往往只是第一层信息。

例如，一张表格中的"80%"究竟属于哪一行、哪一列；一段文字应该接在左栏之后还是右栏之后；一个公式中的上下标是什么关系；某个标题与下面几段正文属于什么层级——这些信息都不是简单的字符识别能够完整表达的。

如果这些结构在文档解析阶段已经丢失，那么后面的 Embedding、RAG 和 Agent 拿到的就已经不是原始知识，而是一份被破坏过的数据。

02 文档一旦在上游损失结构，后面的模型很难补回来

这其实是文档进入 AI Pipeline 后一个容易被忽略的问题。

假设原始 PDF 中有一个三列表格，第一列是产品名称，第二列是规格，第三列是价格。如果解析之后只剩下按阅读顺序排列的一串文字，模型虽然可能"看见"这些词，却未必还能可靠地知道哪个价格对应哪个产品。

同样，多栏 PDF 如果被错误地从左到右、从上到下拼接，原本互不相关的两段内容可能被组合到一起；扫描件如果没有被正确识别，整页内容甚至可能直接变成空白。

这意味着一个重要事实：后面的模型能力存在一个上游数据质量上限。

模型可以在不完整的信息上进行推理，但不能凭空恢复所有已经丢失的文档结构。模型越强，可能越擅长处理复杂输入，却不意味着它能够稳定地还原所有错误的输入。

所以，RAG 的效果并不只是 Embedding 模型的问题。在模型开始检索之前，文档有没有被正确解析，本身就是检索质量的一部分。

03 文档处理正在从"识字"走向"理解结构"

这也是 Document Intelligence与传统 OCR 的核心区别。

更完整的文档处理流程，首先需要判断文档本身是什么结构。对于文本层完整的 PDF，可以优先利用 PDF 自带的文本信息，并按照阅读顺序进行解析；随后进行页面布局分析，识别标题、正文、表格等区域之间的关系。

如果遇到扫描页面、乱码、公式或者复杂视觉区域，再引入 OCR 和视觉模型。表格也不能简单地作为普通文本处理，而需要结合文字、页面位置和布局信息进行重建。

于是，一条完整的 Pipeline 就不再只是"图片 → OCR → 文字"，而可能变成：

文档解析 → 布局分析 → OCR → 视觉理解 → 结构重建 → 结构化输出

这里的 VLM（Vision-Language Model，视觉语言模型）负责理解视觉内容与语言之间的关系，LLM 则可以进一步参与信息抽取、归纳和语义处理。

换句话说，问题已经变成了"这份文档是什么结构，这些内容之间是什么关系"。之前，充分调用了各种qwen小参数开源视觉模型，只是为了解决这些问题。

04 Datalab 的价值：把中间层做成基础设施

再看 Datalab，它的意义就不只是提供一个 OCR 服务。

它试图处理的是更完整的 Document Intelligence 问题：把 PDF、扫描件、表格、幻灯片、电子表格以及复杂排版的文档，转换成 Markdown、HTML、JSON 等结构化数据，同时尽可能保留原始文档中的信息结构、位置关系和语义关系。

公开的平台也将能力拆分为 Parse、Extract、Segment、Eval 等不同环节。这里最值得注意的并不是功能数量，而是这种能力组织方式本身。

它说明文档处理正在从一个单点模型问题，变成一个 Pipeline 问题：不仅要识别内容，还要解析内容、提取内容、分割内容，并且需要评价最终结果是否可靠。

因此，如果只把 Datalab 理解成"另一个 OCR"，很容易把注意力集中到识别率、模型大小或者单次调用效果上。

但如果把它放到 AI 应用的数据链路中看，它更接近一个中间层：

Document → Structured Data → RAG / Agent / AI Application

它负责把现实世界中原本不适合直接交给大模型的复杂文档，转换成后续系统能够继续处理的数据。

05 边界：不是所有 PDF 都需要复杂视觉模型

当然，Document Intelligence 的价值并不意味着传统 PDF 解析已经没有意义。

对于结构简单、文本层完整的 PDF，直接解析文本往往已经足够。如果为了所有文档都增加 OCR、VLM 和多阶段处理，系统的成本、延迟和复杂度反而会上升。

真正复杂的是那些包含扫描页面、复杂表格、公式、多栏排版或者大量视觉信息的文档。即使使用视觉模型，也不能保证所有结构都能被准确恢复。

所以，更稳妥的说法不是"AI 文档处理已经解决了 PDF"，而是：文档处理正在从单一OCR 能力，逐渐演变成由多种解析、识别和理解能力组成的工程链路。

真正值得关注的，也不只是某一个模型的识别率，而是整条 Pipeline 能否根据文档类型选择合适的处理方式，并稳定地产出可以被后续 AI 使用的结构化数据。

06 AI 应用的瓶颈，正在从模型层转向数据理解层

这件事情最终让我重新理解了 RAG、VLM 和 Agent 之间的关系。

VLM 让模型能够理解图像和视觉信息，Agent 让模型能够调用工具、执行任务，RAG 解决的是如何让模型获得外部知识。

但在这些能力之前，还有一个更基础的问题：现实世界的数据，究竟有没有被正确地交给模型？

如果答案是否定的，那么问题就不再只是模型够不够强，而是模型面对的输入本身已经发生了信息损失。

因此，Datalab 真正值得观察的并不是某一个 OCR 模型，而是它所代表的一种变化：AI 应用的基础设施正在从"模型层"继续向"数据理解层"延伸。

模型负责理解和推理，而 Document Intelligence 负责把现实世界中复杂、凌乱、带有结构信息的文档，尽可能准确地转换成模型能够理解的数据。

对于越来越多以文档为核心输入的 RAG、Agent 和 AI 应用来说，这可能不是一个附属能力，而是它们真正的上游基础设施。

前几日看到开源解决方案，docling的内容，这种私有化部署的方案，在很多场合下，有专门的使用场景，下次来尝试。