OlmOCR 由艾伦人工智能研究所研发，依托 7B 参数视觉语言模型打造全链路文档解析工具，通过监督微调与强化学习优化模型对文档结构的理解能力，同时配套标准化性能评测基准。该工具打破传统 OCR 依赖字符规则识别的局限，以视觉感知还原文档原生阅读逻辑，百万页处理成本可控制在 200 美元以内，支持单机、远程推理、容器、分布式集群多类部署模式，兼顾个人开发者小规模测试与企业海量文档批量处理需求，填补了开源场景下高精度复杂文档解析工具的空白。

◆简介

OlmOCR 托管于 Github 平台，仓库地址为
https://github.com/allenai/olmocr，整体代码与模型采用 Apache 2.0 协议开放，允许商用场景下自由修改与分发。项目核心定位是将 PDF、PNG、JPEG 等图像类文档转换为结构完整、阅读顺序自然的纯净文本，项目代码主体由 Python 编写，配套 Shell 脚本与少量前端文件，当前最新稳定版本为 v0.4.27，累计提交记录超两千次，持续迭代优化模型识别效果与推理性能。项目配套发布 olmOCR-Bench 评测套件，包含七千余条测试用例、一千四百余份不同类型文档，可横向对比各类 OCR 工具在多场景下的综合表现，为文档解析方案选型提供标准化数据支撑。

项目核心功能覆盖多类型文档结构化转换，具备多项差异化特色能力。输入支持扫描版 PDF、原生电子 PDF、图片格式文件，输出可生成规范 Markdown 格式，完整保留原文段落、表格、数学公式层级结构；可自动识别并剔除页眉、页脚、水印等无关内容，解决传统工具冗余文本干扰问题；针对多栏排版、内嵌图表、手写批注、老旧模糊扫描件优化识别逻辑，输出文本严格遵循人类自然阅读顺序；底层基于 vLLM 推理框架，支持 FP8 量化加速，大幅降低显存占用，同时内置批量重试、页面错误率过滤机制，提升海量文档处理稳定性。在官方基准测试中，综合得分达到 82.4±1.1，在学术论文、多栏排版、复杂表格等场景下表现优于 Mistral OCR API、MinerU、Marker 等主流工具。

OlmOCR 适配多类行业落地场景，首先是大模型训练数据集构建，官方已使用该工具处理超一亿份 PDF 文档，抽取高质量文本用于模型预训练；其次是知识库与检索增强生成系统搭建，精准还原文档结构可提升检索内容匹配度；学术科研领域可批量解析期刊论文、学位论文，自动整理公式与参考文献；档案数字化场景能够处理老旧扫描古籍、手写档案，完成电子化文本归档；企业内部文档管理可批量解析合同、报表、技术图纸，实现结构化数据入库；同时支持个人开发者本地处理少量文献，无需调用第三方付费接口，保障文档数据本地存储安全。

◆使用

OlmOCR 运行依赖 Linux 系统基础工具与独立 Python 环境，推荐使用 Ubuntu 或 Debian 发行版，完整部署流程分为系统依赖安装、Python 环境配置、多模式安装、基础文档转换、远程推理、容器部署六个步骤。

第一步安装系统底层渲染依赖，用于 PDF 页面转图像，执行以下命令：

该命令安装 PDF 解析工具与标准字体包，避免文档渲染出现文字缺失、乱码问题。

第二步创建纯净 Python 虚拟环境，官方不建议在已有项目环境中安装，防止依赖冲突：

环境创建完成后执行激活命令，后续所有安装与运行操作均在此环境内完成。

第三步按需选择安装模式，共四类可选方案，第一种轻量远程推理模式，仅安装基础包，无 GPU 相关依赖，适合对接外部 vLLM 服务：

第二种本地 GPU 全量部署，需配备显存不低于 12GB 的 NVIDIA 显卡，安装 GPU 推理依赖：

可额外安装 flashinfer 加速推理速度，命令如下：

第三种带基准测试套件，用于评测各类 OCR 工具性能：

多需求可组合安装，例如 GPU 推理加集群调度：

第四步本地 GPU 单文件转换测试，先下载官方示例 PDF，再执行转换命令：

执行完成后，转换后的 Markdown 文件存储在 workspace/markdown 目录下，使用 cat 命令查看结果：

批量转换同目录下全部 PDF 文件，使用通配符匹配路径：

第五步远程推理服务调用，先启动外部 vLLM 模型服务，再通过 olmocr 命令对接：

客户端连接远程服务处理文档：

同时支持接入 Cirrascale、DeepInfra 等商用推理平台，仅需补充 api_key 参数即可。

第六步 Docker 容器快速部署，官方提供内置模型的完整镜像，镜像体积约 30GB，拉取镜像命令：

挂载本地目录处理单份 PDF，启用 GPU 硬件加速：

海量文档分布式处理可基于 AWS S3 存储实现多节点协同，主节点初始化任务队列，其余节点自动领取待处理文件，适配百万级文档批量解析需求。

◆总结

OlmOCR 以 7B 参数视觉语言模型为核心，整合 PDF 渲染、视觉结构识别、vLLM 高速推理、批量任务调度整套能力，完整解决传统 OCR 工具无法处理复杂文档版式的痛点。工具原生支持 PDF、图片多类输入，输出规范 Markdown 结构化文本，自动清理页眉页脚冗余内容，对公式、表格、多栏排版、老旧扫描件识别效果突出；同时提供轻量化远程推理、本地 GPU、Docker、分布式集群多套部署方案，配套 olmOCR-Bench 标准化评测工具，兼顾普通开发者轻量化测试与企业大规模文档处理场景，且百万页处理成本远低于各类商业 OCR 接口，在识别精度与使用成本之间实现平衡。

从行业应用价值来看，OlmOCR 降低了高质量文档文本抽取的技术门槛，无需专业多模态模型调优能力即可完成私有化部署，保障企业内部涉密文档数据不对外流出。在大模型产业发展中，该工具可高效挖掘海量 PDF 文献中的有效训练语料，提升模型对专业文档的理解能力；在数字档案、科研、企业知识库领域，能够大幅减少人工校对文本的工作量，提升数字化归档效率；完整开放的代码、训练脚本与强化学习训练流程，也为多模态文档解析方向的二次开发、模型微调提供可靠底层底座，推动文档视觉识别技术的开源生态持续完善。

来源：

https://www.toutiao.com/article/7662819287291281961/?log_from=49a61a80c899a8_1785131151028

 开源大咖说  |  关于版权

由“开源大咖说（ID：kaiyuandakashuo）”原创的文章，转载时请注明作者、出处及微信公众号。投稿、约稿、转载请加微信：ITDKS10（备注：投稿），茉莉小姐姐会及时与您联系！

感谢您对开源大咖说的热心支持！