MinerU:将复杂文档转化为高质量AI友好数据的神器!
AI这两年改变了很多人的工作方式。
越来越多的公司开始搭内部知识库,把合同、报告、手册全部喂给AI,让AI帮忙检索、分析、回答问题。
但很快就撞上了一个现实问题。
这些文档,大多是PDF、扫描件、Word、PPT,这些格式天生是给人看的,不是给机器读的。
直接丢给AI,双栏排版的文字会串行,表格里的数字会挤成一坨,扫描件复制出来干脆是乱码。
读到的是这种东西,什么工具也没法干活。
所以在文档喂给AI之前,需要先做一步,把它转成机器真正能读懂的格式。
MinerU(mineru.net)无疑是这块效果最好的工具之一。

MinerU是什么?
MinerU是一个免费开源的文档解析工具,把PDF、图片、Word、PPT、Excel转换成markdown或JSON,可以直接商用。
大部分工具转出来的是一坨纯文字,结构全没了。
MinerU不一样,转出来的内容标题还是标题,段落还是段落,表格变成HTML,公式变成LaTeX,图片和图片说明单独提取出来。


多栏排版会按人真正阅读的顺序重新排列,页眉页脚页码全部自动剔除,不会出现在正文里。
这才是AI真正能用的数据,而不是一堆乱糟糟的字符。
更让人兴奋的是,普通电脑CPU就能跑,在OmniDocBench公开测试里。
纯CPU版本的得分超过了上一代需要用大模型才能达到的精度。
有显卡的话精度还能更上一层!
MinerU还自带OCR,识别109种语言,扫描件糊成一片也能处理。
这个开源项目更新也很快,最近一次OCR升级识别准确率涨了一成多,处理速度直接翻倍。
那具体怎么用呢?
一共四种方式,按自己情况选。
网页版:打开官网 mineru.net,注册登录,上传文档直接用。
功能最完整,界面最好用,适合大多数人。
桌面客户端:去官网下载安装包,双击安装,跟装普通软件一样。
装完打开就能用,功能和网页版完全一样,适合经常用、不想每次开浏览器的人。
在线Demo:不想注册账号,去ModelScope或Hugging Face搜MinerU,找到Demo页面直接上传文档试用。
不用登录,适合先看看效果再决定要不要正式用。
命令行:适合想批量处理大量文档,或者把MinerU接进自己系统的人。
打开电脑终端,输入这两行完成安装:
pip install uv
uv pip install -U “mineru[all]”
安装完成后,用这行命令解析文档:
mineru -p 输入文件路径 -o 输出文件夹路径
电脑没有独立显卡,在命令最后加上 -b pipeline,切换到纯CPU模式运行。
有显卡默认走高精度模式,效果更好。
夜雨聆风