说个有意思的事。
昨天Hacker News(就是全球极客的首页)上,排第一的帖子,432票,是一个百度开源的项目。不是哪个美国大厂,不是什么创业明星,是百度。
项目名叫 Unlimited OCR。上线两天,GitHub 3500多星,讨论区一百多条评论,老外们围着代码看了又看,有人感慨"西方应该学学这些公司"。你想想,百度上一个在HN上引起这种反响的项目是什么时候的事了?
我花了一晚上把这个项目的代码和论文翻了一遍。说人话讲清楚,这玩意儿到底干了件什么事。
AI读长文档的毛病
你肯定遇到过这种情况:把一份几十页的PDF丢给AI让它提取信息,结果前几页还行,越往后越慢,最后直接卡住。
不是AI偷懒。是AI读文档的工作原理决定的。
现在的AI OCR模型(包括DeepSeek之前开源的DeepSeek-OCR),本质上是用一个大型语言模型来做文字识别。这意味着模型每读一个字,就要记下它之前读过的所有字——就像你看一本书,每翻一页都得把前面所有页的内容记在脑子里。人做不到,AI硬做,结果就是内存越吃越多,越读越慢。
论文里写了:随着输出序列变长,KV缓存(就是AI的"短期记忆")会不断累积,内存消耗跟着涨,生成速度越来越慢。这跟人类不一样——我们抄写一百页文档,不会越往后越慢。但AI会。
所以现在主流的OCR方案,要么把文档拆成一页一页分别处理(费事,还容易串),要么忍受越读越慢的体验。
百度用了个巧招
Unlimited OCR 的解法是:不改大语言模型本身,只改注意力机制。
他们搞了一个叫 Reference Sliding Window Attention(R-SWA) 的东西。说白了就是:不让AI死记硬背整份文档,而是用一个"滑动窗口"去看眼前这一块,同时结合一个固定大小的"参考缓存"来维持上下文。这样不管文档多长,AI的内存占用始终不变。
效果呢?论文说:在标准的32K上下文窗口下,一次前向推理就能转写好几十页文档。
注意这个"一次"——不需要分页,不需要切片,整份文档丢进去,一次性输出。
而且R-SWA这个注意力机制不只能做OCR。论文提到它同样适用于语音识别(ASR)、翻译等场景。也就是说,如果这个思路验证有效,以后所有需要处理长序列的AI任务都可能受益。
△ Baidu Unlimited OCR官方架构图:R-SWA的工作流程
说点实在的
我知道你心里在想什么:OCR又不是什么新技术,我扫描仪自带的不就是OCR吗?
是的,传统OCR存在很多年了。但以前那种OCR跟现在这种AI OCR,完全是两码事。
传统OCR:识别单个字符,遇到模糊的手写字迹、弯曲的表格、印章叠印,基本歇菜。而且它只能告诉你"图片上写了什么字",不能理解这些字是什么意思。
AI OCR(DeepSeek-OCR, Unlimited OCR这类):它是用大模型在"读"。不仅能认出字,还能理解上下文——比如它知道"¥10,000"是金额,"2026-06-24"是日期,"合同编号"是标题。
Unlimited OCR更进一步:它能把一本书从头读到尾,不会忘。这就意味着——
① 发票/合同批量处理。 以前要把一沓发票一页页扫描录入,现在整沓丢给AI,一次性读完提取关键字段。
② 档案数字化。 公司积攒了十年的纸质合同、人事档案、技术文档,拍照→丢进AI→输出结构化数据。不需要人工逐页核对。
③ 业务流程自动化。 比如收到客户的PDF报价单,以前要么人肉录入系统,要么拆页处理。现在一份几十页的报价单丢进去,AI一把读完整理成表格。
而且因为是开源的——部署在自己服务器上,数据不用出公司。对很多在乎数据安全的企业来说,这一点比SaaS方案有吸引力得多。
三个信号
第一,百度的AI能力比以前能打了。不是只有文心一言。他们在OCR这个细分领域的积累(之前有PaddleOCR)加上大模型的能力,做出了一个让全球开发者认可的项目。这对国产AI开源来说是个正向信号。
第二,"注意力机制"这个方向还在持续进化。从最初的Transformer全注意力,到滑动窗口注意力,再到现在的基准滑动窗口注意力(R-SWA)——每一次优化都在降低AI推理的成本。这意味着跑AI会越来越便宜。
第三,也是我觉得最重要的:这个解法把"AI读长文档"这个瓶颈往前推了一步。今天解决的是OCR,明天可能解决的是法律文书审阅、医学影像报告、财务审计文件的AI自动化处理。这些东西一旦跑通,很多以前需要人干的"读文档"的活,就真的可以交给机器了。
当然也不是没毛病。目前这个模型还是用DeepSeek-OCR做基座改的,R-SWA的效果在更多场景下是否普适,需要时间验证。但方向是对的。
说穿了就是:以后你公司的发票、合同、档案,拍照就能自动入系统。这一天比你想象得要近。
参考资料
1. GitHub — baidu/Unlimited-OCR(github.com/baidu/Unlimited-OCR) 2. arXiv — Unlimited OCR Works(arxiv.org/abs/2606.23050) 3. Hacker News — 432 points讨论帖(news.ycombinator.com/item?id=48643426) 4. Hugging Face — baidu/Unlimited-OCR(huggingface.co/baidu/Unlimited-OCR)
夜雨聆风