ARTICLE · 1181638
数据越多效果越好?WeVisDoc:文档解析训练,别再盲目堆样本量
1.摘要
文档解析需要同时识别正文、公式、表格、阅读顺序和版式,但训练数据往往偏向清晰电子页面。
WeVisDoc提出两阶段数据中心路线:Stage I用约4000万条页面、区域与组件数据扩展语义、结构和成像条件;Stage II用独立探针定位模型的剩余错误,再定向补数据并重分配监督Token。4B模型在OmniDocBench v1.6达到95.38,在PureDocBench三轨均值达到75.54。关键变化不是继续无差别加数据,而是让模型错误决定下一批训练曝光。

论文标题:WeVisDoc: From Coverage to Capability for Robust End-to-End Document Parsing
作者:Hao Yu、Kang Liu、Linnan Zhao、Jiabo Zhan 等
发布时间: 2026 年 9 月 20 日
论文地址:https://arxiv.org/abs/2609.20423
2.引言:数据多不等于薄弱环节被覆盖
端到端文档解析把一张页面直接转成Markdown、LaTeX和HTML。真实错误往往集中在少数字体、复杂表格、混排公式、照片畸变或历史扫描中。扩大通用数据池可以提高平均能力,却不能回答“新增样本是否真的击中了当前模型的错误”。
WeVisDoc把语料构建视为可测量的控制循环:先建立广覆盖模型,再用固定表示空间和独立探针找出高残差簇,验证错误究竟来自模型还是标注,最后在固定目标Token预算下增加稀缺模式、提高困难样本曝光,同时回放原数据防止遗忘。

图1|收集数据、合成页面、多模型标注与成像增强共同形成第一阶段广覆盖语料
3. Stage I:页面、区域和组件共同训练
约4000万条记录中,完整页面约占40%,文本或混合区域25%,独立表格25%,独立公式10%。完整页学习阅读顺序与全局关系,区域保留小字分辨率,组件为表格结构和公式序列提供更密集监督。
三个专家解析器对候选标签共同归一化;三者一致的结果经语法与结构检查进入训练,二对一或全部分歧则转交更强模型与人工审核。合成分支使用语义HTML同时编译页面图像与结构目标,从同一DOM生成Markdown、HTML表格和LaTeX,从源头保持像素与标签一致。
外观增强按真实成像链组织:电子页面可以重采样与压缩,纸张经历打印、扫描、褶皱、光照和拍摄。只有可读内容仍与目标一致时才保留增强结果。

图2|不同数据流先指定目标监督Token占比,再根据平均目标长度换算记录采样概率
4. 为什么按Token而不是按样本计预算
一张长页面可能贡献数千个监督Token,一个公式裁剪只贡献几十个。如果按记录数量混合,长页面会在损失中隐式占更大权重。论文以每条记录的有效目标长度归一化训练目标,再把期望Token份额换算成记录采样概率。
这使“给困难表格20%预算”具有明确含义:它代表训练中约20%的监督输出Token来自该流,而不是20%的抽样次数。
数据配比从文件数量变成模型真正接收到的监督量。
5. Stage II:先审计错误,再决定补什么
第一阶段模型在独立探针集上产生预测:系统将页面的冻结视觉嵌入与结构元数据拼接,形成固定视觉—结构簇;每个簇同时计算数据覆盖度和模型残差。低覆盖不必然高错误,高错误也可能来自错误标注,所以难例必须经过图像—目标核验。
确认是模型能力不足后,系统可以增加针对性页面、结构化合成或困难样本,并在新旧池之间重分配Token;Stage II冻结视觉编码器,只更新语言模型。论文明确指出这是完整阶段对比,不能把提升单独归因于聚类、难例或重采样中的某一个组件。

图3|探针残差、固定聚类、标签复核和定向数据构造组成能力修复闭环
6. 方法细读:从聚类诊断到训练混合
1️⃣ 第一阶段怎样同时扩展语义、结构与成像条件
Stage I并不是把所有图片统一成整页OCR样本。完整页约占40%,负责学习阅读顺序和跨区域关系;文本或混合区域约占25%,保留小字与局部图文关联;独立表格约25%,独立公式约10%,分别为HTML单元格结构和LaTeX符号层级提供密集监督。由同一页面裁出的不同记录保留内容组标识,避免一份文档因为衍生出多个视图而被重复计权。
真实数据来自公开数据集、内部集合、定向网页与PDF抓取,覆盖文章、书籍、表单、票据、手写、报纸和多语言页面;合成数据则用可执行HTML/CSS控制段落、公式、表格、字体、密度和多栏布局。
由于图像与Markdown、HTML表格、LaTeX公式共同来自同一页面程序,结构目标能够精确追溯,不需要再从渲染结果反推标签。
成像增强也不是一套滤镜随机套用。数字页面模拟缩放、压缩、截图与屏幕传输,纸面材料再模拟打印、扫描、褶皱、光照、透视和拍摄。增强结果只有在文字与结构仍然可读、目标仍与可见内容一致时才进入训练。覆盖的单位因此不是“有多少张图”,而是内容、布局、语言、结构粒度和获取链路的组合。
2️⃣ 第二阶段怎样把模型错误变成数据优先级
视觉—结构表示由冻结SigLIP2图像嵌入经过PCA后,与规范化结构元数据拼接。元数据包括组件构成、密度、语言、布局、成像条件和目标长度;权重控制它相对视觉特征的影响。聚类变换和中心在Stage I去重数据上拟合后冻结,训练、探针和新增数据只能分配到现有簇,避免每轮重聚类让“薄弱簇”身份漂移。
4每个簇同时有覆盖度与残差:覆盖度根据去重记录占比和簇内离散程度衡量是否稀缺,残差由可靠探针上的解析错误衡量模型是否薄弱。小簇可能已经学得很好,大簇也可能包含顽固结构;只有把两者分开,才知道该补数据还是提高曝光。
困难样本挖掘先比较预测与候选目标,再通过渲染、结构语法、更强多模态模型和人工审核区分模型错与标签错。若修正标签后错误消失,样本可以进入普通监督,却不能作为难例过采样,这个步骤避免训练循环不断强化错误标注。
诊断使用的分配探针与训练池挖掘样本来自不同角色:探针不进入训练、挖掘或最终评测,用来估计各簇剩余误差;训练池中的高损失样本则经过再次审核,形成可训练的困难流。聚类表示和中心保持冻结,意味着每次新增页面都被投到同一个坐标系里。若每轮跟着模型重新定义簇,旧的“报纸薄弱”与新的“报纸薄弱”可能并非同一组样本,改进就失去可比性。
被确认的缺口有两种补法:从真实池中检索经过验证的相似页面,或用页面程序定向生成公式密集、表格密集、多区域试卷、密集报纸等结构。新增数据不会自动获得最高权重,还要与覆盖度、残差和困难流上限共同决定Token份额。这防止少量极难样本反复出现,挤掉广覆盖回放。
3️⃣ 训练预算为什么要记录“计划份额”和“实际曝光”
Stage II在固定监督Token预算下分配新旧数据。困难簇获得更高目标份额,同时保留Stage I回放,减少对常见文档的遗忘。视觉编码器冻结,只更新语言模型;这使阶段比较更聚焦输出能力,但也限制对全新视觉退化的适应。
两阶段的池规模分别约为4000万和500万条唯一合格记录,但“池里有多少”不等于“模型训练时看了多少”。系统将目标Token份额转换为记录抽样概率,同时记录数据来源、输入粒度、重复组、增强策略、计划份额与实际消耗Token。这样才能区分一种模式提升究竟来自新增内容,还是来自同一批样本被多看了几次。
2B与4B模型都基于Qwen3-VL-Instruct,输出统一为阅读顺序Markdown、HTML表格和LaTeX公式,不额外接检测器、OCR引擎或专用表格解码器。Stage I联合更新视觉编码器和语言模型,Stage II冻结视觉端,只优化语言模型;两种规模的全局批量均为512,最大序列长度8192。统一训练控制让阶段差异主要落在数据与可训练模块上,而不是由完全不同的解析流水线造成。
7. 实验结果细读:两个基准衡量不同风险
1️⃣ Overall高,并不代表每一种结构都领先
OmniDocBench v1.6的1651页覆盖真实多类型文档,但目标来自人工或既有标注;PureDocBench从1475个HTML/CSS源页面生成三种对齐视图,目标可追溯,却无法包含所有真实文档分布。两者结合分别测试广覆盖准确率与受控退化鲁棒性。
Overall由文本准确率、公式CDM和表格TEDS等权平均,阅读顺序ROEdit单独报告。WeVisDoc-4B在OmniDocBench中Overall 95.38、TextEdit 0.036、FormulaCDM 96.81、TableTEDS_S 95.34、ROEdit0.125。它在端到端专用模型序列领先,但某些流水线系统的个别指标仍更高,因此“总体第一”应限定比较组。
5TextEdit越低越好,衡量文字序列编辑距离;FormulaCDM与TableTEDS越高越好,分别关注公式结构和表格树相似度;ROEdit越低越好,却不进入Overall。也就是说,Overall是文本准确率、公式和表格三项的算术平均,不能用来代替阅读顺序。一个系统即使Overall较高,也可能在复杂多栏页面上仍把块顺序串错。
2️⃣ 三种对齐视图为何能单独量化退化损失
PureDocBench三轨中,4B相对2B在Clean只高0.45点,在Digital高1.12,在Real高3.48,容量增益随外观偏移增大。Stage II也呈同一模式:4B Clean只增0.49,Real增4.03。两组趋势相互支持“能力修复击中了退化尾部”,但Stage II同时包含继续训练、难例、定向新增、重采样与回放,仍不能分离单个贡献。
PureDocBench的1475个源页面来自10个领域和66个子类,每一份HTML/CSS源页面同时渲染Clean、Digital Degraded与Real Degraded视图,并共享同一结构目标。Digital轨道包含十类合成退化,Real轨道来自四种物理或屏幕媒介获取流程。由于内容和答案不变,三轨差值比“换三个不同数据集”更接近成像条件本身带来的损失。
所有公开基准结果都在数据内容与训练配置冻结后生成,同规模模型使用统一提示词、图像预处理、确定性解码和官方评分协议,并重复推理三次取均值。它降低了解码偶然性,却没有覆盖不同训练随机种子的方差。因此,Real轨道4.03点这类变化很有解释力,Clean上0.49点的小幅增益则更应谨慎阅读。
2B在OmniDocBench 95.06,与4B仅差0.32,却在Real Degraded落后3.48。部署若以清晰电子PDF为主,2B可能更具成本优势;拍照、扫描和屏幕翻拍占比高时,4B容量更有价值。论文数据允许按业务分布选规模,而不是把最大模型作为默认答案。
实验的另一个核心是三次推理均值:生成式解析可能因解码产生轻微差异,重复运行比单次结果更稳健;但训练随机种子、数据混合波动和硬件差异尚未完全覆盖。0.3—0.6点的小差距应结合方差与评测版本阅读。
PureDocBench曾在OmniDocBench v1.5的21353个评分块中确认2580个标注错误,这不是v1.6错误率,却解释了为何需要源代码生成的独立目标。WeVisDoc在两个基准同时领先,降低了只拟合一种标注体系的担忧;高风险票据或合同仍需要字段级人工核验。
Stage II最大收益出现在真实退化,符合训练目标,但作者没有报告完全未见成像设备上的外部验证。若聚类探针与测试退化相似,残差修复可能具有基准定向性。实际复用应留出从未参与聚类与采样设计的外部文档集。
新增样本和重新分配曝光是两种不同杠杆:前者扩展支持集,后者改变固定池的训练频率。论文把二者同时使用,取得完整系统收益;未来消融需要分别固定Token预算和唯一内容数量,才可判断是“看见新模式”还是“多看旧难例”。
8. 实验结果:退化页面上的增益最大
OmniDocBench v1.6包含1651页多类型文档。WeVisDoc-4B Overall为95.38,在论文比较的端到端专用模型中领先0.64;2B为95.06。PureDocBench使用1475个可追溯HTML/CSS源页面,分别渲染Clean、Digital Degraded和Real Degraded三轨,共享精确目标。

表1|最终模型的Overall分数-PureDocBench三轨共享源目标,便于比较成像退化影响
OmniDocBench 的 Overall 会掩盖文本、公式、表格和阅读顺序之间的差异。拆开后可以看到,4B并非在每一个单项都最高,但在多个关键维度形成更均衡的组合:

HunyuanOCR-1.5 的 TableTEDS 仍略高于两种 WeVisDoc,说明表格结构并非所有指标都被刷新。即WeVisDoc-4B的优势来自文本、公式、表格相似度和阅读顺序的综合平衡,而不是每个子指标都第一。

图4|可执行页面程序生成技术报告、公式教材和长篇论文等结构,同时保留精确标签
Stage II对4B模型的Clean仅提高0.49点,对Digital提高2.55点,对Real提高4.03点;2B也表现出相同方向。说明残差导向的数据修复主要击中了拍摄、扫描和传输造成的分布尾部。

表2|完整第二阶段相对第一阶段的变化
再把 PureDocBench 放回更强对照中,4B模型的优势和边界会更清楚:

WeVisDoc-4B的三轨均值最高,Clean与Digital Degraded也最高;但在Real Degraded上,广域大模型Qwen3.5-122B-A10B仍高0.77点。论文所说的Real Degraded领先,限定在所比较的端到端专用解析器范围内。
把比较组写清楚,比笼统宣称“所有场景第一”更准确。

图5|通用页面、公式、表格与真实退化文档上的端到端输出示例
在实际落地中,最值得直接复用的是错误闭环:固定一个不参与训练的探针集,按文档属性分桶,区分标签问题与模型问题,再把新增数据和采样权重写入可追踪版本。若每轮都更换探针或评估器,就无法判断能力是否真的被修复。
数据来源还涉及许可与隐私:论文混合公开、内部、抓取和合成材料,企业复现必须记录来源、去重组和使用权限;文档中可能包含个人或商业信息,训练前的脱敏与保留策略与解析精度同样重要。
6. 边界与结论
总的来说,真实退化仍无法覆盖所有手写体、历史档案、严重破损与拍摄条件。聚类结果依赖视觉编码器、元数据权重、探针集和评估器;更新训练混合还增加数据审核与计算成本。Stage II同时改变多个因素,因此论文没有提供每个组件的独立因果贡献。
WeVisDoc最值得复用的是工作流:覆盖用于建立底座,诊断用于发现能力缺口,可靠标签用于避免“把标注错当模型错”,Token预算用于控制训练曝光。文档模型的数据工程开始从静态仓库,变成围绕模型弱点持续更新的能力系统。
一思维前沿灯塔系列聚焦大模型、多模态、具身智能、世界模型、3D 与 AI Agent 等多个AI主流方向,我们将持续更新各大顶会前沿论文。通过对顶会论文的深度解读,辅助每位学术研究者能针对性阅读到各类有益的学术论文,加强每个子领域的生态化,也希望大家每天能抽出几分钟时间阅读,感谢大家的支持与关注。
关注与交流
为方便大家学习交流建立了CCF/SCI投稿交流群,欢迎大家一起交流学习~

论文投稿DDL查询小程序-AccetpDDL
一思维为方便大家赶DDL不忘记时间研发了AcceptDDL小程序

一思维——你科研领域的好帮手



👇👇👇联系我们,获取更多精彩内容

1.摘要
文档解析需要同时识别正文、公式、表格、阅读顺序和版式,但训练数据往往偏向清晰电子页面。
WeVisDoc提出两阶段数据中心路线:Stage I用约4000万条页面、区域与组件数据扩展语义、结构和成像条件;Stage II用独立探针定位模型的剩余错误,再定向补数据并重分配监督Token。4B模型在OmniDocBench v1.6达到95.38,在PureDocBench三轨均值达到75.54。关键变化不是继续无差别加数据,而是让模型错误决定下一批训练曝光。

论文标题:WeVisDoc: From Coverage to Capability for Robust End-to-End Document Parsing
作者:Hao Yu、Kang Liu、Linnan Zhao、Jiabo Zhan 等
发布时间: 2026 年 9 月 20 日
论文地址:https://arxiv.org/abs/2609.20423
2.引言:数据多不等于薄弱环节被覆盖
端到端文档解析把一张页面直接转成Markdown、LaTeX和HTML。真实错误往往集中在少数字体、复杂表格、混排公式、照片畸变或历史扫描中。扩大通用数据池可以提高平均能力,却不能回答“新增样本是否真的击中了当前模型的错误”。
WeVisDoc把语料构建视为可测量的控制循环:先建立广覆盖模型,再用固定表示空间和独立探针找出高残差簇,验证错误究竟来自模型还是标注,最后在固定目标Token预算下增加稀缺模式、提高困难样本曝光,同时回放原数据防止遗忘。

图1|收集数据、合成页面、多模型标注与成像增强共同形成第一阶段广覆盖语料
3. Stage I:页面、区域和组件共同训练
约4000万条记录中,完整页面约占40%,文本或混合区域25%,独立表格25%,独立公式10%。完整页学习阅读顺序与全局关系,区域保留小字分辨率,组件为表格结构和公式序列提供更密集监督。
三个专家解析器对候选标签共同归一化;三者一致的结果经语法与结构检查进入训练,二对一或全部分歧则转交更强模型与人工审核。合成分支使用语义HTML同时编译页面图像与结构目标,从同一DOM生成Markdown、HTML表格和LaTeX,从源头保持像素与标签一致。
外观增强按真实成像链组织:电子页面可以重采样与压缩,纸张经历打印、扫描、褶皱、光照和拍摄。只有可读内容仍与目标一致时才保留增强结果。

图2|不同数据流先指定目标监督Token占比,再根据平均目标长度换算记录采样概率
4. 为什么按Token而不是按样本计预算
一张长页面可能贡献数千个监督Token,一个公式裁剪只贡献几十个。如果按记录数量混合,长页面会在损失中隐式占更大权重。论文以每条记录的有效目标长度归一化训练目标,再把期望Token份额换算成记录采样概率。
这使“给困难表格20%预算”具有明确含义:它代表训练中约20%的监督输出Token来自该流,而不是20%的抽样次数。
数据配比从文件数量变成模型真正接收到的监督量。
5. Stage II:先审计错误,再决定补什么
第一阶段模型在独立探针集上产生预测:系统将页面的冻结视觉嵌入与结构元数据拼接,形成固定视觉—结构簇;每个簇同时计算数据覆盖度和模型残差。低覆盖不必然高错误,高错误也可能来自错误标注,所以难例必须经过图像—目标核验。
确认是模型能力不足后,系统可以增加针对性页面、结构化合成或困难样本,并在新旧池之间重分配Token;Stage II冻结视觉编码器,只更新语言模型。论文明确指出这是完整阶段对比,不能把提升单独归因于聚类、难例或重采样中的某一个组件。

图3|探针残差、固定聚类、标签复核和定向数据构造组成能力修复闭环
6. 方法细读:从聚类诊断到训练混合
1️⃣ 第一阶段怎样同时扩展语义、结构与成像条件
Stage I并不是把所有图片统一成整页OCR样本。完整页约占40%,负责学习阅读顺序和跨区域关系;文本或混合区域约占25%,保留小字与局部图文关联;独立表格约25%,独立公式约10%,分别为HTML单元格结构和LaTeX符号层级提供密集监督。由同一页面裁出的不同记录保留内容组标识,避免一份文档因为衍生出多个视图而被重复计权。
真实数据来自公开数据集、内部集合、定向网页与PDF抓取,覆盖文章、书籍、表单、票据、手写、报纸和多语言页面;合成数据则用可执行HTML/CSS控制段落、公式、表格、字体、密度和多栏布局。
由于图像与Markdown、HTML表格、LaTeX公式共同来自同一页面程序,结构目标能够精确追溯,不需要再从渲染结果反推标签。
成像增强也不是一套滤镜随机套用。数字页面模拟缩放、压缩、截图与屏幕传输,纸面材料再模拟打印、扫描、褶皱、光照、透视和拍摄。增强结果只有在文字与结构仍然可读、目标仍与可见内容一致时才进入训练。覆盖的单位因此不是“有多少张图”,而是内容、布局、语言、结构粒度和获取链路的组合。
2️⃣ 第二阶段怎样把模型错误变成数据优先级
视觉—结构表示由冻结SigLIP2图像嵌入经过PCA后,与规范化结构元数据拼接。元数据包括组件构成、密度、语言、布局、成像条件和目标长度;权重控制它相对视觉特征的影响。聚类变换和中心在Stage I去重数据上拟合后冻结,训练、探针和新增数据只能分配到现有簇,避免每轮重聚类让“薄弱簇”身份漂移。
4每个簇同时有覆盖度与残差:覆盖度根据去重记录占比和簇内离散程度衡量是否稀缺,残差由可靠探针上的解析错误衡量模型是否薄弱。小簇可能已经学得很好,大簇也可能包含顽固结构;只有把两者分开,才知道该补数据还是提高曝光。
困难样本挖掘先比较预测与候选目标,再通过渲染、结构语法、更强多模态模型和人工审核区分模型错与标签错。若修正标签后错误消失,样本可以进入普通监督,却不能作为难例过采样,这个步骤避免训练循环不断强化错误标注。
诊断使用的分配探针与训练池挖掘样本来自不同角色:探针不进入训练、挖掘或最终评测,用来估计各簇剩余误差;训练池中的高损失样本则经过再次审核,形成可训练的困难流。聚类表示和中心保持冻结,意味着每次新增页面都被投到同一个坐标系里。若每轮跟着模型重新定义簇,旧的“报纸薄弱”与新的“报纸薄弱”可能并非同一组样本,改进就失去可比性。
被确认的缺口有两种补法:从真实池中检索经过验证的相似页面,或用页面程序定向生成公式密集、表格密集、多区域试卷、密集报纸等结构。新增数据不会自动获得最高权重,还要与覆盖度、残差和困难流上限共同决定Token份额。这防止少量极难样本反复出现,挤掉广覆盖回放。
3️⃣ 训练预算为什么要记录“计划份额”和“实际曝光”
Stage II在固定监督Token预算下分配新旧数据。困难簇获得更高目标份额,同时保留Stage I回放,减少对常见文档的遗忘。视觉编码器冻结,只更新语言模型;这使阶段比较更聚焦输出能力,但也限制对全新视觉退化的适应。
两阶段的池规模分别约为4000万和500万条唯一合格记录,但“池里有多少”不等于“模型训练时看了多少”。系统将目标Token份额转换为记录抽样概率,同时记录数据来源、输入粒度、重复组、增强策略、计划份额与实际消耗Token。这样才能区分一种模式提升究竟来自新增内容,还是来自同一批样本被多看了几次。
2B与4B模型都基于Qwen3-VL-Instruct,输出统一为阅读顺序Markdown、HTML表格和LaTeX公式,不额外接检测器、OCR引擎或专用表格解码器。Stage I联合更新视觉编码器和语言模型,Stage II冻结视觉端,只优化语言模型;两种规模的全局批量均为512,最大序列长度8192。统一训练控制让阶段差异主要落在数据与可训练模块上,而不是由完全不同的解析流水线造成。
7. 实验结果细读:两个基准衡量不同风险
1️⃣ Overall高,并不代表每一种结构都领先
OmniDocBench v1.6的1651页覆盖真实多类型文档,但目标来自人工或既有标注;PureDocBench从1475个HTML/CSS源页面生成三种对齐视图,目标可追溯,却无法包含所有真实文档分布。两者结合分别测试广覆盖准确率与受控退化鲁棒性。
Overall由文本准确率、公式CDM和表格TEDS等权平均,阅读顺序ROEdit单独报告。WeVisDoc-4B在OmniDocBench中Overall 95.38、TextEdit 0.036、FormulaCDM 96.81、TableTEDS_S 95.34、ROEdit0.125。它在端到端专用模型序列领先,但某些流水线系统的个别指标仍更高,因此“总体第一”应限定比较组。
5TextEdit越低越好,衡量文字序列编辑距离;FormulaCDM与TableTEDS越高越好,分别关注公式结构和表格树相似度;ROEdit越低越好,却不进入Overall。也就是说,Overall是文本准确率、公式和表格三项的算术平均,不能用来代替阅读顺序。一个系统即使Overall较高,也可能在复杂多栏页面上仍把块顺序串错。
2️⃣ 三种对齐视图为何能单独量化退化损失
PureDocBench三轨中,4B相对2B在Clean只高0.45点,在Digital高1.12,在Real高3.48,容量增益随外观偏移增大。Stage II也呈同一模式:4B Clean只增0.49,Real增4.03。两组趋势相互支持“能力修复击中了退化尾部”,但Stage II同时包含继续训练、难例、定向新增、重采样与回放,仍不能分离单个贡献。
PureDocBench的1475个源页面来自10个领域和66个子类,每一份HTML/CSS源页面同时渲染Clean、Digital Degraded与Real Degraded视图,并共享同一结构目标。Digital轨道包含十类合成退化,Real轨道来自四种物理或屏幕媒介获取流程。由于内容和答案不变,三轨差值比“换三个不同数据集”更接近成像条件本身带来的损失。
所有公开基准结果都在数据内容与训练配置冻结后生成,同规模模型使用统一提示词、图像预处理、确定性解码和官方评分协议,并重复推理三次取均值。它降低了解码偶然性,却没有覆盖不同训练随机种子的方差。因此,Real轨道4.03点这类变化很有解释力,Clean上0.49点的小幅增益则更应谨慎阅读。
2B在OmniDocBench 95.06,与4B仅差0.32,却在Real Degraded落后3.48。部署若以清晰电子PDF为主,2B可能更具成本优势;拍照、扫描和屏幕翻拍占比高时,4B容量更有价值。论文数据允许按业务分布选规模,而不是把最大模型作为默认答案。
实验的另一个核心是三次推理均值:生成式解析可能因解码产生轻微差异,重复运行比单次结果更稳健;但训练随机种子、数据混合波动和硬件差异尚未完全覆盖。0.3—0.6点的小差距应结合方差与评测版本阅读。
PureDocBench曾在OmniDocBench v1.5的21353个评分块中确认2580个标注错误,这不是v1.6错误率,却解释了为何需要源代码生成的独立目标。WeVisDoc在两个基准同时领先,降低了只拟合一种标注体系的担忧;高风险票据或合同仍需要字段级人工核验。
Stage II最大收益出现在真实退化,符合训练目标,但作者没有报告完全未见成像设备上的外部验证。若聚类探针与测试退化相似,残差修复可能具有基准定向性。实际复用应留出从未参与聚类与采样设计的外部文档集。
新增样本和重新分配曝光是两种不同杠杆:前者扩展支持集,后者改变固定池的训练频率。论文把二者同时使用,取得完整系统收益;未来消融需要分别固定Token预算和唯一内容数量,才可判断是“看见新模式”还是“多看旧难例”。
8. 实验结果:退化页面上的增益最大
OmniDocBench v1.6包含1651页多类型文档。WeVisDoc-4B Overall为95.38,在论文比较的端到端专用模型中领先0.64;2B为95.06。PureDocBench使用1475个可追溯HTML/CSS源页面,分别渲染Clean、Digital Degraded和Real Degraded三轨,共享精确目标。

表1|最终模型的Overall分数-PureDocBench三轨共享源目标,便于比较成像退化影响
OmniDocBench 的 Overall 会掩盖文本、公式、表格和阅读顺序之间的差异。拆开后可以看到,4B并非在每一个单项都最高,但在多个关键维度形成更均衡的组合:

HunyuanOCR-1.5 的 TableTEDS 仍略高于两种 WeVisDoc,说明表格结构并非所有指标都被刷新。即WeVisDoc-4B的优势来自文本、公式、表格相似度和阅读顺序的综合平衡,而不是每个子指标都第一。

图4|可执行页面程序生成技术报告、公式教材和长篇论文等结构,同时保留精确标签
Stage II对4B模型的Clean仅提高0.49点,对Digital提高2.55点,对Real提高4.03点;2B也表现出相同方向。说明残差导向的数据修复主要击中了拍摄、扫描和传输造成的分布尾部。

表2|完整第二阶段相对第一阶段的变化
再把 PureDocBench 放回更强对照中,4B模型的优势和边界会更清楚:

WeVisDoc-4B的三轨均值最高,Clean与Digital Degraded也最高;但在Real Degraded上,广域大模型Qwen3.5-122B-A10B仍高0.77点。论文所说的Real Degraded领先,限定在所比较的端到端专用解析器范围内。
把比较组写清楚,比笼统宣称“所有场景第一”更准确。

图5|通用页面、公式、表格与真实退化文档上的端到端输出示例
在实际落地中,最值得直接复用的是错误闭环:固定一个不参与训练的探针集,按文档属性分桶,区分标签问题与模型问题,再把新增数据和采样权重写入可追踪版本。若每轮都更换探针或评估器,就无法判断能力是否真的被修复。
数据来源还涉及许可与隐私:论文混合公开、内部、抓取和合成材料,企业复现必须记录来源、去重组和使用权限;文档中可能包含个人或商业信息,训练前的脱敏与保留策略与解析精度同样重要。
6. 边界与结论
总的来说,真实退化仍无法覆盖所有手写体、历史档案、严重破损与拍摄条件。聚类结果依赖视觉编码器、元数据权重、探针集和评估器;更新训练混合还增加数据审核与计算成本。Stage II同时改变多个因素,因此论文没有提供每个组件的独立因果贡献。
WeVisDoc最值得复用的是工作流:覆盖用于建立底座,诊断用于发现能力缺口,可靠标签用于避免“把标注错当模型错”,Token预算用于控制训练曝光。文档模型的数据工程开始从静态仓库,变成围绕模型弱点持续更新的能力系统。
一思维前沿灯塔系列聚焦大模型、多模态、具身智能、世界模型、3D 与 AI Agent 等多个AI主流方向,我们将持续更新各大顶会前沿论文。通过对顶会论文的深度解读,辅助每位学术研究者能针对性阅读到各类有益的学术论文,加强每个子领域的生态化,也希望大家每天能抽出几分钟时间阅读,感谢大家的支持与关注。
关注与交流
为方便大家学习交流建立了CCF/SCI投稿交流群,欢迎大家一起交流学习~

论文投稿DDL查询小程序-AccetpDDL
一思维为方便大家赶DDL不忘记时间研发了AcceptDDL小程序

一思维——你科研领域的好帮手



👇👇👇联系我们,获取更多精彩内容
















































































