乐于分享
好东西不私藏

Word 文档还在在线查重?我做了个纯本地、离线、免费,文件不用上传更放心

Word 文档还在在线查重?我做了个纯本地、离线、免费,文件不用上传更放心

很多时候,要对比两个技术方案的Word文档看内容重复率。翻了翻没找到完全合心意的,索性自己写了一个——纯本地离线、支持白名单剔除模板内容、生成HTML报告,36MB左右的小工具。

其实对于很多场景——技术方案对比、投标文件查重、规章制度审核、合同附件检查——需求如下:

  1. 纯文字和表格的重复率检测就够了,不需要图片识别
  2. 文档在本地处理,不上传任何服务器
  3. 能剔除通用的模板内容(白名单功能)
  4. 结果一目了然,最好是能存档的HTML报告

但现有的工具要么是联网的在线服务(得把标书或者需要对比的文档传上去,涉及信息安全时很敏感),要么桌面端太重。于是就有了这个小工具。

软件长什么样

工具是用 Python 打包的 Windows 桌面 exe,36MB左右大小:

EXE 文件 36.1 MB,word文件重复率检测工具 V0.0.9(H技术派)

启动后的主界面很简洁:

主界面:文档选择区 + 参数设置 + 运行状态 + 开始按钮

主要就几个要素:

  • A文档 / B文档:
    选择要对比的两个Word文件
  • 白名单:
    可选的模板文件,文档中匹配的内容会被自动剔除
  • 重复判定阈值(默认80%):
    文本相似度超过多少算重复
  • 白名单剔除阈值(默认90%):
    和白名单的相似度超过多少就剔除
  • 最小检测文本长度(默认10字):
    太短的片段不检测

检测过程与结果

以我的测试文档为例,A文档约5.8万字(1115个有效段落),B文档约5.7万字(776个有效段落):

检测完成界面:A文档1115个有效段落,B文档776个,发现80组相似段落

几个关键数据:

  • 段落对比:发现了80组相似段落
  • 全文片段比对:完成了 777,014 对段落候选对的扫描
  • 图片查重:未启用(这个版本专注于文字和表格)

检测完成后自动生成 HTML 报告:

报告已生成,保存在 output/reports/ 目录下

HTML 报告长什么样

报告整体设计是深蓝色页头 + 白色内容卡片,离线也能完整展示:

报告首页:检测信息表格 + 总览指标卡片

总览指标一目了然:

指标
数值
A相对B重复率
1.00%
B相对A重复率
1.08%
双向平均重复率
1.04%
重复段落组数
44
A有效字数
58,179
B有效字数
57,108
A白名单剔除段落
29
B白名单剔除段落
11

还可以看每个章节的重复率分布:

逐章节的重复率统计,快速定位问题章节

最核心的是重复内容明细——折叠展开的卡片式左右对比:

左侧A文档、右侧B文档,重复文本红色高亮,顶部显示相似度和章节位置

每个卡片显示相似度百分比和涉及的两个章节,左右并列展示A/B文档的对应片段,重复文本用红色高亮。我这测试文档中重复主要是图注(”图20 XML树形结构示意图”这类),正文基本没有重复——符合预期。

几个细节

  1. 完全本地离线:
    Word解析、重复率计算、报告生成全在本机完成,不上传任何文件。适合涉技术方案、内部文件等场景。
  2. 白名单机制很实用:
    很多文档套用公司模板,模板内容会带来大量”假重复”。设成白名单后自动剔除,结果更真实。
  3. HTML报告可存档:
    独立的HTML文件,无外部依赖,可随时打开、转发、归档。文件名带时间戳方便追溯。
  4. 纯文字+表格检测:
    不检测图片相似度,专注于文字和表格,速度更快。

适合谁用

  • 写技术方案、标书的工程师和项目经理
  • 需要审查规章制度、合同附件的行政/法务人员
  • 学校里对比论文或研究报告
  • 任何对文档信息安全有要求、不想用在线查重的人

关于软件

后续会对本软件版本进行升级,将支持大word文件和内部图片识别
由于软件是个人开发,Windows 无法校验程序来源真实性,第一次运行会直接标记为未知发布者,会默认弹窗,点击【仍要运行】即可。
软件【windows 10/11均可运行】。

💡 软件获取需要现有版本的可以私信(741),免费发给大家