乐于分享
好东西不私藏

体检报告不用传上网求人看了!老电脑离线跑个1.3B小模型,药盒说明书拍了就能读,数据自己保管

体检报告不用传上网求人看了!老电脑离线跑个1.3B小模型,药盒说明书拍了就能读,数据自己保管

为什么要折腾这个?

体检报告拿回来,一堆箭头↑↓看得心慌,拍照发家人群没人懂,发网上又怕隐私泄露。药盒上的说明书字小得跟蚂蚁一样,老人家根本看不清。

其实就是要个工具:拍张照,电脑帮忙看一眼,告诉你关键信息,数据还留在自己电脑里,不用上传到任何APP。

这个 MiniCPM-V 4.6 是面壁智能联合清华发布的端侧多模态模型,OCR能力在1B参数级别里几乎是最强的,官方宣称其OCR综合性能比肩GPT-4V。不只是体检单和说明书,任何带文字的图片——合同、票据、屏幕截图、产品标签——它都能读。而且老电脑就能跑。

最低配置

  • 系统:Windows 10 / 11

  • 最低配置:核显轻薄本 / 老显卡(2GB显存 或 8GB内存

  • 实测配置:16GB内存 + RTX 4060(8GB显存)

  • 工具:llama.cpp(v12.4以上)

  • 模型文件

    • 主模型:MiniCPM-V-4_6-Q8_0.gguf(推荐)

    • 视觉组件:mmproj-model-f16.gguf(推荐)

内存小的选 Q4_K_M 版本。

第一步:装llama.cpp

Windows用户去 GitHub 搜 llama.cpp,进 Releases 下载最新版的 llama-b{版本号}-bin-win-{架构}-{编译器}.7z,解压就能用,里面有 llama-server.exe。下载:https://github.com/ggml-org/llama.cpp/releases

想自己编译的,官方仓库有完整 CMake 教程。

第二步:下载模型文件

从 Hugging Face 或国内镜像下载两个文件:https://www.modelscope.ai/models/OpenBMB/MiniCPM-V-4.6-gguf/files

  • MiniCPM-V-4_6-Q8_0.gguf(约1.3GB)

  • mmproj-model-f16.gguf(约100MB)

第三步:一行命令启动

llama-server.exe -m ./models/MiniCPM-V-4_6-Q8_0.gguf --mmproj ./models/mmproj-model-f16.gguf --port8080-ngl99

浏览器打开 http://127.0.0.1:8080,传图就能问。

两个版本怎么选?

版本特点适合场景
标准版反应快、直接日常随手拍
Thinking版会先推理再回答体检报告、手写病历

实测场景

1. 看懂体检报告

指令:提取报告中 ↑↓ 异常指标,用大白话解释原因,给调理建议。

效果:给了一张血常规检查单,能精准识别异常项,比如"单核细胞偏高,嗜碱细胞数量偏低"。

2. 速读药品说明书

指令:找出用法用量(几次/几粒/口服还是外用)和禁忌。

效果:说明书字再小也能秒抓关键信息。

3. 其他可用场景

  • 手写便签转文字:开会拍的板书,直接转成文本

  • 老旧扫描件翻新:分辨率低的文档也能读

  • 屏幕截图内容提取:PPT截图问"这页讲了什么?"

  • 合同条款提取:拍照问"这条款有没有坑?"

Python调用示例(可选)

上面我们用浏览器打开网页就能用,那是 llama-server 自带的 Web 界面。但如果你想在自己的脚本里调用,或者一次性处理几十张图片,总不能一张张手动上传吧?

这时候就用 HTTP API。llama-server 启动后会监听一个端口(我们设的是8080),任何支持 HTTP 请求的语言都能调。Python 的 requests 库最轻量,几行代码就能把图片传过去、拿到结果,适合集成到自己的自动化流程里。

为什么这么写?

  • 图片转 base64:HTTP JSON 格式不支持直接传二进制文件,所以转成文本字符串再传

  • image_data 传列表:官方 API 支持多图输入,用列表方便扩展

  • temperature 设 0.7:不设太高(容易乱说)也不设太低(太死板),经验值

  • max_tokens 设 800:回答够用但不会太长,省显存

MiniCPM-V 4.6优点

  • 完全离线、隐私安全:体检单、药盒照片不上传任何APP,数据只在本地,不需要联网

  • 硬件门槛极低:老电脑就能跑,2GB显存或8GB内存起,不用专门买设备

  • OCR能力越级:采用 LLaVA-UHD 技术方案,支持 3000×3000 以上高清图,1.3B 参数量级里属于第一梯队,官方测试 OCR 综合能力看齐 GPT-4V

  • 开箱即用:自带 Web 界面,装好就能用,不需要写任何前端代码

  • API 友好:标准的 HTTP 接口,任何编程语言都能调,方便集成到自己的工具链

MiniCPM-V 4.6局限

  • 1.3B 参数规模注定它不是万能的:复杂病情分析、专业医学诊断还是要问医生,AI 只是辅助工具,不能替代专业判断

  • 对手写体支持有限:清晰的手写能认,但特别潦草、连笔严重的字,准确率会下降

  • 中文长文本偶尔有小错误:上下文特别长的时候,个别细节可能遗漏或误读

  • 首次配置有一点点门槛:需要下载模型文件、敲命令行,纯小白看到命令行可能有点怵,但照着步骤来其实没难度

你的配置能跑吗?

评论区留下显卡型号 + 内存大小,帮你看看。有用点个赞,转发给需要的朋友。