为什么要折腾这个?
体检报告拿回来,一堆箭头↑↓看得心慌,拍照发家人群没人懂,发网上又怕隐私泄露。药盒上的说明书字小得跟蚂蚁一样,老人家根本看不清。
其实就是要个工具:拍张照,电脑帮忙看一眼,告诉你关键信息,数据还留在自己电脑里,不用上传到任何APP。

这个 MiniCPM-V 4.6 是面壁智能联合清华发布的端侧多模态模型,OCR能力在1B参数级别里几乎是最强的,官方宣称其OCR综合性能比肩GPT-4V。不只是体检单和说明书,任何带文字的图片——合同、票据、屏幕截图、产品标签——它都能读。而且老电脑就能跑。

最低配置
系统:Windows 10 / 11
最低配置:核显轻薄本 / 老显卡(2GB显存 或 8GB内存)
实测配置:16GB内存 + RTX 4060(8GB显存)
工具:llama.cpp(v12.4以上)
模型文件:
主模型:MiniCPM-V-4_6-Q8_0.gguf(推荐)
视觉组件:mmproj-model-f16.gguf(推荐)
内存小的选 Q4_K_M 版本。
第一步:装llama.cpp
Windows用户去 GitHub 搜 llama.cpp,进 Releases 下载最新版的 llama-b{版本号}-bin-win-{架构}-{编译器}.7z,解压就能用,里面有 llama-server.exe。下载:https://github.com/ggml-org/llama.cpp/releases

想自己编译的,官方仓库有完整 CMake 教程。
第二步:下载模型文件
从 Hugging Face 或国内镜像下载两个文件:https://www.modelscope.ai/models/OpenBMB/MiniCPM-V-4.6-gguf/files
MiniCPM-V-4_6-Q8_0.gguf(约1.3GB)mmproj-model-f16.gguf(约100MB)
第三步:一行命令启动
llama-server.exe -m ./models/MiniCPM-V-4_6-Q8_0.gguf --mmproj ./models/mmproj-model-f16.gguf --port8080-ngl99浏览器打开 http://127.0.0.1:8080,传图就能问。
两个版本怎么选?
| 版本 | 特点 | 适合场景 |
|---|---|---|
| 标准版 | 反应快、直接 | 日常随手拍 |
| Thinking版 | 会先推理再回答 | 体检报告、手写病历 |
实测场景
1. 看懂体检报告
指令:提取报告中 ↑↓ 异常指标,用大白话解释原因,给调理建议。
效果:给了一张血常规检查单,能精准识别异常项,比如"单核细胞偏高,嗜碱细胞数量偏低"。

2. 速读药品说明书
指令:找出用法用量(几次/几粒/口服还是外用)和禁忌。
效果:说明书字再小也能秒抓关键信息。

3. 其他可用场景
手写便签转文字:开会拍的板书,直接转成文本
老旧扫描件翻新:分辨率低的文档也能读
屏幕截图内容提取:PPT截图问"这页讲了什么?"
合同条款提取:拍照问"这条款有没有坑?"
Python调用示例(可选)
上面我们用浏览器打开网页就能用,那是 llama-server 自带的 Web 界面。但如果你想在自己的脚本里调用,或者一次性处理几十张图片,总不能一张张手动上传吧?
这时候就用 HTTP API。llama-server 启动后会监听一个端口(我们设的是8080),任何支持 HTTP 请求的语言都能调。Python 的 requests 库最轻量,几行代码就能把图片传过去、拿到结果,适合集成到自己的自动化流程里。

为什么这么写?
图片转 base64:HTTP JSON 格式不支持直接传二进制文件,所以转成文本字符串再传
image_data传列表:官方 API 支持多图输入,用列表方便扩展temperature设 0.7:不设太高(容易乱说)也不设太低(太死板),经验值max_tokens设 800:回答够用但不会太长,省显存
MiniCPM-V 4.6优点
完全离线、隐私安全:体检单、药盒照片不上传任何APP,数据只在本地,不需要联网
硬件门槛极低:老电脑就能跑,2GB显存或8GB内存起,不用专门买设备
OCR能力越级:采用 LLaVA-UHD 技术方案,支持 3000×3000 以上高清图,1.3B 参数量级里属于第一梯队,官方测试 OCR 综合能力看齐 GPT-4V
开箱即用:自带 Web 界面,装好就能用,不需要写任何前端代码
API 友好:标准的 HTTP 接口,任何编程语言都能调,方便集成到自己的工具链
MiniCPM-V 4.6局限
1.3B 参数规模注定它不是万能的:复杂病情分析、专业医学诊断还是要问医生,AI 只是辅助工具,不能替代专业判断
对手写体支持有限:清晰的手写能认,但特别潦草、连笔严重的字,准确率会下降
中文长文本偶尔有小错误:上下文特别长的时候,个别细节可能遗漏或误读
首次配置有一点点门槛:需要下载模型文件、敲命令行,纯小白看到命令行可能有点怵,但照着步骤来其实没难度
你的配置能跑吗?
评论区留下显卡型号 + 内存大小,帮你看看。有用点个赞,转发给需要的朋友。
夜雨聆风