ARTICLE · 1098801
昇腾环境私有化文档解析:把OCR 关进内网,
昇腾环境私有化文档解析:把OCR 关进内网,
昇腾环境私有化文档解析:把OCR 关进内网,
把 Paddle-OCR-VL 跑进内网,关键不在“能跑”,而在“真能用”。
这套系统能把 PDF 和图片转成带格式的 Markdown。全程在自家昇腾服务器上跑,资料绝不外传。
架构:两张卡分工。一张专门看版式,另一张让大模型认字。实测下来,昇腾上没法在一个进程里直接推理。得拆成两个独立服务才稳当。
避坑:官方没写的雷最多。比如旧版运行时会崩、新容器秒退。还有离线环境漏配本地模型路径就会联网报错。作者把踩过的坑全列成了速查表。
交付:光有接口不算完。他们还搭了个纯 Python 的网页端。同事不用写代码,拖拽文件就能用。前端零依赖,断网也能正常打开中文 PDF。
代价:单卡只能排队。冷启动要等 40 多秒,之后每页大概 6 到 11 秒。不过好处是结果完全可复现,同一份文档反复跑,字符数分毫不差。
原文昇腾环境私有化文档解析:把OCR 关进内网,再配一套真正能用的前端
山东,1小时前,