仅440MB的手机版翻译模型,性能超越谷歌?
腾讯混元近日开源手机端离线翻译模型 Hy-MT1.5-1.8B-1.25bit,把 1.8B 级翻译大模型压缩到约 440MB,可在安卓手机本地运行,无需联网即可完成翻译。
官方称,该模型支持 33 种语言,并在相关评测中翻译质量优于谷歌翻译。Hy-MT1.5 原本包含 1.8B 和 7B 两个版本,其中 7B 版本来自腾讯混元 WMT25 冠军模型的升级路线,支持术语干预、上下文翻译和带格式翻译。此次端侧版本的看点,是通过 1.25-bit 极致量化,把原本数 GB 级别的模型压到普通手机也能承受的体积。
据介绍,1.25-bit 版本采用 Sherry 稀疏高效三值量化方案:每 4 个参数中,3 个重要参数用 1-bit 存储,另 1 个置零,平均每个参数仅需 1.25-bit。配合面向手机 CPU 的 STQ 内核优化后,模型可以在本地完成实时翻译。这意味着翻译能力不再完全依赖云端 API。
对用户来说,离线翻译可以减少网络依赖,也能降低敏感文本上传带来的隐私风险;对开发者来说,阅读器、浏览器、邮件客户端、企业 IM 等产品,都有机会把本地翻译作为基础能力集成进去。
不过需要注意的是:合同、法律、医疗、公开发布内容等高风险文本,仍然需要人工复核。
其它金额
赞赏金额
¥
最低赞赏 ¥0
1
2
3
4
5
6
7
8
9
0
.
湖北,38分钟前,
夜雨聆风