夜雨聆风学习资料网

ARTICLE · 1109171

我常用的AI工具, Ollama五款中文嵌入模型

我常用的AI工具, Ollama五款中文嵌入模型

我常用的AI工具, Ollama五款中文嵌入模型

搭本地知识库,大模型换了一圈,检索还是答非所问。问题常出在嵌入模型——它负责把文字变成数字向量来找资料。

我横评了 Ollama 里五款常见的中文嵌入模型,最后只推 shaw/dmeta-embedding-zh。这模型专为中文训练,体积才 409MB,跑起来比 qwen3 快约 5 倍,8G 显存就能轻松带飞。

另外四款各有短板:bge-m3 多语言不错但偏大;qwen3 中文行却太慢;nomic 和 all-minilm 一个英文为主、一个中文差。需要注意的是,维度不同的模型没法直接替换,得重建向量库。

接进 AnythingLLM 时,千万别点 workspace 级设置,要去左下角真正的 app 级设置里改。把分块大小改成 1000、重叠改成 200,不过这招只对之后新传的文档生效。

接 Chatbox 也一样,全局设好 Ollama 后,记得把模型类型选成“嵌入”,不然下拉菜单根本亮不起来。

原文我常用的AI工具, Ollama五款中文嵌入模型评测 !
作者提示: 个人观点,仅供参考
辽宁,1小时前,

相关学习资料