ARTICLE · 1110220

我常用的AI工具, Ollama五款中文嵌入模型评测 !

发布时间：2026-10-01 17:55:56 最近访问：2026-10-01 17:55:57

我常用的AI工具，A0054， Ollama五款中文嵌入模型评测！

—模型选对，检索翻倍。

软件介绍

嵌入模型是一种将文本、图像、音频等非结构化数据转化为低维稠密向量（Dense Vector）的算法模型，这些向量（通常几百到几千维）能够捕捉数据的语义信息。

01/嵌入模型到底在干嘛

搭建本地知识库、做 RAG 检索时，很多人第一反应是换更大的大模型，检索效果却纹丝不动。问题常常出在地基—— 嵌入模型没选好。

嵌入模型不「说话」，它把一段文本压缩成一个数字向量。两个意思接近的句子，向量在空间中离得近；语义无关的，离得远。RAG 检索本质上就是：把用户提问也变成向量，再去知识库里找「最近的几个向量」，把对应原文喂给大模型。地基准了，召回才准。

「大模型负责「说」，嵌入模型负责「找」——找不准，说得再漂亮也是答非所问。」

02/我使用的五款中文嵌入模型横评

在 Ollama 里能直接拉到的嵌入模型不少，但中文场景差异很大。

下面五款是本地部署最常见的候选，维度、体积、中文支持一并摆出来。

模型	大小	维度	中文	备注
shaw/dmeta-embedding-zh	约 409 MB	1024	★★★★★	中文专优，100M 参数，速度最快，推荐首选
bge-m3	约 1.2 GB	1024	★★★★	多语言，中文好，体积稍大
qwen3-embedding:0.6b	约 596 MB	1024	★★★★	中文不错，但比 dmeta 慢约 5 倍
nomic-embed-text	约 270 MB	768	★★	英文为主，中文一般
all-minilm	约 45 MB	384	★	最小最快，但中文效果差

维度一致（都是 1024）的模型之间可以直接换着试；维度不同（768、384）则需要重建向量库，迁移成本高。中文优先看「中文」一列。

03/为什么首推 dmeta

一句话：中文场景里，它把「效果、速度、体积」三件事同时拉满了。直接上shaw/dmeta-embedding-zh就够了。

中文专优

100M 参数专为中文训练，语义匹配明显强于通用模型

速度最快

比 qwen3-embedding 快约 5 倍，批量建库不卡

体积小巧

仅 409MB，8GB 显存轻松跑

Ollama 本地部署

拉取模型shaw/dmeta

确认本机已装 Ollama，一行命令拉取 dmeta：

...bash

ollama pull shaw/dmeta-embedding-zh

拉取模型bge-m3

确认本机已装 Ollama，一行命令拉取bge-m3：

...bash

ollama pull bge-m3

拉取模型qwen3-embedding:0.6b3

确认本机已装 Ollama，一行命令拉取qwen3-embedding:0.6b：

...bash

ollama pull qwen3-embedding:0.6b

拉取模型nomic-embed-text

确认本机已装 Ollama，一行命令拉取nomic-embed-text：

...bash

ollama pull nomic-embed-text

拉取模型all-minilm

确认本机已装 Ollama，一行命令拉取all-minilm：

...bash

ollama pull all-minilm

04/AnythingLLM 接入 dmeta 的正确路径

Ollama 跑通后，把它接进AnythingLLM做可视化知识库。这里最容易踩的坑是：点进了workspace 级设置，而不是真正的 app 级设置。下面给的是官方正确的进入路径。

STEP 01退出 workspace 设置面板

点左上角返回箭头（在通用设置 / 聊天设置 / 向量数据库 / 代理配置那行最左边的那个），回到 AnythingLLM 主界面。

STEP 02打开 app 级设置

在主界面左下角侧边栏最底部，找「设置」（一个扳手 / 齿轮图标，贴着底部状态栏）。注意区分：workspace 级那个齿轮是工作区自己的；app 级那个在侧边栏最下面，是和「代理配置」长得不一样的小扳手。

STEP 03进 AI Providers 改两处

在 app 设置里找 AI Providers（LLM 提供者 / 嵌入提供者 / 文本分割器都在这一区），需要改的是下面两样：

Embedding Provider

选 Ollama，模型下拉里选 shaw/dmeta-embedding-zh，保存

Text Splitter

Chunk Size 改 1000、Overlap 改 200（同页下方子区块）

配置项	原值	改为
Embedding Provider	默认 / 其它	Ollama
Embedding 模型	—	shaw/dmeta-embedding-zh
Text Chunk Size	100	1000（字符，非 token）
Text Chunk Overlap	20	200