ARTICLE · 1047751

Windows 系统搭建个人Ai知识库

发布时间：2026-09-21 01:56:28 最近访问：2026-09-21 01:56:27

Windows 系统搭建个人Ai知识库

在 Windows 上使用 Qdrant、AnythingLLM 和 Ollama 搭建 AI 知识库，核心是完成三者的本地集成与网络配置。下面是搭建方案。

📋 架构概述

组件角色默认端口Ollama 本地大语言模型（LLM）推理引擎 11434Qdrant 向量数据库，存储文档切片后的向量嵌入 6333 (REST API)AnythingLLM 知识库前端界面与 RAG 编排层 3001

三者关系：AnythingLLM 将文档切片后，调用嵌入模型生成向量，存入 Qdrant；用户提问时，AnythingLLM 从 Qdrant 检索相关片段，连同问题一起发给 Ollama 生成回答。

🛠️ 第一步：安装与配置 Qdrant（原生二进制，无需 Docker）

下载 Qdrant

访问 Qdrant Releases 页面，下载最新的 qdrant-x86_64-pc-windows-msvc.zip 文件。

解压并创建目录结构

解压到固定位置，例如 D:\ProgramData\Qdrant\，目录结构如下：

D:\ProgramData\Qdrant\├── qdrant.exe├── storage\        # 手动创建，用于存放向量数据      └── config   └── config.yaml  # 可选，推荐创建

创建配置文件（推荐）

在 config.yaml 中写入以下内容：

service:  host: 0.0.0.0  http_port: 6333  grpc_port: 6334storage:  storage_path: ”./storage”

host: 0.0.0.0 表示监听所有网络接口，为后续局域网访问做准备。

启动 Qdrant

打开 CMD，切换到 Qdrant 目录，执行：

cd D:\ProgramData\Qdrantqdrant.exe

看到类似 {"title":"qdrant - vector search engine","version":"1.x.x"} 的输出即表示启动成功。浏览器访问http://localhost:6333/healthz可验证服务状态。

可选：注册为 Windows 服务（开机自启）

下载 NSSM，以管理员身份执行：

nssm install qdrant ”D:\ProgramData\Qdrant\qdrant.exe”nssm set qdrant AppDirectory ”D:\ProgramData\Qdrant”nssm set qdrant Start SERVICE_AUTO_STARTnssm start qdrant

🤖 第二步：安装与配置 Ollama

下载安装 Ollama

访问 Ollama 官网下载 Windows 安装包，双击安装。安装程序不需要管理员权限，默认安装在用户目录下。

拉取模型

打开 CMD，执行以下命令下载并运行模型：

ollama run qwen2.5:7b

如需轻量测试，可先用 ollama run deepseek-r1:1.5b。模型默认存储在 %HOMEPATH%.ollama，如需更改路径，设置环境变量 OLLAMA_MODELS。

配置局域网访问（关键步骤）

默认 Ollama 只监听 127.0.0.1，其他设备无法访问。需要设置两个环境变量：

· 打开设置 → 搜索 "环境变量" → 点击 "编辑账户环境变量"· 新建变量 OLLAMA_HOST，值为 0.0.0.0:11434· 新建变量 OLLAMA_ORIGINS，值为 *，避免跨域问题

设置完成后，彻底重启 Ollama（在任务管理器中结束 ollama.exe 进程，然后重新启动）。

🧠 第三步：安装与配置 AnythingLLM

下载安装 AnythingLLM Desktop

访问 AnythingLLM 官网下载 Windows 桌面版，双击安装。

配置 LLM（连接 Ollama）

打开 AnythingLLM，进入设置 → LLM 首选项：

· 提供商选择 Ollama· 地址填写http://localhost:11434（桌面版直接连接宿主机，不需要host.docker.internal）· 在下拉菜单中选择已下载的模型（如 qwen2.5:7b）

配置向量数据库（连接 Qdrant）

进入设置 → AI Providers → Vector Database：

· 向量数据库提供商选择 Qdrant· 地址填写http://localhost:6333· 如果 Qdrant 设置了 API 密钥，填入对应凭据；本地无认证则留空即可

保存后，AnythingLLM 会自动在 Qdrant 中创建对应的集合（Collection）。

创建知识库并上传文档

· 新建一个 Workspace，命名你的知识库· 上传 PDF、Word、TXT、Markdown 等文档· 系统自动完成切片、向量化并写入 Qdrant

上传后可在 AnythingLLM 工作区的 Vector Database 选项卡中查看向量计数，确认数据已成功写入 Qdrant。

💡 常见问题排查

Q：AnythingLLM 连接 Qdrant 失败？

· 确认 Qdrant 正在运行（浏览器访问http://localhost:6333/healthz）· 确认地址填写为http://localhost:6333，末尾不要加斜杠

Q：Ollama 设置环境变量后仍无法从其他设备访问？

· 确认已彻底重启 Ollama（任务管理器中结束进程）· 确认变量名拼写正确：OLLAMA_HOST，值为 0.0.0.0:11434

📝 数据存储位置速查

组件数据位置Qdrant 向量数据 D:\ProgramData\Qdrant\storageOllama 模型 %HOMEPATH%.ollama\（可通过 OLLAMA_MODELS 更改）AnythingLLM 配置与缓存 C:\Users<用户名>\AppData\Roaming\anythingllm-desktop\storage\

备份：定期备份 Qdrant 的 storage 目录和 AnythingLLM 的 storage 目录，即可完整恢复整个知识库。