乐于分享
好东西不私藏

进阶篇:手把手教你为AI助手 接入知识库与联网搜索

进阶篇:手把手教你为AI助手 接入知识库与联网搜索

进阶篇:手把手教你为AI助手
接入知识库与联网搜索

RAG私有文档问答 · 实时联网检索 · 保姆级实操指南

💡 导读:上篇文章我们完成了专属AI助手的私有化部署。但默认的大模型有个致命缺陷——知识有截止日期,且无法访问你的私有文档。本文将教你通过 RAG(检索增强生成) 接入个人知识库,并配置 联网搜索 能力,让你的AI助手既能"读你的文件",又能"上知互联网"。

一、什么是RAG?为什么需要它?

RAG(Retrieval-Augmented Generation,检索增强生成)的核心逻辑是:先检索,再生成

📌 传统对话:你问 → 模型凭训练记忆回答(可能过时/幻觉)
📌 RAG对话:你问 → 系统先从你的文档中检索相关内容 → 连同问题一起交给模型 → 模型基于真实文档回答

这样,你的AI助手就能准确回答公司内部文档、个人笔记、技术手册等私有内容,且每条回答都带有引用来源。

二、配置知识库(RAG)实操

1. 部署嵌入模型(Embedding Model)

RAG的第一步是将文档向量化,这需要嵌入模型。推荐轻量高效的 nomic-embed-text,通过Ollama拉取:

docker exec -it ollama ollama pull nomic-embed-text
⚠️ 嵌入模型仅需下载一次,约274MB,对服务器资源占用极低,与对话模型可同时运行。

2. Open WebUI后台配置

登录管理员账号,进入 Admin Panel → Documents → RAG Settings

🔹 Embedding Engine:选择 Ollama
🔹 Embedding Model Engine:选择 nomic-embed-text
🔹 Chunk Size:建议保持默认 1000(控制每段文本长度)
🔹 RAG Template:可自定义提示词,指导模型如何引用文档

配置完成后点击 Save 保存。

3. 创建知识库并上传文档

返回主界面,点击左侧 Workspace → Knowledge,点击 + Create Knowledge

① 输入知识库名称(如"公司产品手册")
② 点击 Upload Files 上传文档
③ 支持格式:PDF、Markdown、TXT、DOCX、PPTX 等
④ 系统自动分段、向量化并建立索引(进度条完成后即可使用)

4. 在对话中挂载知识库

新建聊天时,在输入框上方点击 # 图标,选择你创建的知识库。然后直接提问:

💬 "根据知识库内容,我们的退款政策是怎样的?"
🤖 AI将基于你上传的文档回答,并在引用处标注来源文件名。

三、开启联网搜索能力

除了私有知识库,你还可以让AI助手实时搜索互联网获取最新信息。Open WebUI内置了Web Search功能,支持多种搜索引擎。

方案A:自托管 SearXNG(推荐,完全免费无限制)

SearXNG 是一个开源的元搜索引擎,聚合了Google、Bing、DuckDuckGo等结果,可私有化部署。

1. 部署 SearXNG:

docker run -d \ --name searxng \ -p 127.0.0.1:8080:8080 \ -e BASE_URL=http://localhost:8080/ \ -v ./searxng:/etc/searxng \ --restart always \ searxng/searxng:latest

2. 在 Open WebUI 中配置:

进入 Admin Panel → Web Search

🔹 Web Search Engine:选择 searxng
🔹 SearXNG URL:填写 http://127.0.0.1:8080
🔹 Results Count:建议 5-8 条
🔹 勾选 Enable Web Search

方案B:使用 Tavily API(最简单,有免费额度)

Tavily 是专为AI设计的搜索API,无需自托管:

① 注册 tavily.com 获取 API Key
② Admin Panel → Web Search → Engine 选 tavily
③ 填入 API Key,勾选启用即可

如何使用联网搜索?

在聊天界面,输入框下方会出现一个 🌐 地球图标,点击激活后,AI会在回答前先搜索互联网,并附上参考链接。

💬 "搜索2025年最新的Python性能优化技巧"
🤖 AI将实时检索网页,汇总最新信息并给出来源链接。

四、常见问题排查

❌ 上传文档后索引失败?
→ 确认嵌入模型 nomic-embed-text 已下载完成。在服务器执行 docker exec -it ollama ollama list 查看模型列表。

❌ 知识库回答"未找到相关信息"?
→ 检查文档是否成功解析(部分扫描版PDF无法提取文字)。尝试在RAG Settings中调小 Chunk Size 或调整 Top K 参数。

❌ 联网搜索无结果?
→ SearXNG方案:确认容器运行正常 docker ps | grep searxng。Tavily方案:确认API Key有效且未超免费额度。

❌ 回答变慢?
→ RAG检索和联网搜索都会增加延迟。可在设置中减少检索结果数量(Top K ≤ 3),或升级服务器配置。

🎉 你的AI助手现在"上知天文,下知你文件"

私有知识库 + 实时联网 = 真正的智能助理

📌 下期预告

《终极篇:将AI助手接入微信/飞书/Telegram,打造7×24小时智能Agent》
关注公众号,第一时间获取后续干货教程!

--- END ---

如果本文对你有帮助,欢迎 点赞 · 在看 · 转发 支持作者

点击上方蓝字关注,获取更多AI技术实战教程