进阶篇:手把手教你为AI助手
接入知识库与联网搜索
RAG私有文档问答 · 实时联网检索 · 保姆级实操指南
一、什么是RAG?为什么需要它?
RAG(Retrieval-Augmented Generation,检索增强生成)的核心逻辑是:先检索,再生成。
📌 RAG对话:你问 → 系统先从你的文档中检索相关内容 → 连同问题一起交给模型 → 模型基于真实文档回答
这样,你的AI助手就能准确回答公司内部文档、个人笔记、技术手册等私有内容,且每条回答都带有引用来源。
二、配置知识库(RAG)实操
1. 部署嵌入模型(Embedding Model)
RAG的第一步是将文档向量化,这需要嵌入模型。推荐轻量高效的 nomic-embed-text,通过Ollama拉取:
2. Open WebUI后台配置
登录管理员账号,进入 Admin Panel → Documents → RAG Settings:
Ollama🔹 Embedding Model Engine:选择
nomic-embed-text🔹 Chunk Size:建议保持默认 1000(控制每段文本长度)
🔹 RAG Template:可自定义提示词,指导模型如何引用文档
配置完成后点击 Save 保存。
3. 创建知识库并上传文档
返回主界面,点击左侧 Workspace → Knowledge,点击 + Create Knowledge:
② 点击 Upload Files 上传文档
③ 支持格式:PDF、Markdown、TXT、DOCX、PPTX 等
④ 系统自动分段、向量化并建立索引(进度条完成后即可使用)
4. 在对话中挂载知识库
新建聊天时,在输入框上方点击 # 图标,选择你创建的知识库。然后直接提问:
🤖 AI将基于你上传的文档回答,并在引用处标注来源文件名。
三、开启联网搜索能力
除了私有知识库,你还可以让AI助手实时搜索互联网获取最新信息。Open WebUI内置了Web Search功能,支持多种搜索引擎。
方案A:自托管 SearXNG(推荐,完全免费无限制)
SearXNG 是一个开源的元搜索引擎,聚合了Google、Bing、DuckDuckGo等结果,可私有化部署。
1. 部署 SearXNG:
2. 在 Open WebUI 中配置:
进入 Admin Panel → Web Search:
searxng🔹 SearXNG URL:填写
http://127.0.0.1:8080🔹 Results Count:建议 5-8 条
🔹 勾选 Enable Web Search
方案B:使用 Tavily API(最简单,有免费额度)
Tavily 是专为AI设计的搜索API,无需自托管:
② Admin Panel → Web Search → Engine 选
tavily③ 填入 API Key,勾选启用即可
如何使用联网搜索?
在聊天界面,输入框下方会出现一个 🌐 地球图标,点击激活后,AI会在回答前先搜索互联网,并附上参考链接。
🤖 AI将实时检索网页,汇总最新信息并给出来源链接。
四、常见问题排查
→ 确认嵌入模型
nomic-embed-text 已下载完成。在服务器执行 docker exec -it ollama ollama list 查看模型列表。❌ 知识库回答"未找到相关信息"?
→ 检查文档是否成功解析(部分扫描版PDF无法提取文字)。尝试在RAG Settings中调小 Chunk Size 或调整 Top K 参数。
❌ 联网搜索无结果?
→ SearXNG方案:确认容器运行正常
docker ps | grep searxng。Tavily方案:确认API Key有效且未超免费额度。❌ 回答变慢?
→ RAG检索和联网搜索都会增加延迟。可在设置中减少检索结果数量(Top K ≤ 3),或升级服务器配置。
🎉 你的AI助手现在"上知天文,下知你文件"
私有知识库 + 实时联网 = 真正的智能助理
📌 下期预告
《终极篇:将AI助手接入微信/飞书/Telegram,打造7×24小时智能Agent》
关注公众号,第一时间获取后续干货教程!
--- END ---
如果本文对你有帮助,欢迎 点赞 · 在看 · 转发 支持作者
点击上方蓝字关注,获取更多AI技术实战教程
夜雨聆风