ARTICLE · 1379721
零基础用Dify搭一个能查文档的AI问答助手,我把踩过的坑都给你标好了
“我是老码,AI探索者,每天进步一点点。”
上周有个做行政的朋友问我:“公司那份200页的员工手册,能不能让AI直接回答同事的问题?”我说能,而且你不需要会写代码。她半信半疑,结果我们用Dify花了一个下午就跑通了——上传文档、建知识库、挂一个对话应用,同事在网页上问“年假怎么算”,AI直接给出答案还附上原文出处。今天这篇文章,就把这条路径完整拆给你,包括我踩过的每一个坑。
前置准备:别急着点“创建”,先把这几样备齐

Dify是开源的LLM应用开发平台,你可以把它理解成“AI应用的乐高底板”:模型、知识库、工作流都是积木,拼起来就能用。我们要搭的这个助手,本质是“知识库检索 + 大模型回答”的组合,也就是常说的RAG。
- 账号与部署
:直接用Dify云端版最省事,注册即用;想本地跑可以用Docker Compose部署,官方文档一条命令搞定。 - 模型
:准备一个可用的模型API Key(OpenAI、通义、DeepSeek等均可),Dify在“设置-模型供应商”里配置。 - Embedding模型
:划重点!知识库检索靠的是向量化,必须单独配一个Embedding模型,很多人只配了对话模型,结果知识库建不起来🥺。 - 文档
:一份结构清晰的PDF或Word,建议先拿10页以内的小文件试水。 
RAG的核心不是“让AI记住文档”,而是“每次提问时,先把最相关的几段原文找出来塞给AI”。理解这句话,后面所有参数你都能想明白。
第一步:把文档变成“可检索”的知识库
进入Dify后点“知识库-创建知识库”,上传你的文档。这里有个关键选择:分段方式。
- 自动分段
:适合结构规整的文档,Dify按标点智能切。 - 自定义分段
:可以手动设定每段长度和重叠字数,重叠(Overlap)建议设为分段长度的10%-20%,防止一句话被切断导致检索不到。
上传后系统会调用Embedding模型做向量化,等待索引完成。偷偷说,这一步如果卡住不动,九成是Embedding模型没配好或者额度用完了,先去“模型供应商”里检查。
第二步:建一个“聊天助手”应用,挂上知识库
点“创建应用-聊天助手”,起个名字,比如“手册小助手”。进入编排页面后,在左侧找到“知识库”模块,把刚建好的知识库加进去。
然后在“提示词”里写清楚角色,这一步直接决定回答质量:
你是公司员工手册问答助手。
请仅根据检索到的知识库内容回答,不要编造。
如果知识库中没有相关信息,直接回复“手册中暂未找到相关内容,建议咨询HR”。
回答时尽量引用原文,并在末尾标注来源段落。这段提示词的作用是给AI划边界:限定它只答知识库里的内容,找不到就老实说,避免一本正经地胡说八道。想改风格就调第一句,想更严格就加“禁止推测”。
第三步:调检索参数,这一步决定“查得准不准”
在知识库设置里找到“召回设置”,三个参数是重点:
- Top K
:每次召回几段原文,默认3-5够用,调太大反而干扰模型。 - Score阈值
:低于这个相似度的片段直接丢弃,建议先设0.5左右再微调,设太高会“什么都查不到”。 - 检索模式
:向量检索语义好,关键词检索命中准,混合检索两者兼顾,推荐新手直接用。
划重点!这里超多新手踩坑:文档明明上传了,AI却说“没找到”。八成是Score阈值设太高,或者分段把关键信息切碎了。先调低阈值测通,再逐步收紧。
第四步:验证效果 + 常见报错排坑
点右侧“调试与预览”,问几个你知道答案的问题,看它答得准不准、有没有标来源。效果不理想时,按这个顺序排查:
- 报错“模型不可用”
:检查API Key和模型供应商配置,注意部分模型需要单独开通权限。 - 知识库索引失败
:多为Embedding模型额度或网络问题,换模型重试。 - 回答“查无此内容”
:先降Score阈值,再检查分段是否过碎。 - 回答跑题或编造
:提示词加约束,检索Top K适当调大。
跑通后点“发布”,你就得到一个可以分享链接的网页助手了。同事打开就能问,全程没写一行后端代码。

写在最后
Dify这类工具真正的价值,不是让你“拥有一个AI”,而是把AI能力塞进具体场景里。手册问答、客服知识库、内部制度查询,套路完全一样:文档→知识库→挂应用→调检索。
今天就动手:拿你手边任意一份文档,按上面五步跑一遍,重点记录你卡在第几步。卡在Embedding还是检索阈值?留言告诉我,我帮你一起排。觉得有用的话,点个赞和在看,转给那个总被同事问制度的朋友吧~
【配图提示】
配图2:一张流程示意图,四个方块依次为“上传文档→向量化→检索召回→大模型回答”,箭头连接,配色科技蓝。 配图3:聊天助手调试界面示意,用户提问“年假怎么算”,AI回答并高亮“来源段落”标注,体现可溯源。
推荐阅读















































































