夜雨聆风上一篇我们把 AI 机器人接进了企业微信群。
群里同事问了几个问题，有的答得不错，有的……离谱得想让你把它踢出去。
别慌，这很正常。今天教你怎么找出问题、修好它。不需要会写代码，Dify 后台点点点就行。
一、先搞清楚：它为什么会"答错"
AI 机器人答错，通常就三种情况：
| 错误类型 | 表现 | 本质原因 |
|---|---|---|
| 胡说八道 | 编造不存在的信息 | 知识库没覆盖，模型自由发挥了 |
| 答非所问 | 回答跑题 | 意图识别出了问题（提示词不够清晰） |
| 信息过时 | 回答的内容是旧的 | 知识库没有及时更新 |
搞明白是哪种错，才能对症下药。
二、第一步：看日志（找病因）
Dify 的日志系统是你最好的调试工具。
操作路径： 应用 → 监测 → 日志
每条用户对话都会被记录，点进去能看到：
- 用户原始输入——用户到底问了什么
- 检索结果——从知识库里召回了哪些片段
- 最终提示词——发给模型的完整 prompt（含系统提示 + 知识库内容 + 用户问题）
- 模型输出——AI 最终回复了什么
- Token 消耗——这次对话花了多少钱
重点看第 2 步和第 3 步。
如果检索结果就是空的或者不相关 → 问题在知识库（召回策略或内容覆盖不够）。
如果检索到了正确内容，但模型还是答错了 → 问题在提示词（模型没按你的要求组织答案）。
三、第二步：调提示词（治标）
提示词是你给 AI 的"行为规范"。调得好，效果天差地别。
常见优化技巧：
技巧 1：加"角色锁定"
你是 XX 公司的内部知识助手。
你只能基于以下提供的参考资料回答问题。
如果参考资料中没有相关信息，请直接说"这个问题我暂时没有答案，建议联系 XX 部门"。
绝对不要编造信息。这个"绝对不要编造"很关键。没有这条，模型遇到不会的问题会"创作"答案。
技巧 2：指定回复格式
回复要求：
- 先用一句话直接回答问题
- 然后给出具体步骤或依据
- 最后注明参考来源
- 全部回复控制在 500 字以内有格式约束，模型的回复质量会明显提升。
技巧 3：加"反面示例"
错误示范：
用户问"报销流程是什么"
错误回答："一般来说公司报销需要填写报销单..."（编造的通用答案）
正确示范：
用户问"报销流程是什么"
正确回答："根据公司制度，报销流程为：1. 在OA系统提交申请 2. 上传发票照片..."（基于知识库的准确答案）给模型看一个错误例子 + 一个正确例子，效果比说十遍"不要编造"都好。
四、第三步：优化知识库（治本）
如果日志里发现检索结果不相关，问题出在知识库这边。
优化 1：调整分段策略
路径： 知识库 → 文档 → 设置 → 分段规则
Dify 支持三种分段方式：
- 自动分段：系统按语义自动切
- 自定义分段：你指定分隔符（比如按 ## 标题分）
- 父子分段：先粗分再细分（2026 年新功能）
经验法则：
- 每段 300-500 字效果最佳
- 太长 → 召回内容太多，模型"选择困难"
- 太短 → 上下文断裂，回答不完整
优化 2：调检索模式
路径： 应用 → 编排 → 知识库节点 → 检索设置
三种检索模式：
| 模式 | 适用场景 |
|---|---|
| 向量检索 | 语义相似度匹配，适合"意思相近但用词不同"的查询 |
| 全文检索 | 关键词匹配，适合专有名词、编号等精确查询 |
| 混合检索 | 两者结合，推荐大多数场景用这个 |
Top-K 和 Score 阈值也很关键：
- Top-K：召回几段内容（推荐 3-5）
- 阈值：相似度多高才算"相关"（推荐 0.5-0.7）
阈值太低 → 召回一堆不相关的，模型被干扰 阈值太高 → 可能漏掉正确答案
优化 3：给文档加元数据
上传文档时，给每篇加上标签：
- 部门：财务 / 人事 / 技术
- 文档类型：制度 / 操作手册 / FAQ
- 更新日期：2026-06
这样在检索时可以做过滤，比如"只从财务制度里找答案"，精准度直接翻倍。
五、进阶玩法：A/B 测试
想知道调完之后有没有变好？做 A/B 测试。
方法： 在 Dify 里复制一个应用副本，改一版提示词。然后准备 10-20 个典型问题，两个版本各跑一遍，人工比较回答质量。
评分标准建议：
| 维度 | 1分 | 3分 | 5分 |
|---|---|---|---|
| 准确性 | 有明显错误 | 大致正确 | 完全准确 |
| 相关性 | 答非所问 | 沾边 | 精准命中 |
| 完整性 | 缺关键信息 | 基本覆盖 | 完整全面 |
| 可读性 | 看不懂 | 能理解 | 清晰易读 |
每个问题 4 个维度打分，总分除以题数就是平均表现。新版本至少要比旧版本高 0.5 分才值得上线。
六、实战：一个真实调试过程
问题： 员工问"年假还剩几天"，机器人回答"根据劳动法规定每年 5 天..."
诊断：
- 看日志 → 检索结果为空（知识库里没有个人年假数据）
- 模型没检索到内容 → 用通用知识瞎编了
解决方案：
- 在提示词里加一条：
涉及个人假期余额、工资等个性化数据的问题，请引导用户到 OA 系统自助查询，不要试图回答具体数字 - 知识库里补充一篇《常见问题引导表》，写明哪些问题应该引导到哪个系统
效果： 机器人现在会回复："年假余额属于个人数据，请登录 OA 系统 → 我的假期 → 查看余额。如果有使用年假的政策问题，我可以帮你解答。"
完美。
小练习
- 打开你的 Dify 应用日志，找 3 条回答质量差的对话
- 判断是"知识库问题"还是"提示词问题"
- 对应调整一版，再测试同样的问题
花 30 分钟做完这三步，你的 AI 助手回答质量能提升一个档次。
下一篇预告
调试搞定了，但老板问你："这东西到底有多少人在用？效果好不好？"——下一篇聊 Dify 的数据分析与运营看板，教你用数据证明 AI 助手的价值，让老板继续给你预算。
关注「AI引路者」，每天用大白话帮你搞懂 AI。看完就能用。
📦 回复「AI模板」获取 30 个实用 Prompt 模板，直接复制就能用！