RAG不是给AI喂文档：答不准，多半卡在“切块”这一步

屏幕上那段被切成几块的文本，颜色不一样。

它到底在干什么

大模型本身不知道你的内部资料。RAG 的做法是：把你的文档切成小块，转成向量存进库；用户提问时，先按语义检索出最相关的几块，再把这几块拼进提示词，让模型基于它们回答。所以答案准不准，取决于“检索出来的那几块对不对”。

模型只是最后那个念稿的人，稿子选错了，念得再流利也是错的。

最常见的失败点在切块

切得太小，一句话被拆开，语义断了；切得太大，一块里混了三个主题，检索时噪声多。经验值：中文文档一块三百到五百字，按标题层级切，别按固定字数硬切。表格和条款单独处理，别混在正文里。

第二个失败点：问题没改写

用户问“上个月的退货率”，文档里写的是“10月退款金额占比”。字面不重合，向量也未必近。做法是先让模型把问题改写成几个检索式，再分别召回，合并去重。

第三个：没有出处约束

提示词里必须写“只依据以下材料回答，材料里没有的说没有”。不加这句，模型会自己补，补出来的东西看着像真的。

RAG 的效果，八成在数据准备，两成在提示词，模型本身占比最小。

先去翻你自己的切块规则，多数问题在那一页就能找到。

图片来源：网络公开素材，仅作示意；如涉版权请联系删除。