别把公司文档直接喂给AI!我建了十几个库才看清这个真相

（阅读预计需要 8-10 分钟，建议先收藏再慢慢看）

做AI落地久了，经常遇到一种让人哭笑不得的客户。老板甩来一个几个G的压缩包，豪气干云地说：“公司十年的资料全在这了，赶紧喂给AI，以后员工有啥不懂直接问它。”

在他们眼里，大模型像个无底洞的胃，吃进去的是草，挤出来的该是高纯度的奶。但作为一个建了十几个知识库的“过来人”，我只能苦笑：直接把这一堆乱七八糟的文档塞进去，AI不仅不会变专家，还会变成满嘴跑火车的“疯子”。

“喂数据”远没有想象中那么简单。让AI变聪明的关键，藏在那些看不见的底层逻辑里。

很多客户的知识库，其实是“历史垃圾场”：三年前作废的规章、上个月的临时通知、离职员工的草稿混在一起。把这些互相矛盾的内容喂给AI，它会精神分裂。你问报销标准，它可能把旧规和新规揉在一起，编出一个不存在的数字。

— 十年的文档一股脑入缸，AI分不清新规和废纸

解法：建库第一步不是解析文档，是断舍离。过期的删掉，冲突的标明时间线。AI只负责提取，不负责做真伪鉴定。

清洗完数据，AI怎么找答案？这里要区分两种基础检索方式。

全文检索像拿书名去图书馆查目录。你说“报销”，它就找带这两个字的段落。精准但死板。如果客户问“差旅费怎么走流程”，文档里只写了“报销制度”，它就傻了。

向量检索像跟管理员说“我想找本讲出差花钱的书”。管理员没看到“报销”俩字，也能根据意思找来相关制度。它把文字转换成数字（向量）计算距离。聪明但偶尔会飘。

所以，好用的知识库从来不做单选题。主流平台都会用混合检索，把“死磕字眼”和“理解意思”结合起来。

混合检索会捞出大量段落，但全塞给大模型会把它撑爆。这里有两个关键参数：

Score阈值（及格线）：系统给检索到的段落打分，只有匹配度超过及格线的，才有资格送到大模型面前。设低了，AI看垃圾开始胡编；设高了，什么都找不到，直接哑火。

TopK（名额限制）：就算一百个段落及格，也只取分数最高的前 K 个（如Top 3）给模型看。太大噪音多，太小信息不全。

调这两个数，是产品经理最枯燥也最见功力的日常。

文档太长得切碎。切太碎，上下文断了，AI可能只看到“禁止操作”，没看到“除某某情况外”；切太大，无关信息干扰抓重点。

解法：按语义切，而不是按字数无脑切。一段完整的问答、一个表格切在一起，保留完整业务逻辑。

企业知识不只文字，还有产品照片、架构图、报错截图。

现在前沿的多模态检索，能把图片和文本放进同一个语义空间。用户问“这个报错界面对应哪个流程”，系统能把截图和文字一起找出来。未来的知识库，不再区分“文本库”和“图片库”。

最致命的业务坑。直接把高管薪酬的文档喂给AI，员工问一句“老板赚多少钱”它老实答出来，就是重大安全事故。

刚才讲的，都属于传统RAG。它像个只会按固定路线走的快递员：提问→搜一次→生成答案→结束。

但真实业务问题很复杂。比如：“对比一下华东和华南区上季度Top3产品的库存。”传统RAG直接拿整句去搜，大概率答非所问，因为它不会“拆解问题”。这就是行业正在向Agentic RAG（代理式RAG）进化的原因。

它给知识库配了一个“经验丰富的调查员”。

— 调查员带着工具箱查案：拆解、纠错、多轮检索

它从“被动查阅”变成了“主动调查”，会自己拆解、纠错、多轮检索。

技术演进极快，工具越来越聪明。但我反而觉得，最核心的难点依然没变。

数据清洗、切片策略、Score阈值、权限隔离，这些不会因为架构升级而消失。Agentic RAG 是在这层地基上盖楼，地基没打好，楼越高塌得越快。

建知识库，拼的不是模型多牛，而是产品经理对业务的梳理能力。知识库不是垃圾桶，是图书馆，你得分类上架、做好索引。

数据喂对了，AI自然就聪明了。

阿雪，AI产品经理

公众号：行思拾光手记

行思拾光，边走边记。“行思”是边走边想，“拾光”是拾取时光。

这里写AI、写产品、写复盘与成长。也写一个AI产品经理的真实思考。

既然看到这里了，如果觉得有用，随手点个赞、在看、转发三连吧。

THANKS FOR READING