很多企业现在都在推AI落地,最常见的切入口就是搭建企业级知识库。但看了几个知识库项目之后,我发现了一些普遍存在的问题:有些公司搭建了企业知识库,但是应用效果并不理想,其实问题并不在技术上,而是从数据治理、文档处理,到检索问答、权限管控、日常运营,各个环节都有偏差。很多团队死磕技术细节,却忽略了落地场景的底层逻辑,所以就导致做出来的产品很鸡肋,不好用。
01 框架选型存在偏差
搭建AI知识库,技术框架的选择是第一个关卡。目前主流的技术框架有RAG、LLM-Wiki、知识图谱等。但很多团队压根就没有想清楚自己的业务场景和数据特征,就追热点、堆技术,觉得越新越复杂的就越厉害,结果往往是“高配低适”,要么性能冗余、token消耗大、成本蹭蹭涨,要么召回的内容质量比较差,应用效果不好。
▪迷信通用RAG。RAG确实是当下最成熟、最热门的方案,但是它擅长的其实是碎片化的向量检索和问答,在规范溯源、跨文档关联、复杂推理、图文解析等方面的能力还比较薄弱。比如研发设计和施工管理这类业务,工程师查资料时,不只是要答案,还得能逐条核对图集规范、找到原始依据。在这种场景下单纯套RAG,效果往往不及预期。
▪堆砌复杂框架。GraphRAG、知识图谱、多模型融合这类复杂框架,对数据质量、标注成本、运维能力和算力要求都很高。大部分中小企业的业务数据零散、场景简单、人力也有限,强行落地只会造成功能闲置、资源浪费。而且复杂的架构去跑简单业务,维护成本也会大幅上升。
▪场景与技术错配。不同业务场景,匹配的技术路径本来就有差别。标准化业务需要精准溯源,如果答案飘忽不定,员工根本不敢相信;复杂推理场景如果只用关键词检索,拿到的都是碎片化的信息,深层逻辑根本串不起来;日常高频问答非得上知识图谱,响应慢、体验差,员工用几次就不愿意用了。所以说,技术选型不是选最厉害的,是选最合适的。
02 忽略了源头数据治理
搭建企业级AI知识库,核心就是“知识”。但是很多企业的原始数据本身就杂乱无章,并不具备知识价值,大模型再强拿到这样的数据也没办法。
▪知识零散杂乱。很多企业里真正有价值的经验和知识(如:技术方案、复盘总结、交底资料、实操技巧等各种资料)都散落在员工电脑、微信群、QQ群、会议纪要和项目文件里,很多没有被统一收集和梳理过。知识库真正需要的是结构化的数据,而不是一堆杂乱无章的垃圾信息。
▪文档格式不规范。传统企业的存档资料,数据格式也不统一,不适应AI的解析逻辑。比如老旧扫描件没有文字层,图文混排的重要信息是放在图里的,复杂的表格结构错乱,手写批注和正文搅在一起。对大模型来说,这些东西基本都是无效的垃圾数据。后面不管向量拆分、检索优化做得再好,最终输出的效果也很差。关键是垃圾信息一多,还会挤占优质内容的输出空间。
03 文档预处理割裂完整语义
数据收集以后,文档分块和清洗预处理也是关键环节。但是有些团队把它当流水线操作,设置参数一刀切,直接就把很多专业文档的完整性和关联性给打碎了。
▪分块大小全凭感觉。文档的分块大小决定了检索的精准度。分块太大,一个段落里塞了很多无关信息,大模型抓不住重点,回答空泛;连续的公式推导、操作步骤、逻辑链路被强行拆散,信息断裂,该召回的内容召不回来。如果凭感觉调参数,不看文档类型和知识结构,精准度就时好时坏,很不稳定。
▪内容关联性薄弱。专业文档的术语定义、规范条款、计算依据,这些相互关联的内容,往往散落在不同章节甚至不同文件里。但是传统RAG按独立块切割,识别不了跨章节、跨文档的关联关系。就导致知识库里明明有资料,它就是答不上来。
▪图表类知识解析失效。工程行业,施工图纸、工作报表、分析图、流程图……才是业务落地真正的依据。但是传统RAG只支持纯文本解析,很多图表内部的数据和逻辑是读不懂的,只能抓个标题文字。用户一问到图表数据、参数对比、流程规范,系统完全没法回应。
04 知识检索精准度失控
检索是用户体验最直观的环节,也是问题比较多的地方。很多知识库看起来有结果,但漏检、误检、排序错乱这些隐形问题一大堆,软件应用说崩就崩。
▪语义割裂,偏差大。用户提问大多是口语化表达和行业俗称,知识库里存的资料却是标准化术语。两套语言系统,计算相似度时就被自然拉远。而且RAG没法自动做语义对齐,开发时没设计特定机制的话,用户想问的知识就搜不到,系统能搜到的又没人用。
▪阈值不准,漏检误检。 相似度阈值也很重要。调低了,大量的低质量内容被捞上来干扰判断,答非所问;调高了,高价值但相似度不高的专业内容又被过滤掉,关键信息漏了。检索排序也僵化,最核心的答案往往排在后头,模型先读到前面的无关内容,直接跑偏。
▪多跳推理机制缺失。 企业里很多业务是多步骤、多维度、跨场景的,需要先确定场景,再追溯问题,最后调解决方案,多步联动才答得出来。但传统RAG是单次独立检索,接不住多轮上下文,也串不起多步检索。遇到复杂推理直接失效,输出全是碎片信息,根本解不了实际问题。
05 生成输出质量差
检索完后,大模型输出的答案是用户最终拿到的东西,也经常出现各类问题,有的内容看起来文字通顺、条理清晰、看似很专业,实际上则漏洞百出。
▪答案残缺不全。大模型是基于召回的内容生成答案的,它无法判断"信息是否完整"。像规范标准、操作流程这类内容,一旦检索缺了部分条目,模型会默认现有信息是完整的,自信满满输出一个残缺答案。这类问题隐蔽性极强,用户根本意识不到信息被遗漏了,直接照搬极易引发操作失误和项目风险。
▪内容矛盾重复。工程类企业中,新旧规范、不同项目方案、不同版本手册,对同一问题的表述可能有较大差别。RAG无差别召回所有相关内容,大模型又缺乏甄别、去重、优先级判断的能力,最终会把把重复矛盾的信息堆在一起输出。用户可能就不知道该信哪个,反而陷入决策的困惑。
▪答案缺乏可信度。AI输出的答案没有可信度标注、没有原文溯源、没有相似度说明,经常会出现“幻觉”。哪怕只匹配到少量弱相关内容,AI也会笃定地输出。用户无法分辨答案的真伪和完整度,想放心用就得逐字核对原文。当用AI比自己查文档还麻烦时,知识库就彻底失去了价值。
06 权限层隐藏安全漏洞
有些团队搭建知识库时只盯着问答效果,却忽略了权限体系。权限管控缺失不仅带来安全风险,也直接限制了知识库的精准度和适用场景。
▪权限管控粗放。企业文档有明确的层级和保密属性:如:研发数据、高层决策资料、项目成本数据、关键技术实操文档等,都对应不同可见权限。既不能无差别的开放权限,让基层员工检索到核心机密;也不能对所有人屏蔽机密信息,这样的这个知识库对高层管理岗作用就不大。
▪权限适配滞后。在企业里,项目更迭、人员调动、权限升降也都是常态,但传统向量数据库却无法原生适配这种动态权限,只能检索后做二次过滤。在海量数据的情况下,每个的过滤计算都要耗费大量计算资源,卡顿严重;但是简化过滤,安全性又无法得到保证。

结 语:企业AI知识库做不好,问题不在RAG本身。RAG从来不是万能解药,不同业务得匹配不同方案:标准化规范、条文溯源类场景,LLM-Wiki更严谨可追溯;复杂关联分析、多跳推理,知识图谱加GraphRAG优势明显;日常简单问答、碎片化检索,轻量化RAG性价比最高。真正能落地的知识库,一定是数据治理打底、场景适配做轴、多技术组合支撑、长效运营保障。
下一篇我会详细对比各类技术框架的优劣和适配场景,供大家搭建企业AI知识库时参考。
作者简介:张贤超 . 高级工程师、首席技术官。长期从事数字建造技术创新和项目管理工作。

夜雨聆风