乐于分享
好东西不私藏

企业搭AI智能体,最大的坑不在技术

企业搭AI智能体,最大的坑不在技术
AI进化湾 · 实战手记

老板跟技术团队说:“咱们也搞个AI智能体吧。”

技术团队说:“没问题,文档导进去就行。”

三个月后,系统搭好了。问它一个问题,要么答非所问,要么一本正经地胡编乱造。老板问怎么回事,技术团队说:“模型不够好,再等等。”

这个场景,我见过太多次了。

问题不在模型。模型从来不是瓶颈。真正卡住项目的,是那个被一句“文档导进去就行”带过的东西——知识库

01知识库不等于智能体

很多人把这两个概念混在一起。但它们之间,隔着一道鸿沟。

知识库是图书馆,智能体是学者。图书馆藏书再丰富,不会自己回答问题。你需要的不只是把书放进去,而是培养一个能读书、能思考、能给出方案的“大脑”。

我把它拆成三个阶段。

L1知识存储。 把文档导入系统,能搜到了。但这跟网盘有什么区别?

L2知识检索。 接入了RAG,能问答了。但问一句答一段,答案经常答非所问,还时不时刻画出一个不存在的产品参数。老板以为有了智能体,其实只有一个大号搜索框。

L3知识行动。 智能体理解你的意图,基于知识做多步推理,给出可落地的方案。这才叫“能用了”。

90%的企业卡在L1到L2,以为存了就是用了。

02我把自己的文章蒸馏了一次才知道

前段时间,我做了一个内容智能体:把89篇文章全部蒸馏——从原始格式转成结构化文本,逐篇做风格分析,提炼写作规律,搭建专家知识包,最终训练出一个能模仿特定写作风格的创作智能体。

整个项目做完,我发现一个反直觉的事实:最耗时的不是搭系统,是整理知识。

89篇文章的清洗、分类、标注,花了整个项目60%的时间。模型的参数调来调去,系统架构搭起来,反而是最快的部分。

智能体的好坏,80%取决于知识质量,不是模型选择。

你可能觉得这是个内容项目,跟企业不一样。那说个企业的。

在服务一家制造业出海企业时,我看到了同样的问题,只是规模更大。

企业的痛点很真实:研发知识分散在多个人手里,客户定制需求响应慢,多语言资料重复整理。老板让技术团队搭了个AI系统,文档导进去了,一问三不知。

技术团队很委屈——系统是搭好了的,接口是通的,模型是接了的。但不知道该往里面放什么

我深入看了他们的知识现状,发现了几个典型问题:

产品参数表存在三个版本,分别在不同人的电脑里,数据互相矛盾——智能体随便检索到哪版就答哪版,自然错漏百出。

客户常见问题散落在售后群的聊天记录里,没有任何人整理过——智能体根本无从检索。

多语言产品手册是外包翻译的,专业术语前后不一致——智能体用这些资料回答海外客户问题,客户反而更困惑了。

这些问题的共同点是什么?都不是技术能解决的。

需要一个既懂AI能力边界、又懂业务流程、还懂知识管理的人来做。技术团队擅长前半段,但后半段,恰恰是决定项目成败的80%。

035个问题,自检你的知识库卡在哪

说了这么多,你怎么判断自己的企业处在哪个阶段?不用搭系统,先问自己5个问题。

问题一:你的知识库有标签和分类吗?还是只有文件夹? 文件夹是给人看的,标签是给AI看的。文件夹里一个文档只能放一个地方,但一个产品参数可能同时属于“技术规格”“客户定制”“售后FAQ”三个场景。没有标签体系,AI无法跨场景检索。

问题二:搜一个具体问题,前3条结果是你需要的吗? 试试在你们的知识库里搜“客户定制流程”。如果前3条返回的是公司简介、年报、放假通知——说明你的知识库没有做场景化的索引和分段。AI检索到的也是这些,它怎么可能回答好?

问题三:知识库里的内容,是真实业务场景会用到的吗? 很多企业的知识库是“档案库”——存了大量历史文档,但一线员工真正需要的内容反而没有。智能体的回答质量取决于知识库里有没有场景需要的知识,而不是有多少文档。

问题四:上次更新知识库是什么时候? 如果回答不上来,它已经是一个死库了。知识库不更新,智能体的回答就会越来越过时,越来越离谱。这不是AI的问题,是没人维护的问题。

问题五:谁负责维护知识库? 如果没有人负责,就没有人会负责。知识库需要专人(或兼职但明确责任)持续维护:新增、更新、淘汰过时内容。这是运营问题,不是技术问题。

5个问题里,如果有3个以上答不上来——你的项目大概率会卡在L1到L2。

04最大的坑不在技术

这句话我说了很多遍,每次都有人不信。直到自己做了才发现:搭系统可能一周就搞定了,但让系统真正好用,需要持续投入数月。

知识库好不好,不是看有多少文档,看四个维度:

知识质量公式

知识质量 = 结构化程度 × 检索精度 × 场景贴合度 × 迭代频率

乘法不是加法。任何一维为零,智能体的回答质量就是零。

这四个维度,对应的是知识整理的具体工作。我总结了一个“知识整理三步法”,在实操中验证有效:

STEP 1

知识盘点。 你有什么知识?在哪里?谁手里?别小看这一步。在前面那个出海企业里,光是搞清楚“现有哪些文档、存在哪里、谁有最新版”就花了两周。大多数企业的知识不是不存在,是找不到。

STEP 2

知识分层。 不是所有知识都同等重要。分成三层:

核心知识:产品参数、技术规格、定价规则——智能体必须精准回答的,一丁点错误都不能有。

流程知识:SOP、FAQ、售后流程——智能体辅助决策的依据,需要定期更新。

参考知识:行业报告、竞品分析、市场数据——智能体提供背景信息的素材,可以容忍一定模糊度。

不分层,智能体就会把一份三年前的行业报告和最新的产品参数同等对待——回答的可靠性自然大打折扣。

STEP 3

知识标注。 每条知识打上场景标签:它服务于哪个使用场景?研发查询?客户咨询?售后处理?一个文档可以属于多个场景。标注越精准,检索越准确,智能体的回答越靠谱。

这三步,没有一步是技术活。但每一步都需要既懂业务又懂AI的人来做。技术团队能帮你搭系统,但这三步,他们做不了。

最大的坑不在技术,在你以为这件事只需要技术。

知识库是地基,智能体是房子。

地基打得再深,不盖房子也住不了人。但没有地基,房子盖了也是危房。

而打地基这件事,不是技术活,是经验活。需要做过、踩过坑、知道哪些知识该留哪些该扔、知道什么样的结构能支撑什么样的智能体——这些经验,不在任何一份技术文档里。

如果你正在考虑搭建AI智能体,或者已经搭了知识库但效果不如预期——有问题随时欢迎交流。

我们每个月也会选几家有真实需求的企业,做一次深度的免费交流:帮你看看知识库的现状、卡在哪个阶段、接下来最该投入什么。不收钱,纯粹是实战经验的交流学习。

感兴趣的话,在公众号后台回复“交流”,简单说说你的情况就好。