我帮企业选AI工具，发现90%卡在第二层

上周一个做制造业的客户找我，说他花了40万建了一个AI知识库，员工用了两周就再也没打开过。

我问：你们当初为什么要建这个知识库？

他说：大家都说RAG是企业AI的标配。

——这不叫选型，这叫跟风。

做咨询的时候我学到的第一课：客户说想要什么，和他真正需要什么，经常是两件事。 选AI工具也一样。

我后来给这个客户做了一次完整的AI工具选型诊断——用的不是什么新技术框架，就是当年在EY做尽调时的那套方法论：先摸清业务痛点在哪一层，再决定从哪一层开始建。

企业AI工具，其实就四层

我画了一张图，把现在市面上所有企业AI工具按"自主性"从低到高排成四层——每升一层，AI能做的事多十倍，但搞砸的成本也高五倍。

第一层：聊天机器人——"能说话"

ChatGPT、Kimi、文心一言、通义千问，都是这一层。

特点很明确：你问一句，它答一句。不记得你昨天问了什么，不知道你们公司的制度长什么样，更不会帮你跑流程。

但就是这一层，已经干掉了很多人的信息检索工作。我自己的体感是：以前做行业扫描，要在Google上翻两小时的资料，现在Kimi帮我20分钟整理完，我再花10分钟判断哪些能用。

这一层的选型逻辑：直接买，别建。 月付几十块到几百块，先让团队用起来。最大的坑不是选错工具，是选了不用。

第二层：知识库 RAG——"能记忆"

到了这一层，AI终于不只是"互联网的搜索引擎"，而是你们公司自己的知识引擎。

Coze、Dify、FastGPT、百炼——底层都是RAG架构：把企业内部的制度文件、项目文档、行业数据库灌进去，建好向量索引，员工提问时AI先从内部知识库检索，再生成回答。

RAG在2026年已经是企业AI的"标准配置"。一组数据：采用RAG架构的企业知识库项目，成功率比传统微调方案高47%，部署成本只有后者的1/3。

但问题来了——建了知识库，不等于有人用。

开头那个制造业客户就是典型案例。知识库做得漂亮，但员工提问的场景没有梳理，文档更新机制没有建立，知识库三个月就变成了"数字废墟"。

2025年Q3，我在ICEA项目上做了一个东西叫"制度解析引擎"——说白了就是RAG，只是那时候这个缩写还没火到人尽皆知。

客户是一家大型国企，内控制度文件摞起来有一米多高——纸质版、PDF版、Word版混着来，有些还是扫描件。审计组每次进场，光翻制度就翻三天。

我们的做法是：先把所有制度文档结构化，按"治理层-管理层-执行层"打标签，再做区块识别——哪些是审批流程、哪些是权限矩阵、哪些是罚则条款，全部拆开建索引。员工提问时，引擎先定位到具体条款，再生成回答。

听起来和现在的RAG一模一样对吧？但真正让这套系统活下来的，不是技术——是场景梳理。

我花了两周时间跟客户的人坐在一起，把他们每天会问的问题一条一条记下来："这个审批要几级签字""出差超标了谁批""下属子公司能不能用总部的模板"——这些问题才是知识库的"需求文档"。

没有这份需求文档，你灌再多数据进去，员工打开知识库也不知道该问什么。问不出来，就不会再用。

知识库不是建完就完了，是建之前先想清楚谁会问什么、什么时候问、问完之后干什么。这三件事想不清楚，40万的知识库和400万的知识库，结局一样——没人用。

第三层：流程自动化 Agent——"能干活"

这是2026年最热的一层。79%的企业已经启动了AI Agent部署，但Gartner预测40%的项目将在2027年前被叫停。

为什么？因为太多人从第二层直接跳到第三层，知识库还没跑通就开始搞Agent编排，等于直接在地面上盖楼。

Agent的核心能力是多步骤任务编排：不只是回答问题，而是拆解目标、调用工具、执行任务、反馈结果。一个Coder Agent写代码，一个Reviewer Agent审计，一个DevOps Agent部署——CrewAI、LangGraph、n8n、扣子工作流，都是这一层的工具。

但Agent最怕的不是技术实现，是幻觉级联：长链条任务中，中间步骤的一个微小错误会被无限放大。一个财务对账Agent，如果第一步把科目认错了，后面每一步都在错误上叠加。

所以第三层的选型铁律：必须有人类在回路（Human-in-the-Loop）。 关键决策点——支付、删除、发布——必须经过人工确认。

2022年5月1日到5月3日，宁波RB项目，我在帮客户做内部控制评价的时候，客户说了一句我记到现在："制度不是拿来遵守的，是拿来在出事的时候知道谁该负责的。"

Agent的治理体系，本质就是同一件事：不是限制AI做事，是在AI做错的时候，知道该找谁、怎么回滚。

第四层：AI执行系统——"能闭环"

到了这一层，AI不再需要人类在每一步确认，而是自主决策、跨系统操作、持续自优化。

MCP协议让不同Agent之间"语言互通"——相当于AI世界的USB接口。Computer Use能力让Agent直接操作ERP、CRM这些没有API的老系统。多智能体协作（MAS）让"数字员工"开始成为现实。

但我要说一句可能不太好听的话：2026年，90%声称在做"AI执行系统"的企业，其实还在第三层甚至第二层打转。

第四层的门槛不只是技术——是需要一套完整的治理体系：Agent的每一步规划和决策都必须可追溯、可审计。没有这套体系，让AI自主执行，等于让实习生直接签合同。

德勤的Zora平台已经在部分客户实现40%效率提升和25%成本降低，但那是建立在数年行业数据和治理框架之上的。安永投了2.5亿美元建EY.ai平台，部署了150+任务型Agent——但覆盖的是审计、税务、合规这些边界清晰的场景。

执行系统不是目标，是结果。 前三层都跑通了，第四层是水到渠成；前三层没跑通，直接上第四层就是烧钱。

一张决策树，搞清从哪层开始

简单说就一句话：你的业务痛点在哪一层，就从哪一层开始。

• 信息获取慢 → 第一层，买个ChatBot，一周上线
• 企业数据散落各处 → 第二层，建知识库，先梳理再灌数据
• 重复性流程占人手 → 第三层，上Agent，但必须有人在回路
• 需要AI自主执行闭环 → 第四层，但你确定前三层都跑通了？

大多数企业卡在第二层到第三层之间。 知识库建了，数据灌了，但不会编排Agent把知识变成行动。这一步的跨越，才是真正的分水岭。

三个最常见的选型陷阱

陷阱一：跳层。 第一层没跑通就上第三层。后果：Agent幻觉频发，因为底层数据和知识没梳理好。

陷阱二：为了AI而AI。 没有明确的业务痛点，看到同行上Agent自己也上。后果：ROI覆盖不了推理成本，Gartner说的40%被叫停的项目，大多数是这一类。

陷阱三：只建不管。 知识库建了不更新，Agent上线了不监控。后果：三个月后系统变成数字废墟，员工说"AI不行"——其实不是AI不行，是你没管。

这三个陷阱，我自己踩过一个半。

离开EY之后，我做了一人公司。最开始什么都想干——知识库、Agent、自动化流程，恨不得一步到位。结果第一个月，光在Dify上搭知识库就折腾了两个礼拜，搭完了发现：我一个独立顾问，哪来那么多内部文档需要检索？

说白了，我的真实痛点在第一层——我需要的是AI帮我做行业扫描、整理竞品信息、把7天压缩到4小时。不是知识库，不是Agent，就是一个能帮我省时间的ChatBot。

后来我老老实实回到第一层。先用Kimi和ChatGPT做信息检索，每天省出两小时。跑通了，才往上走——做制度模板库（第二层），做每日早报自动化（第三层），一步一步来。

那个制造业客户也一样。他后来听了建议，先不碰Agent，回到第一层——买了个ChatBot，让员工先习惯"问AI"。一个月后，员工自己开始提需求："能不能让它知道我们的采购制度？""能不能自动对账？"——需求从第一层自然长到了第二层、第三层。

真正的选型，不是你替客户做选择，是让痛点自己浮上来。 客户说不出痛点的时候，别急着给方案——让他先用起来，用着用着，他就知道自己缺什么了。

做尽调的时候我们管这叫"发现阶段"。选AI工具，也需要一个发现阶段。

最后说一句

选AI工具这件事，本质上和做尽调是一样的——不是选最好的，是选最对位的。

客户需要的从来不是一个"全能AI系统"，而是先搞清楚"我的痛点在哪一层"。这个诊断本身，比任何工具都值钱。

2026年，全球79%的企业已经在部署AI Agent。但麦肯锡的报告说，只有6%的企业真正实现了"AI驱动的高绩效"。

差在哪？不是工具差，是选型判断差。

先看清楚你在哪一层，再动手。