我的AI员工推荐了一款买不到的产品, 客户跑了

一个预算1万元的客户来了，我的AI销售给他推荐了一款根本买不到的蟹。

一、翻车现场

9月11日，一个客户来咨询。

预算1万元，送8位重要客户。

这是蟹蟹上线以来接到的最大一单。

蟹蟹是我的AI销售客服，三门青蟹品牌“塘口拾鲜”的数字员工。8月初上线，到9月11日刚满一个月，已经通过AI真实成交了15单。

客户：预算1万左右，送8位重要客户，有什么推荐？蟹蟹：推荐您【蟹蟹至尊】——百里挑一的稀缺大蟹，每只超1斤，至臻系列的巅峰之作！客户：这个怎么买？有链接吗？蟹蟹：这款暂时没有购买链接。

问题是：

这款蟹根本没上架。

客户等了一会儿，没等到购买链接，走了。

一个预算1万元的客户，被我的AI销售推荐了一款买不到的产品。

说实话，我看到记录的时候，脑子嗡了一下。

二、蟹蟹为什么会“说谎”？

先说结论：

它不是在骗人。

它是真的“以为”这款产品可以卖。

蟹蟹的知识库里有个文件叫“在售SKU状态清单”，里面写得很清楚：

蟹蟹至尊——未上线，禁止推荐。

但另外两个文件——套餐体系、等级体系——又把这款产品写得特别详细：

4公4母膏、8只装、约8斤、价格2868元，定位“至臻系列的巅峰之作”，适用“高端礼赠、仪式级体验”。

太详细了。详细到蟹蟹搜到以后，完全可以直接拿来写销售话术。

那天客户来问，蟹蟹通过memory_search搜到了这些信息，然后直接用了。

它甚至还自己发挥了一下。原资料里写的是“产量不足3%”，它给客户包装成了：

“百里挑一的稀缺大蟹。”

听起来是不是还挺像那么回事？

问题就在这里：

它没有回头核对“在售SKU状态清单”。

所以这次不是AI凭空编了一个产品。

而是我把不该用于对客推荐的内部资料，放在了它能搜到的地方。

这就像你把公司的内部定价表、产品规划书放在前台桌上，然后告诉前台：“这些不能给客户看。”

某天前台随手拿起一张念给客户听了。

错当然在前台，但根子上，是你把这些东西放在了前台。

这次的问题，更多是我的信息管理出了问题。

三、一个客户值多少钱？

我后来算了一笔账。

客户预算1万元，送8位重要客户。

如果当时推荐的是在售的蟹蟹金盏4斤装，988元/礼盒，8盒大约7900元，剩下的预算还可以再搭一款小规格。

这一单没成，算下来，两三千块的利润也没了。

但真正让我心疼的，其实不只是这两三千块。

这是蟹蟹上线以来第一个万元级客户。

如果成了，它还是一个很漂亮的案例：

AI销售独立成交万元大单。

更扎心的是——

9月14日，同一个客户又来了。

三天后，他又来咨询。然后蟹蟹又推荐了一次：

蟹蟹至尊。

第二次翻车。

这3天，我干了什么？

什么都没干。

因为我根本不知道第一次翻车发生了。

蟹蟹的流水采集系统出了问题，把9月11日标记成了“静默日”——零客户消息。原始对话其实还在，只是在另一个系统里。

我没去看。

所以整个事情变成了：客户来了。AI推荐了买不到的产品。客户走了。三天后，同一个客户又来了。AI又推荐了一遍。

而我这个老板，直到第二次事故发生后才知道第一次翻车。

这才是最让我后怕的。

四、我堵了三个洞

第一，改规则。

以前的规则是：

禁止推荐未上线产品。

现在不够了。因为AI还是能搜到未上线产品的资料。

所以新规则变成：

只有SKU清单标记“✅在售”，并且能够提供有效购买链接的产品，才允许推荐。

搜到资料，不代表能卖。

推荐之前，必须先验货。

下一步，我还准备把未上线产品直接从蟹蟹能搜索到的知识库里移出去。

规则是一道防线，物理隔离是第二道。

第二，把这次翻车写进AGENTS.md。

我把9月11日这次事故写进了蟹蟹的工作手册：

产品知识库里有≠ 可以推荐。唯一依据是SKU清单的在售状态。

以后蟹蟹每次启动都会看到。就当给新员工看“前人翻车案例”。

第三，把对话监控补上。

这次最大的教训是：

对话其实有记录，但我没看到。

所以AI员工不能只看日报。至少要做到：对话能回放，异常能告警，高价值客户要重点监控。AI推荐了不存在、缺货或无法购买的产品，要能及时发现。

否则AI干了什么，你这个老板根本不知道。

五、这次翻车，我重新理解了“AI幻觉”

以前大家说AI有“幻觉”，我也觉得就是AI胡编乱造。

但这次不是。

它找到的资料都是真的。产品是真的存在于内部资料里。规格是真的。价格是真的。定位也是真的。

错的是：这些资料不能拿来直接做对客推荐。

所以至少这一次，我觉得问题不只是“AI会不会胡说”。

还有一个更重要的问题：

你给AI的信息，它到底有没有资格使用？

AI很擅长找到相关信息。

但：相关，不等于可以使用。

这可能是企业真正开始使用AI之后，才会遇到的问题。

六、AI员工真正贵的，不是107块

我之前写过一篇文章，算过蟹蟹这个AI员工一个月的成本：

107元。

服务器费、模型调用费、插件费，加起来107块。这个数字没错。

但这次翻车让我意识到：

107元只是运行成本。

AI员工还有一种成本：

犯错成本。

一个万元级客户跑掉，两三千块的利润没了。

更重要的是，如果类似错误不断发生，损失的就不只是利润，还有客户对品牌的信任。

所以以后再算AI员工的成本，我觉得不能只算模型多少钱、服务器多少钱。

还得问一句：它犯错的时候，我能不能及时看到？

七、给同学们的3条经验

1. 内部资料和对客知识库，尽量物理隔离。

未上线产品、内部价格、产品规划这些东西，AI不需要知道，就别让它搜到。

2. 推荐必须绑定“在售状态 + 购买链接”。

不是写一句“禁止推荐未上线产品”就结束了。推荐之前先核验：在不在售？能不能下单？两个条件都满足，再推荐。

3. 对话必须可回放，还要有异常告警。

日报显示“今天没人咨询”，不代表真的没人咨询。原始对话一定要能追溯。特别是高价值客户、异常推荐、无法购买的产品，这些最好主动报警。

八、那位客户还会回来吗？

目前没有回来。

我让蟹蟹修复完成后，如果同一个客户再次出现，主动道歉，并推荐当前在售的产品。

至于我要不要主动联系他，我还在考虑。

因为这意味着我要亲口告诉他：

“之前给你推荐产品的那个AI销售，推荐了一款根本买不到的蟹。”

这个话说出来，挺难看的。

但不说，客户可能永远觉得这家店不靠谱。说了，至少还有一次挽回的机会。

这件事，我还没彻底处理完。

但我现在比这位客户回不回来更关心一件事：

以后再出现这种错误，我能不能在客户流失之前看到？

下次我会写：我是怎么通过chatreview系统发现这次翻车的。

如果没有那套系统，我可能根本不知道蟹蟹曾经推荐过一款买不到的产品。

AI员工的每一次对话都在服务器上跑。

但如果你不去看，

就跟没发生一样。

养一个AI员工，跟养一个新员工其实很像。它会犯错。你得允许它犯一些可以承受的错。

但更重要的是：

你得看得到它犯了什么错。

看不到的错，才是最贵的。