AI 上线一周翻两次车,我给它补了三样:评测、授权、兜底

上线第六天，老王把我叫到店里，两张截图拍在我面前。

“你先看这个。”他指着第一张，客户跟 AI 的对话。客户问“拆开用过还能退吗”，AI 答“可以退，七天无理由”。可老王店里的规矩写着：拆封使用过的不退。

“客户拿着这句话来跟我理论。”老王说，“我说这是我们自己定的规矩，他说你们的客服亲口答应的。我这张嘴，说不清了。”

第二张更让我后背发凉。是系统日志：凌晨两点，一个陌生地址下了 20 个手冲壶，AI 把订单从头走到尾，只差最后一步落单。是库存不够，才卡住的。

“它要是真放出去了呢？”老王问。

“那我就得半夜爬起来给你退单。”我说，“这活不能再这么跑。”

先给它一份考卷

我坐下来复盘，第一件事就发现自己的糊涂：这三周我改了不少东西，每改完都是自己随手问几句，觉得“挺好的”。

“你这就叫自己考自己。”王哥在电话里说，“上回验收你建过评测集，那是留证据用的。现在它天天在生产里跑，你要拿它当回归测试：改一次，就考一次。”

我照着上回的路子重做了一遍，但这次题从哪儿来变了：不是我想，是从真实聊天里挑。我把上线以来所有咨询翻出来，挑了 30 条，其中有 5 条是客户投诉过的、3 条是老王自己都答不利索的。老王的规矩我不熟，就让他出 5 条，专挑“客户最容易误会的地方”。

第一遍跑，30 条错了 4 条，其中 3 条是同一类：退换政策。客户问“拆封”“用过”“特价品”能不能退，它全答能退。原因不复杂：这些规矩写在老王脑子里和纸单上，从没进过它的资料。我把退换政策整理成一条条，写进知识库，把“什么样的情况必须拒答、必须转人工”也写进去。再跑一遍，那 4 条都过了。

这一趟我才明白：评测不是给它打分，是给我自己排雷。 每次改动之前跑一遍，改坏了立刻知道；错的题补回考卷里，它就不会第二次栽在同一个坑里。

它能自己做主到哪一步

第二件事，是老王那句“它要是真放出去了呢”。

上回验收，王哥把“第几层”的说法讲给我听过，那时候划的是客服系统。这回面对的是钱和货，尺度得按老王的生意来。我没自己拍板，让老王定规矩，我负责把规矩翻译成系统的动作。

老王蹲在柜台后面想了一会儿，说得挺实在：

“小单子它自己走，我认。超过 500 的，先摆着等我。夜里十一点到早上七点，别放单，我们那会儿也没人发货。同一个客户一小时里连着下三单的，也得停下来问我，正经人谁这么买。还有，改地址、要补偿这类，一律不许它自己答应。”

这几条我一条条写进系统：金额上限、时间窗口、频率上限、动作清单四个口子。写的时候我才发现，授权这事比技术难的地方在于，每一条都得有个“谁定的”和“什么时候变”。所以我每条后面都标了定规矩的人和日期，老王说改，我们就改，改完重跑考卷。

该它自己做的还是让它做：查单、算运费、答政策，它照旧秒回。护栏不是把它的手绑起来，是把不归它的那几步拦住。

出了事谁接

第三件，也是最容易漏的一件：真出事了，谁接。

我和老王坐在店里把这张纸写满：

- 谁看：每天开店前，老王看一眼昨晚的异常汇总；我每周看一次全部转人工的记录。

- 什么时候必须立刻找人：客户已经收到错答案、订单金额超限、同一客户反复触发。这三样不许攒到第二天。

- 错了怎么办：先把已经做成的动作退回去，能撤的撤，撤不回的立刻人工接手。

- 谁对客户说：一律老王来说。AI 不许自己解释，它解释起来更像“推责任”。

老王看着这张纸，忽然笑了：“这不就是雇了个新店员的规矩嘛。新人来，先看他能干什么，再定他能自己拿主意到什么程度，出了问题我先兜着。”

“就是这个意思。”我说，“只不过这个店员不睡觉，也不长记性。”

可带走的一张清单：上生产之前，护栏 3 样都要有

1. 评测：有没有一份从真实业务里挑出来的考卷？改动前跑不跑？错题补回去吗？

2. 授权：它自己做主到哪一步，是按“能不能撤、有没有外部影响”定的吗？每一条写清楚谁定的、什么时候变吗？

3. 兜底：出事谁看、多久看一次、什么条件立刻找人、谁对客户开口，写下来了吗？

我把那份护栏清单用店里打印机打出来，塑封好，贴在收银台边上。老王拿笔在末尾签了名字和日期。

“贴这儿干嘛？”他问。

“贴这儿不是给我看的，是给下一个人看的。”我说，“哪天我不在，谁来接手，看这一页就知道这条线画在哪儿。”

从店里出来，天已经暗了。我站在路边，把今天情况发给了王哥。他没立刻回，隔了半晌才发来一句：

“你今天补的不是三件事，是三样资格。它能跑多远，不看它多聪明，看这三样有没有人管。管住了，才敢放。”

我在备忘录里把这条加粗描了一遍：能不能放权，不看它多能干，看护栏立没立住。

护栏不是上线之前做完就算完的事。能力越大，护栏越要紧；护栏越清楚，才越敢把事情交给它。

你手上有没有已经跑起来、但没人盯着的自动化？它的边界是谁定的？欢迎在评论区聊聊。

您的「点赞」「评论」就是对我最大的鼓励