客户信了AI客服，赔钱的是公司

有一种 AI 落地事故，老板一开始根本看不见。

不是系统宕机，不是模型胡说八道被员工截图嘲笑，也不是账单突然涨了几万块。

它发生在一个很普通的客服对话里。

客户问：“这个情况能不能退？”

AI 客服翻了几份政策、几条历史工单、几个模糊的售后模板，然后很自信地回了一句：可以。

客户截图保存，转头找销售兑现。销售说不行，客服主管说 AI 说错了，财务说没有这个预算，老板最后发现：这已经不是“AI 答错一道题”，而是公司对外做了一次承诺。

这类事故最麻烦的地方在于，它看起来很小。

小到不像技术事故，像一个沟通误会；小到不会触发系统告警，只会变成一个客户投诉；小到每个人都想把锅推给“那个机器人”。

但客户不会这么看。

客户只看到一个公司入口给了明确回复。你把 AI 放在客服位、售后位、官网咨询位，它在客户眼里就不是玩具，而是公司的人。

最贵的不是赔款，是承诺失控

Air Canada 那个聊天机器人案例，很多人当时看热闹：机器人给了乘客错误的丧亲票价退款信息，最后仲裁机构认为航空公司要承担责任。

我更关心的是另一个点：公司试图辩解说，聊天机器人是一个独立的法律实体，要为自己的行为负责。

这话放在现实公司里，其实很常见，只是没那么直白。

“这是 AI 自动回复的。”

“模型总结错了。”

“知识库里旧政策没删。”

“客服只是照系统念的。”

听起来每一句都合理，但客户不会替你拆技术架构。客户只会问：我到底是跟谁打交道？

如果答案是你的公司，那责任也会回到你的公司。

很多普通公司现在最容易犯的错，是把 AI 客服当成“省人力工具”，却没有把它当成“对外承诺入口”。

省人力的逻辑很诱人：

常见问题让 AI 回；

售后政策让 AI 查；

订单状态让 AI 总结；

客户投诉让 AI 先安抚；

销售咨询让 AI 先接住。

表面上看，工单少了，响应快了，员工轻松了。

但只要 AI 开始回答价格、退款、赔偿、交付范围、合同条款、服务级别、功能是否支持，它就不再只是客服助手。它已经站在公司门口，替公司说话。

这时候，事故的成本就不是“改一下 prompt”那么简单。

它会变成三笔账。

第一笔，是客户账。

客户拿着 AI 回复来要求兑现，公司要么赔钱，要么丢信任。最糟糕的是中间状态：赔也不爽快，不赔也站不住，最后销售、客服、老板一起耗在解释里。

第二笔，是员工账。

一线客服会变得更难做。以前是自己回答错，现在是 AI 先回答错，客户已经被带偏，客服再去纠正，就像在否认公司刚刚说过的话。

这不是减负，是让人去收拾机器说出口的话。

第三笔，是管理账。

老板以为买的是效率，实际上买回来一条新的责任链：谁批准 AI 看哪些资料？谁定义哪些问题不能自动答？谁抽检对话？谁确认高风险回复？谁在出事后判断该不该赔？

这些问题没人管，AI 客服越勤快，公司越危险。

旧资料一旦进了客服口，就会变成新承诺

我见过不少团队做 AI 客服、AI 知识库、AI 售前助理时，最重视的是“能不能回答出来”。

他们会塞产品文档、FAQ、历史工单、销售话术、报价表、培训材料，甚至把群聊里整理出来的经验也丢进去。

然后测试几个问题：

“能不能查订单？”

“能不能解释退款政策？”

“能不能推荐套餐？”

“能不能总结客户问题？”

回答得挺顺，就准备上线。

真正危险的不是它答不出来，而是它答得太像真的。

一份旧报价单，本来只是去年销售临时给某个客户的折扣；

一条历史工单，本来只是特殊补偿；

一个产品路线图，本来只是内部讨论；

一段客服话术，本来只是安抚，不是正式承诺。

人知道这些东西有语境，AI 不一定知道。

它只看到一堆看起来权威的文字，然后把它们拼成一个听起来非常专业的回答。

这就是普通公司最容易踩的坑：

你以为 AI 在调用知识库，其实它在翻公司旧账本。

你以为它在提升客服效率，其实它在把过去散落在文档、表格、工单和群聊里的模糊口径，重新包装成今天对客户的明确承诺。

真正该上线的不是机器人，是红线

这类事不是说 AI 客服不能用。

恰恰相反，客服是很多普通公司最适合先用 AI 的地方：问题重复、资料分散、响应压力大、员工流动快。

但它不能一上来就坐在承诺位。

更稳的做法，是先把问题分成三层。

第一层，信息查询。

订单状态、物流节点、公开产品说明、已有帮助中心内容，这类可以让 AI 回，但要尽量引用来源，让客户知道答案来自哪里。

第二层，解释建议。

比如“这种情况通常怎么处理”“需要准备什么材料”“下一步联系谁”。这类可以让 AI 先说，但措辞要保守，不能替公司做最终承诺。

第三层，责任动作。

退款、赔偿、折扣、合同变更、交付延期、功能承诺、投诉结论、法律合规判断，这些必须进人工确认。

不要把这叫复杂流程。

这就是公司对外说话的基本门禁。

很多老板真正该问的，不是“AI 客服能不能解决多少工单”，而是：

它有没有哪些话绝对不能说？

它回答高风险问题时，能不能自动转人工？

它引用的资料有没有版本和失效日期？

它说出价格、退款、赔偿、交付范围时，有没有留下复核记录？

它出错之后，谁有权决定赔不赔、改不改、怎么通知客户？

如果这些问题答不上来，AI 客服上线越快，事故只是越早发生。

小公司更要怕“看起来省人”

大公司出这类问题，至少还有法务、公关、客服质检、流程团队补洞。

小公司没有这么多人。

小公司最怕的是：老板觉得 AI 可以少招一个客服，结果 AI 多说了一句，销售去解释，运营去补材料，财务去核赔付，老板亲自安抚客户。

表面省了一个岗位，实际把整个团队拖进一次售后泥潭。

更现实一点讲，小公司客户量没那么大，每一个关键客户都更贵。一次错误承诺，赔的不只是钱，还有关系。

所以我一直觉得，普通公司做 AI 落地，最先该选的不是最聪明的模型，而是最清楚的边界。

AI 可以替你回答重复问题，但不能替你承担商业后果。

AI 可以替你整理材料，但不能替你发出公司承诺。

AI 可以帮客服更快找到信息，但不能让客服失去最后确认权。

真正成熟的 AI 客服，不是“像真人一样什么都敢答”，而是知道什么时候闭嘴、什么时候引用、什么时候转人工、什么时候把责任交还给公司里那个真正有权拍板的人。

客户信了 AI 客服，最后赔钱的不会是模型厂商，也不会是那个对话框。

赔钱的是公司。

你们公司如果要上 AI 客服，最怕它答错哪一类问题：退款、报价、合同、交付范围，还是客户投诉？

我后面会继续拆这些 AI 热点背后的成本、权力和普通公司的真实代价。如果你不想只看热闹，可以继续看这个号。