乐于分享
好东西不私藏

AI客服,傻到离谱

AI客服,傻到离谱
这是一个真实的产品故事,关于一家 SaaS 公司的产品经理,如何把一个记不住任何事的 AI 客服,变成了客户最信任的人。

老王的困境

老王是 ToB SaaS 公司的产品经理。

去年公司上了一款 AI 客服产品,承诺能帮公司降本增效。老王负责对接,搭建好了知识库、配好了 FAQ,自认为准备充分。

两个月后,真实的用户反馈来了:

  • 客户说『我昨天打过电话的,订单号是 XXX』,AI 回复:『抱歉,我无法查到您的历史记录』
  • 客户问『上次那个订单怎么还没到』,AI 说:『您好,请问您需要咨询什么?』
  • 客诉翻倍——客户宁愿打人工,也不愿意跟一个『失忆症患者』对话

老王看后台日志,发现更严重的问题:AI 大部分时间在『猜』——根据当前对话的只言片语,拼凑出一个『听起来合理』的答案。胆子比脑子大。

产品上线两个月,满意度评分跌了 15%。


第一条路:把上下文窗口撑大

老王第一反应是:上下文太小,AI 记不住。

他申请把上下文从 4000 tokens 升级到 16000 tokens,心想这下总能记住更多历史了吧。

结果:失望。

  • 上下文窗口变大,应答速度明显变慢
  • 上下文太长,AI 依然会『忘掉』最早的对话
  • 每次对话还是要重新发送全部历史,token 消耗成本反而更高
  • 客户投诉没有任何改善

更让老王困惑的是:他把上下文窗口翻了两倍,为什么 AI 还是记不住三个月前的那个订单?

他隐隐觉得:这不是上下文够不够的问题。


第二条路:固定开场白

产品经理们凑在一起,又想出了一个办法——给 AI 一个固定的『开场白』,每次对话开始时先把客户背景、业务信息塞进去。

短期效果:还真有点改善。

但两周后,问题来了:

  • 几百个客户,就要维护几百份『开场白』,运营团队崩溃
  • 产品手册更新了,要同步修改几十份文档
  • 没有解决『不知道这次要重点关注什么』的问题——AI 知道客户姓王,但不知道王先生上周刚投诉过

产品经理们最后放弃了:维护成本远大于收益。


深夜的转折点

两个方案都失败了。老王开始怀疑自己的判断。

有一天,他深夜看后台日志,把一个投诉客户的历史记录导出来看,突然发现了一个让他后背发凉的事实——

固定开场白告诉 AI"王先生,持有企业版套餐"。但它告诉不了 AI"王先生上周投诉过一次,原因是发票延迟"。

这不是 AI 笨,而是固定开场白的根本局限:背景信息是死的,上下文(刚发生的事、最近的交互)是活的。

而且,更深层的问题在背后——上下文窗口再大,也只是更大的临时工位。对话结束,工位清空,什么都不剩。

老王花两个月扩大工位、装饰工位,此刻才明白:工位终究还是工位。


方案一:让 AI 自己记住对话的关键内容

病根找到了,接下来是找药。

更聪明的做法是:每轮对话结束时,让 AI 主动提取『值得记住』的内容,存入一个专门的结构化存储。下次对话时,根据话题自动调取。

这就是 Mem0的核心思路:

  • 对话结束后,AI 判断:『哪些信息重要』并写入记忆库
  • 专门的结构化存储,不依赖上下文窗口
  • 下次对话时,根据当前问题,主动调取相关记忆

这和向量检索 RAG 的最大区别是:RAG 是被动查询——你得先想到关键词才能搜到;Mem0 是主动推送——AI 在对话开始前就知道要调取什么。


方案二:加上因果结构的知识图谱

Mem0 解决了『记住什么』,但 ToB 客服最棘手的场景,往往是事件之间的因果关系

比如客户 A 反复投诉说被标记为『风险用户』。AI 知道『客户 A 有风险标签』,但它不知道为什么——

  • 客户 A → 持有 → 订单#456
  • 订单#456 → 状态 → 未收到
  • 未收到 → 触发 → 系统自动标记风险
  • 风险标签 → 导致 → 无法申请新订单

没有因果关系,AI 能告诉你『你被标记了』;有了知识图谱,AI 能告诉你『因为上个月的快递延误,系统误判了,我帮你申诉』——这叫理解业务,不叫查知识库。


最终方案:切换到 hermes-agent 架构

调研了一圈,老王做了一个决定:不再在原有系统上打补丁,直接切换智能体架构。

他选的是 hermes-agent——一个开源的 AI Agent 框架。它既内置了 Mem0 级别的对话记忆能力,也支持接入 Neo4j 图数据库做业务知识存储,两套系统可以叠加使用。

  • Mem0(存对话记忆)
    :每轮对话结束,AI 自动把客户的关键信息提取出来——姓名、偏好、之前提过什么问题。下次对话时按语义检索,不靠关键词匹配。
  • Neo4j(存业务知识)
    :ToB 场景里,真正有用的是因果链条——客户→下了订单→订单延期→被标记为风险→无法申请新单。这条链完整保留,AI 能回答『为什么』,不只是『是什么』。

老王把旧的固定开场白逻辑替换成了这套记忆架构。


实施之后:成本降了,客户笑了

上线一个月后的数据,让全公司都服了:

指标
实施前
实施后
每轮对话 token 成本
8000 tokens
800 tokens
单次成本
0.18 元
0.03 元
有效信息占比
7.6%
68%
响应速度
8.2 秒
2.4 秒
客户满意度
61%
87%
首次解决率
34%
79%

在第二个月的 AI 客服优化复盘会上,老王说了一句让全公司记住的话——

"花 1/8 的钱,干 3 倍的活。"


核心是给 AI 装上记忆

回到最初的起点:AI 为什么『装傻』?

本质原因是:每次对话都是从零开始,不知道这个客户是谁、做过什么、关心什么。

一次没有记忆的对话,根本不知道要解决什么。

给 AI 装上记忆,分层处理:

  • Mem0 负责『记住客户是谁、有什么偏好』
  • 知识图谱负责『理解业务里的因果关系和结构』

一个从不出错的客服,首先得是一个什么都记得的客服。


AI 记忆方案选型参考

方案
核心思路
适合场景
难度
扩上下文窗口
把历史全塞进 prompt
简单对话、短期项目
固定开场白
人工维护上下文
小规模用户 FAQ 类
Mem0
AI 自动提取对话中的关键记忆
客户画像、业务偏好
知识图谱
存储实体之间的因果关系
ToB 复杂业务场景

选哪个取决于你的产品要解决什么问题、用户规模有多大。


——鱼生 🎯   一个在AI浪潮中努力挣扎的产品人

本文整合了 Mem0、MemOS、MemPalace 等 AI 记忆系统的底层原理。