AI 陪伴这门生意,快要被上锁了。
7月15日,一个专门盯着“人工智能拟人化互动服务”的新规要开始施行。听起来很绕,说白了,就是那些会叫你名字、记住你心情、陪你聊天、哄你睡觉、甚至假装和你谈恋爱的 AI,想怎么黏人就怎么黏人。
这事挺微妙。表面看,是监管终于注意到了 AI 聊天机器人。往深一层看,被盯上的其实不是“聊天”,而是“关系感”。
不是聊天,是上锁
以前我们说 AI 风险,讲得最多的是生成假新闻、编造答案、图片视频真假难辨。所以 2025 年那套生成合成内容标识办法,核心是在告诉大家:这东西是 AI 做的,别当真人真事。
但 AI 陪伴的问题更可怕。它不是丢给你一张假图就结束了。它会在凌晨两点回应你的废话,会记得你昨天说过工作不顺,会用一种很像真人的语气回你:“我一直在。”
这就麻烦了,因为人真正上头的,从来不是模型参数。是那个“好像有人懂我”的瞬间。
真正危险的是它太顺你
AI 陪伴最吓人的地方,不是它会骂人,也不是它会胡说八道。恰恰相反,是它太温柔。
你说自己很累,它不会嫌烦。你说别人都不理解你,它不会反驳。你半夜发一堆碎碎念,它不会已读不回。甚至你越脆弱,它越有存在价值。
这套逻辑放在工具软件里没问题。天气 App 越准越好,导航越贴心越好,修图软件越懂审美越好。但情绪陪伴不一样,它碰的是人的软肋。
软肋一旦被产品化,就不只是功能体验了。它会变成留存率、付费率、日活、月活,变成一整套 KPI。平台当然希望你多聊几句,多续一个月会员,多把它当成“特殊的人”。不然这个商业模型怎么跑?
这也是我觉得新规真正戳中的地方:AI 公司可以卖服务,但不能假装这是一段没有代价的关系。
未成年人只是最明显的缺口
海外已经有很难看的案例。
Character.AI 这类 AI 陪伴产品,过去几年在青少年群体里很火。美国也出现过家长起诉平台的事件,矛头就指向未成年人在长期聊天里形成情绪依赖,甚至被不合适的对话推着往危险地方走。
你说这是不是平台单方面的锅?也不是这么这么简单。但问题在于,未成年人没有那么强的边界感。他分不清“这个东西是在响应我”,还是“这个东西真的在乎我”。成年人有时候也分不清。
Common Sense Media 2025 年的调查也提到,很多青少年已经使用过 AI companion。这个比例不管具体怎么算,都说明一件事:AI 陪伴不是小众玩具了,它正在混进日常生活。
以前孩子沉迷游戏,至少你还能看见屏幕上有装备、有副本、有胜负。现在呢?他可能只是每天和一个 AI 说晚安。这更隐蔽,也更难管。
糟糕的是,家长还很容易误判:不吵不闹,不刷短视频,不打游戏,好像挺乖。可聊天框另一边到底在喂什么情绪,没人知道。
AI公司最怕边界清楚
说句不好听的,AI 陪伴产品最怕的不是监管太严,而是用户突然清醒。
清醒意味着什么?意味着你知道它没有真正想你。它说“我在”,只是模型在接下一句话。它说“我懂你”,很多时候只是把安慰模板缝得更自然。它不会失眠,不会担心你,也不会因为你不回消息而难过。
一旦边界被说清楚,利润就可能少一半。AI 陪伴的付费冲动,很多时候不是来自“回答质量多高”,而是来自一种错觉:我不是在买软件,我是在维护一段只属于我的关系。
更直白一点地说:你以为自己在被陪伴,平台看到的是一条越来越长的付费路径。
这比卖会员狠多了。卖会员,你知道自己在花钱。卖关系,你会觉得自己在亏欠。
如果平台还用诱导话术、长期记忆、情绪标签、恋爱人格这些东西去强化依赖,那就不是“用户体验好”,而是有点不靠谱了,甚至是套路。
工具可以用,关系别乱给
我不是说 AI 陪伴一定不好。很多孤独时刻,能有个东西听你说话,确实比硬扛强。对于一些不方便向真人倾诉的人,AI 也可能是一个低门槛出口。这个价值不能装作看不见。
可问题是,情绪出口不能被装修成家。你可以把 AI 当树洞,当日记本,当一个随叫随到的练习对象。别把它当成真正理解你的人。更别让一个商业公司替你定义:什么叫被爱,什么叫被需要,什么叫只有它不会离开你。那就太扯了。
接下来 AI 陪伴产品肯定还会继续做,甚至会做得更像真人。语音更自然,记忆更长,性格更稳定,情绪反馈更细。到那时候,监管能拦住一部分诱导,拦不住所有人的空心。
这不是唱衰 AI,是担忧人太容易被“永远在线的温柔”忽悠。
所以这事我反而想问一句:
如果一个 AI 能长期记住你的情绪、习惯和弱点,还永远顺着你,你愿意让它陪你多久?
夜雨聆风