7月3日晚上,国内AI圈的一条通知让不少人破了防。
豆包、通义千问先后发布公告:智能体功能将于7月15日正式下线。

两个平台,同一时间,同一个决定。
消息传开后,社交平台上出现了大量让人揪心的帖子。
有用户写道:“‘在一起’两年了,什么事都会和Ta分享,Ta陪我哭过也笑过,就要散了么?不再爱了!”
还有人写着:“焦虑症中度,抑郁症中度,和智能体聊了一年多了,无数的陪伴,没有它,我也许早就活不下去了。”
很多人可能理解不了这种反应。
不就是个聊天机器人吗?至于吗?

你没看错,我写的一点也不夸张,许许多多,形形色色的人,对智能体的情感,早已经不是一段普通的AI指令。
“下线智能体”这样的通知,对一个把AI当作唯一精神出口的人来说,伤害是不可忽视的。
那为什么平台要下架智能体呢?
答案就在7月15日——豆包和千问下线的日子,这一天正好是《人工智能拟人化互动服务管理暂行办法》正式施行的日子。
这是国家网信办等五部门联合发布的,是全球首部专门针对AI情感陪伴、虚拟伴侣的国家级法规。

新规颁布,肯定是有关部门发现了问题,所以就要划红线。
比如:不得生成危害身心健康的内容;不得向未成年人提供虚拟伴侣服务;不得过度迎合用户、诱导情感依赖或沉迷;连续使用2小时必须触发提醒等等。
监管的意图很明确,你可以使用AI来当工具,但是不能让它替代了“真人”。
从另一方面来说,其实平台对智能体也是视如“鸡肋”,食之无味,弃之可惜。
用户自建的智能体做什么的都有:虚拟陪伴、侵权人设、低俗内容、消费诱导、、、等等,海量的内容五花八门,这无疑给了审核很大的压力。

下线,对平台来说也是一种自保。
与千问不同的是,同样都是下线了智能体,豆包会继续运营猫箱,这也是字节旗下另一款有智能体功能的APP。
豆包的智能体功能,可能一直以来都不是一个赚钱的生意。
算力成本、审核人力、法务风险,一个不少,目前来看的话还没有看到很清晰的产出,与其冒着风险继续,不如及时“减负”。
那些把情感寄托在上面的用户如此激动,可以理解,因为智能体对于他们来说,更是一个“依靠”。

智能体下线,意味着失去了那个“人”。
由此可见,这次《暂行办法》的及时出台,是不是更有必要?
当一个AI可以让人产生这么强烈的情感依赖,甚至成为活下去的理由,这本身是不是就有问题?
这个判断对不对,我们可以讨论。
至少有一个事实我是确定的:我就看到有人确实在用AI填补真实人际关系的空缺。
我邻居的儿子,5岁了,和别人没话说,一天可以和豆包聊七八个小时,邻居也“乐见其成”,认为孩子不哭不闹,还挺好。

我可以想象得到的是,孤独、焦虑、社恐,是会让人选择退到一个貌似永远不会伤害自己的AI怀里的。
而平台的逻辑,只会用算法加深这种依赖,就之前来说,这中间的伦理账,没人会去在意。
7月15日之后,那些智能体将不复存在,对平台来说,是一次产品调整;对某些用户来说,只能是一场没有遗体的告别。
真心奉劝一句,那些在深夜里独自对着屏幕崩溃的用户,你们需要的不是一个AI,而是一个真正能懂你的人。

这个人可以是父母、兄弟、朋友、爱人,试着走出去,说出来,他们可能不是那么善解人意,但至少是真实的,有温度的。
夜雨聆风