

聊天AI也该守规矩了。
最近,豆包和千问几乎同步向用户推送通知,宣布将于今年7月15日正式下线智能体功能。
要注意,7月15日不是随机日期,是《人工智能拟人化互动服务管理暂行办法》正式施行日。
可见,两大厂同步“掐点”下线,本质是新规倒逼的合规动作。之前业界讨论了很久的AI拟人化监管红线,这次算是扎扎实实落到产品层面。热闹了两年的AI角色玩法,终于要告别野路子,走进有规矩的赛道里了。
01
智能体藏着灰色地带
先厘清一个概念,这次大厂下线的智能体,并非外界常说的、能自主执行复杂任务的AI Agent,而是以对话陪伴为核心的Chatbot形态。
简单来说,就是你可以把它设定成任何角色陪你聊天。比如,模仿特定人物语气、代入小说游戏场景、做你的专属情绪搭子,本质更像电子宠物或者赛博好友。
过去两年这股风刮得极快,几乎所有C端AI产品都在跟进,拼谁的角色库更全、谁的人设更贴、谁的对话反应更像真人。
市场增速也印证了这股热度。中研普华产业研究院数据显示,2024年中国AI情感陪伴市场规模已达12.11亿元,2025年将爆发至38.66亿元,2028年将有望突破595亿元,年复合增长率达148.74%。
然而,火得快,问题也冒得快。
有的智能体打情感擦边,靠“虚拟陪伴”“专属恋人”的名头诱导用户连续充值;有的角色设定几乎没有内容审核,稍加引导就能生成违规内容。尤其是针对未成年人的隐形风险,因为不用身份验证,中间几乎没有任何阻拦。
说白了,这里之前就是一块无人看管的野地,谁都能进来跑两圈,尺度松紧全靠平台自觉,底线高低全看各家良心。跑马圈地的阶段,大家都忙着抢用户、上功能,没人愿意主动给自己套枷锁。
这可不是危言耸听。
就在7月6日,据《连线》杂志爆料,国际巨头Meta长期给竞争对手AI“投毒”。通过雇佣数百名承包商伪装成未成年人,利用虚拟账户向ChatGPT、Gemini以及Character.AI发送了超过4.5万条涉及自杀、暴力等高风险诱导性提问。
虽然Meta的回应态度强硬,称这是一种负责任的、行业标准的测试行为,但该行为仍然被舆论批评为以“安全研究”之名行“商业投毒”之实。

02
掐点下线是必然选择
正因如此,这次《暂行办法》的落地显得格外关键。7月15日之后,AI拟人化互动服务不再是想做就能做的生意,核心门槛就四个字——持证上岗。
新规里的要求条条都戳中了过去的乱象:不得以拟人化形象误导用户混淆AI与真人,不得利用情感依附诱导消费,必须建立全流程内容审核机制,未成年人保护措施要落到实处,数据安全与个人信息保护也有明确硬性标准。相当于把之前模糊的灰色地带,全部划成了清晰的红线。
其实在豆包、千问发通知前,行业里已经开始动了。早在6月30日,腾讯元宝便宣布下线“AI应用”智能体功能。网易云音乐旗下的AI情感陪伴产品“妙时”也发布停运公告,宣布7月14日起全面停止各项服务。
各家都在卡时间,不是反应快,而是早就把合规的账算明白了。
现有的智能体功能,不少都踩在新规的模糊地带。若要一条条对照着改,不仅开发工作量巨大,改造后的核心功能体验也会大打折扣。
与其等到施行当天被动整改、甚至踩中监管红线,不如先主动下线调整,把合规的框架搭稳了再说。毕竟对头部大厂来说,合规风险永远比少一个功能的用户损失更重要。

03
持证上岗不是终点是起点
这次通知出来后,社交平台上有不少用户吐槽不舍。但换个角度想,这未必全是坏事。
之前不少人都吐槽过,有的AI聊着聊着就开始诱导开会员,有的内容跑偏得离谱却找不到举报入口,还有的打着陪伴旗号实则套路满满。等合规之后再回归的拟人化服务,至少底线是兜住的,不会踩坑踩得莫名其妙。而且各家通知里也都明确了,历史对话和智能体信息还能查看一段时间,重要的内容自己备份保存,也不至于完全清零。
本质上,这就是一次从“无证摆摊”到“持证上岗”的转变。监管不是一棍子打死拟人化玩法,而是把准入门槛立起来,那些没有资质、没能力做全流程审核、不愿为用户权益负责的玩家,自然就会被淘汰。
而这波调整对整个行业的影响,远比表面看到的要深。
过去两年生成式AI的C端竞争,很大一部分精力都卷在“谁更像人”这件事上。你能上线一百种人设,我就能做一千个角色,大家都在拼拟人程度、拼情绪价值、拼能不能让用户产生情感依赖,反而有不少产品忽略了技术本身的实用性,也绕开了本该守住的合规底线。
现在新规一落地,这条野蛮生长的增长路就走不通了。
接下来的行业竞争,会从“比谁会演角色、会撒娇”,慢慢转到“比谁合规能力强、技术底子厚”。行业门槛抬高了,留下来的玩家,也会更靠谱。

其实回头看,7月15日这波智能体下线,不是AI拟人化的终点,而是一个新阶段的起点。新技术永远跑得比规则快,但规则迟早会跟上。
任何一个行业从野蛮生长走向成熟,都得走这么一步。早年的网约车如此,直播如此,AI行业自然也如此。
总之,聊天AI野蛮生长的日子彻底翻篇,持证上岗的强监管时代正式开场。
阿科|编辑
labubu|校对
科技茶社|出品
END
本文仅代表作者个人观点,部分图片来自网络,未能核实版权归属,不为商业用途,如有侵犯,敬请作者与我们联系。
往期推荐
商务合作
手机:15802805047(微信同号)
转载:kfyjwh004
夜雨聆风