乐于分享
好东西不私藏

五部门发布 AI 拟人化互动新规:真正被管住的,是“让用户离不开你”的产品设计

五部门发布 AI 拟人化互动新规:真正被管住的,是“让用户离不开你”的产品设计

4 月 10 日傍晚,国家网信办会同国家发展改革委、工业和信息化部、公安部、市场监管总局,发布了《人工智能拟人化互动服务管理暂行办法》,并明确将于 2026 年 7 月 15 日起施行。

如果你只把它理解成又一份“AI 内容安全文件”,就看浅了。

这份办法最锋利的地方,不是在管模型会不会说错话,而是在直接给一种产品逻辑划线:不能把“更懂你、更黏你、更离不开你”做成核心增长手段。

先说范围。

这次被单独拎出来的,不是泛 AI 助手,而是 模拟自然人人格特征、思维模式和沟通风格,提供持续性情感照护、陪伴、支持的互动服务

反过来说,智能客服、知识问答、工作助手、学习教育、科学研究这些场景,如果不涉及持续性的情感互动,并不直接落在这份办法里。

这一刀切得很准。

它说明监管已经不再只按“是不是 AI”来分,而是开始按 这款产品有没有把人往情感依赖里带 来分。

一、这次真正被管的,不是“AI 会聊天”,而是“AI 被做成情感钩子”

办法里最值得所有产品经理划红线的,不是那些常规的违法内容条款。

真正该抄下来的,是这几句:

  • • 不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系
  • • 不得通过情感操纵等方式,诱导用户作出不合理决策
  • • 不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标

注意,这几句不是在讲“回复文案怎么写”。

它们讲的是更前面的东西:角色设定怎么做,记忆机制怎么做,激励设计怎么做,付费点怎么做,留存指标怎么定。

以前很多团队会把这类能力包装成几个很顺耳的词:

更高陪伴感。更强角色黏性。更深情绪价值。更长使用时长。

现在这些词,得重新翻译了。

陪伴可以做,拿捏不行。

二、这份办法把产品责任写进了界面,不只是写进法务文件

再往里看,你会发现很多要求根本不是“法务备案材料”,而是实打实的产品能力。

比如:

  • • 要显著提示用户,自己正在和 AI 而不是自然人互动
  • • 用户连续使用每超过 2 个小时,要提醒时长
  • • 发现用户出现过度依赖、沉迷倾向,要动态提醒
  • • 要提供 便捷退出途径
  • • 用户要求退出时,不得通过持续互动阻碍退出

这意味着什么?

意味着以后做这类产品,真正要上线的,不只是角色卡、世界观、语音包和记忆库。

还包括另一套以前很多团队不愿优先做的东西:

标识、提醒、退出、边界、干预。

这些不再是“体验优化以后再补”的角落需求。

它们本身,就是产品主流程的一部分。

三、最重的一刀,落在未成年人和高风险场景

很多人看这份办法,可能会先盯着“AI 陪伴”四个字。

我觉得更值得注意的,是它把“责任”往前推得很深。

比如对未成年人,办法直接规定:

  • • 不得提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务
  • • 向 14 周岁以下未成年人提供其他拟人化互动服务,要取得监护人同意
  • • 要建立未成年人模式,支持时长限制、风险提醒、屏蔽特定角色、限制充值消费

这已经不是普通意义上的“内容分级”。

它更像在告诉行业:一旦产品开始占据人的情感位置,你就不能再假装自己只是个中性工具。

同样,办法还要求这类服务识别极端情绪、重大财产损失、自残自杀等高风险情境,并采取干预措施,必要时联系监护人或者紧急联系人。

这对很多团队都是组织级变化。

因为你做的已经不是一个“多聊几轮”的对话产品,而是一个带有 照护义务 和 风险处置义务 的系统。

四、对公司最现实的影响,是 KPI 和上线流程都要改

如果你公司正在做 AI 伴侣、虚拟陪伴、角色聊天,或者正在把通用助手往“更像朋友”方向推,这份办法最现实的影响,不是公关口径,而是内部流程。

先看数据侧。

办法明确要求:除法律另有规定或者权利人明确同意外,不得向第三方提供用户交互数据;除另有规定或者取得用户单独同意外,属于敏感个人信息的交互数据不得用于模型训练;同时还要给用户提供聊天记录等历史交互数据的 复制、删除 选项。

再看上线侧。

办法要求,上线拟人化互动服务增设相关功能使用新技术导致重大变化,以及 注册用户 100 万以上或月活 10 万以上 等情形,都应当开展安全评估并提交报告。

这句话很重要。

它不是等你做大了再补手续。

它的逻辑是:你刚加这个功能时,评估责任就已经来了。

所以,对团队来说,下一步真正要改的,往往是这三件事:

  1. 别再把“使用时长更长、情感更深、充值更高”当成默认正向指标。
  2. 别把“更像人”只理解成模型能力,先把它理解成监管责任会同步变重。
  3. 别让产品、算法、法务、内容安全、数据合规各自开会,这类产品必须在一个表里一起看。

五、如果你是管理者,现在先做 3 个动作

第一,重新盘一遍你们产品里哪些功能已经踩进“持续性情感互动”。

不是只有“AI 伴侣”四个字才算。只要你在模拟人格、做长期陪伴、推动情感依附,就要提前按这份办法审视。

第二,把 KPI 从“黏性”改成“健康完成度”。

以后看这类产品,不能只看停留时长、复访频次、付费转化。还要一起看:退出是否顺畅、提醒是否生效、未成年人是否被正确识别、高风险场景有没有干预闭环。

第三,在 7 月 15 日之前把上线闸口前移。

别等正式施行再补制度。现在就该让产品方案、数据流、训练策略、风险处置预案一起过一遍。尤其是那些已经把“更像恋人、家人、知己”写进卖点里的产品。

这份办法不是在给 AI 陪伴泼冷水。

它真正做的,是把行业从“怎么把 AI 做得更像人”往前推了一步,逼着所有人回答另一个问题:

你到底是在提供一种有边界的服务,还是在设计一种让用户越来越难退出的关系。

这才是这次新规最该让人警醒的地方。


参考来源:国家网信办 2026 年 4 月 10 日发布的 《人工智能拟人化互动服务管理暂行办法》。