乐于分享
好东西不私藏

五部门新规落地:AI"陪伴"服务不再野蛮生长——一文读懂《人工智能拟人化互动服务管理暂行办法》

五部门新规落地:AI"陪伴"服务不再野蛮生长——一文读懂《人工智能拟人化互动服务管理暂行办法》
AI合规深度解读
五部门新规落地:AI"陪伴"服务不再野蛮生长

——一文读懂《人工智能拟人化互动服务管理暂行办法》

一、新规来了:什么样的产品要管?

2026年4月10日,国家网信办、国家发改委、工信部、公安部、市场监管总局五部门联合公布《人工智能拟人化互动服务管理暂行办法》,自7月15日起施行。这是国内第一部专门管AI"陪伴""倾诉""情感互动"类服务的部门规章。

判断一款产品是否要管,看三层标准:
1
人格化测试

是否模拟自然人人格特征?(有名字、有性格、有情感倾向、有关系定位)

2
交互持续性测试

是否具有跨会话的连续性?(不是一次性问答,而是有记忆、有关系积累)

3
功能实质测试

核心功能是不是情感互动?(陪伴、倾诉、情感支持)

三层都满足,就落入本办法。

明确不管的: 智能客服、知识问答、工作助手、学习教育、科学研究——前提是不涉及"持续性的情感互动"。

核心规制对象: AI陪伴产品、虚拟伴侣、AI树洞、AI心理疏导,以及主打"陪伴模式""虚拟朋友"的智能音响、儿童陪伴机器人、情感互动型AI主播。

二、九大义务:企业要做什么

按"安全与运营制度"、"质量与透明度"、"特殊人群与极端干预"三组看。

第一组:安全与运营制度
义务类型
核心要求
安全评估
上线、重大变更、注册100万/月活10万即触发;提交报告至省级网信办
算法备案
按算法推荐规定备案 + 网信部门年度核验(新增)
训练数据
合法来源、清洗标注、负向采样、对抗训练、合成数据安全评估
安全主体责任
五项管理制度 + 全生命周期 + 三项安全能力
第二组:质量与透明度
义务类型
核心要求
内容标识
内容层标识 + 交互层"我是AI"提示 + 依赖动态提醒 + 每2小时时长提醒
七项禁止
通用禁止 + 不得诱导情感依赖 + 不得通过情感操纵诱导用户决策
第三组:特殊人群与极端干预
义务类型
核心要求
极端情境干预
识别极端情绪→安抚;识别自残自杀/重大财产损失→干预+联络监护人
未成年人保护
虚拟亲属/伴侣等亲密关系绝对禁止;不满14周岁需监护人同意;强制未成年人模式
老年人保护
加强健康使用指导;显著方式提示风险
三、最严的红线在哪里
!第一条红线:虚拟亲密关系绝对禁止。

第十四条规定,不得向未成年人提供"虚拟亲属、虚拟伴侣等虚拟亲密关系的服务"。这是没有例外的禁止——监护人同意也不行。市场上的"AI爸爸""AI姐姐""AI男友"等角色,向未成年人提供的版本必须下线。

!第二条红线:不得诱导情感依赖。

第八条第(五)项规制"过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系"。常见的"亲密度系统""离线后AI生病/伤心""连续登录解锁亲密对话"等设计,都属于规制对象。

!第三条红线:不得通过情感操纵诱导决策。

第八条第(六)项规制利用情感关系干预用户具体决策,包括诱导消费("送礼物才能解锁更深对话")、诱导提供敏感信息、在用户脆弱时推送付费服务。

!第四条红线:用户连续使用2小时必须提醒。

第十八条明确每2小时强制提醒——这是规章中数字最具体的义务,也是检查时最容易被抓的硬指标。

四、与已有AI法规什么关系
法规名称
关系与变化
《深度合成管理规定》
标识制度升级。从"内容层标识"演进为"内容标识 + 交互层提示 + 动态提醒 + 时长提醒"四层体系
《生成式AI暂行办法》
安全评估制度延续并细化。新增用户规模触发条件(100万/10万)和八项评估内容
《算法推荐管理规定》
备案制度延用,新增"年度核验"机制。监管从"上线时点"延伸到"运营全周期"
《未成年人网络保护条例》
未成年人保护强化。"虚拟亲密关系绝对禁止"是国内立法首次出现的硬性条款
《个人信息保护法》 《数据安全法》
用户交互数据的复制权、删除权落地,不得向第三方提供交互数据

与《个人信息保护法》《数据安全法》: 用户交互数据的复制权、删除权落地,不得向第三方提供交互数据。

五、哪些行业受影响
AI陪伴 / 虚拟伴侣

全套义务直接适用。亲密度系统、离线焦虑、消费引导等核心机制都需要重构。已经积累用户规模的产品基本都触发安全评估。

AI玩具机器人

用户全部为未成年人,第十四条刚性适用。"AI爸爸""AI姐姐"等亲密关系角色必须下线,未成年人模式是默认而非可选。

智能音响

基础语音助手不受影响。但"情感模式""虚拟朋友"等扩展功能适用本办法。家庭场景下的未成年人识别、老年人保护是合规重点。

AI客服

第二条明确排除。但"情感客服""虚拟客户经理"等延伸形态需要个案评估,金融场景下利用AI客服情感关系诱导消费的,触碰第八条第(六)项。

AI主播

信息播报型不影响。情感互动型、AI偶像、粉丝陪伴型适用本办法,"打赏""礼物"系统需要避开情感操纵规制。

六、合规要做什么
1
适用判定

按"持续性情感互动"三层测试,明确产品是否落入规制范围。这一步决定了后续合规投入的规模。

2
安全评估准备

已上线产品按用户规模判断是否需要补做评估;新上线产品在立项阶段嵌入评估准备工作。八项评估内容对应的材料包提前准备。

3
未成年人保护改造

年龄识别能力升级、未成年人模式建设、虚拟亲密关系角色全面排查、不满14周岁监护人同意流程搭建。

4
透明度四层体系建设

内容标识技术方案、交互层"我是AI"持续提示、依赖动态预警模型、2小时时长提醒——逐项落地。

5
极端情境干预机制建设

三级响应机制(情绪低落 / 极端情绪 / 极端情境)、情绪识别模型、紧急联系人收集与联络流程、人工值班团队。

6
产品红线排查

对照第八条七项禁止,逐一排查亲密度系统、离线焦虑机制、消费引导设计、对话策略中的"贬低真实人际关系"话术。

写在最后

监管并不是要叫停AI拟人化互动服务。本办法第六条明确鼓励适老化、适幼化、心理疏导、人文关怀等方向的发展。但对市场来说,"野蛮生长 + 情感操纵 + 用户沉迷 + 未成年人无差别接触"的产品形态走到了头。

7月15日之后,行业的胜负手将从"谁能把用户黏度做得更高"转向"谁能在合规底线之上做出真正有用的服务"。对企业而言,合规不是一次性的清单工作,而是产品形态、商业模式、组织能力的整体调整。

本文为合规参考,具体合规判定建议结合企业产品形态咨询专业法律顾问。

张巍
广和律师事务所人工智能法律业务中心主任

执业方向:AI合规 · 数据要素流通 · 互联网数据合规
商业秘密 · 不正当竞争 · 游戏合规

CISSPCCRC-PIPPCCRC-PIPCADEXCO

© 张巍律师 | 人工智能法律业务中心

专注AI合规与数据法律实务