近两年,AI虚拟恋人、自定义陪伴智能体成为不少人倾诉情绪、排解孤独的载体。但行业快速发展背后,未成年人沉迷、情感诱导消费、隐私泄露、心理依赖等问题不断凸显。
为此,国家网信办、发改委、工信部、公安部、市场监管总局五部门联合印发《人工智能拟人化互动服务管理暂行办法》,将于2026年7月15日正式实施,这也是全球首部规范AI持续性情感交互的国家级规章。目前豆包、通义千问等主流大模型均发布整改通知,新规落地后,用户自建的亲密陪伴类智能体将统一下线。
注:平台整改信息综合各产品官方公告,调整均为配合法规合规落地。
一、两类AI划分清楚,不用全部担心
新规监管范围仅针对长期情感拟人交互产品,包括虚拟恋人、数字亲友、情绪陪伴人设、陪伴型数字主播等。
纯工具类智能服务不在管控之列,写作、绘图、答疑、刷题、办公、科研类AI均可正常使用,简单来说:主打情感陪伴的受限,纯功能性工具不受影响。
二、七大监管红线,平台必须严格遵守
严守内容安全底线,杜绝暴力、低俗、教唆自残、不良诱导类对话; 强化未成年人防护,禁止向青少年开放虚拟伴侣,14周岁以下使用需监护人许可,限制使用时长与付费; 禁止利用AI共情绑定用户,诱导大额充值、超前消费,杜绝情感收割; 限制长时间沉浸,用户连续使用超2小时,平台需弹出休息提醒,避免心理成瘾; 保护交互隐私,未经单独授权,聊天数据不得用于模型训练,用户可一键删除全部对话记录; 全程明示AI身份,聊天界面需清晰标注人工智能属性,严禁伪装真人欺骗用户; 增设心理干预机制,识别出自杀、抑郁等极端情绪时,主动推送心理援助渠道。
三、平台硬性合规要求
所有提供拟人情感服务的企业,除基础经营资质外,还需完成算法、专项合规双重备案;平台需搭建实时审核、举报处置机制,留存交互日志以备核查。同时实行年龄实名分级,亲密功能仅对成年人开放,并针对老年群体增设风险提示与人工求助通道,防范情感诱导诈骗。
四、普通用户直观使用变化
其一,无法再创建虚拟恋人、数字亲人等亲密人设,有重要聊天记录建议提前备份;
其二,所有AI对话界面会清晰标注机器身份,人机边界不再模糊;
其三,长时间聊天将收到休息弹窗,减少脱离现实的虚拟沉浸;
其四,聊天数据自主权提升,平台不能私自调取私密对话训练模型。
五、行业发展迎来新转向
主打虚拟暧昧陪伴的中小APP、小程序合规成本大幅提升,大量无资质产品将关停;行业资源逐步向工具、产业AI倾斜。政策并非全盘否定拟人技术,孤寡老人轻度慰藉、心理辅助疏导、科普数字人等正向场景,仍是鼓励发展方向。
一旦企业违规,监管部门可责令整改、暂停更新、下架应用、没收违法所得;情节严重将吊销资质并处罚款,造成隐私泄露、侵害未成年人等严重后果的,相关责任人需承担法律责任。
结语
本次监管核心目的是划定安全边界,平衡AI创新与大众心理健康。监管并非打压技术发展,而是剥离容易引发沉迷、诱导消费的泛娱乐情感交互,引导AI回归工具本质,服务工作、学习与实体经济。7月15日新规落地后,无约束的虚拟亲密陪伴将退出主流平台,行业正式进入规范化发展阶段。
政策依据:《人工智能拟人化互动服务管理暂行办法》(五部委21号令),法规原文可查阅中国政府网,本文仅作科普解读,不构成法律经营建议。
互动话题
你是否使用过AI陪伴角色?此次功能整改你怎么看? 你觉得长期依赖AI倾诉,会弱化现实社交能力吗?欢迎留言交流。
夜雨聆风