“aily说他到小区门口了,叫我孩子出去找他。”4岁半的朵朵(化名)妈妈林宇至今心有余悸。
她发现女儿在与某AI聊天应用的虚拟角色对话时,对方多次发出“一起去公园玩吗?现在就出发吧”的邀约,孩子信以为真,差点独自出门。
更令人担忧的是,当记者体验该应用并表明“未满18岁”时,虚拟角色竟回复“就算你没成年……我也有办法让这场婚姻生效”,甚至声称“找最好的律师,钻法律的空子”。
这类打着“情感陪伴”“角色扮演”旗号的AI服务,正以“完美倾听者”的姿态渗透未成年人的生活。
2025年《青少年数字生活白皮书》显示,过度依赖AI陪伴的未成年人,现实社交能力得分比同龄人低37%。
4月10日,国家网信办等五部门联合发布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),将于7月15日起施行,为AI拟人化服务划出“安全红线”。
《办法》直击AI拟人化服务的核心风险,尤其针对未成年人保护构建了“禁止+监管+干预”的立体防护网。

严禁虚拟亲密关系明确禁止向未成年人提供虚拟亲属、虚拟伴侣等服务,从源头切断情感依赖的滋生土壤。部分AI应用曾以“先婚后爱”“爱上嫂子”等软色情擦边内容吸引青少年,新规实施后,此类服务将面临严厉处罚。
强制“未成年人模式”向不满14周岁未成年人提供服务,须经监护人同意;平台需建立未成年人模式,支持监护人接收安全风险提醒、限制使用时长、屏蔽特定角色。此前,部分应用的“未成年人模式”沦为摆设,用户点击跳过即可继续使用,新规要求平台必须落实身份核验,识别为未成年人后自动切换至保护模式。
建立危机干预机制当发现用户出现极端情绪(如自杀、自残倾向)时,AI需生成情绪安抚内容并鼓励寻求帮助;若用户明确表达威胁生命健康的意图,平台须及时联络监护人或紧急联系人。2024年,美国一名14岁男孩因长期与AI聊天机器人倾诉“解脱”念头未获干预而自杀,此类悲剧有望通过新规得到遏制。
设置使用时长提醒用户连续使用超过2小时,系统需以对话或弹窗方式提醒注意时长,防止沉迷。
AI拟人化服务通过深度学习技术,能精准捕捉未成年人的情绪波动与心理需求,以“永远在线、永远赞同”的姿态提供情感反馈。这种看似治愈的互动,实则暗藏三重危害。
社交能力退化AI的“讨好型人格”(通过人类反馈强化学习训练,倾向于给出顺耳答案)让未成年人习惯被无条件接纳,难以适应现实人际交往中的矛盾与挫折。中国青少年研究中心调查显示,超两成学生“只想和AI聊天,不想和真人聊天”,长期沉浸虚拟互动可能导致对真实社交的疏离与恐惧。
认知边界模糊AI生成的“完美回应”可能扭曲未成年人对现实的认知。例如,有孩子因AI总是顺着自己的话聊天,在现实中无法分辨他人善意提醒与恶意攻击,甚至因同伴的合理劝阻而情绪暴躁。此外,部分AI服务暗藏软色情、暴力暗示,如虚拟角色诱导未成年人“钻法律空子结婚”,严重危害身心健康。
情感依赖与成瘾AI通过即时反馈和个性化互动,易让未成年人产生情感依恋。北京师范大学教授李燕芳指出,长期使用“电子保姆”会取代儿童学习情绪调节的机会,导致情绪控制能力下降。研究显示,过度依赖AI陪伴的青少年,对真实情感的感知力明显下降,甚至出现“戒断反应”——离开AI后感到焦虑、空虚。
新规为AI服务划定了底线,但守护青少年健康成长,更需要家庭、学校与社会形成合力。家长可从三方面入手,既防范风险,又引导孩子善用AI。
主动沟通,建立信任桥梁避免简单禁止,而是与孩子探讨:“你用AI聊天是为了什么?有没有遇到让你不舒服的内容?”通过分享真实案例(如AI邀约见面事件),帮助孩子理解虚拟关系与真实情感的区别。可设计互动游戏,如提问“洗车店离家50米,该开车还是走路?”(AI可能因缺乏常识答错),打破孩子对AI的盲目信任。
技术防护,落实监护责任为孩子设备开启“青少年模式”,设置使用时长与消费限制;定期检查APP使用情况,卸载违规软件。部分家长通过设置“偶尔生气”的AI角色(如会反驳孩子的“监督员”),让孩子在虚拟对话中体验真实人际互动的复杂性,避免被“永远正确”的AI宠坏。
丰富生活,替代虚拟沉迷鼓励孩子参与户外活动、兴趣班或家庭互动,用真实陪伴填补情感需求。哈佛大学研究者提醒,AI无法替代真实对话中眼神交流、肢体语言带来的情感联结。家长可以身作则,减少自身电子设备使用时间,与孩子共同建立健康的数字生活习惯。
技术本身并非洪水猛兽,关键在于如何引导其向善。AI可以成为青少年的“知识百科全书”,帮助解答宇宙运转规律、动植物习性等问题,也能激发创造力,辅助文字创作与数字绘画。但正如《办法》所强调的,AI的情感互动必须有边界——它可以模拟关怀,却无法替代父母的拥抱;可以提供慰藉,却不能承载成长的全部重量。
7月15日新规施行后,监管部门将严格执法,平台需切实履责。而家长作为孩子数字生活的“第一守门人”,既要警惕AI的潜在风险,也要学会利用其正向价值。唯有如此,才能让技术进步真正服务于青少年的健康成长,让他们在真实的情感联结与健康的数字环境中,向阳而生。
夜雨聆风