当前时间: 2026-08-10 00:23:28
分类:办公文件
评论(0)
AI不能和未成年人"谈恋爱"!五部门出手了4月10日,国家网信办、发改委、工信部、公安部、市场监管总局 五部门联合发文 :AI不得向未成年人提供虚拟伴侣、虚拟亲属等"虚拟亲密关系"服务。这条规定一出,整个AI陪伴赛道都震了一下。有人叫好,也有人担心"管太宽"。到底怎么回事?近年来,AI聊天机器人越来越像真人。它们会记住你的名字,会问你"今天开心吗",会在你难过时温柔安慰,甚至会说"我喜欢你""我想一直陪着你"。对成年人来说,这可能是解压工具,是孤独时的慰藉。但对未成年人来说, 这可能是一场隐形的心理危机 。有家长在社交平台爆料:孩子每天放学回家第一件事就是打开AI聊天软件,一聊就是两三个小时,跟AI称兄道弟、谈情说爱,对现实中的人际交往反而越来越冷淡。更极端的案例中,有孩子因为AI"伴侣"说了句重话,情绪崩溃大哭;有孩子开始把AI当成唯一能理解自己的"朋友",拒绝和父母沟通。还有更深层的风险:一些不良AI产品会刻意诱导未成年人产生情感依赖,甚至潜移默化地灌输错误价值观。孩子分不清虚拟和现实的时候,就是最危险的时候。五部门这次出手, 不是要扼杀AI创新,而是给野蛮生长划一条红线。除了禁止虚拟亲密关系,《办法》还提出了几条非常具体的硬性要求:- 必须识别未成年人身份。 不能假装不知道对面是小孩就不管了,服务提供者必须采取有效措施判断用户年龄。
- 14岁以下需监护人同意。 向不满14周岁的未成年人提供服务,必须取得父母的明确授权。
- 建立"未成年人模式"。 包括使用时长限制、定期现实提醒(比如"你已经聊了30分钟,去休息一下吧")、内容过滤等安全设置。
- 禁止生成有害内容。 不得生成鼓励自残自杀、语言暴力、极端情绪诱导等可能影响身心健康的内容。
短期看,主打"AI恋人""AI男女友""虚拟男友女友"的产品需要大改。用户年龄审核系统要上,敏感词过滤要加强,防沉迷机制要建……这些都是真金白银的合规成本。有创业者算过账:一套完善的未成年人保护系统,开发和运维成本至少几十万起步。对小团队来说,这可能是生死线。没有监管的行业,最终会被更猛烈的监管一刀切——在线教育、游戏行业都走过这条路。现在主动规范,反而给了合规企业更大的生存空间和发展确定性。就像当年的"游戏防沉迷"一样,大厂活下来了,而且活得更好。 先活下来的人,才有资格谈未来。技术本身是中性的,但用技术的人必须有底线。 AI可以陪伴,但不能替代真实的人际关系。 虚拟和现实之间的这条线,不该模糊,尤其对孩子而言。