乐于分享
好东西不私藏

AI不能和未成年人"谈恋爱"!五部门出手了

AI不能和未成年人"谈恋爱"!五部门出手了
4月10日,国家网信办、发改委、工信部、公安部、市场监管总局 五部门联合发文 :
AI不得向未成年人提供虚拟伴侣、虚拟亲属等"虚拟亲密关系"服务。
7月15日起正式施行。
这条规定一出,整个AI陪伴赛道都震了一下。有人叫好,也有人担心"管太宽"。到底怎么回事?
一、为什么偏偏管这个?
近年来,AI聊天机器人越来越像真人。它们会记住你的名字,会问你"今天开心吗",会在你难过时温柔安慰,甚至会说"我喜欢你""我想一直陪着你"。
对成年人来说,这可能是解压工具,是孤独时的慰藉。但对未成年人来说, 这可能是一场隐形的心理危机 。
有家长在社交平台爆料:孩子每天放学回家第一件事就是打开AI聊天软件,一聊就是两三个小时,跟AI称兄道弟、谈情说爱,对现实中的人际交往反而越来越冷淡。
更极端的案例中,有孩子因为AI"伴侣"说了句重话,情绪崩溃大哭;有孩子开始把AI当成唯一能理解自己的"朋友",拒绝和父母沟通。
还有更深层的风险:一些不良AI产品会刻意诱导未成年人产生情感依赖,甚至潜移默化地灌输错误价值观。孩子分不清虚拟和现实的时候,就是最危险的时候。
五部门这次出手, 不是要扼杀AI创新,而是给野蛮生长划一条红线。
二、具体规定了什么?四条硬杠杠
除了禁止虚拟亲密关系,《办法》还提出了几条非常具体的硬性要求:
  1. 必须识别未成年人身份。 不能假装不知道对面是小孩就不管了,服务提供者必须采取有效措施判断用户年龄。
  2. 14岁以下需监护人同意。 向不满14周岁的未成年人提供服务,必须取得父母的明确授权。
  3. 建立"未成年人模式"。 包括使用时长限制、定期现实提醒(比如"你已经聊了30分钟,去休息一下吧")、内容过滤等安全设置。
  4. 禁止生成有害内容。 不得生成鼓励自残自杀、语言暴力、极端情绪诱导等可能影响身心健康的内容。
违规者将依法处理,情节严重的可能被吊销运营许可。
三、对行业意味着什么?短期阵痛,长期利好
短期看,主打"AI恋人""AI男女友""虚拟男友女友"的产品需要大改。用户年龄审核系统要上,敏感词过滤要加强,防沉迷机制要建……这些都是真金白银的合规成本。
有创业者算过账:一套完善的未成年人保护系统,开发和运维成本至少几十万起步。对小团队来说,这可能是生死线。
但长期看, 这是好事。
没有监管的行业,最终会被更猛烈的监管一刀切——在线教育、游戏行业都走过这条路。现在主动规范,反而给了合规企业更大的生存空间和发展确定性。
就像当年的"游戏防沉迷"一样,大厂活下来了,而且活得更好。 先活下来的人,才有资格谈未来。
技术本身是中性的,但用技术的人必须有底线。 AI可以陪伴,但不能替代真实的人际关系。 虚拟和现实之间的这条线,不该模糊,尤其对孩子而言。