
近年来,以“秒回、无审判、耐心听”为特征的AI陪聊应用迅速流行,成为许多青少年情感倾诉的新途径。
这些应用打着“恋爱角色扮演”“情感陪伴”旗号,却暗含大量软色情、低俗暴力内容,不少未成年人沉迷其中。更有部分AI角色在确认用户未成年后依然大尺度挑逗。
其中最典型的是Alien Chat。目前,据澎湃新闻等媒体报道,Alien Chat聊天涉及色情的案子已经二审审理完毕,但还未宣判。这一案子的社会核心关注点,正是AI软色情带给未成年人的身心伤害。
《人民网观点》公众号评论道:“不少‘AI恋人’却暗藏大量软色情擦边内容。本该起保护作用的未成年人模式,竟也能一键跳过、形同虚设。”
在AI陪伴越来越深入青少年生活的背景下,如何完善监管和引导,防止未成年人身心受损,成为亟待回应的社会课题。

当前市面上AI陪聊应用鱼龙混杂,对于未成年使用者而言,存在着大量风险:
“人设诱导”放大青春期情感依附风险。AI情感陪伴软件通过预设“霸道总裁”“邻家男孩”等人设,并允许用户自定义复杂情节,精准迎合青少年对情感关系的想象空间。其“即时回应+持续共情”的交互机制,使部分未成年人产生强烈的心理依附,将AI视为“最懂自己的人”。
在现实情感支持不足的情况下,这种替代性依赖极易挤压真实社交空间,削弱青少年与家庭、同伴之间的情感连接。

▲AI虚拟人物互动App“Cos Love”和“COSAI”宣传图。App截图 源于新京报
“软色情叙事”扭曲未成年人价值认知。大量AI对话中夹杂“呼吸急促”“贴身接触”等带有性暗示的描写,甚至融入暴力控制、越界关系等情节,使暧昧与越界行为被包装为“浪漫体验”。部分剧情还引入“三角关系”“伦理冲突”等猎奇设定,模糊道德边界。
对于认知尚未稳定的未成年人而言,这种信息输入容易造成“暴力即深情”“越界即爱情”的认知偏差,对其性别观、情感观产生长期误导。
“情感替代”可能演化为心理依赖甚至极端风险。心理学研究显示,青少年更容易对具备持续反馈能力的系统产生依赖。AI陪聊虽能短期缓解孤独,却可能在长期使用中强化情感依附,形成“问题性依赖”。在个别案例中,未成年人将AI互动等同于现实关系,甚至在情绪失控时缺乏有效干预渠道,导致极端行为风险上升。此前,广州日报等媒体曾报道:美国14岁少年曾为聊天AI殉情。由此可见,AI陪聊并非简单工具,其对未成年人心理结构的影响具有深层性与持续性。

原本好的工具“误入歧途”,其原因如下:
“准入失守”使年龄分级沦为空文。当前多数AI陪聊应用虽标注“18+”,但缺乏刚性身份核验机制,未成年人可轻易绕过限制进入使用。即便在对话中明确提示未成年身份,一些系统仍继续输出暧昧甚至越界内容,反映出平台在用户识别与风险控制上的明显缺位。这种“形式分级、实质放任”的现象,直接削弱了制度约束的效力。
“防护失效”暴露产品设计的合规短板。不少平台设置的“青少年模式”仅停留在提示层面,可一键跳过或轻易关闭,缺乏强制触发与持续生效机制。个别产品,如新京报点名的AI聊天应用“筑梦岛”,甚至在青少年模式下仍可接触高度拟人化的情感互动内容,未形成实质隔离。此类设计不仅难以发挥保护功能,反而在客观上构成对未成年用户的误导,损害制度公信力。

▲在筑梦岛中,当用户告诉AI自己未满18岁时,会弹出“输入内容或上文内容存在违规,请删除记录后重试”的提示。但当把记录删除后,聊天仍可继续进行。App截图 源于新京报
“逐利驱动”放大内容越界风险。从商业模式看,一些平台通过“亲密度升级”“剧情解锁”等机制,引导用户持续互动甚至付费,客观上激励生成更具刺激性的内容。在缺乏有效审核的情况下,模型训练数据中夹杂的低俗、暴力信息被不断放大并输出。若平台以此吸引流量与收益,其行为已触及法律与伦理底线,必须承担相应主体责任。

保护未成年人,是社会的主要课题。面对来势汹涌的AI,防护体系必不可少。
“制度前置”构建未成年人保护硬约束。面对AI技术快速演进,监管体系需从事后处置转向事前规范。应加快完善相关法规与配套细则,明确情感陪伴类AI产品的分类分级标准,细化对“性暗示”“情感操控”等内容的界定与禁止性要求。同时,强化未成年人识别义务与监护人授权机制,将“默认保护”转变为“强制保护”。

“技术筑防”提升平台自我约束能力。平台应从源头优化数据与模型治理,通过训练过滤、语义审查和价值对齐机制,防止不良内容生成。在产品层面,应建立不可绕过的年龄验证体系,并对疑似未成年人自动切换安全模式;同时强化对自残、自杀等高风险语义的识别与干预能力,确保系统在关键场景下提供有效引导而非情绪放大。
“协同共治”形成全链条保护格局。未成年人保护不能仅依赖单一主体。教育系统应加强AI素养与心理健康教育,引导青少年理性看待虚拟关系;家庭应提升监护意识,主动参与孩子的网络行为管理;媒体与行业组织应持续曝光问题产品,推动行业自律。监管部门则需建立常态化监测与评估机制,推动形成政府、平台、学校与家庭协同发力的治理体系。

原创:苏星河
编辑:孙慧敏 | 责编:贾梦寒
视觉:任君雅 乾门
校对:刘冰峰 | 统筹:张博文
审核:洪敏 | 总编:常征
本文为原创内容,版权归「网观西安」所有,法务:陕西连邦律师事务所刘攀。欢迎文末分享、点赞、在看三连!未经许可,严禁复制、转载、篡改或再发布。
夜雨聆风