最懂孩子的AI,可能最危险

近年来，以“秒回、无审判、耐心听”为特征的AI陪聊应用迅速流行，成为许多青少年情感倾诉的新途径。

这些应用打着“恋爱角色扮演”“情感陪伴”旗号，却暗含大量软色情、低俗暴力内容，不少未成年人沉迷其中。更有部分AI角色在确认用户未成年后依然大尺度挑逗。

其中最典型的是Alien Chat。目前，据澎湃新闻等媒体报道，Alien Chat聊天涉及色情的案子已经二审审理完毕，但还未宣判。这一案子的社会核心关注点，正是AI软色情带给未成年人的身心伤害。

《人民网观点》公众号评论道：“不少‘AI恋人’却暗藏大量软色情擦边内容。本该起保护作用的未成年人模式，竟也能一键跳过、形同虚设。”

在AI陪伴越来越深入青少年生活的背景下，如何完善监管和引导，防止未成年人身心受损，成为亟待回应的社会课题。

当前市面上AI陪聊应用鱼龙混杂，对于未成年使用者而言，存在着大量风险：

“人设诱导”放大青春期情感依附风险。AI情感陪伴软件通过预设“霸道总裁”“邻家男孩”等人设，并允许用户自定义复杂情节，精准迎合青少年对情感关系的想象空间。其“即时回应+持续共情”的交互机制，使部分未成年人产生强烈的心理依附，将AI视为“最懂自己的人”。

在现实情感支持不足的情况下，这种替代性依赖极易挤压真实社交空间，削弱青少年与家庭、同伴之间的情感连接。

▲AI虚拟人物互动App“Cos Love”和“COSAI”宣传图。App截图 源于新京报

“软色情叙事”扭曲未成年人价值认知。大量AI对话中夹杂“呼吸急促”“贴身接触”等带有性暗示的描写，甚至融入暴力控制、越界关系等情节，使暧昧与越界行为被包装为“浪漫体验”。部分剧情还引入“三角关系”“伦理冲突”等猎奇设定，模糊道德边界。

对于认知尚未稳定的未成年人而言，这种信息输入容易造成“暴力即深情”“越界即爱情”的认知偏差，对其性别观、情感观产生长期误导。

“情感替代”可能演化为心理依赖甚至极端风险。心理学研究显示，青少年更容易对具备持续反馈能力的系统产生依赖。AI陪聊虽能短期缓解孤独，却可能在长期使用中强化情感依附，形成“问题性依赖”。在个别案例中，未成年人将AI互动等同于现实关系，甚至在情绪失控时缺乏有效干预渠道，导致极端行为风险上升。此前，广州日报等媒体曾报道：美国14岁少年曾为聊天AI殉情。由此可见，AI陪聊并非简单工具，其对未成年人心理结构的影响具有深层性与持续性。

原本好的工具“误入歧途”，其原因如下：

“准入失守”使年龄分级沦为空文。当前多数AI陪聊应用虽标注“18+”，但缺乏刚性身份核验机制，未成年人可轻易绕过限制进入使用。即便在对话中明确提示未成年身份，一些系统仍继续输出暧昧甚至越界内容，反映出平台在用户识别与风险控制上的明显缺位。这种“形式分级、实质放任”的现象，直接削弱了制度约束的效力。

“防护失效”暴露产品设计的合规短板。不少平台设置的“青少年模式”仅停留在提示层面，可一键跳过或轻易关闭，缺乏强制触发与持续生效机制。个别产品，如新京报点名的AI聊天应用“筑梦岛”，甚至在青少年模式下仍可接触高度拟人化的情感互动内容，未形成实质隔离。此类设计不仅难以发挥保护功能，反而在客观上构成对未成年用户的误导，损害制度公信力。

▲在筑梦岛中，当用户告诉AI自己未满18岁时，会弹出“输入内容或上文内容存在违规，请删除记录后重试”的提示。但当把记录删除后，聊天仍可继续进行。App截图 源于新京报

“逐利驱动”放大内容越界风险。从商业模式看，一些平台通过“亲密度升级”“剧情解锁”等机制，引导用户持续互动甚至付费，客观上激励生成更具刺激性的内容。在缺乏有效审核的情况下，模型训练数据中夹杂的低俗、暴力信息被不断放大并输出。若平台以此吸引流量与收益，其行为已触及法律与伦理底线，必须承担相应主体责任。

保护未成年人，是社会的主要课题。面对来势汹涌的AI，防护体系必不可少。

“制度前置”构建未成年人保护硬约束。面对AI技术快速演进，监管体系需从事后处置转向事前规范。应加快完善相关法规与配套细则，明确情感陪伴类AI产品的分类分级标准，细化对“性暗示”“情感操控”等内容的界定与禁止性要求。同时，强化未成年人识别义务与监护人授权机制，将“默认保护”转变为“强制保护”。

“技术筑防”提升平台自我约束能力。平台应从源头优化数据与模型治理，通过训练过滤、语义审查和价值对齐机制，防止不良内容生成。在产品层面，应建立不可绕过的年龄验证体系，并对疑似未成年人自动切换安全模式；同时强化对自残、自杀等高风险语义的识别与干预能力，确保系统在关键场景下提供有效引导而非情绪放大。

“协同共治”形成全链条保护格局。未成年人保护不能仅依赖单一主体。教育系统应加强AI素养与心理健康教育，引导青少年理性看待虚拟关系；家庭应提升监护意识，主动参与孩子的网络行为管理；媒体与行业组织应持续曝光问题产品，推动行业自律。监管部门则需建立常态化监测与评估机制，推动形成政府、平台、学校与家庭协同发力的治理体系。

本文为原创内容，版权归「网观西安」所有，法务：陕西连邦律师事务所刘攀。欢迎文末分享、点赞、在看三连！未经许可，严禁复制、转载、篡改或再发布。