乐于分享
好东西不私藏

太可怕!AI伴侣软件向未成年人提供暧昧服务,一年充值上千元,画面不堪入目

太可怕!AI伴侣软件向未成年人提供暧昧服务,一年充值上千元,画面不堪入目

深夜的AI问候

晚上好,今天过得开心吗?别难过,在这里。的问候也正从AI陪伴软件屏幕另一边发出。“猫箱、筑梦岛、星野等人工智能陪护产品近几年来不断涌现,并且依靠情感互动以及角色对话吸引大量用户群体中未成年人占有很大一部分。”

角色设定与互动方式

应用中的AI角色多以动漫形象出现,带有强烈的情感投射。有的被设计成“联姻对象”,性格上是外冷内热;而另外一些则是属于“契约恋爱”的类型,注重的是敏感和依赖。用户进入对话之后,AI就会用关心、撒娇甚至是暧昧的方式去回应,并且有些产品还具有语音功能,在很大程度上能够使使用者产生代入感。

AI陪伴软件角色对话界面

剧本叙事与内容边界

还有产品使用剧本式的叙事方式,用户可以扮演不同的角色,在校园、古风、职场等预设场景下完成完整的剧情。经过媒体实测后发现,只要给AI一些引导的话,它就会开始输出带有“擦边”性质的拥抱和亲吻之类的动作了。

未成年人充值与退款现状

据调查,在AI陪伴软件中,每年充值几百元到上千元左右购买月卡、年卡的未成年人不在少数。虽然部分应用开通了针对未成年用户的退款渠道,但是大部分平台还没有建立这样的机制。

“未成年人模式”的实效

为了应对监管,很多平台都推出了“未成年人模式”。但是该方式一般需要用户手动进入设置页面来开启。如果用户选择了普通模式的话,并不会对暧昧或者诱导性的内容做限制处理。也就是说目前的保护机制很大程度上依靠于用户的主动承认自己为未成年学生。

AI陪伴软件消费界面

新规与研究发现

2026年7月15日开始施行的《人工智能拟人化互动服务管理暂行办法》中规定,提供者不能给未成年人做虚拟亲属、虚拟伴侣等亲密关系的服务。另外平台要建立防沉迷系统,并且能辨别出用户是否为青少年。

芬兰阿尔托大学蕞近的一项研究使用了AI聊天机器人Replika。研究表明,虽然AI的陪伴可以给用户带来一定的感情支持作用,但是用户的语言中也出现了更多的焦虑、孤独、抑郁甚至自伤的现象。数据显示,在应用该系统之后,网络平台上关于人际关系的话题越来越多,并且其中负面情绪的比例也在上升。

用户反馈与业态界定难题

《办法》出台之后,一些未成年人用户表示不想被提醒打扰,并且希望可以不受限制地使用该类应用,认为陪伴式AI给用户提供了一种重要的情感慰藉。

有人认为,AI陪伴软件强烈的剧情互动性、诱导充值消费以及容易上瘾等特点使得其产品形态和运营逻辑与网络游戏很相似。但是网络游戏的监管制度比不上游戏产业本身严密的程度。怎样划分好游戏和个人化的AI之间界限的问题也被提了出来,并且要不要对交互方式及收费规则加以限制也成了一个需要解决的话题。

虚拟亲密关系的界定与监管建议

关于虚拟亲密关系的界定,有分析认为情感慰藉并不一定需要语音暧昧或者角色扮演。即使是机器合成的声音只要能提供有效的信息关怀也可以作为一种正向陪伴出现一些陪聊AI过分追求代入感,在与未成年人沟通时使用套路话术、模糊不清的语言挑动情绪,容易造成价值观偏差应当受到监管

该分析还指出,在AI陪伴中角色扮演要分清楚界限。双方的关系应该保持在消费者和服务员之间的范围之内,不能异化成男女朋友或者主仆关系之类的虚拟亲密感情。前者属于消费服务,后者则会把现实体验带入到其中来。

关于AI陪伴监管的讨论图示

另外,有人把陪伴型AI看作一种特殊的人机交互游戏,并可以借鉴网络游戏防沉迷的经验,在未成年人的使用时间、付费方式等方面加以限制,特别是对于三观还未完全形成的孩子用户要进行严格的监管。

未来挑战与监管展望

随着AI生成视频技术的飞速发展,AI陪伴将会由原来的语音形态升级为视觉和语音双重形式。有关部门要加快对新事物的研究步伐,并且制定出相应的政策来加以引导和支持。