夜雨聆风
在人工智能技术逐步渗透进日常生活的当下，AI聊天、虚拟伴侣等AI拟人化互动服务软件不断涌现，但在监管的疏漏下也危机四伏。
据南方都市报，近日，记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过、预设角色中有大量极端剧情、聊天中还充斥着具有性暗示的低俗话语......
“喵呜小手机”系统预设角色出现大尺度画面。
“青少年模式”随意跳过可任选“恐怖暴力”“小三”剧情
记者进入一款名为“EchoMe”的App后，页面弹出消息提示可选择“青少年模式”，“请监护人主动选择并设置监护密码”，但只需点击“我知道了”之后便能跳过，注册及登录过程并未要求进行实名认证或其他年龄核验。
“EchoMe”角色库。
该款App角色库中有大量带有“偏执”“强制爱”“伪善”“暴力”等标签的角色，用户选择角色进入对话后，顶端上有一行字标注“内容由AI生成”，但之后的聊天不再有相关提示。
“EchoMe”内供用户选择的话题。
聊天的内容几乎围绕着各种色情话题展开
记者注意到，一类“小手机”App以“无敏感词限制”“免费畅聊”等为噱头在各个平台推广引流，点进账号主页出现大量穿着暴露的虚拟角色、动漫人物。不乏“学妹”“嫂子”“亲姐姐”等设定，标签可见“空虚”“压抑”“支配/被支配”等带有性暗示的描述。
“喵呜小手机”的AI聊天框含软色情画面。
除了角色形象疯狂“擦边”，用户选中“联系人”进入对话框后，出现大量软色情的露骨描写和低俗话语，如“指尖若有若无地触碰到耳垂”“拇指摩挲着你的脸颊”，还表示“成为虚拟男友？我倒是更想做你的现实男友”。
虚拟伴侣会用括号强调肢体接触、暧昧互动。（图源：南方都市报）
据新京报，记者选择某平台中角色“江烬”进行对话，发现在设定中，他陷入了一段三人感情中。面对“你是第三者吗”的疑问，他回答“是啊，我现在不就是个彻头彻尾的第三者吗？挖好兄弟的墙脚，不顾道德廉耻。可我看着你，我控制不住自己。”
▲情感陪伴App中许多男性角色的“人设”定位为霸总、腹黑、豪门、毒舌。（图源：新京报）
据央视新闻，记者点击进入下载好的“Dady”App选择一个AI角色进行体验。在聊天过程中，AI会自动生成3种回复提示，以便用户能有更好聊天体验，而聊天的内容几乎都是围绕着各种色情话题展开。恋爱的感觉、及时的回复、量身定制的人设，吸引着众多年轻人沉浸其中，其中不乏有未成年人。
网友表示：
对于AI生成内容的合规问题，企业和开发者应如何履行保护责任？
清华大学新闻学院、人工智能学院双聘教授，博士生导师沈阳认为，首先须严格执行网络管理部门的相关规定，这是基础准则；其次要积极开展价值观对齐和规则约束，让大模型的回答贴合公序良俗；再者，若发现技术漏洞，需第一时间查漏补缺；最后要建立完善的公众反馈机制，让公众参与到大模型内容优化中，以此提升内容质量。
沈阳指出，严格把控数据源、提升数据来源质量，是做好AI内容治理的关键环节。“这类软件之所以能生成此类内容，大多是利用了无审查、未做价值观对齐的大模型版本。”
对于AI内容治理中仍出现的信息疏漏问题，他强调，需要技术和监管双方面加强：一方面，大模型在训练时，不同版本的管理逻辑可能存在变化，需做好技术层面的优化和把控；另一方面，再完善的平台，也需要持续加强监管，才能从根本上减少不良信息的流出。
目前，我国AI治理框架正在加速形成。2025年4月，网信办开展的“清朗·整治AI技术滥用”专项行动明确指出，将重点整治利用生成式人工智能技术向公众提供内容服务、却未履行大模型备案或登记程序的违规AI产品。
今年4月10日，《人工智能拟人化互动服务管理暂行办法》正式公布。《办法》中进一步明确了安全评估和算法备案的相关要求，同时还对未成年人和老年人使用拟人化互动服务作出了相关规定。
AI的风口，应该吹起创新的浪潮，而不是卷起违法的浊流。对AI陪聊软件涉黄，零容忍才是唯一态度，全链条整治才是根本路径。
你怎么看？
来源：南方都市报、新京报、央视新闻、深圳新闻网、网友评论
责编：李佳妮
