夜雨聆风
近日，南都N视频推出《AI虚拟伴侣乱象调查：可选小三暴力剧情，角色表达带性暗示》，涉事平台第一时间回应并整改，网信部门已介入。报道持续推动人工智能健康发展与有效治理，入选中国记协“我的代表作”。
涉事平台“EchoMe”背后公司为杭州昵享信息技术有限公司。5月28日，公司所属地浙江杭州余杭区网信办回应南都N视频记者称，关注到报道之后，已介入并督促相关App下架整改，整改完毕后将由上级网信部门评估决定是否恢复上架。“EchoMe”方面此前曾多次回应南都记者整改进展，相关负责人表示，目前平台将实名认证、年龄识别和未成年人保护作为合规升级重点。
“EchoMe”在App Store已无法下载。
余杭区网信办介入并督促平台下架整改
5月28日，杭州市余杭区网信办回应南都记者称，关注到南都报道之后，网信部门已介入并督促涉事公司整改，App现在已经下架，目前是还在整改当中，后续处置结果会进一步反馈。“整改完毕后由上级网信部门进行评估，再决定是否恢复上架。”
同日，“EchoMe”平台运营负责人向南都记者表示，南都报道发出后，应用商店渠道对App进行了下架处理。属地网信部门指导平台推进整改，目前公司正结合网信部门和《人工智能拟人化互动服务管理暂行办法》的相关要求推进整改、安全评估和版本优化工作。
该负责人表示，“在与网信部门沟通过程中，我们进一步明确了实名认证、用户年龄识别和未成年人保护等内容安全治理重点。目前已开发登录实名认证功能，用于进一步确认用户年龄；同时也完善了敏感内容拦截、违规内容告警和处置机制，以加强内容安全管控和未成年人保护。”
南都N视频此前调查发现，“EchoMe”角色库中有大量带有“偏执”“强制爱”“伪善”“暴力”等标签的角色。用户还可以选择不同话题及副本，其中暗含可能引发未成年人模仿不安全行为、产生极端情绪的内容，比如“穿越到恐怖副本，你必须要鲨了我不然会死掉”“假如我们在平行世界相遇，你愿意当小三吗”。
5月12日，报道发出一天后，“EchoMe”App运营负责人回应南都记者表示，“已在第一时间启动专项排查与整改工作，同时对审核机制做一次系统性的梳理与升级。”该App内“恐怖暴力”“小三”“离婚互怼”等剧情被删除，角色标签“强制爱”“强制独占”“自私自利”等被修改。
随后，“EchoMe”再发布整改公告称，“补充了一批符合正向价值观的新话题。相关优化已生效。”5月19日，上述运营负责人告诉南都记者， “目前整改比较彻底的是话题和标签。出现‘小三’等剧情确因团队未明确审核标准，已严肃批评。”
深广消委会呼吁下架低俗暴力等内容
南都此前报道，4月，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》，对生成淫秽、色情、暴力或可能引发未成年人产生极端情绪内容等行为划出红线。
南都此前报道。
4月下旬以来，南都记者实测“EchoMe”“筑梦岛”“喵呜小手机”等多款AI虚拟伴侣App发现，这些打着“情感陪伴”旗号的应用普遍存在安全与合规漏洞：“青少年模式”可一键跳过，“AI生成”标注不清，还惯用“付费解锁亲密剧情”等方式诱导消费。
此外，App系统预设角色中有大量性感黑丝、袒胸露乳的女性人物，不仅可以在对话中随意选择“暴力”“小三”“离婚互怼”等极端剧情，聊天中还充斥着具有性暗示的低俗话语。
报道发出后，多个平台迅速整改。“喵呜小手机”原网页访问受到限制。调查曝光了二手交易平台上的“人设定制”生意，提供大尺度“色情向”人设定制服务的商家相关账号目前已被处置，页面显示“违反法规或平台相关规则”。
除此之外，5月25日，南都记者检索发现，AI角色陪伴应用“MoMood”近日全面暂停运营，进行合规整改。AI虚拟陪伴软件“Bubbly”收紧内容审核，以“不符合要求”为由要求用户修改自己创建的角色人设。
深圳、广州消委会近日先后发文指出，AI虚拟伴侣App存在“隐形陷阱”，呼吁平台方立即停止向未成年人提供虚拟伴侣服务，全面下架涉嫌低俗、暴力、擦边人设等不良内容。
此前报道
“你愿意当小三吗”？还有“恐怖暴力”“小三”“离婚互怼”等可以选，涉事AI伴侣平台暂无法下载
出品：南都即时
采写：南都N视频记者 林诗妍 冯奕然
