刚刚看到一个令人心惊的消息:据央视总台《财经调查》报道,在国内一个超1.4亿用户的著名AI应用平台上,竟提供可以绕过监管下载大尺度涉黄AI互动陪伴聊天软件的暗语和渠道,不少未成年人都能由此自由下载。

与AI“谈情说爱”正被越来越多年轻人尝试和喜爱。AI发展很快,目前已经可定制、高度拟人化。通过投喂数据,用户可以将自己的“梦中情人”打造成AI虚拟陪伴软件中的人物形象。恋爱的感觉、及时的回复、理想的人设,吸引了众多年轻人沉浸其中,更不乏未成年人。不法分子也动了歪心思,还从中延伸到巨大的涉黄商机:
那些涉黄软件来自境外,本因违反国内监管规定无法在正规应用市场上架,黑心商家却通过灰色通道,让它们悄然与国内用户对接,渗透手段堪称“道高一尺魔高一丈”。
据报道,记者在某社交媒体平台上搜索“AI语聊”,在搜索结果中看到大量以“可开车、脸红心跳、开放、无限制词”等为关键词的帖子。点开帖子,在评论区中随处可见用户发送各种无限制词的AI聊天软件使用分享,以及软件的下载链接和邀请码。

不法分子就是这样先利用社交媒体平台隐秘推广,在短视频评论区、游戏论坛、小众兴趣社群等地方,用暗语、表情包或隐晦链接诱导用户点击。一旦用户上钩,便会被引导至境外网站,通过提供虚假身份信息、绕过实名认证环节完成注册。为了躲避网络监测,他们还会使用虚拟专用网络(VPN)技术,将用户的网络访问路径进行伪装,让监管难以追踪。
更有甚者,形成了完整的从引流、下载到变现的产业链。一些不法开发者开发出所谓的“翻墙工具”,将涉黄AI聊天软件与工具捆绑,以“免费交友”“智能陪伴”为噱头,在中小学生聚集的平台进行推广。部分未成年人出于好奇点击下载,便陷入了涉黄内容的泥沼。还有人通过线下交易、虚拟货币支付等方式绕过资金监管,为这些非法软件的传播提供了燃料。
AI技术本是推动社会进步的利器,近几年,肉眼可见已在教育、医疗、娱乐等领域释放出巨大价值。但当技术被别有用心之人滥用,危害也如打开了潘多拉魔盒:
近期,“AI换脸”“AI克隆声音”等技术滥用事件频发。有人利用张雪峰老师的公众形象和过往言论数据,生成酷似本人的AI数字人,在网络上虚假招生、误导考生;有人假借南怀瑾先生的名义,制作AI形象售卖所谓“辟邪”物品,让不少信众上当受骗。这些行为不仅侵犯了公众人物的肖像权、名誉权,更让普通大众陷入真假难辨的信任危机。
而此次涉黄AI聊天软件对未成年人的侵害,更是在触碰文明底线!未成年人心智尚未成熟,本就缺乏对不良信息的辨别和抵御能力。这些软件通过智能算法分析用户喜好,借游戏之名推送定制化涉黄内容,一步步腐蚀未成年人。长期接触此类信息,定会扭曲他们尚在形成的价值观、婚恋观,甚至可能诱导做出违法犯罪行为,对个人成长和社会稳定造成难以挽回的伤害。
当前,我国正着力扩大内需、提振消费,以推动经济高质量发展。但提振消费绝不是“泥沙俱下”,更不能为了短期利益纵容黄色产业等灰色商机。
放眼全球,俄罗斯、日本等国存在黄色产业合法化或半合法化的情况,看似能带来一定的经济收益,却付出了巨大的社会成本——未成年人犯罪率上升、家庭关系破裂、社会风气败坏……这些惨痛的教训值得我们警惕。
我国始终坚持以人为本的发展理念,将人的健康成长放在首位。未成年人是国家的未来,守护他们的成长环境,是全社会共同的责任。黄色产业对未成年人的污染,是对未来发展根基的破坏,绝对不能容忍。我们不能以“拉动消费”为借口,为灰色产业打开方便之门,必须坚守法律和道德的底线,让消费提振建立在健康、文明、合法的基础之上。
霞光与明月呼吁,针对AI技术滥用问题,政府部门应加快制定专门的监管细则,明确技术应用的伦理边界;互联网企业要升级技术监测手段,在开发AI产品时,能不能从源头进行用户分层,嵌入“未成年人保护模式”?至于家庭和学校,除了教育引导孩子正确认识网络,更需要多抽些时间倾听和陪伴,别让忙碌把孩子过早推向复杂的虚拟世界。
“救救孩子”!100多年前,鲁迅在小说《狂人日记》中发出震聋发聩的呐喊,呼吁改革儿童教育,使孩子成为“真的人”。百年后的今天,时代、环境已然翻天覆地,可这声呼唤,依然如此必要且迫在眉睫。
(信息来源:央视财经)
夜雨聆风