ARTICLE · 988233
央视曝光!AI生成“完美大叔”,专盯中老年女性,收费后立即失联
您有没有在刷短视频时,看到过这样的直播间——画面里一位“条件安稳、有担当”的成熟大叔,频频点头、微笑招手,旁边的“相亲主播”热情地喊话:“这位大哥条件特别好,想找一位靠谱的老伴,可以帮您牵线搭桥!”
图片来源:视觉中国
看起来风度翩翩、条件优渥,仿佛正是许多中老年女性理想中的另一半。但央视《法治在线》的深度调查揭示了一个触目惊心的真相:这些“完美大叔”,很可能根本不是真人,而是一张由AI生成、以假乱真的虚拟面孔。
AI“完美大叔” 如何以假乱真?
记者在多个短视频平台发现,不少自称“相亲主播”的账号,滚动播放针对中老年女性的相亲内容。仔细观察便会发现破绽:所谓的主播说话时神态违和、表情僵硬,身后的“大叔”更是频频机械点头,整个画面“油画感”很重。
图片来源:央视《法治在线》
记者使用国家反诈中心App的“AI内容鉴定”板块对直播画面进行识别,几秒钟后,检测报告明确提示:图像含AI生成痕迹。然而,这些直播间大多只标注了“剧情演绎,无不良引导”,并未对AI生成内容作出明确标识。
图片来源:央视《法治在线》
暗访实录
记者添加“茜茜老师”后,对方很快发来一位“刘先生”的资料——自称年收入千万元级、名下有房有车。经AI鉴定,这张照片同样“含AI生成痕迹”。当记者提出想与“刘先生”进一步交流时,对方却要求“必须先交一笔服务费,才能进行匹配牵线”。
记者在多家平台使用“中老年相亲”搜索发现,类似的直播间不在少数。换一个平台、换一位“红娘”,套路如出一辙:先发来疑似AI生成的“优质男嘉宾”照片,随即催促缴纳2000元报名费。当记者质疑照片是AI生成时,对方却信誓旦旦:“照片是真实的,只是有美颜”“只要牵手成功了,肯定都会见面”。
图片来源:央视《法治在线》
根据我国《人工智能生成合成内容标识办法》,无论是AI生成人像图片,还是AI合成视频,只要容易使公众误认为真实自然人,就必须在画面合理位置设置清晰可辨的显式标识。这些婚介机构的行为,显然已踩踏了法律红线。
收费后立即失联:一场精心设计的“双簧”
这些所谓的“婚介公司”专盯中老年女性,介绍过程中既不深入了解相亲需求,也不安排线下见面,只是一味催促缴费。那么,一旦交了钱,会是什么下场?四川成都警方近期侦破的一起案件,揭开了这个秘密。
短视频平台投放“完美大叔”直播
用AI生成形象打造“优质单身男士”人设,吸引中老年女性关注。
“红娘”私信 + 催缴报名费
承诺交钱即可交换联系方式、安排牵线,营造“对方很满意”的假象。
缴费后“男嘉宾”立即失联
给一个永远联系不上的电话号码,“红娘”也随之消失,退款无门。
受害人卞女士的遭遇极具代表性:她在视频平台刷到这家婚介公司后,一个昵称为“匹配中心王主任”的人发来“李哥”的简介,并一再强调“李哥对她很满意”,承诺交钱就能交换联系方式。
图片来源:央视《法治在线》
卞女士先后缴纳了2000元相亲服务费,还签订了承诺函。然而交钱之后,“李哥”的电话怎么也打不通,渐渐地,连“王主任”也回消息了。经查,合同上写明的签约主体“四川晚禾禧堂婚恋服务有限公司”竟根本不存在——连组织机构代码都查不到这家单位。
图片来源:央视《法治在线》
假公司,真骗钱:实际注册为“四川晚禾禧堂婚介服务有限公司”,与合同所写“婚恋”一字之差,蓄意混淆视听。
民警上门核查发现,这家公司虽主营婚介业务,现场却没有相亲人员、没有“红娘”,办公区只有销售岗、剪辑岗和主播岗。更关键的是,民警在剪辑人员电脑上看到了一个熟悉的身影——正是受害人收到的“男嘉宾”AI形象,与公司用于广告投放的AI形象完全一致。
警方拆解骗局套路办案
民警徐古月指出:“男嘉宾的照片是用AI生成的,所谓收入、资历全是杜撰的。”同一张AI脸,今天介绍给A女士叫“李先生”,明天介绍给B女士就可能变成“王先生”。所谓优质男性、线下见面,从始至终都是一场虚构的“双簧戏”。
为了加深网友信任,这些主播还会借助变声器冒充优质男性进行直播连线,一唱一和之间,不少网友便信以为真。而在被害人缴费之后,与她们聊天的也并非什么“优质男性”,而是公司售后人员继续上演的双簧。
全链条收网:28人被采取刑事强制措施
警方通过连日蹲守,掌握了确凿证据后,先后将王某等28名犯罪嫌疑人抓捕归案。抓捕现场,这伙人仍在用AI男性形象开播,办公室里还存放着大量“逼单”话术和剧本——从AI形象的人设打造,到台词互动,直播的每个环节都经过了精心设计。
图片来源:央视《法治在线》
案件关键数据
涉案金额:高达100余万元 被骗群众:约50余名 被抓嫌犯:28人,均被依法采取刑事强制措施 作案周期:不到一年
目前,王某等28名犯罪嫌疑人已被公安机关依法采取刑事强制措施,案件正在进一步侦办中。
央视热评:治理不能止于案后追惩
令人忧心的是,此类骗局至今仍在短视频平台上存在。记者向平台举报多个类似的直播间后,部分被封禁,但仍有账号在被举报后照常直播,甚至换个“马甲”重新开播。
中国社会科学院大学互联网法治研究中心主任刘晓春指出,平台有明确的法定义务向用户提示内容是否为AI生成,更应依据《反电信网络诈骗法》履行识别、预警和相应处置义务。对于带有婚恋交友引流特征、诱导跳转站外、索要服务费等涉诈苗头的高风险内容,平台不能停留在简单打标,应当分阶梯采取制约,并按规定移送公安、网信等主管部门。
央视法治热评振聋发聩:“用AI生成的虚假形象,骗取征婚者的情感和钱财,这是婚恋诈骗的新变种。当AI技术足以以假乱真,当情感需求成为犯罪分子的围猎工具,治理就不能止于案后追惩。”