新型AI诈骗曝光

上海市公安机关在近期通报了一起涉及人工智能的新型诈骗案件, 刷新了大众对于网络骗局的固有认知。

在各类社交平台上展现出高颜值、精致生活且手握资源的完美网友, 极有可能是犯罪分子借助人工智能技术批量打造出来的虚假人设。

今年8月份, 在上海地区从事物业工程承包业务的刘辉前往派出所报案。

他表示自己交往了长达5年的女朋友始终不愿意进行线下见面, 并且前后以彩礼以及项目打点等各种名义拿走了17万元资金, 之前所承诺的医院物业工程项目也一直没有任何进展。

 

五年网恋真相大白

早在2021年的时候, 刘辉就在社交平台上结识了自称为1992年出生、在三甲医院担任医生的于某。

对方的账号当中发布了将近七千条日常视频, 涵盖了岗位值班随拍以及美食分享等内容, 积累了一万多名粉丝, 展现出普通优质博主的面貌。

因为刘辉本身就在进行物业工程的运营, 原本就打算对接医院相关的项目, 双方在接触后不久便确立了恋爱关系。

在后续的交往过程当中, 对方一直借口母亲不同意两人交往而拒绝见面, 甚至连实时视频电话都不愿意接听, 并且逐步提出了要30万元彩礼以及在上海购买房产等要求。

刘辉在累计转账17万元之后才觉察出情况不对劲, 直到警方揭晓调查结果, 他才彻底惊呆。

与自己沟通了5年的90后女医生, 真实身份竟然是1961年出生、现年已经65岁的于秀珍。

她根本不具备任何医生从业资质, 早几年仅在医院做过保洁工作, 在2009年的时候还曾经因为诈骗罪被判处过4年6个月的有期徒刑。

 

AI造假手法揭秘

警方通过深入调查证实, 于秀珍账号当中的近七千条视频全都是依靠人工智能磨皮以及场景合成等手段进行批量生成的。

部分视频角落位置原本带有本作品含AI生成内容的系统提示, 可是对于人工智能技术毫无概念的刘辉从来没有留意过。

为了掩盖真实身份, 于秀珍还一人分饰两个角色, 运用两个账号分别扮演她自己以及早已离世的母亲, 所谓的母亲反对恋爱不过是她自编自演的诈骗剧本。

骗取来的17万元款项已经被她全额消费在了医学美容以及购买服装上面。

目前于秀珍已经被依法采取了刑事强制措施。

根据警方的相关办案记录, 此前也曾处理过类似的典型小案。

一名22岁的小伙子在网络上结识了自称是大学生的人士, 对方所发送的日常动态视频甚至连声音语音都是依靠人工智能生成的, 小伙子前后转账2万元来凑齐所谓的学费, 直到被对方拉黑之后才发觉对方竟然是一位中年男性。

 

防骗警示要点

如今人工智能生成内容的门槛在持续降低, 过去的诈骗手段还需要寻找网络图片以及编撰话术, 现在只需要输入几个关键性词汇, 就可以批量生成上千条虚假的日常动态, 其欺骗属性比传统骗局强出了好几倍。

公安机关借此提醒广大家庭与市民, 在进行网络交友以及线上洽谈合作的时候, 只要对方始终拒绝见面或者不肯接听实时视频, 并且找寻各种借口索要钱财的, 务必要提高防范意识, 在进行转账操作之前一定要核验对方的真实身份, 切不可被打造出来的完美人设所蒙蔽。

从防范与技术监管的微观视角来看, 这一案例揭示了技术滥用给普通大众带来的现实安全隐患。

人工智能技术原本是为了提高社会生产效率, 但在缺乏有效监管时容易被不法分子转化为违法工具。

对于公众而言, 防范此类新型科技诈骗不仅需要保持基本的清醒认知, 更需要在涉及资金往来时坚持多渠道的实名核验, 切实筑牢防骗防线。