乐于分享
好东西不私藏

网络上演变脸戏法——当AI成为犯罪工具,检察官如何破局

网络上演变脸戏法——当AI成为犯罪工具,检察官如何破局

“如果有人拿着伪造的‘你的脸’,轻松绕过平台人脸识别核验,你敢相信吗?”7月14日,在淄博市检察院举办的“高质效检察办案故事分享会”上,临淄区检察院的刘瑶声情并茂讲述着该院办理的一起AI换脸黑产典型案件。

一切始于市民张女士的离奇遭遇。手机涌入大量网贷、网赌平台的骚扰短信,自己的QQ密码也被他人篡改,但她并未办理过相关业务。经调查,其身份信息已被不法分子盗用,溯源后才发现,此前她曾点击陌生网贷链接,填录身份信息并上传个人照片。这一不经意的举动,让个人影像资料流入黑产市场。不法分子仅凭一张静态生活照,就可生成点头、眨眼、张嘴等动态人脸视频。这套伪造素材便成了黑产团伙盗取公民数字身份的“万能钥匙”。

全链条黑产浮出水面

“正规用户申诉解封账号尚且需要多次人脸核对,犯罪团伙却能批量、稳定绕过识别系统,背后究竟藏着什么手段?”办案检察官崔晓玲道出了案件查办之初的核心疑问。

经查,以罗某为首的犯罪团伙搭建非法人脸伪造作业流程,通过境外聊天软件购买了海量的公民身份证照片、生活照等资料,再借助专门手机深度合成软件,把静态照片变成可以完美模仿活体检测的动态视频,利用“XX视频”“XX卡色”等软件的色彩识别漏洞,批量解封QQ账号后对外出售牟利。

该案已形成分工明确、隐蔽性极强的完整黑色产业链:上游人员负责贩卖公民个人信息,中游利用AI合成技术合成动态人脸,下游收购解封账号输送境外电信网络诈骗、网络赌博黑灰产。犯罪嫌疑人分散在山东、福建、广西等多个省份,彼此单线联系,全程使用加密软件沟通,交易全部通过虚拟货币结算,追查、取证难度极大。

面对这一依托AI深度合成技术作案的新型犯罪,电子证据易删除、难固定,犯罪链条跨层级跨地域交织,检察机关果断提前介入,主动引导公安机关对涉案电子数据进行全面提取与固定,绘制犯罪关系思维导图,精准理清上下游犯罪链条,最终挖出12个犯罪嫌疑人,破获了这起自2021年起累计解封账号3万余个,非法获利133万余元的重大侵犯公民个人信息犯罪。

治罪更要治“源”

案件办结,但检察官的思考没有止步。那些被层层倒卖、最终流入地下黑市的个人信息,源头不过是普通群众随手上传的一张自拍照、一张生活照、一张证件照。它们被非法收集、辗转贩卖,最终成为犯罪分子实施网络犯罪的“武器”。而更令人担忧的是,多家网络平台的人脸识别系统与AI合成内容识别机制,在此案中暴露出了明显的漏洞。

不能让个案止于个案。

在依法以侵犯公民个人信息罪对12名被告人提起公诉的同时,临淄区检察院同步提起民事公益诉讼,依法追究侵权责任,督促侵权人公开赔礼道歉。针对案件暴露出的治理短板,制发社会治理检察建议,推动平台升级人脸核验技术、完善AI风险识别机制,督促银行、医院等中间机构加强个人信息保护,努力把一个案件的办理,转化为一类问题的解决。

2025年9月,捷报传来。该案凭借全链条打击、源头综合治理成效突出,获评山东省个人信息保护优秀案例。

1张生活照泄露衍生3万个被盗账号,从个案办理延伸至社会治理检察建议,这场数字暗战也折射出AI时代犯罪手段在迭代升级。检察官在此提醒广大市民,非必要不刷脸,不明链接不传照,一旦发现个人信息被冒用,请立即报警并保存证据——守护数字时代的“脸面”,法治与您同行。

编辑:齐焱

审核:王芳

审签:张芳