下架 1.4 万 AI 造假工具:冒充领导、骗父母养老钱的源头被端了

你接到过「爸妈」借钱的视频吗

你有没有接过「爸妈」打来的视频，张嘴就借钱？或者收到过「领导」的语音，让你马上转账？先别动——万一是 AI 仿的呢。

430 万，是怎么没的

先说个真事。23 年福州，一个姓郭的老板，被人用 AI 换脸装成「好友」拉进视频群，当场转出去 430 万。最后咋露馅的？视频里人脸声音都对，就是微表情和说话习惯不对劲。这种案子最坑的就是普通人。老人分不清真假孙子，员工分不清真假老板。

这波整治，我看得解气

7 月 6 号网信办发了通报，清朗专项从 4 月搞到现在，清了 600 多万条 AI 假内容，下架 1.4 万个违规工具，还处理了 2.6 万个账号。换脸、仿声、没备案的绘图配音，全在点名名单上。朋友圈一堆人转「AI 要完」，看得我直摇头——喊这话的人多半没看通报。被端的全是干诈骗的那批，正经工具一个没动。

监管管的从来不是 AI，是拿 AI 作恶的人。

这回能管住，是因为画了条线

这回能管住，我觉得关键是思路换了个弯。以前监管最怕一管全死。好工具坏工具，一起埋。这轮没这么干。它给你画了条线——线内：有备案、能溯源、用途合规，随便用。线外：匿名、没资质、专门搞伪造，清掉。600 多万条假内容被清，底下那点烂事比想象的多。1.4 万工具、2.6 万账号说没就没，不是做做样子。

先缴诈骗的「造假工具」，而不是等被骗完再追赃。

往后，AI 内容得「持证」了

往后 AI 生成的东西，大概率走「持证」路线。水印、标识成标配，生成出来的图、视频、声音自带标记，平台一查就知道哪来的。以前几十块买个换脸工具随便搞，以后没备案的根本买不着。等于说，骗子手里的家伙什被收走一批。咱接到「领导」视频、「亲戚」借钱语音，反而多了底气——真有事，对方得经得起你盘。

AI 生成内容全面「持证」，骗子造假成本直接翻倍。

3 招当场识破 AI 冒充骗局

让对方做动作：视频里让他眨两下眼、转个头。换脸再像，实时互动的破绽最难补。

反问私密事：只有你们俩知道的那种，比如上次吃饭在哪家、孩子小名叫啥。AI 没法凭空知道。

转账先回拨：只要涉及转账，挂掉视频，用你存的号码回拨确认。这一步能拦掉绝大多数冒充。

仿得了声音人脸，仿不了专属私密记忆。

最近不少长辈刷短视频刷到 AI 换脸，根本分不清真假。与其转发各种危言耸听的 AI 末日谣言，不如把这篇转给爸妈、长辈、家族群——多一份提醒，少一笔被骗的养老积蓄。

数据来源：国家网信办 2026 年 7 月 6 日通报；案例参考公安部公开通报的 AI 换脸诈骗案（2023，福州）。