你看到的照片,可能是假的。
你刷到的视频,可能是假的。
甚至连你认识的人出现在视频里跟你说话,也可能是假的。
这不是危言耸听。2026年5月,国家反诈中心App正式上线"AI内容鉴定"功能,冲上热搜。为什么一个鉴定功能会引发全民关注?因为AI伪造技术已经发展到了普通人根本无法辨别的程度。
01 这个功能上线,说明问题已经严重到官方必须出手
2026年5月18日起,国家反诈中心App悄然上线了一个新功能——“AI内容鉴定”。
功能很简单:你上传一张图片或一段视频,系统告诉你这是真的还是AI生成的。
记者实测了一下:上传10张AI生成的图片,系统全部判定为"图像含AI生成痕迹";再上传一张手机拍摄的真实照片,系统提示"未检测到合成痕迹"。
准确率令人印象深刻。
但更值得关注的是这个功能上线的时机。当公安部亲自在反诈App中加入AI鉴定工具,说明AI伪造已经从"技术新闻"变成了"社会问题"。
问题的核心很简单:AI生成的内容,太真了。
02 深度伪造的三大手法,门槛比你想象的低
AI伪造技术有一个学名:深度伪造(Deepfakes)。
听起来很高科技,实际上实现起来并不复杂。主要有三种手法:
第一种:换脸
把一个人的脸替换到另一个人的脸上。现在市面上已经有很多换脸App,普通人几分钟就能完成一次换脸。
第二种:面部重演
在摄影棚里模仿源视频人物的动作和表情,重新拍摄一段视频。AI会逐秒学习原始视频中的面部表情、姿势动作,生成新的图像覆盖上去。
第三种:唇形同步
操纵视频中人物的嘴唇动作,和输入的音频进行匹配,改变人物说话的内容。你看到的人在说"你好",实际上原始视频里他可能什么都没说。
这三种技术的共同点是:AI需要学习大量素材,素材越丰富,伪造效果越逼真。而今天,从社交媒体上获取一个人的照片和视频,简直太容易了。
03 AI诈骗成功率有多高?FBI都坐不住了!
2026年,美国联邦调查局(FBI)公开发布警告,提醒公众防范利用深度伪造技术实施的骚扰和勒索行为。
FBI在声明中明确指出:技术的进步让AI生成内容的质量、定制性和易用性不断提高,已经有大量受害者报告自己的照片或视频被恶意篡改。
澳大利亚反诈中心的数据显示,仅2025年一年,就有超过400人因深度伪造骗局上当受骗。
在中国,问题同样严峻。
“每20个’80后’中就有1人已经去世”——这条消息曾在网络疯传,事后被证明是AI编造的谣言。
“广州法院对某品牌汽车L3级自动驾驶追尾事故作出判决”——假的,AI生成。
“四川凉山发生山体滑坡灾害”——同样是AI编造。
国家安全部已明确指出,深度伪造技术正在危害国家安全和社会稳定。
AI诈骗的成功率为什么这么高?因为人类的大脑还没有进化出识别AI内容的能力。当视频里的人脸、声音、表情都和真人一模一样时,我们的直觉判断会完全失效。
04 反诈App的AI鉴定,怎么用?
国家反诈中心App的"AI内容鉴定"功能入口很醒目。
使用步骤:
打开国家反诈中心App 首页找到"AI内容鉴定"入口 选择需要鉴定的图片或视频 等待系统返回鉴定结果
几个注意事项:
鉴定结果仅供参考,不能作为法律证据 目前主要支持静态图片和短视频 鉴定速度取决于文件大小,一般几秒到几十秒
什么情况下应该用?
收到陌生人发来的照片或视频,内容涉及金钱交易 在社交平台看到让你转账的"熟人"视频 遇到网络交友对象发来的照片或视频
一个简单的判断原则:当对方要求你转账、投资或提供个人信息时,先鉴定一下对方发来的所有视觉内容。
05 时代变了,你的防范意识也要升级
有句话说过很多次,但现在必须重新强调:眼见不一定为实。
在AI技术快速发展的时代,"有图有真相"这个逻辑已经失效。图片可以被生成,视频可以被伪造,声音可以被合成。
国家反诈App上线AI鉴定功能,是一个信号。信号背后是官方对AI伪造威胁的正式确认。
技术层面的问题,技术层面在解决。但每个人的防范意识,也需要同步升级。
当你下一次刷到一条让你震惊的视频,先别急着转发。当你下一次收到"熟人"发来的借钱视频,先别急着转账。
停下来,鉴定一下。
这个简单的动作,可能帮你省下的是一笔钱,甚至更多。
AI技术本身没有善恶,但使用AI的人有。
当AI伪造技术被滥用时,唯一能保护我们的,是警觉心和正确的工具。
下载国家反诈中心App,学会使用AI鉴定功能。这不是杞人忧天,而是这个时代的基本生存技能。
夜雨聆风