国家反诈中心App最近升级了,上线了一个"AI内容鉴定"功能。
简单说就是:你怀疑一张图是AI生成的,上传给App,3秒钟出结果,告诉你是不是假的。
听起来挺美,对吧?
但我仔细研究了一下使用规则,发现了几个让人憋屈的地方。
第一,每天只能测10次。
10次。听起来不少了对吧?
但你想,现在一个家庭群,一天能转发几十条谣言,每条配一张假图。你用10次机会测完了,剩下的怎么办?
第二,检测结果不能当证据。
App告诉你"这是AI生成的",但你去报案,警察说:这不算数。
那测了有什么用?
第三,高仿真的可能漏检。
App自己都承认:对那种特别真的AI图,可能检测不出来。
也就是说——越像真的,越测不出来。
你发现没有,这个功能的逻辑有点奇怪:
能测出来的,都是一眼假的。
测不出来的,偏偏是最危险的那种。
当然,我不是说他没用。
对于中老年人来说,这个功能确实能拦住一部分一眼假的诈骗图。
但真正的问题,不是技术够不够硬。
问题是——我们普通人,现在连"眼见为实"都做不到了。
以前有人说"有图有真相",后来有了PS,这句话不灵了。
现在AI来了,连视频都能造假,语音也能克隆。
你妈打电话来说"儿子快打钱"——可能是AI合成的。
你领导发微信说"这个账你先垫一下"——头像是真的,声音也是真的。
所以我想说:
App只是一个工具,真正的防线,是我们的习惯。
遇到钱的事,多打一个电话。
遇到奇怪的要求,多问一句。
遇到"紧急"的消息,先让自己冷静10分钟。
技术再厉害,也管不了一颗想占便宜的心,和一颗怕惹事的脑子。
夜雨聆风