【滨城警队·反诈早班车】1193期|“AI内容鉴定”!国家反诈中心App上线新功能

网购售后拍图维权，本是很正常的消费保障方式。可最近，不少电商商家都遇到了糟心事：有人用AI伪造“问题商品图”，申请只退款不退货，凭空拿走商品，让商家有苦说不出。

有网友发现，国家反诈中心App悄悄上线了AI内容鉴定功能，上传图片、视频、音频、文本都能检测AI生成痕迹，专门对付诈骗场景里的伪造内容。

也有人疑惑：用AI管恶意AI，真的管用吗？这个功能能不能用来维权？

离谱！AI造假骗退款，商家被坑到退店

河北辛集的无花果种植户张先生，在某直播电商平台开店不久，就碰上了恶意退款。

一位买家下单无花果苗，收到货后以“苗已干枯死亡”为由申请仅退款，还附上了一张叶片全黄的果苗照片。

张先生很纳闷：自己是带盆发货，全程保湿，运输只用了两天，果苗根本不可能在这么短时间里彻底枯黄。凭种植经验判断，缺水萎蔫的叶子应该发皱下垂，而这张图只是把叶子颜色改黄，明显是AI修图。

张先生拒绝申请，要求退货退款，买家直接申请平台介入。平台仅凭那张假图，几分钟就通过了仅退款。一笔45元的订单，让张先生心寒，直接选择关店不再经营。

这样的事并非个例。社交平台上，不少商家晒出遭遇：五只衣架同一位置整齐断裂、手机壳裂痕边缘怪异、手串破碎呈空心状……这些假图乍看像那么回事，细看全是逻辑漏洞。

实测有效！反诈App一键鉴定AI伪造

面对越来越多的AI生成图片，辨别真伪成了刚需。近期，国家反诈中心App正式上线AI内容鉴定功能，迅速引发关注。

记者随机挑选十张商家提供的疑似AI售后造假图，上传到反诈App与多款AI鉴真工具，全部被检出含AI生成痕迹，张先生遇到的假果苗图也同样被识别。而记者实拍的普通照片，则显示未检测到合成痕迹。

某平台安全视觉算法负责人介绍，这套检测逻辑分两步：小模型学习AIGC生成规律做判断，大模型检查物理瑕疵、文字乱码、逻辑是否合理。大小模型配合，精准识别又减少误判。

业内人士表示，目前成熟工具对主流AIGC内容的识别效果稳定，正常实拍内容基本不会被误伤。

以AI治AI！维权有了新证据

业内人士指出，对付AI造假售后，核心思路就是以AI治AI。

AI伪造图片骗取退款，本质属于民事欺诈，放任不管会扰乱电商秩序。AI鉴真工具能大幅降低商家甄别成本，既能震慑恶意用户，也能作为商家和平台沟通、维护权益的有力证据。

北京邮电大学互联网治理与法律研究中心主任谢永江表示，现有技术已能实现有效鉴定，平台有责任引入这类技术，守护交易环境，保障商家与消费者的合法权益。