夜雨聆风请点击👆网络舆情分析师人才评价👇关注我
当前，技术迭代加速，AI生成图片正在成为加剧舆论干扰、商业欺诈与社会风险的新型技术推手。2025年广州塔“绳索捆绑”伪造照片这类虚假图像，正以极快速度扩散，一点一点啃噬社会信任。本文尝试从人工鉴别、技术检测、司法实践、防御体系四个方向，梳理一些可能的应对思路。
一、采用五步核查法开展人工鉴别
一是核查解剖结构是否正常。AI生成图像时可能出现手指数量异常、关节扭曲或指甲缺失等问题。例如在2025年西藏地震伪造图片中，男孩手指表面呈现不自然的“磨皮”质感，且小指与无名指长度存在明显异常。真实人脸通常存在细微的不对称，而AI生成的人脸图像有时会显得较为呆板。
二是分析物理逻辑是否合理。真实场景中光源方向与物体阴影角度保持一致，需要重点核查光影是否统一。同时应注意AI生成的液体、毛发等元素是否符合重力等物理规律。
三是评估环境细节是否真实。由于AI学习样本有限，其生成的背景可能出现重复元素。真实环境中的文字标识往往带有自然磨损痕迹，AI生成的文字则常常过于清晰完整。
四是审查生物特征动态是否一致。人类眨眼频率通常在每分钟15至20次之间，AI生成的视频中该频率可能显著偏低。真实语音伴随自然的呼吸节奏，AI生成的语音则可能显得比较规律。
五是开展多模态交叉验证。若图像附有文字说明，应仔细核对图像内容与文字描述是否一致。
二、运用多种技术工具进行AI检测
三、推动司法实践向技术固证转型
2025年，广州市中级人民法院通报了某服装公司利用AI生成虚假商品图片欺诈消费者的案例，该案明确了相关裁判规则。
该案中，经营者钟某通过购物平台购买女士上衣，商家宣称图片均为实物拍摄，但收货后消费者发现实物与宣传图片在花纹、版型等方面存在显著差异。
技术鉴定显示，涉案商品图片均为AI生成，商家未在页面作出任何标注或提示。
法院依据《电子商务法》第十七条和《消费者权益保护法》第八条，认定经营者未履行真实信息披露义务，构成消费欺诈，判决商家承担三倍赔偿责任。
这起案件体现了司法实践的重要转变。法院将区块链存证、AI检测报告等作为重要证据，推动形成以技术数据为支撑的裁判方式。同时，该案明确了经营者对AI生成内容负有审查义务，如未如实告知消费者，将构成欺诈并承担相应赔偿责任。
四、构建多层面协同的综合防御体系
在技术层面，可采取区块链与AI检测相结合的方式。区块链技术可用于图片版权登记，为每张图片提供唯一数字签名和时间戳，便于溯源追责。同时，可将合合信息、腾讯朱雀等AI检测工具嵌入电商平台和社交媒体，建立“上传即检测”机制，及时拦截不良内容。
在法律层面，建议完善AI生成内容的监管法规。可参考欧盟《人工智能法案》的相关经验，实施强制标识制度，要求AI生成的图像、视频添加不可删除的水印或元数据标识。还应明确社交媒体和电商平台对用户上传内容负有初步审查义务，未履行该义务的需承担连带责任。
在教育层面，需要提升公众的媒介素养。建议学校将AI图像鉴别知识纳入信息技术课程，帮助学生建立批判性读图能力。媒体也可定期发布AI伪造图像案例与鉴别方法，协助公众更好地辨识数字信息。
AI生成图像的广泛传播，反映出技术进步与伦理规范之间需要进一步协调。构建一套覆盖技术、法律、教育的综合防御体系，既能有效遏制假图传播，也能推动AI技术向善发展，最终夯实数字时代的社会信任根基。
--END--
文章作者：杜文杰，新华通稿舆情智库研究院院长、新华网高级网络舆情管理师
责任编辑：张杨
审核发布：于萍
转载请注明来源、作者
往期推荐
