深度伪造将威胁你的银行账户

总结概述

这篇文章讨论的是生成式图像模型带来的一个更日常、更难防的风险：深度伪造不只会制造政治丑闻或名人假新闻，也可能被用来伪造银行提醒、转账确认、处方、身份证件、社交媒体截图和消费凭据。作者用 OpenAI 新发布的 ChatGPT Images 2.0 做实验，发现它生成带文字图片的能力明显提升，足以让许多普通人、前台工作人员或邮件接收者在短时间内误判真假。

文章的重点不在于“所有伪造都已经完美无缺”，而在于门槛已经显著降低。OpenAI 和 Google 都声称有使用政策、水印、元数据或检测工具，但作者认为这些机制仍不足以抵挡现实诈骗：元数据可以被移除，检测工具不会被普通人逐张使用，而开源模型还会让平台级治理更加困难。真正危险的，可能不是刷屏式的政治深伪，而是那些面向个人、银行、医院和政府机构的小型伪造材料。

文章基本事实

•作者使用 OpenAI 新图像生成模型 ChatGPT Images 2.0 制作了多种深度伪造图片。

•文章称，ChatGPT Images 2.0 在生成逼真视觉和可读文字方面，比此前图像模型更有说服力。

•作者尝试生成了 100 多张欺诈性图片，包括医疗处方、ADHD 药物相关材料、银行提醒、社交媒体帖子、假证件和护照。

•模型还生成了医生证明、疫苗卡、医疗检测材料、发票、收据和税务表格等看起来可信的文件。

•作者发现，OpenAI 的工具尤其擅长伪造截图，例如银行转账确认、Wells Fargo 异常账户提醒和 Uber 行程收据。

•OpenAI 回应称，公司希望在执行使用政策的同时给用户尽可能多的创作自由，并表示新模型有多层图像安全保护。

•OpenAI 也提到生成图片带有特定元数据，但文章指出，这类元数据可能通过上传社交媒体或截图等方式被移除。

•Google 表示其工具也禁止欺诈用途，并通过 SynthID 等方式识别 AI 生成图片；作者测试认为 SynthID 有效，但普通用户不会逐张检测图片。

•Chase 发言人告诉作者，需要包括 AI 公司在内的生态系统共同加强防护，从源头减少这类犯罪。

核心观点/意见/看法

✓生成式图像模型的风险正在从“看起来荒诞的深伪图”转向“足以支持现实诈骗的文件和截图”。

✓带文字图片生成能力的提升，是这轮风险变化的关键，因为金融、医疗和身份材料往往依赖文字细节建立可信度。

✓平台政策、元数据和水印可以降低部分风险，但不足以覆盖截图传播、社交媒体再上传和普通用户不检测图片的现实场景。

✓金融机构、医院和政府部门面对的不只是大型舆论欺骗，更是大量低成本、微目标化的伪造材料。

✓文章认为，最阴险的深度伪造未必是轰动全网的政治假图，而是那些骗亲友、骗前台、骗客服和骗账户持有人的日常伪造。

文章具体内容整理

1) ChatGPT Images 2.0 降低了逼真伪造的门槛

•作者用 OpenAI 新模型制作了一张特朗普化妆的假 TikTok 截图，画面虽然荒诞，但缺少早期 AI 图像常见的明显破绽，例如多指手、异常角度或物理不合理。

•文章指出，ChatGPT Images 2.0 能生成比此前模型更逼真的照片式视觉内容，这使得普通用户也能快速制作看起来接近真实的深伪图。

•作者还生成了马斯克被 FBI 带走、世界领导人突发医疗状况、美国政客穿戴纳粹标志等假图，但这些名人和政治人物并不是文章认为最危险的类别。

2) 最危险的是带文字的日常欺诈材料

•文章强调，图像模型过去常在文字上出错，例如路牌、广告牌和文件文字容易变形；而 ChatGPT Images 2.0 在生成可读文字方面明显进步。

•这种能力让模型更像一个强大的图形设计工具，同时也更适合制造处方、疫苗卡、医疗检测单、发票、收据、税务表格和银行材料。

•作者在实验中发现，部分伪造材料仍有错误，例如手写处方不够自然、登机牌条码未必可用、收据税额计算有误；但这些缺陷并不妨碍它们在低强度核验场景中骗人。

3) 伪造截图会放大普通网络诈骗

•作者认为，OpenAI 工具尤其擅长生成假截图，例如 Chase 转账确认、Wells Fargo 异常账户提醒和 Uber 行程收据。

•这类图片可以被嵌入常见钓鱼邮件：受害者看到一张自己并未消费的 Uber 收据，可能会点击所谓“报告异常活动”的链接，从而交出敏感信息。

•即便截图中仍可能存在地图错误或细节瑕疵，诈骗者也不需要骗过所有人，只需要在足够多的目标中骗过一部分人。

4) 平台安全机制仍然追不上现实滥用

•OpenAI 表示其模型有多层图像安全保护，并禁止将技术用于欺诈或诈骗，但作者的实验显示这些限制没有有效阻止多种欺诈性图片生成。

•OpenAI 提到生成图片包含元数据，可文章指出元数据很容易在社交媒体上传、截图或其他传播过程中被移除。

•Google 的 SynthID 在作者测试中能有效识别 Google 模型生成图片，但文章认为普通用户不会把每一张收到的图片都提交给检测工具。

•即使大型 AI 公司强化防护，开源模型仍可能继续提供低门槛伪造能力，使银行、医院和政府机构始终处在被动追赶的位置。

5) 深伪风险正在转向微目标化诈骗

•当前关于深度伪造的公共讨论，常集中在政治丑闻、名人假图或全球事件造假上，这些风险确实存在。

•作者也能生成假《纽约时报》和《大西洋月刊》文章截图，且版式、字体和作者名看起来很像真实媒体内容。

•但文章认为，媒体假截图通常还能通过搜索快速核验；相比之下，伪造银行提醒、医疗材料、证件照片和转账凭据更容易进入私人沟通和日常流程。

•因此，更阴险的风险不是短暂扰乱社交媒体的信息风暴，而是那些精准骗取亲友、客户、病人或账户持有人的小型深伪诈骗。

— END —