乐于分享
好东西不私藏

AI 会改变骗局吗?普通人怎样识别越来越真的声音和视频

AI 会改变骗局吗?普通人怎样识别越来越真的声音和视频

AI 不一定会创造一种“全新的骗局”,但它正在改变骗局的成本、速度和可信度。美国联邦贸易委员会(FTC)持续警示,AI 语音克隆可能被用于冒充亲友诈骗;美国联邦调查局(FBI)也发布过提醒,称生成式 AI 可被犯罪分子用于社会工程和金融欺诈。

这类风险的关键变化,不只是“假声音、假视频更逼真”,还包括制作成本下降、定向信息更容易拼接、诈骗话术更像真人沟通。需要说明的是:本文未核验近 24 小时中国本地案例,不能把境外预警直接描述成国内新案情。

普通人真正需要掌握的,不是识别每一个 AI 痕迹,而是建立一套“遇到异常请求先验证”的安全习惯。

一、AI 会让骗局吗?答案是:会改变,但不是从零开始

很多骗局并不新。

“孩子出事了,马上转钱。”

“我是你老板,先垫付一笔款。”

“你账户异常,需要立刻操作。”

“这是投资内线,错过就没了。”

这些骗局过去靠电话、短信、社交软件、伪造网页完成。AI 出现后,变化在于:骗子可以更便宜、更快、更像真的人。

过去,冒充一个人可能需要长期观察、模仿语气、准备话术。现在,如果诈骗者拿到足够多的公开信息、音频片段或社交资料,就可能生成更具迷惑性的声音、图片、视频或聊天内容。

这并不意味着每个人都会立刻遇到“电影级深度伪造”。但它意味着:普通人过去依赖的某些判断方式,正在变得不够用了。

比如:

  • “声音像本人”不再足够可靠;
  • “视频里看起来是他”也不能单独作为依据;
  • “对方知道我的家庭信息”不一定代表可信;
  • “聊天语气很自然”不再说明一定是真人亲自发送。

真正危险的不是 AI 本身,而是 AI 被用来降低诈骗门槛。

---

二、境外监管和执法机构已经持续提醒相关风险

美国联邦贸易委员会(FTC)持续警示,AI 语音克隆可能被用于冒充亲友诈骗。常见情境是:诈骗者用仿真的声音制造紧急感,比如声称亲人遭遇事故、被拘留、急需医疗费或保证金,从而诱导受害者快速转账。

美国联邦调查局(FBI)也发布过相关提醒,指出生成式 AI 可能被犯罪分子用于社会工程和金融欺诈,包括生成更逼真的钓鱼邮件、伪造身份内容、辅助诈骗沟通等。

这些提醒说明一个趋势:AI 正在成为诈骗链条中的“放大器”。

但也要明确边界:本文未核验近 24 小时中国本地案例,因此不能把上述境外预警直接描述成国内最新案情。国内是否出现某个具体案例、损失金额、作案方式细节等,都需要以权威部门发布为准,未核实的信息应标注“需核实”。

三、AI 诈骗的变化,不只是假得更真

很多人提到 AI 诈骗,第一反应是“换脸”“变声”“假视频”。这当然重要,但更大的变化可能有三个。

1. 制作成本下降

以前伪造一段可信内容,需要专业技术、设备和时间。现在,一些生成式工具可以让低成本制作成为可能。

这意味着骗子不一定需要“高水平造假”,只需要在某个紧急场景里做到“足够像”,就可能骗过人。

诈骗从来不是靠完美取胜,而是靠制造恐慌、压缩思考时间、诱导即时行动。

2. 定向信息更容易组合

很多人的信息散落在不同平台:

  • 社交媒体上的家庭关系;
  • 短视频里的声音片段;
  • 公开资料里的工作单位;
  • 群聊、朋友圈中的出行信息;
  • 旧泄露数据中的手机号、地址、邮箱等。

单条信息可能没什么用,但被组合起来,就可能形成“精准剧本”。

对方能说出你的名字、孩子学校、同事称呼、近期安排,并不一定代表他真的可信。也可能只是信息拼接。

3. 话术更自然、更能适配对话

过去很多诈骗短信一眼假,语病多、格式怪、情绪生硬。生成式 AI 可以帮助骗子写出更自然的邮件、消息和客服话术,还能根据受害者回应不断调整表达。

这会让一些人放松警惕: “他说得挺像那么回事。” “这封邮件格式很正规。” “客服回复很专业。”

但诈骗识别不能只看“表达是否专业”,更要看“请求是否异常”。

四、普通人最容易被击中的场景

AI 相关骗局不一定以“AI”的名义出现。它往往藏在熟悉场景里。

1. 冒充亲友:声音像,但要求很急

典型特征:

  • 对方声音像家人、朋友、同事;
  • 说自己遇到事故、被抓、手机坏了、不能视频;
  • 要你保密,不要告诉别人;
  • 要求立刻转账、买礼品卡、提供验证码。

这类骗局的关键不是声音,而是“急”。

只要对方要求你在恐慌中立刻做决定,就要停下来。

2. 冒充领导或客户:语气像,但流程异常

常见说法:

  • “我现在不方便打电话,你先处理。”
  • “这笔款比较急,先走一下。”
  • “合同稍后补,今天必须付款。”
  • “不要在群里说,私下处理。”

如果涉及转账、改收款账户、提供内部资料、下载远程控制软件,必须走线下或官方流程核验。

越是“领导口吻”,越要按制度办。

3. 冒充客服或平台:页面像,但目的很明确

假客服可能会说:

  • 你的账户异常;
  • 订单要退款;
  • 快递丢失要赔付;
  • 会员误开通需要取消;
  • 征信受影响必须处理。

最后通常会引导你:

  • 点击链接;
  • 下载 App;
  • 开启屏幕共享;
  • 提供验证码;
  • 转账到“安全账户”。

正规机构一般不会要求你把钱转入所谓“安全账户”,也不会索要短信验证码。

4. 假投资、假理财:视频很真,但收益不合理

AI 还可能被用于伪造“名人推荐”“专家直播”“高管讲话”“内部消息”等内容。

判断重点不是画面有多真,而是:

  • 是否承诺稳赚不赔;
  • 是否要求进入私域群;
  • 是否诱导下载非官方投资软件;
  • 是否催促加仓;
  • 是否无法正常出金;
  • 是否用“限时名额”制造紧迫感。

凡是高收益、低风险、强催促,基本都应该高度警惕。

---

五、识别 AI 伪造内容,别只盯着“破绽”

很多人会问:假视频有什么特征?假声音怎么听出来?

有些伪造内容可能会出现:

  • 嘴型与声音不同步;
  • 眨眼、表情、光影不自然;
  • 边缘模糊或画面闪动;
  • 语音情绪不连贯;
  • 背景噪声异常;
  • 回答问题时反应僵硬。

但问题是:普通人不可能每次都准确判断技术破绽。随着工具进步,破绽也会越来越少。

所以更可靠的方式是:不把“像不像”作为唯一判断依据。

你应该重点看三个问题:

1. 对方是否提出异常请求? 2. 对方是否制造紧迫感? 3. 对方是否拒绝通过其他渠道核验?

如果答案是“是”,哪怕声音和视频都像本人,也要暂停。

六、最实用的防骗方法:建立“二次确认”机制

面对越来越真的声音和视频,普通人最有用的工具不是技术,而是流程。

1. 和家人约定一个“安全问题”或“暗号”

例如:

  • 只有家人知道的童年小事;
  • 某个固定问题;
  • 特定称呼;
  • 遇到紧急借钱时必须说出的暗号。

注意:暗号不要写在朋友圈、群聊、公开笔记里,也不要使用生日、手机号、宠物名这类容易被猜到的信息。

2. 挂断后主动回拨原号码

如果接到“亲友求助”电话,不要在原通话里继续被带节奏。

可以这样做:

  • 先挂断;
  • 回拨通讯录里原本保存的号码;
  • 联系共同亲友确认;
  • 用家庭群、单位群等已知渠道核实。

不要点击对方临时发来的链接,也不要相信“我现在只能用这个号码联系你”。

3. 涉及转账,必须换渠道确认

只要涉及钱,就不要只靠一个聊天窗口或一通电话。

可以要求:

  • 视频确认;
  • 线下确认;
  • 公司审批流程确认;
  • 官方客服电话确认;
  • 与第三方共同确认。

如果对方拒绝核验、催你立刻操作,风险就已经很高。

4. 不给验证码,不开屏幕共享

验证码本质上就是一种“数字钥匙”。任何人索要验证码,都应高度警惕。

屏幕共享也很危险。你一旦打开,银行卡、短信、支付页面、密码输入过程都有可能被对方看到。

记住一句话: 客服可以指导你,但不应该控制你;平台可以提醒你,但不应该索要你的验证码。

5. 减少公开暴露个人声音和家庭信息

这不是说不要发视频、不要社交,而是要有边界感。

尽量避免长期公开展示:

  • 孩子姓名、学校、班级;
  • 家庭住址和常去地点;
  • 详细出行计划;
  • 老人独居信息;
  • 大量清晰语音素材;
  • 工作单位内部流程。

信息越完整,别人越容易拼出一个可信剧本。

七、如果已经转账或泄露信息,应该尽快做什么

如果怀疑被骗,不要因为羞愧而拖延。诈骗最怕你及时止损。

可以按以下顺序处理:

1. 立即联系银行或支付平台,尝试冻结、止付或追回; 2. 修改相关账号密码,尤其是邮箱、支付、社交账号; 3. 关闭可疑设备登录和免密支付; 4. 保留证据,包括聊天记录、电话录音、转账凭证、链接、账号信息; 5. 向当地公安机关报警; 6. 如涉及单位资金,立即通知公司财务、法务或信息安全部门。

具体流程、受理方式和能否追回资金,要以当地主管部门、银行和平台实际处理为准。

八、不要恐慌,但要升级判断习惯

AI 让骗局更像真的,但普通人并不是无能为力。

过去,我们常用“眼见为实、耳听为真”来判断。现在更好的原则是:

  • 眼见不一定为实;
  • 耳听不一定为真;
  • 涉及钱和账号,必须核验;
  • 越紧急,越要慢一步;
  • 越私密,越要走公开流程;
  • 越像熟人,越不能跳过确认。

诈骗最喜欢的不是技术,而是人的情绪:害怕、贪心、信任、羞耻、急于解决问题。

只要你能在关键时刻多问一句“我能不能通过另一个渠道确认”,就已经挡住了很多风险。

小结

AI 会改变骗局吗?会。它会让假声音、假视频、假话术更容易制作,也会让诈骗者更方便地组合个人信息,制造更有针对性的骗局。

但识别这类风险的核心,不是成为技术专家,而是建立安全流程:

  • 声音像本人,也要核验;
  • 视频看起来真实,也要确认;
  • 对方越急,自己越要慢;
  • 涉及转账、验证码、屏幕共享,一律提高警惕;
  • 家庭和单位都应提前约定二次确认机制。

美国 FTC 和 FBI 的相关提醒说明,生成式 AI 已被纳入反诈骗风险视野。但本文未核验近 24 小时中国本地案例,不能将境外预警直接写成国内新案情。面对不确定信息,最稳妥的态度是:不恐慌、不轻信、先核实。