小北:侠老师,我刚看到个新闻,说有公司被AI换脸的"老板"视频骗了!视频里声音、样子都是老板,结果全是AI生成的。这也太可怕了吧?
侠老师:什么时候的事?
小北:就最近。骗子用AI克隆老板开视频会议,让财务紧急转账,财务照做了才发现是假的。
侠老师:这是典型的深伪诈骗。上个月香港有公司被骗1.86亿,我朋友公司也被骗了80万。今天必须跟你好好说说怎么识别这种假视频。
今年4月,香港某公司员工收到「英国总公司CEO」的视频会议邀请。视频里「CEO」用英语跟他谈了20分钟业务,随后指示他转出2亿港元到指定账户。直到第二天联系总公司核实,才发现那个「CEO」从头到尾都是AI生成的。诈骗成本:骗子用的工具,全是市面上的AI产品,加起来几百块。为什么?因为这个群体有钱、有权限、但对新技术警觉性最低。小北:等等,AI哪有那么神?一段视频就能骗过真人?侠老师:问得好。我给你讲讲原理,你就知道为什么防不胜防了。骗子只需要你3-5秒的语音,或者网络上你的一段露脸视频。微信语音消息、抖音自拍、朋友圈视频、腾讯会议录像——随便一段都可以。用AI工具训练你的声音模型。现在主流工具有 ElevenLabs、微软Azure语音、剪映等。训练完成之后,输入任意文字,AI都能用你的声音读出来。有了你的几张照片,加上换脸工具(比如DeepFaceLab、Remaker),就可以生成你的假视频。现在还有直接用一张照片生成动态视频的工具,连多角度照片都不需要了。假声音+假视频+精心设计的剧本,包装成微信视频通话、视频会议、甚至新闻采访。我的经验是:不要相信「眼睛看到」和「耳朵听到」。要靠逻辑和流程。如果对方说「这是我,你现在给我转账」,你就立刻出一道只有真人能答的题。几乎所有AI诈骗都有一个共同特征:给你极短的时间窗口,不让你思考。"款项的事情,我需要走完财务流程,请您联系我们的财务负责人走规范程序。"这句话说出来,正规合作者会理解;骗子会立刻加大施压或者断联。"不好意思,刚才信号不好,麻烦你把头往左边转一下。"因为AI训练素材有限,正面可能很逼真,但侧面角度往往会出现:如果你是企业主,或者你公司有财务部门,请把这篇文章转发给财务同事。AI诈骗公司财务,是目前最主流、最高发的AI犯罪手法。公司层面最有效的防线,是建立一条不可跳过的「人工事前确认」流程:- 任何大额转账(超过X万元)→ 必须通过电话二次确认- 视频确认不算数 → 电话号码必须是已知真实号码- 紧急转账绿色通道 → 一律冻结,必须走正常审批规矩定下来,严格执行。这比任何AI识别工具都管用。- 立刻报警,同时联系银行——争取冻结转账。转账后30分钟内是黄金期,越早越好。
- 保存所有聊天记录、转账凭证——这是后续追查的关键证据。
- 不要删除任何东西——聊天记录、视频、音频,全部保留。
AI诈骗的破案难度比传统诈骗高,但并非无法侦破。第一时间行动,是提高追回概率的唯一办法。侠老师:今天聊的这些,总结一下:1. AI换脸诈骗已经产业化——几百块成本,能骗上亿2. 识别靠逻辑,不靠眼睛——问私密问题、看是否催得急、让对方转头3. 公司要建立确认流程——大额转账必须电话二次确认,视频不算数4. 被骗后第一时间报警+联系银行——30分钟是黄金期一句话:技术跑在前面,警惕心也要跑在前面。小北:侠老师,那我以后收到老板的视频电话,都要让他转头?侠老师:哈哈,那倒不用。关键是记住"反向验证"和"时间压力测试"这两个原则。真正熟悉你的人,不会因为你多问一句就生气;骗子才会急。小北:明白了!我这就转发给我们财务同事。侠老师:这就对了。想了解更多AI安全知识,关注「白话AI·人间指南」,咱们下期接着聊。你或身边的人遇到过AI诈骗吗?是怎么识破的?评论区聊聊,帮更多人避坑。