夜雨聆风
7月1日，联合国人工智能独立科学专家组发布首份全球AI风险评估报告，联合国秘书长古特雷斯明确发出警告：“世界无法治理其无法理解的事物，拖延行动所付出的代价正不断增加”。这场由AI催生的诈骗危机，早已不是某个人、某个国家的私事，而是悬在全人类头顶的共同风险。
盗脸只是第一步，盗钱才是最终目的
很多人对AI诈骗的认知还停留在“合成不雅照敲诈”的层面，殊不知黑产早已完成了从“盗脸”到“盗钱”的闭环升级。你的一张公开社交平台照片、一段短视频里的人脸，都可能成为被利用的作案工具。
第一道关卡：用AI“复活”静态人脸，突破身份认证。 在网络黑市，一条包含姓名、身份证号、证件照的个人信息仅售5到10元。不法分子拿到静态照片后，只需通过AI工具生成眨眼、摇头、张嘴的动态人脸视频，就能绕过大量平台的人脸识别核验。山东胶州警方曾打掉一个团伙，靠这种手法批量生成5万余条动态人脸视频，注册售卖8万余个实名账号，非法获利超60万元。 更凶险的是直接攻击金融账户。南京一名男子利用非法获取的195万条公民信息，搭配AI换脸软件，成功登录23名受害人的支付账户，篡改密码、盗刷银行卡，即便多家平台有活体检测机制，依然被AI合成的动态画面突破防线。长沙一名大学生更是仅凭一部手机，用同类技术3个月盗刷他人银行卡5万余元，门槛之低、效率之高令人咋舌。
第二道关卡：深度伪造+情感绑架，精准收割信任。 如果说盗刷是技术层面的突破，那冒充亲友、公检法的AI诈骗，则是直击人性的软肋。湖北咸宁一位76岁老人，接到“孙子”打来的视频电话，对方带着哭腔说自己出了事急需5万元保证金。老人看着屏幕里熟悉的面容，爱孙心切立刻凑钱转交，直到事后才发现是AI换脸骗局，毕生养老积蓄险些血本无归。 这类骗局早已不局限于个人。跨国企业同样是目标：曾有企业高管被AI合成的CEO语音误导，在单一通话中就被骗走2560万美元，全程没有察觉任何异常。从普通百姓的养老钱，到企业的大额资金，AI诈骗的攻击范围正在无差别扩大。
数据最能说明这场危机的烈度：2025年全球AI诈骗数量同比激增**1210%**，增速是传统欺诈的6倍；AI诈骗的牟利能力达到传统诈骗的4.5倍，仅深度伪造相关欺诈，2025年全球损失就高达16.5亿美元。当诈骗从“手工时代”进入“AI工业化时代”，每一个人都可能成为下一个目标。
为什么AI会成为诈骗的“超级工具”？
传统诈骗拼的是话术、胆量和人手，一天打出几百个电话已是极限；而AI加持的诈骗，实现了三个维度的降维打击，让黑产的效率和成功率都实现了指数级跃升。
首先是量产能力。大语言模型能在几分钟内生成上千条个性化钓鱼话术，AI生成的钓鱼邮件数量同比暴涨14倍，占全球钓鱼攻击的56%。过去一个骗子同时对接3-5个受害者已是上限，如今借助AI聊天机器人，一个操作员就能同时维持几十段“情感交流”，杀猪盘、投资诈骗的规模效应被无限放大。
其次是门槛崩塌。从前深度伪造需要专业团队、高端设备，如今普通人花几十元就能在黑市买到全套工具，一键生成以假乱真的换脸视频、克隆语音。技术不再是壁垒，只要有作恶的念头，任何人都能快速上手，这直接导致诈骗团伙数量爆发式增长。
最核心的是击穿了人类的信任底层。千百年来，“眼见为实、听声辨人”是我们判断真伪的本能。可当AI可以完美复刻一个人的面容、语气、甚至说话习惯，视频可以造假、语音可以造假、连实时通话都能全程伪造，我们赖以判断的信任基础就彻底动摇了。当你连屏幕对面的人是不是真人都无法确认，每一次转账、每一次信息透露，都可能踩进陷阱。
规则追不上技术，拖延的代价正在变大
技术跑出了加速度，全球治理却还在原地踏步。AI诈骗泛滥的本质，是技术迭代与规则建设的巨大速度差，而这道缺口，正在让越来越多人付出真金白银的代价。
当前全球AI治理体系高度碎片化，不到半数国家拥有针对网络欺诈的专门法律，能明确覆盖AI深度伪造、语音克隆诈骗的更是少之又少。更棘手的是跨境难题：诈骗服务器设在境外，团伙成员流窜多国，工具开源、资金加密，单一国家的监管形同虚设，执法成本远高于作恶成本，最终形成“法不责众”的灰色地带。
联合国专家组的报告直指核心：AI的发展速度，已经超过了科学界的认知能力和政府政策的跟进速度，现有评估体系和监管框架，根本跟不上技术迭代的节奏。古特雷斯的警告并非危言耸听——每多观望一天，黑产的技术就多迭代一分，受害者的数量就多增加一批，后续治理的成本也会指数级上升。
这不是某一个国家的难题，是全人类共同的挑战。AI工具没有国界，诈骗风险也不会被国境线拦住。要遏制这场AI诈骗风暴，既需要技术层面的攻防升级——用AI检测AI、用人脸溯源技术标记生成内容，更需要全球层面的规则协同——打破地域壁垒，统一治理标准，压实平台责任，让技术的每一步前进，都有对应的规则托底。
技术本身从来没有对错，错的是不受约束的滥用。AI本应是推动社会进步的引擎，不该沦为诈骗作恶的武器。正如古特雷斯所言，等待和拖延的代价只会越来越大。唯有尽快补上规则短板，守住数字信任的底线，才能让技术真正造福于人，而非沦为悬在每个人头顶的风险。
