ARTICLE · 1213102
AI 时代必备网络素养—耳听为虚,眼见也有可能为虚!防骗之心不可无!
AI 时代必备网络素养—耳听为虚,眼见也有可能为虚!防骗之心不可无!
2026年10月18日凌晨3点。某知名女演员发了一条微博： "一觉醒来，谁在利用AI肆意抓人替自己作恶？这位'花姐'，你骗了多少人的钱？请如数奉还！太恶劣！！！" 
事情不复杂。视频号上有个账号叫"花姐美肤日记"，发了一段"明星"的带货视频： 开头是换脸直播的画面。账号打着"明星同款"的旗号卖护肤品，话术是"回馈老粉丝、厂家送福利"。 请注意一个细节，这段视频，标了"含AI生成内容"。 
标了，照样发；发了，照样卖。 后来微信出手了，账号永久封禁，内容清空。 但疑问没消失，有人追问：为什么总要等当事人自己站出来，账号才被封？ 那些没有能量的普通人，脸和声音被偷走之后，找谁说理去？ 要判断一场攻击，第一件事是搞清楚：对方的真正目标是什么。 骗子要的，从来不是那张脸。他们要的是这张脸几十年积累下来的信任。 脸是载体，信任才是弹药。 这就把问题的性质彻底改变了。 一个文明社会能运转，靠的是什么？信用！ 我相信，你才是你。我不相信，你就不是你。 
它是一切交易、一切合作、一切秩序的地基。 你去银行取钱，柜员相信你的身份证和你是一致的。 你给母亲转账，她相信电话这头是你； 企业财务付款，她相信屏幕上那个"老板"是老板。 现在，AI正在抽掉这块地基的技术底座。 过去我们说深度伪造，是"假内容"——一段假视频、一张假图。 今天不一样了。今天骗子造出来的，是一个正在和你对话的"人"。 
这里面有个区分必须讲清楚。 AI换脸作恶分两类：一类是借你的脸，去骗不认识你的人——开头案例中提到的就是这种； 另一类是借你的脸，去骗认识你的人——冒充你本人向亲友借钱。 手法不同，但目标是同一个： 把信任从"人"身上剥离下来，转移到"脸和声音"这组可复制的数据上。 一旦信任锚定在可以批量复制的东西上，"是不是你"这件事，就不再由你决定了。 这是量级的变化，不是程度的变化。 看清了目标，再看敌情。这场对抗最大的特点，是非对称，换句话说门槛被大幅降低了。 有记者曾暗访过这条产业链，卖家的报价单是这样： 现成的明星脸1280元一张，定制脸1980元；下面这张图就是引流的文案截图。 
声音当然另算，网上有人专门接单，"千字约15元"做AI拟声。 这是暗访样本，不代表全国统一行情。但它的意义不在数字本身—— 人脸、声纹、话术、收款通道，已经被拆成了可以分别采购的标准化模块。有钱就可以买到所谓的服务。 这就是最危险的地方：技术平权。 攻防双方的成本，第一次彻底失衡了。 攻击方的完整流程，只有四步： 1. 采集。朋友圈的正脸照、短视频的原声、直播回放、电话里的一声"喂"，就可能被用来复刻声纹、冒充身份。 2. 伪造。换脸、拟声，把形象和声音套上去。 3. 剧本。对老人演"孙子出事"，对财务演"老板急令"，对朋友演"急需周转"。核心只有一个字——急。 4. 收钱。催转账、上门取现金、诱导入投资。 这里有个案例： 利用AI仿声技术诈骗老人钱财，湖北一男子犯诈骗罪被判刑罚 
看清楚这个结构：AI负责解决"信不信"，真人负责解决"钱怎么拿走"。 企业端的损失量级更大。 2024年1月，香港一家公司的职员参加"视频会议"，会上"同事"们轮番发言、布置任务，他按指示转账——最终被骗走约2亿港元。事后查明，会上除了他自己，其余全是AI换脸生成的假人。 2025年，新加坡披露一起案件，骗子伪造会议冒充多名政要与机构人员，骗走490万新元。 诈骗的底层逻辑没变——还是虚构事实、隐瞒真相。 但AI的加持，让电诈从线性脚本，演化成"预备—引流—实行—处置"四模块协同的复合脚本。 从防守端看，我们主要构建了两道防线。 第一道是技术防线，第二道是治理防线。 比如，上线显式标识与隐式标识并行，还有，利用AI仿冒名人带货构成欺诈的，消费者可主张惩罚性赔偿，而且只是也有过判例。 但回到开头那段视频，标了，照样发；发了，照样卖。不得不说，治理之路，道阻且长。 回望历史，人类社会的"信任锚点"，大致迁移过三次。 第一次，从"当面"到"凭证"。农耕时代，人们面对面交易，认人、认声、认口碑。后来人口流动了，只能认印章、认签字画押。伪造产业随之诞生——假印章、假文书，从此绵延两千年。 
第二次，从"凭证"到"数字"。工业时代之后，身份证、账号、密码成为新的锚点。伪造手段随之升级——假证、盗号、钓鱼，成为新的行当。 
第三次，就是我们现在正在经历的——从"数字"到"生物特征"。脸、声纹、虹膜，成为最高等级的信任凭证。因为"只有你才有"，所以被认为无法伪造。 
每一次信任机制升级，伪造产业都会跟进，而且跟进的速度越来越快。 前两次，跟进用了几十年。这一次，只用了不到十年。 我们正在经历的，是信任锚点迁移史上最快的一次失效。 这不是技术的问题，这是技术扩散速度与社会适应能力之间的落差。 所以，我们说人工智能治理，迫在眉睫，网络综合治理，刻不容缓。 其实，技术治理从来不能一枝独秀，一骑绝尘。答案在人的流程里。 为什么？因为前面防线失效的原因各不相同，但共同点是——它们都要求某一方比骗子更快、更准。 而流程不要求你比骗子聪明。它只要求你按步骤做。 对个人，三句话。 凡是视频、语音里提借钱、转账、验证码的，一律挂断，用你手机里存的那个旧号码回拨，或者找他家人确认。 注意，是回拨，不是回视频。 AI能伪造画面，但它拦不住你主动拨出去的那个电话。 对方越催你，你越要慢。涉及钱的决定，先停三分钟。诈骗依赖紧张感，你一慢，它就露馅。 确认可疑，立刻报警——这一点最容易被忽视，也最有效。 对家庭，定一个"暗号"。当然，这个问题就别设了。 
一个只有你们家人知道、不可能被AI采集到的问题。 
这不是段子，这是成本最低的带外验证。 家里有老人的一定要做——统计数据里，老年人是这类骗局最主要的受害群体。 对企业，把"看见"和"授权"分开。大额转账必须双人审批、延迟到账、收款人白名单。 香港那2亿港元的教训是：一个"视频会议"，就让整个内控体系失效了。会上全是假人不可怕，可怕的是一次"看见"，就直接等于了"授权"。 我们从小被教导"眼见为实，耳听为虚"。 
这四个字，人类用了几千年。它建立在一个最基本的默契上：我看到的是你，所以是你。 现在，AI把这个默契的技术底座抽掉了。 但请注意——底座被抽掉，不等于信任本身消失了。它只是必须被重新安放。 放在哪里？放在流程上，放在制度上，放在"不依赖判断力"的固定动作上。 明星脸被拿去卖护肤品，看起来是件小事。往深里想—— 当一张廉价的脸，可以撬动成千上万人的信任，那么信任本身，就成了这个社会最昂贵、也最脆弱的基础设施。 技术从来不分善恶。它只负责放大——放大善意，也放大贪婪。 所以真正要守住的，不是那张脸，是那条底线： 下次视频里那个"熟人"开口借钱的时候，请你慢下来，挂断，拨回去。 那三分钟，可能就是你和你家人之间，最后一道防线。 如果你家里有60岁以上的亲人，把这篇转给他。这可能是你今年最有用的一次转发。
