一条“官方客服”视频，差点让他转账50万

老张今年58岁，退休后喜欢在手机上刷视频。上周，他突然收到一条微信消息：”您的账户存在异常，请点击链接联系客服处理。”点开一看，是个视频——”客服”穿着银行制服，一口标准普通话，还亮出了工牌。”当时差点就信了。”老张事后回忆，”幸好儿子在旁边多问了一句，打电话给银行核实，才发现那视频是AI换脸生成的。”老张的经历不是个例。2026年一季度，AI换脸、语音克隆类诈骗涉案金额超50亿元，同比暴涨370%。就在4月30日，中央网信办正式出手——为期4个月的”清朗·整治AI应用乱象”专项行动启动，重点整治14类AI违规问题。这意味着：那些靠打擦边球存活的AI应用，要彻底凉了。

管住技术源头，7类问题被点名。专项行动分两个阶段，第一阶段从现在到6月，专门”管技术”。

哪7类问题会被整治？

第一，未备案的”黑模型”。

有些AI产品向公众提供服务，但根本没向网信部门备案，游离在监管之外。这次要被清理。

第二，安全审核能力不足。

某些平台缺乏”安全围栏”，用户一问敏感问题，AI就”跑偏”生成违法内容。这类平台将被重点整改。

第三，训练数据来路不明。

用侵犯版权的内容训练AI、或者数据里夹杂违法信息？以后行不通了。

第四，AI数据投毒。

央视315曝光过：有人花800元做”GEO优化”，就能凭空捏造一个”阿波罗9智能手环”，2小时登上AI推荐榜单。这次要严厉打击。

第五，AI生成内容不标注。

你看到的”官方公告”、新闻截图，可能是AI伪造的，但没有任何标识。这次要求必须标注AI生成。

第六，换脸拟声滥用。

未经授权用你的脸和声音做视频，甚至用来做金融咨询、医疗问答？属于违规。

第七，开源模型没人管。

开源社区上传的数据集、模型代码，以前没人审核。现在明确：Hugging Face等平台上风险模型也要清理。

清理内容乱象，再查7类。第二阶段从6月开始，重点”管内容”。

哪些内容会被清理？

第一，”数字泔水”。

批量生成的垃圾内容——逻辑混乱、价值空洞，东拼西凑洗稿发布。这次要批量清理。

第二，AI假新闻。

用AI编造政策解读、歪曲历史事件、冒充官方发布假公告。造谣的、传谣的都要处罚。

第三，假冒名人。

AI换脸冒充企业家演讲、克隆声音”送祝福”、未经授权用明星形象做广告。侵犯肖像权的行为将被严惩。

第四，低俗暴力内容。

AI生成血腥场景、软色情擦边内容，专门针对未成年人？平台和账号一起罚。

第五，AI水军。

用AI批量注册账号、刷量控评、制造虚假热搜。某平台被曝用AI运营2000个小号，统统要凉。

第六，魔改经典。

把《西游记》恶搞成恐怖片、把历史人物丑化成小丑——歪曲传统文化、颠覆价值观的内容，这次要正本清源。

第七，违规AI应用。

仿冒知名AI产品的套壳APP、提供”一键脱衣”功能的工具、宣扬迷信的”AI算命”服务，全部下架。

普通人会受什么影响？

第一个变化：AI生成的内容会越来越明显。

以后你看到的视频、图片，可能都会有”AI生成”的水印。如果某个平台没标注，可能就是违规。

第二个变化：换脸诈骗会变少。

专项行动要求严格限制”换脸拟声”服务。骗子想冒充你亲友诈骗，难度会提高。

第三个变化：朋友圈的假消息可能减少。

AI批量制造的谣言、蹭热点的营销号，会被重点清理。信息环境会干净一些。

远离这3类AI应用

第一类：来路不明的换脸工具。

如果某个APP声称”只需一张照片，就能让任何人说话”，很可能就是违规的。要用就去正规平台。

第二类：承诺”稳赚不赔”的AI投资软件。

骗子最爱用AI换脸冒充投资大师。这次专项行动专门打击这类应用。看到类似宣传，直接举报。

第三类：不备案的”黑AI”。

选择AI服务时，可以看看它有没有正规备案。那些躲在监管之外的，安全性没有保障。

AI跑得太快，规则必须跟上。这次”清朗行动”，不是要限制AI发展，而是要清除乱象，让真正有实力的AI企业健康发展。对普通人来说，以后用AI会更安全——前提是你别去用那些违规的”野路子”产品。记住：AI虽好，安全第一。