AI假名人带货:3961个账号被处置,清掉4.7万条

AI仿冒名人带货，问题从来不在技术，而在平台愿意花多少力气去认人。

网信部门公布的一组整治数据里，清理违法违规信息4.7万余条，处置账号3961个，被点名的手法全都是用AI仿冒公众人物。

01 3961个账号

近日，针对利用AI技术假冒仿冒知名公众人物虚假带货、吸粉引流、误导网民等问题，网信部门督促网站平台开展集中整治。

图1：AI仿冒公众人物整治的处置数据 · 来源：AI生图

这次整治累计清理违法违规信息4.7万余条，处置账号3961个，通报的典型案例覆盖微信、抖音、小红书、哔哩哔哩和快手等多个平台。

通报里被点名的账号名大多做了脱敏处理，但手法写得很具体，有的用AI合成名人肖像和声音，有的盗用家属照片，还有的做形象变体。

02 四类典型手法

通报把问题分成几类：一是未经授权仿冒名人带货，二是滥用公众人物形象炮制谣言，三是假冒公众人物诱导关注，四是制作低俗内容恶搞。

图2：四类典型手法的特征对比 · 来源：AI生图

其中一类账号用真人口吻发表观点、讲述经历、发布情感话术，诱导用户关注，这类内容在表面上和真人发布几乎看不出区别。

另一类是用AI特效编造公众人物患病的谣言，账号名称和过去的内容都看不出异常，平台如果只看文本，很难发现素材是合成的。

03 平台责任被点名

通报同时表示，对问题突出的网站平台，网信部门将依法按程序予以查处，下一步要压实网站平台主体责任，防范AI技术滥用。

图3：AI滥用治理中的平台责任链条 · 来源：AI生图

这类治理的难点在于规模，3961个账号背后是分散的小号和层层转发的内容，清理的成本远高于生成的成本，人工审核很难覆盖全部。

真正的门槛还是识别能力，谁能在几秒内判断一段人脸和声音是合成的，谁就能把这类账号挡在传播之前，而不是发布之后再删。

🔥 今日互动

如果AI生成的名人声音和肖像已经能骗过大部分人，你觉得平台应该先管住账号，还是先让普通用户学会识别？

本文属于「安全红线」系列第 4 篇。

机器迷途每天早上 8 点更新，关注可连读这个系列。

---

本文由AI辅助创作，内容来源：中央网信办整治AI仿冒知名公众人物典型案例通报（总台央视记者张岗）、凤凰网科技11月6日报道。