“AI生成”不是平台的免罪符

近期媒体报道了短视频平台上反复出现、嘴里喊着“姨姨妈妈”的少年，是AI批量生成的数字人。他们用熟练的话术示弱、流泪，对年轻人来说极易分辨，老人却难以识破。

骗术并不复杂。先认亲，把“小海”包装成需要照顾的孩子，让老人在被依赖里找到存在感；接着示弱说没钱吃饭、只能吃馒头咸菜，把老人的心疼一点点勾出来。等情绪到位，再打着“替姨姨妈妈着想”的旗号上架带货。

这个事件暴露出短视频平台的很多问题。

对于这类视频，平台会在左下角用极不显眼的小字标注“作品含AI生成内容，请注意甄别”，但发布环节的前置审核规范形同虚设。

事件曝光后，短视频平台表示“会进行审核关注”，或者删除视频、封号禁止关注。不管是哪种，实际上都等于什么都没做。封了“海海要努力”，马上冒出来“努力的海海”“海海会努力”。换张脸、换个名字，同样的剧本接着演。对制造这些内容的人来说，复制成本低到可以忽略不计，封号不过是换个马甲再上场。

但对被骗的老人来说，每一次“换马甲”都是一次新的收割。平台封号封得再快，也快不过流水线的生产速度。

更值得追问的是，平台为什么觉得自己已经尽责了？从平台的处理方式看，其逻辑是：我已经标注了“AI生成”，用户就应该知道这是AI，再被骗就是用户自己的问题。可这行字对这场针对老年人的“定制杀猪盘”根本无效。一个高龄老人，即便识字，也未必知道“AI”是什么，更谈不上理解“AI生成”意味着什么。这行标识与其说在保护用户，不如说在保护平台自己。一旦出事，平台可以指着那行字说，我已经提示过了。

平台在用这行字做责任豁免和风险转移，用形式合规替代实质审核，把识别风险的责任和后果一并转嫁给用户。平台手握算法和数据，并非没有能力在前端识别高风险信号。同一形象反复出现、话术高度雷同、评论区老年用户集中、带货链接指向固定商品。

这些特征并不难识别，但认真审核意味着投入人力、技术和流程，意味着牺牲一部分流量和GMV；而事后删号几乎不花什么成本，还能对外展示“治理动作”。这笔账算下来，平台省了钱，承担代价的却是那些信息弱势的老年用户。

这不仅仅是道德问题，更是典型的成本外部化。平台享受了AI内容带来的流量红利，却把欺诈识别的成本推给用户和社会。AI生成内容的产量已在指数级增长，靠事后删除来治理，无异于杯水车薪。真正的治理必须前移：在发布环节设卡，对高风险模式主动拦截，对老年用户集中的账号和内容加大人工审核权重。做不到这些，封再多的号也只是做样子。