国家对AI动手了,为啥要如此严管?

刚刚，央视新闻刚发布了一条消息，字很少，但解决的却是大事！

报道称，国家网信办依法约谈了剪映、猫箱App和即梦AI等，不仅给出了严厉警告，还责令它们限期改正，对相关责任人也进行了从严处理。

这事儿不难理解，给大家讲讲怎么回事。

大家应该看到过很多AI生成的视频、图片，这些视频质量参差不齐，差的一眼就能看出是AI生成的，做得好的和实拍的都差不多，足以以假乱真。为了区分视频、图片内容是实拍的，还是AI生成的，国家硬性规定必须明确显著标注“内容由AI生产”等字样。

不少短剧、视频和图片现在都明确标注了，“AI生成”“内容由AI制作”等醒目文字或图标，比方说，我们用豆包生成的图片，都明确带有这样的标识，用户瞧一眼就可以知道这是AI制作出来的。

AI生成的内容，为什么要加上这条硬性规定呢？落实这些规定，这第一枪为什么要打这些“工具生产商”呢？

其实，真不是国家小题大做，只要你留意一下身边，就会发现，AI生成的视频乱传播、不标注，早就悄悄钻进了我们的生活，骗钱、造谣、误导孩子，桩桩件件都在提醒我们：这份监管，来得太有必要了。

清明节时，我写过一篇文章，不少逝者通过AI“复活”。其中，有个丧子一年多的老母亲，被AI“骗”了一年多。

好在这个是亲人授权后的善意欺骗，如果不经标注，这样的AI数字人也能轻易把老人骗得团团转，让他们心甘情愿地把钱包掏空……

现在AI换脸、仿声的技术越来越成熟，门槛却越来越低，这也让不少不法分子钻了空子，最常见的就是骗钱，而且专挑警惕性不高的人下手。

不少老人刷手机时刷到“孙子”发来的视频，视频里的人眉眼、声音和自家孙子一模一样，还哭着说自己出了急事，急需用钱，让老人赶紧转账……

老人不知道这是AI，就这么被欺骗了。

如果在AI制作的过程中，就全程打上标记，大家一看就知道是AI制作的，必然就不会这么轻易被骗。

很多明星也被AI换脸搞得不胜其烦，有人用AI克隆李亚鹏、靳东等名人的脸和声音，开直播带假货，不仅侵犯肖像权，还严重损害了他们的名誉和利益。因此，今年两会上，不少代表就纷纷向滥用AI克隆数字人开炮，要求尽快立法，从严治理。

还有一些AI短剧公司，直接用几个明星的面孔合成新的人物形象，让本来就无戏可演的演员们更加生意冷清……

当然，还有人为了流量，用AI生成视频或图片，制造假新闻，足以以假乱真，这些谣言让人真假难辨，它们严重扰乱社会秩序。

造谣一张嘴，辟谣跑断腿。如果任由AI造谣，将浪费巨大的人力物力财力去辟谣。

所以，现在很多内容平台也严格要求，凡是AI生成的内容，无论是文字的、图文的、还是视频内容，必须声明由AI生成。

这也是前段时间那个声称用AI写公众号，年赚两百万的博主被封禁的原因之一。

管住源头，管好苗头，才能事半功倍。

AI生成的内容，必须在“出厂设置”的时候，就标注清楚，这样才能让普通人都能直接辨识出来，了解到它的生产方式，了解了它的来源，才不至于那么轻易地被骗。

除了骗人和误导，AI生成的内容还对原创行业具有致命的杀伤力。

要知道，AI批量生成一条视频，成本可能就几毛钱，一分钟就能做十条，这些由AI制作的内容，不用花费太多精力，却能轻松获得流量；而原创作者呢？辛辛苦苦写文案、拍视频、剪片子，花了好几天甚至几个月的时间，最后却比不上一条没标注由AI制作的AI生成假视频有流量、有收益。

AI不知疲倦，可以24小时不停地输出，这对原创者来说，就是降维打击。如果让AI生成的内容和原创的内容混在一起，甚至让它们获得更多的流量，这将严重打击原创者的积极性。

另外，大量AI批量制作的劣质内容充斥于网络，像泥石流一样严重污染各大平台。它们不仅严重浪费了受众的时间，还降低了大家的审美能力，久而久之，将把我们的审美力、辨识力、阅读力、注意力拉到越来越低的层次。

所以，不论是AI内容生产加工工具，还是发布平台，都应该健全机制，明确显著标识内容由AI制作。只有这样，才能守护好我们清朗的网络环境和公共秩序，保护原创者和受众利益不被AI粗制滥造的泥石流冲击。

同时，如此严管，也是逼迫AI制作向精品、高质量水平发展，而不是粗制滥造，只有海量，没有质量。如果AI制作的内容足够精彩、精致，就算是显著标识了，一样会受到市场的欢迎。那么，标识不是犯罪者的烙印，而是优秀AI创作者最鲜明的广告。

说到底，技术本身没有对错，AI也不是洪水猛兽。但没有规矩的技术，就像没有缰绳的马，迟早会伤人。

国家严管AI生成的视频，不是要阻碍创新，而是给AI生成的内容戴上“紧箍咒”，要求所有由AI制作的内容都亮明身份，让它走在正确的轨道上，真正服务于人，而不是伤害于人。

写文不易，点个“赞”和“在看”呗，谢谢。

AI 江湖风起云涌，小刀陪你一起闯。请关注“AI江湖笔记”，我们一起记录AI江湖。