夜雨聆风
雷科技互联网组 | 编辑：KennyHJ | 监制：心怡
4 月 28 日消息，网信部门刚依法查处了剪映 App、猫箱 App 还有即梦 AI 网站，原因是这些平台没落实好 AI 生成合成内容的标识规定，违反了好几部相关法律。
图源：公众号
先说说这次被查的几个主角。
剪映作为国民级剪辑工具，几乎每个做短视频的人都用过，没想到这次栽在了 AI 内容标识上。
图源：微博
有网友指出，其实这次处罚不是孤立事件，正好和网信办正在开展的清朗・整治 AI 技术滥用专项行动相呼应。
这个行动从去年 4 月就启动了，重点就是打击 AI 换脸拟声侵权、虚假信息传播这些乱象。
为啥要这么严？看看最近的案例就知道了。
福建三明那个女司机被保安掌掴的事件，本来就够让人揪心了，结果一群网友用 AI 合成了各种离谱视频。
有握手拥抱和解的，有嬉笑奔跑的，甚至还有低俗的亲密画面，更过分的是发布以及传播的人还故意隐瞒是 AI 合成的，捏造和解声明。
这哪是娱乐，分明是在当事人的伤口上撒盐，还误导了不知道多少网友。
网友用AI合成的画面 图源：微博
还有明星形象被滥用的问题，有网友刷到过周星驰代言游戏、王一博推荐理财产品的 AI 视频，做得那叫一个逼真，不仔细看根本分辨不出来是假的。
这些明星的经纪人也早就公开质疑平台监管缺位了，因为这些虚假内容不仅损害了明星的形象和利益，还可能让普通用户上当受骗。
雷科技AGI（ID：leikejiagi）作为一个经常刷短视频的人，我现在都有点怕看到 AI合成的视频。看到一段视频，首先会怀疑是不是 AI 合成的；刷到明星的采访，也会下意识想这声音是不是克隆的。
AI 技术现在真是越来越先进，逼真到让人毛骨悚然的地步，有时候连专业人士都很难分辨真假。
图源：微博
有网友说，这是技术创新的必经之路，监管太严会限制发展。
但雷科技AGI（ID：leikejiagi）觉得，技术创新和法律合规从来都不是对立互斥的。这些平台不能只想着怎么让 AI 功能更强大、更吸引人，却忘了自己的社会责任。
我觉得，AI 生成内容的标识就该像香烟盒上的吸烟有害健康一样，必须醒目且必须强制。
平台不仅要在技术上做好标识，更要建立严格的审核机制，一旦发现有人故意隐瞒 AI 生成属性、传播虚假信息，就该严惩不贷，封号、罚款都不能手软。
图源：小雷自制
同时，我们作为用户也得提高警惕。看到那些过于离奇、过于完美的视频，多留个心眼，别轻易相信，更别随手转发。
俗话说谣言止于智者，这些虚假信息要是没人传，自然就失去了市场。技术是用来造福人类的，不是用来制造混乱、传播虚假信息的。
雷科技AGI（ID：leikejiagi）希望这次处罚能给所有平台提高警惕，不管是 AI 平台还是发布内容的媒体平台，都要对这些 AI 视频加强监管，而不是让我们用户每天活在真假难辨的焦虑中。
你最近刷到过哪些让你真假难辨的 AI 合成内容？欢迎在评论区聊聊你的看法。
