
点击蓝字 关注我们

近期多地网警通报一批典型案例:个别自媒体博主借助AI工具,短短几秒就能生成张家界玻璃桥垮塌、厂房爆炸的仿真视频,画面光影逼真,看不出明显破绽。这些假视频瞄准节假日传播,不少游客信以为真,产生出行恐慌,最终造谣博主悉数被处以罚款、行政处罚。
放在几年前,想要伪造事故实景视频,需要拍摄素材、精细剪辑,耗费不少时间精力,造假门槛很高。如今人工智能生成技术普及,输入几句文字描述,就能产出以假乱真的实景短片,造谣成本被压到极低。技术本身没有对错,方便了创作者,却被一部分流量博主钻了空子。
深究乱象根源,离不开短视频的流量变现逻辑。惊悚灾难类内容自带天然传播属性,更容易引爆点赞与转发,播放量越高,博主到手收益越多。在低处罚、高收益的诱惑下,一些人放弃底线,批量炮制各类天灾、事故假视频。平台算法又偏爱推送高热度内容,无形中帮谣言加速扩散,慢慢催生了批量造谣蹭收益的畸形生态。

放在过去,网友凭借画面漏洞、模糊画质,大多能轻松识破作假内容。但AI生成视频细节饱满、场景写实,普通人仅凭肉眼,基本没办法分辨真伪。很多人出于好心提醒亲友避险,随手转发短视频,无意间成了谣言的传播帮手,单纯指责网友盲目转发并不客观。
眼下治理大多聚焦事发后处罚发布谣言的博主,只能治标,很难杜绝同类内容反复出现。想要管住AI造谣,需要全链条发力:上游AI生成软件完善内容水印、溯源标记,从源头拦截恶意生成灾难画面;平台优化算法规则,减少猎奇惊悚内容的流量倾斜,加强事前机器筛查;监管细化违规惩处标准,抬高造谣牟利的违法成本。
对普通老百姓来说,也要更新辨别谣言的思路。碰到突发爆炸、景区坍塌这类劲爆短视频,别急着转发,先去查看官方发布的权威通报。AI造假越来越逼真,遇事多求证,就是守住不传播谣言最简单的办法。
END
有你认识的人吗?点“分享”,告诉TA

往期推荐
1
2
3
4

土味研究社
这里没有晦涩难懂的理论,也没有高高在上的说教,主打一个接地气、够通俗的“土味”表达,用最直白的视角,聊遍生活与世界的方方面面。
夜雨聆风