AI替谣言做视频,谁来替真相把关?

据澎湃新闻报道，9月25日，上海黄浦警方通报：刘某某凭空编造“某院士窃取他人科研成果”的谣言，在50余个圈群中传播炒作；张某某用AI软件生成多条虚假视频，为谣言推波助澜。目前，两人均已被刑事拘留。

这起案件里最值得注意的，是AI的参与。张某某用AI生产视频，看起来有图有影，很像“实锤”。过去编一则谣言，好歹要写文案、找素材，如今几次点击就能完成，成本趋近于零，普通人的辨别难度却大幅上升。如今，AI让谎言跑得更快、更难识破。

而这条谣言选择的对象是院士，借的是公众对科研工作者的信任。一条凭空捏造的视频，侵蚀的不只是一位科学家的名誉，更是社会对学术研究的信心。造谣者收割完流量就走，代价却留给了整个社会。

这次警方没有止步于删帖、封号，而是直接刑事拘留。按照相关司法解释，诽谤信息被转发达500次、或点击浏览达5000次以上，即可认定为“情节严重”，追究刑事责任。五十多个圈群的传播规模，早已越过了这条线。对编造传播谣言者依法追责，这一步是应有之义，也是必须守住的底线。

但把两个人刑拘了，并不能解决根本问题。谣言真正扩散出去，靠的是传播平台——那些AI视频是从哪个平台发出的，又是如何一路畅通的？《人工智能生成合成内容标识办法》自2025年9月施行，明确要求AI生成内容添加显式和隐式标识，传播平台负有核验义务。施行已一年有余，没有标识的虚假视频依然能够大量传播，说明这套要求在不少地方还停留在纸面上。

造谣的成本趋近于零，核验的门槛又形同虚设，两者相加，就是AI谣言屡打不绝的根源。平台把关不设防，刑拘再多造谣者，也拦不住下一条视频。反过来，如果AI工具生成即打标、平台发布即核验、无标识内容不予推荐，AI谣言的生产、流通、变现三个环节都会被卡住，事情才有根本好转的可能。

AI本身是中性的，做成视频的是谣言还是真相，取决于规则硬不硬、责任实不实。刑拘拦得住造谣的人，拦不住造谣的工具，刑拘应是治理的起点而非终点。

编辑 | 吴海刚

审核丨王小杨

出品 | 红辣椒评论