用AI“搞事情”却引火烧身?

最近刷短视频，大家有没有感觉“有图有真相”这句话越来越靠不住了？

2026年开年以来，多地警方频频出手，接连查处了多起利用AI工具生成虚假图片、视频并制造传播网络谣言的案件。从“烟花厂爆炸”到“重大刑事案件”，以往需要费心P图的造谣手段，如今只需动动手指输入指令，AI就能瞬间生成极具欺骗性的“现场画面”。

这些虚假内容不仅混淆视听，更严重扰乱了社会公共秩序。很多人好奇，用AI造谣难道只是“恶作剧”吗？平台放任不管是否也有责任？

今天，我们就结合最新案例和《治安管理处罚法》《刑法》等规定，把这事掰开揉碎了说清楚。

“有图有真相”，是如何变成谣言的？

2026年2月，江西萍乡上栗县警方接到线索，有人在短视频平台发布视频称“上栗县发生烟花厂爆炸事故，造成2死2伤”，引发部分网民恐慌。经警方核实，辖区内并未发生此类事故。发布者阮某交代，自己是为了消遣娱乐、博眼球，利用AI工具生成了这一虚假视频。

无独有偶，2026年3月底，一名女子为博流量，恶意制作封面标注“发生一起重大刑事案件”的虚假视频并发布，同样被依法行政拘留。

这类案件的特点高度相似：当事人都觉得“我就是玩玩”，但AI生成的画面逼真，配上文字、声音后，极易让普通网民产生“有图有真相”的错觉，导致谣言在短时间内裂变式传播。

“技术中立”不是挡箭牌，可能面临“行、刑、民”三重责任

很多涉案人员到案后辩解称“内容是用AI生成的，不是我编的”。在法律层面，这种借口完全站不住脚。无论使用何种技术工具，只要行为人编造并散布谣言，就需承担法律责任。

除了追究造谣者责任，网络平台的责任也备受关注。面对海量AI生成内容，平台是否可以以“技术中立”或“用户行为”规避责任？

作为网络信息内容服务平台，对用户发布的信息负有审核和处置义务。

《互联网信息服务管理办法》第十五条明确列举了互联网信息服务提供者不得制作、复制、发布、传播的信息，其中第（六）项即包含“散布谣言，扰乱社会秩序，破坏社会稳定的”信息。

这意味着平台不仅要管，还得有措施、有效果。

发现后立即处置： 根据《中华人民共和国网络安全法》第二十二条规定，网络产品、服务的提供者发现存在安全缺陷、漏洞等风险时，应当立即采取补救措施。延伸至内容安全领域，平台一旦发现法律禁止发布的信息，必须立即停止传输、删除信息、防止扩散，并向有关部门报告。

主动监测与防范： 根据《互联网用户公众账号信息服务管理规定》，平台应建立网络谣言等虚假信息预警、发现、溯源、甄别、辟谣、消除等处置机制，对制作发布虚假信息的账号降低信用等级或列入黑名单。

现实中，部分地区网信办和公安机关已开始对监管不力的平台进行约谈，指出其发布不当信息内容的违规性质并责令整改。如果平台明知或者应知用户利用其服务侵害他人权益，而未采取必要措施，将需承担连带责任。

AI技术的爆发极大降低了内容创作的门槛，但绝不是制造谣言、混淆视听的“免罪金牌”。公安机关已明确表态，对利用AI技术生成虚假信息、误导公众的违法犯罪行为坚决依法查处。

这里也给大家几点提醒：

一是别轻信。AI生成图细节上常有破绽，如人物表情僵硬、手指畸形、光影不协调等；

二是别瞎转。对没有明确信源的“爆炸性新闻”，多看一眼官方媒体的报道，不做谣言传播者；

三是别试探。法律红线清晰明确，无论是好奇、博流量还是恶搞，一旦扰乱公共秩序，必将付出代价。

清朗网络空间需要法律规制、平台自律，更要每一个人擦亮双眼。AI应当成为服务社会的工具，而不是制造恐慌的“帮凶”。