近年来，生成式人工智能迅猛发展，写文章、做视频、生成图片只需几秒。然而，一些不法分子盯上了这把“双刃剑”，利用AI工具批量生产虚假信息，只为博取流量、吸引关注。

“以前编造一条谣言，需要煞费苦心写文案、拼凑图片；现在只要输入几个关键词，AI就能自动生成一篇‘有图有真相’的新闻报道。”办案民警介绍，AI生成的虚假内容仿真度极高，普通网民很难分辨真伪，传播速度极快，一旦扩散，辟谣成本高昂。

此次曝光的典型案例，覆盖了AI造谣的多种“玩法”：有虚构安全事故的，有编造重大交通事故的，有炮制公众场所火灾的，手段各异，但目的相同：蹭流量、博眼球、非法牟利。

大同网安部门巡查发现，某平台上一则视频引发广泛关注。视频声称“山西大同一车间内发生爆炸，现场有一名工人受伤，伤者面部烧伤面积100%”，画面中烟雾弥漫，配文惊悚。

民警迅速核查，涉事企业近期并未发生任何安全事故。经溯源，视频发布者竟是该企业员工赵某某。面对警方询问，赵某某承认，他利用AI工具生成了虚假文案和视频，发布到互联网平台，目的是吸引流量、增加关注度。“我以为没人会查……”赵某某后悔不已。目前，公安机关已依法对其作出行政处罚。

办案民警指出，企业员工本应成为安全生产的守护者，却利用职务之便编造事故谣言，不仅抹黑企业形象，更引发社会恐慌，性质恶劣。

“长治人速看！长晋高速大客车侧翻致2死6重伤，道路结冰预警生效，这些行车规则必须记牢！”这条标题惊悚的帖文，配上多张“事故现场图”，迅速在长治本地微信群、朋友圈刷屏。

长治网安部门立即核查，却发现长晋高速近期从未发生过任何客车侧翻事故。文中所述时间、地点、伤亡数字纯属虚构。发布者赵某到案后交代，他为了吸引粉丝关注，用AI工具生成了重大交通事故的不实信息，并配发AI生成的“现场图”。

“我平时就喜欢发一些社会新闻，看到别人发流量高，我就学着用AI生成。”赵某说。他没想到，自己随手一点，就触犯了法律。目前，公安机关已依法对其作出行政处罚。

“太原红灯笼体育场突发火情！”晋城网民张某某在某平台发布了一段视频，画面显示一座体育场内浓烟滚滚，火光冲天。正值太原演唱会旺季，这条视频迅速引发网民关注与转发，不少歌迷纷纷担忧：“会不会影响演出？”

事发后，晋城网安部门紧急联系太原警方核实，得到的回复是：红灯笼体育场近期未发生任何火情。视频中的画面，经鉴定为AI生成。张某某承认，他没有任何事实依据，只是看到网上有人发“火灾”视频流量高，便用AI工具编造了这段虚假内容。

“我没想到会造成这么大影响。”张某某说。然而，谣言已经传播开来，警方不得不耗费大量精力辟谣。目前，张某某已被依法行政处罚。

忻州网民田某某在某平台发布文章《4月29日突发惨烈车祸：大货车侧翻致3死，现场画面曝光》，文中明确提及“山西忻州五台县”，并配有“事故现场”图片。文章写得有模有样，时间、地点、伤亡数字一应俱全，引发当地网民恐慌。

忻州网安部门迅速核查，五台县近期未发生此类交通事故。田某某到案后交代，他在某APP看到一则类似标题，觉得“有流量”，便复制链接到AI写作平台，一键生成了文章，没有做任何核实就直接发布。

“我以为只是玩玩，反正AI写的，又不是我编的。”田某某辩解。但警方指出，无论谁“写”的，发布虚假信息造成社会危害，就要承担法律责任。目前，田某某已被依法行政处罚。

省公安厅网安部门负责人表示，当前利用AI生成虚假图文、音视频已成为网络谣言传播的新趋势。这类信息仿真度高、传播速度快、误导性强，极易引发社会恐慌，甚至干扰正常生产生活秩序。

“有些人觉得，用AI生成内容不是自己‘亲手’编造，就不算违法。这种认识是错误的。”民警强调，无论使用何种工具，只要制造、传播虚假信息，扰乱社会秩序，公安机关都将依法严厉打击。

下一步，山西公安机关将持续加大对此类违法行为的打击力度，依法查处造谣、传谣、蹭流量、恶意引流等行为，坚决维护清朗网络空间。同时，警方呼吁广大网民，提高识谣辨谣能力，不轻信、不转发来源不明的“爆炸性”消息，遇到可疑信息可向网安部门举报。

“流量不能没有底线，技术不能没有边界。”一位办案民警说，“我们希望每一个网民都能成为网络秩序的守护者，而不是谣言的助推器。”

山西云州文化传媒有限公司 旗下：晋观怀仁、晋北怀仁、雁北怀仁 微信公众号、雁北怀仁视频号、晋观怀仁抖音号、晋北怀仁抖音号、今日怀仁快手号形成媒体矩阵欢迎广大网友与有识之士入驻加盟！

请您将晋观怀仁微信公众号二维码分享给您的朋友，让更多的网友与怀仁人参与进来！