AI工具≠谣言制造器,网警依法查处3起利用AI工具编造网络谣言案

案例1：

近期，有网民在社交平台传播“长沙南站有人持刀打群架，地上有血迹”的图片。经查，长沙南站近期并无打架斗殴事件，该图片系网民文某超（男，25岁）在长沙南站网约车上客区等订单时，为引起注意、制造话题，对长沙南站东广场网约车上客点拍摄两张照片，并利用“豆包”AI软件进行P图，制造假图片然后上传至微信群，该图片在超过5个微信群转发，引发大量网民关注，扰乱网络空间秩序，造成不良影响。目前，公安机关已依法对文某超作出罚款500元的行政处罚。

案例2：

近期，一段标题为“郴州母女三人出游被困郴州大王寨7天，幸被无人机拍到获救，均无大碍。”的视频引发关注。经查，大王寨近期并无游客被困事件，该视频系网民谭某（女，44岁）为吸引流量、博人眼球，使用自己注册的某短视频账号发布，视频内容为谭某妹妹带着其女儿及自己女儿三人于大王寨一景区内玩耍。视频文字来自搜索豆包虚构的文案，陈述及配音内容均与实际不符。目前，公安机关已依法对谭某作出罚款200元的行政处罚。

案例3：

近期，两张抱头蹲在湘阴渡派出所门牌下的图片在网上引发关注。第一张图片内容为某市民抱头蹲在湘阴渡派出所门牌下，门口有两个AI生成的警察守在旁边，第二张图片为某市民抱头蹲在派出所门牌下，一名警察在其前面伸出大拇指，另一名警察用相机拍照，并配图文“今年在这过年了”。经查，网民林某榕（女，19岁）为博取眼球，骗取关注，在湘阴渡派出所拍了三张照片，并用“豆包”AI软件生成了上述图片发布在某音APP，且在评论区戏称“炸厕所被抓”。目前，公安机关已依法对林某榕作出罚款1000元的行政处罚。

网警提示

AI 技术的普及让内容发布变得更加简单，许多网民从 “旁观者”转变为“创作者”。每位 AI 创作者都应牢记下面这三道法律防线：

1.《生成式人工智能服务管理暂行办法》明确禁止发布利用AI生成虚假信息，违规者将面临平台封禁、罚款等处罚。

2.《治安管理处罚法》规定：散布谣言扰乱公共秩序者，最高可处10日拘留。

3.《刑法》规定：编造虚假险情、疫情、灾情等信息，严重扰乱社会秩序的，最高可判7年有期徒刑。

网络不是法外之地，谨言慎行要牢记。对网上各类“博眼球”信息，广大网民要加强鉴别、识别，关注权威发布信息，做到不造谣、不传谣、不信谣。

来源：湖南网警

编辑：向芯瑶

校对：王露橦

审稿：潘超平  朱明誉  张玉彬

来源：央视融媒《神秘的北纬30度》栏目

编辑：林依琦

审核：三牧

Copyright © 2021 广西自贸区云燕仝赞投资集团有限公司 All Rights Reserved.

苏ICP12345678 XML地图