这些AI乱象和违规被严查!4月网络安全执法大曝光

一、生成式人工智能内容标识违规类
“剪映”“猫箱”APP及“即梦AI”网站被查处案:4月28日,国家互联网信息办公室通报指出,近期网信部门在工作中发现,“剪映”“猫箱”APP及“即梦AI”网站未能有效落实人工智能生成合成内容标识的相关规定要求,违反了《中华人民共和国网络安全法》《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等法律法规。国家网信办已指导属地网信部门依法对上述平台采取约谈、责令改正、警告、从严处理责任人等处置处罚措施。国家网信办相关负责人强调,各网站平台必须严守法律底线,严格落实人工智能生成合成内容标识的各项规定。
二、利用AI造谣传谣类
AI技术的滥用正成为网络谣言传播的新手段。不法分子利用AI生成虚假内容,严重扰乱网络秩序。4月,全国多地公安机关查处了多起利用AI造谣传谣案件。
湖南AI造谣案:湖南耒阳男子阳某为博取关注、吸粉引流,利用AI剪辑软件制作并发布“化工厂重大事故”“持刀抢劫珠宝店”“多人被杀抛尸案”等多条虚假恶性事件视频,引发公众恐慌。法院审理认为,阳某编造、传播虚假信息,情节恶劣,其行为构成寻衅滋事罪,依法判处有期徒刑六个月。
天津网民AI生成地震虚假信息案:天津网民霍某某为提升个人新媒体账号热度,在AI工具中输入“天津突发8.8级地震,生成700字文章”,并配以自行搜索的4张地震图片,将生成内容与图片发布至个人账号,引发公众恐慌。属地公安机关依法对霍某某作出行政处罚。
江西萍乡阮某某AI生成烟花厂爆炸虚假视频案:江西上栗公安网安部门发现,有网民发布“江西上栗县2026年2月烟花厂爆炸事故,造成2死2伤”的短视频,引发广泛关注。经查,发布者阮某某承认利用AI工具生成关于上栗县烟花爆竹安全事故的虚假内容,并在多个短视频平台发布。属地公安机关依法对其作出行政处罚。
三、金融领域网络与数据安全违规类
4月份,金融监管部门持续强化对金融机构在网络和数据安全管理力度,多家银行因违反网络安全管理规定、数据安全管理规定等被处以高额罚款。
广西浦北农村商业银行被处罚57万元:广西浦北农村商业银行股份有限公司处罚事由包括违反数据安全管理规定、违反账户管理规定及信用信息采集、提供、查询等七项;依据相关规定,该行被给予警告,并处罚款人民币57.95万元。
哈密市商业银行被“双罚”案:4月17日,哈密市商业银行因违反网络安全与数据安全管理规定等5项违法行为,被警告并罚款383.6万元。值得注意的是,该行信息科技部梁某鹏因对违反网络安全与数据安全管理规定负有责任,被处以罚款1万元,形成机构与个人“双罚”。
湖南蓝天支付被罚9万元:4月2日,中国人民银行湖南省分行公布的行政处罚决定信息公示表显示,湖南蓝天支付有限公司因违反账户管理规定;违反数据安全管理规定;违反网络安全管理规定,被罚9万元。
光大银行重庆分行被处罚208万元:光大银行股份有限公司重庆分行处罚事由包括违反网络安全管理规定、违反数据安全管理规定等七项;该行被给予警告处分,并处罚款人民币208.6万元。
光大银行合肥分行被处罚225万元:光大银行股份有限公司安徽合肥分行处罚事由包括违反金融科技管理规定等七项;给予警告处分,并处罚款人民币225.57万元。
中原银行被处罚880万元:4月30日,中原银行股份有限公司因违反9项违规被中国人民银行河南省分行处以警告,并罚款884.37万元。 处罚事由覆盖金融统计、账户管理、网络安全、反假货币、人民币流通、征信管理等六类基础运营领域。数据显示,2025年以来,中原银行累计被罚金额已达1295.37万元,从分行到总行,从金融监管局到人民银行,罚单覆盖的广度与频次均显示出该行合规架构的系统性短板。
河北晋州农村商业银行被处罚225.34万元:河北晋州农村商业银行股份有限公司处罚事由包括违反数据安全管理规定、违反网络安全管理规定及信用信息采集、提供、查询等九项;依据相关规定,该行被给予警告,并处罚款人民币225.34万元。
河北邯郸银行被处罚款人民币190.37万元:河北邯郸银行股份有限公司处罚事由包括违反数据安全管理规定及账户管理规定等九项;该行被给予警告处分,并处罚款人民币190.37万元。
福建三明将乐县农信社被处罚122万元:福建三明将乐县农村信用合作联社处罚事由包括违反数据安全管理规定、违反网络安全管理规定等八项;给予警告处分,并处罚款人民币122.9万元。
广东汕头海湾农村商业银行被处罚127万元:广东汕头海湾农村商业银行涉及“双罚”处罚事由包括违反金融科技管理规定等五项;给予警告处分,没收违法所得892元,并处罚款人民币127.91万元。涉及“双罚”林某给予警告并处罚款5.16万元。
浙商银行金华分行被处罚169.3万元:近日,中国人民银行金华市分行公示了行政处罚决定信息(金银罚决字〔2026〕1号)。该罚单同时涉及违反数据安全管理规定和违反网络安全管理规定,浙商银行金华分行被处以警告、没收违法所得664.4元并罚款169.3万元。
四、企业未履行网络安全保护义务类
4月,多家企业因未采取必要的管理和技术防护措施,导致网站被篡改、域名被抢注、数据面临泄露风险。
甘肃某公司门户网站被非法篡改案:4月7日,甘肃永靖县公安局网安大队在网站巡查中发现,辖区某公司注册使用的门户网站遭到非法篡改。经查,该公司在网站日常运营中未建立网络安全管理制度,安全管理混乱,存在多项安全隐患,导致网站管理权限被非法窃取、页面被篡改。依据《中华人民共和国网络安全法》有关规定,警方依法对该公司作出警告处罚,并责令其限期整改。
天津某科技有限公司网络安全管理漏洞案: 天津市公安机关在侦办一起刑事案件期间,发现涉案的第三方软件存在网络安全管理漏洞,软件运营方——天津某科技有限公司进行网络存在网络安全制度缺失、缺少技术保护措施、未履行日志留存义务等违法行为。属地公安机关依法对该公司作出行政处罚。
玉林市一单位未履行网络安全保护义务被处罚:近期,玉林市某单位因未采取必要的技术措施保障数据安全,导致相关数据被窃取,引发网络安全事件。玉林市互联网信息办公室依法对其作出责令改正、警告,并处人民币1万元罚款的行政处罚。玉林市网信办表示,将持续加强网络安全监管,压实各单位网络安全主体责任,依法查处违法违规行为。
南昌市某企业未履行网络安全保护义务被罚款:近日,接上级网信部门通报,南昌市某企业所属IP持续向境外IP高频发起SSH远程连接,疑似存在跨境大流量数据传输。南昌市网信办随即立案调查,经现场勘验、远程技术分析、询问笔录等查实:该企业未履行网络安全保护义务,存在服务器持续向境外IP发起SSH连接、被境外不法分子通过暴力破解方式非法获取账户权限、服务器日志留存周期不足6个月等违法行为,违反了《中华人民共和国网络安全法》第二十三条。4月28日,南昌市网信办依据《网络安全法》第六十一条,对该企业作出警告并罚款的行政处罚。
杭州某公司因数据遭境外窃取被处罚:近期,浙江网信部门在工作中发现,杭州某科技有限公司的数据库疑似遭数据窃取。经查,该公司服务器端口存在弱口令漏洞,被黑客利用攻击,导致相关数据被境外窃取。该公司未依法履行网络安全与数据安全保护义务,未采取必要的技术措施保障数据安全,违反了《网络安全法》第二十三条及《数据安全法》第二十七条等规定。浙江省网信办依法责令其改正,并予以警告、罚款5万元的行政处罚。
五、非法入侵计算机信息系统与盗取数据类
利用技术漏洞或权限漏洞入侵计算机信息系统、非法获取数据并牟利,已成为网络犯罪的重要类型。4月份,多地法院宣判了多起此类案件。
上海“抢单软件”非法获取网约车数据案:程序员李某开发“某狸”软件,通过破解网约车平台核心加密算法、绕过权限验证,非法获取全量订单数据并向司机推送,导致大额订单被截取。李某与同伙向某借此非法获利140余万元。经上海市闵行区检察院提起公诉,向某因非法获取计算机信息系统数据罪被判处有期徒刑三年、缓刑四年,并处罚金5万元;此前,李某已被判处有期徒刑三年、缓刑三年,并处罚金3万元。
重庆周某入侵政府信息系统窃取工商数据案:重庆男子周某利用为巴南区工商局维护网络之便,在工商所三楼大厅外私自安装无线路由器,非法接入工商局计算机系统内网,复制重庆市企业及个体工商户信息共计23万余条,并通过出售获利6.5万余元。近日,重庆市第二中级人民法院以非法获取计算机信息系统数据罪,判处周某有期徒刑三年,并处罚金4万元。
六、侵犯公民个人信息类
4月份,网信办和司法机关依法惩处了一批涉及侵犯公民个人信息的违法违规案例。
中央网信办通报33款App个人信息收集使用问题:4月27日,中央网信办通报33款App存在个人信息收集使用问题。其中:15款App无隐私政策或未弹窗提示;2款App未明示SDK且未经同意收集信息;4款App违反必要原则收集无关信息;12款App未提供有效注销账号途径或设置不合理条件。
上海某培训学校偷拍家长车牌非法查询公民个人信息案:上海某培训学校为推销课程,派人在学校门口偷拍学生车辆车牌,交由房产中介王某联系“上家”,以每条20元的价格查询车主信息,共查询2500余条,获利6.3万余元。王某被法院以侵犯公民个人信息罪判处有期徒刑三年、缓刑三年,并处罚金2万元。
宿迁某科技公司转卖客户数据案:涂某某经营的科技公司因业绩下滑,从合作仓储公司购买客户信息并转卖,累计出售22万余条,非法获利651万余元。宿迁经开区法院以侵犯公民个人信息罪,判处该公司罚金700万元;涂某某等5人分别被判处有期徒刑三年至一年不等(部分适用缓刑),并处10万元至2万元不等罚金。
精彩回顾
-
推特上最全的信息安全关注列表
-
已发布314项网络安全国家标准清单 -
附下载 l 最全网络安全意识课件
-
全国网络安全等保测评机构最新名录
-
主流的SOC平台产品及行业实践
-
CSO如何展示安全建设的商业价值? -
避坑指南:安全负责人如何向高管层汇报 -
网络安全从业者需要了解的法律知识 -
CSO应关注20个网络安全指标

夜雨聆风