人工智能时代的刑事红线:生成式AI业务的刑事风险透视

随着人工智能（Artificial Intelligence, AI）的不断发展，其已经从单纯的技术工具逐渐演变成重塑社会生产力关系的核心引擎。

然而，在生成式AI深刻改变内容生产、信息检索与知识创造方式的同时，更以前所未有的速度重构了犯罪行为的手段和方式。从深度伪造、AI换脸诈骗，到利用大模型批量生产违法内容，再到以AI辅助实施网络攻击，人工智能正以技术加速器的角色深度嵌入各类犯罪活动。

本文将从法律的角度出发，结合典型案例，系统梳理AI应用过程中可能涉及到的刑事风险、业务场景，以期为相关从业人员提供系统性参考。

AI应用过程中的刑事风险

在生成环节，若用户在未经知识产权人授权的情况下，以他人作品为基础，利用生成式AI生成与他人受知识产权保护的内容实质性相同的内容并进行商业化营利，则很有可能构成《刑法》第217条的侵犯著作权罪。

例如参考案例（2025）京0112刑初558号，法院在裁判要旨中指出：未经著作权人许可，以其美术类作品为基础，利用生成式人工智能技术生成图片，生成过程没有独创性的，应当认定所生成的图片为侵权复制品；将侵权复制品制作成拼图的，属于对原作品独创性表达无关因素的改变，不影响将拼图认定为侵权复制品。上述行为符合刑法第217条规定的，依法以侵犯著作权罪论处。

此为当前涉AI刑事案件中打击力度最强的领域，犯罪分子通常利用AI深度伪造他人的声音、形象或批量生成钓鱼网站实施诈骗活动。

常见情形：

1、利用AI深度伪造技术冒充亲属或公职人员实施电话诈骗

2、利用AI批量生成钓鱼网站、虚假广告实施网络诈骗

在南京市玄武区人民法院审理的“AI换脸”诈骗案中，被告人符某利用非法获取的公民个人信息和AI换脸软件生成动态人脸视频，突破金融支付平台的“人脸识别”系统，登录他人账户盗刷银行卡。最终，法院以侵犯公民个人信息罪、信用卡诈骗罪数罪并罚，判处其有期徒刑四年六个月。

3、AI服务提供者在明知或应知他人利用平台从事诈骗活动的情况下，仍提供技术支持

此种情形，根据《刑法》的规定，可能会构成帮助信息网络犯罪活动罪；而根据2025年两高一部发布的《关于办理帮助信息网络犯罪活动等刑事案件有关问题的意见》，其中第9条规定“利用‘深度合成’等人工智能技术实施犯罪的”帮助信息网络犯罪活动，应当依法从严惩处。

生成式AI可以在短时间内快速批量生产内容，部分行为人出于博眼球、赚流量的目的，使用AI批量生成虚假新闻、虚假警情、灾情信息等虚假内容，引发社会恐慌。

由于AI这种“规模化”能力使得虚假信息的社会传播范围更广，更容易达到“严重扰乱社会秩序”的入罪门槛 ，进而可能涉嫌构成《刑法》第291条之一编造、故意传播虚假信息罪。

在参考案例（2023）浙0604刑初735号中，被告人张某、陈某合伙成立某网络科技有限公司，陈某宇在网上购买多个某网络平台账号供公司内部工作人员使用，公司内部工作人员随意选取网络热点，复制热点新闻的标题、关键词并输入到某软件中由AI自动生成文案，后将该文案放入某创作软件中自动生成AI视频，并将合成的视频、图文集1万余条发布至某网络平台上供人浏览。其中，虚假造谣视频20余条，涉及全国多地，累计阅读观看量超过167万次。法院裁判要旨中指出：利用AI技术自动合成灾情、险情等虚假视频，在网络平台上传播，严重扰乱社会秩序的，应当根据刑法第二百九十一条之一第二款的规定，以编造、故意传播虚假信息罪定罪处罚。

在2023年发布的《关于依法惩治网络暴力违法犯罪的指导意见》中，其中第8条将“利用‘深度合成’等生成式人工智能技术发布违法信息的”网络暴力违法犯罪行为依法纳入从重处罚的情形。

若行为人利用AI深度伪造技术制作虚假图文、音视频，捏造他人言行，情节严重者，则很有可能构成《刑法》第246条的诽谤罪。

例如在江苏法院2025年度十大典型案例—王某甲诽谤案中，法院一审认为，被告人王某甲利用普通公众不易辨识的深度合成技术，生成他人不雅图片并捏造“涉性”话题，多次通过信息网络诽谤他人，情节严重且严重危害社会秩序，其行为构成诽谤罪。

责任主体认定：谁来为AI失责买单？

目前的主流观点依然对此问题呈否定态度，认为AI无法独立构成犯罪主体，不具备刑事责任主体资格，不能独立承担刑事责任。

其原因主要是由于AI作为技术工具，不具备辨认和控制自己行为的意志，且同样无法基于道德和法律规则做出正确选择和判断。

在AI所设涉及到的刑事风险中，核心责任主体仍需要结合具体场景进行具体分析，一般为以下主体：

直接使用者：用户利用AI故意实施具体的犯罪行为，用户承担刑事责任，为最直接的追责对象。

AI服务提供者：若服务提供者明知他人利用AI工具实施犯罪行为，仍提供技术支持，则可能涉嫌帮助信息网络犯罪活动罪。若其在模型设计中预设了诱导性、偏见性算法或提示词，故意引导AI生成违法信息，则可能被认定具有相应犯罪的主观故意。

合规应对

从目前的司法实践来看，我国刑法通过对现有罪名的动态解释，有效回应了AI诈骗、侵犯著作权等突出问题。

因此，对于AI应用商而言，应树立正确的合规意识，建立“数据安全、技术向善”的内部体系。唯有技术研发、法律规制与伦理约束协同发力，才能真正实现“人工智能红利+社会安全”的共同目标。