夜雨聆风
重庆有人用AI生成了一段“立交桥倒塌”的视频，发到网上，特意标注了“由AI生成”。结果被警方行政拘留6天。
上海有两个人用AI洗稿，控制了4000多个自媒体号，发了70万篇不实文章，被警方以涉嫌非法经营罪刑事拘留。
这两个案子看起来是用户自己的事，跟做AI工具的公司没关系。但你想过没有：如果用户用你的AI产品造谣、洗稿、批量造假，你作为工具的提供者，会不会也被拉下水？
答案正在变得越来越清楚：会的。
很多人以为，只要用户标注了“AI生成”，就等于告诉别人“这是假的，别当真”，那出了事就不该怪自己。
这个想法在法律上站不住脚。
《治安管理处罚法》管的是“编造散布谣言”这个行为本身。你用AI编还是用手编，没有区别。你标注了“AI生成”，恰恰说明你知道这是AI做的，你还发出去——这在法律上反而可能被认定为“明知”是假还传播。
标注是你的义务，不是你的免责牌。
从2025年9月起，《人工智能生成合成内容标识办法》已经生效了。它要求用户发布AI内容时必须标识。这个规定的意思是：你必须告诉我这是AI做的，你不能骗我。但如果你用AI做了违法的事，标识不能帮你脱罪。
打个比方：你开车闯红灯，车上贴了“我是新手”的标签，交警会因为这个不罚你吗？不会。标签只是告诉你我是新手，但闯红灯还是闯红灯。
重庆案是普通的行政拘留，针对的是造谣者本人。但上海案不一样。
两个人用AI洗稿70万篇，控制4000多个账号，目的是赚平台的流量奖励。警方给他们定的罪名是非法经营罪。
为什么不是“诽谤”或者“损害商业信誉”？因为他们的内容不是针对某一家企业，而是针对多家车企、大规模发布，目的就是批量赚钱。警方认定这是一种“以营利为目的、通过信息网络有偿提供发布信息服务”的行为，属于非法经营。
这个罪名的门槛比行政拘留高得多。
更关键的是：这个逻辑可以延展到AI工具本身。
最高法、最高检的司法解释里有一条：如果你明知是虚假信息，还以营利为目的提供发布服务，就属于非法经营。那么问题来了：如果你开发的AI工具，本质上是一个可以批量生成虚假内容的“机器”，用户用你的工具大规模赚钱，你作为工具提供者，算不算“提供发布服务”？
目前还没有判例直接定到AI工具公司头上。但这个案子已经打开了口子。一旦警方和法院认为你的产品设计“明知”会被用于批量造假，而你没有任何防范机制，你的法律风险就不是民事赔偿了，而是刑事。
这是最核心的问题。
以前一个人想编100篇假文章，需要写很久。现在用AI，5分钟就能生成上百篇。一个人一天能顶过去一个团队。
当你的工具让造假变得如此廉价、高效时，法律上就会认为你对这种大规模滥用是有“预见可能性”的。 也就是说，你应该想得到用户会这么干，但你没做任何事去阻止，那你就不能说自己“不知情”。
现在的《人工智能生成合成内容标识办法》已经明确说了：平台如果没尽到审核义务，跟违规用户构成共同侵权，要承担连带责任。“连带责任”这四个字的意思是：用户赔不起的，你来赔。
刘丹，北京策略（广州）律师事务所律师，专注人工智能领域的实战派律师。拥有理工科背景与编程基础，能真正看懂AI技术底层逻辑。深耕AI侵权案件处理、大模型合规与数据流转，摒弃纯法律思维。擅长从技术+法律双维度，为AI企业及创业者提供可执行的专业落地方案。
