大家好,我是阿虎。
今天聊一个挺有意思的事——又一个用AI闯祸的。
先说事:四川南部县,一个姓王的女子,用AI大模型生成了一篇3000字左右的股市文章,然后发到了今日头条上。内容嘛,自然是那种"明天暴涨""惊天利好"式的噱头文章,目的就一个——吸引流量。
结果呢?警方找上门了,被罚了。
这事说大不大,说小不小。但它触及了一个越来越紧迫的问题:AI时代,造谣的成本已经低到令人发指,但法律的牙齿,正在长出来。
AI造谣:一个人就是一个"编辑部"
说句实话,放在几年前,要写一篇"像模像样"的假新闻,还是有点门槛的。你得会编故事,逻辑不能太离谱,文笔不能太差,排版还得像那么回事。一个人搞不定的,起码得有个小团队。
但现在呢?打开ChatGPT或者其他国产大模型,输入提示词:"写一篇3000字的财经分析文章,分析某只股票即将大涨的原因,语气要专业,数据要看起来真实"——三分钟,一篇文章就出来了。
这个王某某就是这么干的。她不需要懂股票,不需要懂财经,甚至不需要会写文章。AI替她把所有事情做了,她只负责点一下"发布"。
这就是AI时代最大的矛盾:内容生产力翻了100倍,但内容审核能力没跟上。一个人用AI,一天能产100篇,而平台审核机制还是为"人类写作速度"设计的。
法律怎么说?
来,我们看看法律层面——这也是我觉得最值得讲的部分。
用AI造谣被罚,罚的依据是什么?主要有这么几条:
第一,《网络安全法》第十二条:任何个人和组织不得利用网络编造、传播虚假信息扰乱经济秩序和社会秩序。股市谣言直接撞枪口——扰乱的恰恰是金融市场秩序。
第二,《治安管理处罚法》第二十五条:散布谣言,谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的,处五日以上十日以下拘留,可以并处五百元以下罚款;情节较轻的,处五日以下拘留或者五百元以下罚款。
第三,如果后果严重,还可能触犯《刑法》。比如编造并传播证券、期货交易虚假信息罪(刑法第181条),造成严重后果的,处五年以下有期徒刑或者拘役,并处或者单处一万元以上十万元以下罚金。
四川这个案子,目前看是按治安管理处罚处理的。但如果她的文章真的导致有人跟风买了股票亏了钱,或者引发了市场波动,那就不是罚点款的事了。
一个关键区别:AI是工具,不是替罪羊
这里有一个很多人搞混的概念:被罚的不是AI,是人。
我注意到网上有些人在说"AI写的东西凭什么罚我"。这个逻辑不成立。
法律上,这跟你用笔还是用打印机写诽谤信没有区别。工具不会替你承担责任。你让AI生成内容,你决定发布,你就对发布的内容负责。AI没有"意图",你有。
这个原则在2023年《生成式人工智能服务管理暂行办法》里也说得很清楚:提供和使用生成式人工智能服务,应当遵守法律法规,尊重社会公德和伦理。第九条特别强调——提供者应当依法承担网络信息内容生产者责任。
说人话就是:你用AI生成的内容,出了事,你负责。
这事的警示意义,不只是对"造谣者"
我觉得这个案子的警示意义其实分三层:
第一层:对想走捷径的内容创作者。很多人现在把AI当成"流量密码生成器",什么火写什么,怎么吸睛怎么来。王某某不是第一个,也绝不会是最后一个。但警方这次的行动释放了一个清晰信号——AI不是免责令牌,查得到,罚得到。
第二层:对平台。今日头条这样的内容平台,AI生成内容的占比会越来越高。怎么区分AI内容、怎么标注、怎么审核,是平台必须面对的问题。如果平台放纵AI生成虚假信息传播,平台本身也要承担责任。
第三层:对普通用户。我们每天刷到的内容里,AI生成的已经越来越多了。一条看起来很专业的"内幕消息",很可能就是某个人花三分钟让AI编的。保持审慎、交叉验证,比以往任何时候都重要。
阿虎的几点判断
1. 类似的案子只会越来越多。AI工具普及速度远快于监管完善速度,这个时间差里会有大量"以身试法"的案例出现。每出一个,法律边界就更清晰一分。
2. "AI生成+人工发布"的追责逻辑已经确立。不要以为让AI写、自己"只是转发"就能甩锅。从目前执法实践看,只要你参与了传播决策,责任就逃不掉。
3. 对正经做内容的人是利好。当AI滥用的成本升高,当平台被迫加强审核,那些认真做原创、做深度内容的人,反而会有更多机会。
4. AI素养这门课,所有人都得补。会用AI只是第一步,搞清楚用AI的法律边界、伦理边界,才是真正"会用"。而这个教育过程,法院的判决书可能是最有效的教材。
最后说一句:AI是个好东西,但好东西用错了地方,代价不会因为工具先进就打折。王某某的那篇3000字文章值不值那笔罚款,只有她自己知道了。
我是阿虎,咱们下篇见。
参考来源:百度热搜/四川南部县警方通报
夜雨聆风