一个执业律师,搜了一下自己的名字。
然后百度AI告诉全世界,他因为犯爆炸罪,被判了三年。
还贴心地配上了他穿律师袍的照片。
你没看错,不是什么营销号瞎编的,是百度搜索页面上那个「AI智能回答」,白纸黑字、有图有文,一本正经地胡说八道。
这事发生在2024年9月,当事人叫李小亮,江苏南京的执业律师。他在百度手机APP上搜「李小亮律师」,搜索下拉框先蹦出来一堆「判刑了吗」「涉案金额」之类的关联词。他接着点了一下「李小亮律师被判几年」,百度AI直接给出了完整回答。
三年,李小亮律师被判三年有期徒刑。被告人李小亮因犯爆炸罪,被判处有期徒刑三年。
旁边还挂着他本人的律师袍照片。
一个好好执业的律师,被AI当庭宣判了。
这件事后来打成了官司,而且是全国首例AI大模型名誉侵权生效案。两审都判了百度侵权。
咱们从头捋一下这个案子的逻辑,因为它真的值得每一个用AI产品的人、做AI产品的人、甚至被AI产品「提到过」的人,认真看完。
李小亮把百度告到了南京市江北新区人民法院。
一审法院做了一个很关键的区分。
搜索下拉词、「大家还在搜」那些推荐词条,法院认为是用户搜索行为自然聚合的结果,百度没加工、没编辑,属于中性的技术呈现,不构成侵权。
但「AI智能回答」那段内容,性质完全不一样。
那不是搜索结果的简单聚合,那是AI模型在接收到问题之后,自己加工、自己合成、自己组织语言生成的一段「回答」。它有明确指向,写了名字、写了罪名、写了刑期,还配了照片。
法院的判断很直接,这段内容虚假,指向明确,包含「判刑」「被告人」等贬损性表述,客观上降低了李小亮的社会评价。
构成名誉侵权。
百度当然不服。
他们的核心抗辩理由是四个字,「AI幻觉」。
翻译成大白话就是,AI有时候会编东西,这是行业共性问题,我们也没办法,我们没有主观恶意,这锅不该我们背。
法院没采纳。
一审判了百度公司向李小亮书面道歉。因为李小亮没提交具体损失的证据,赔偿请求被驳回了。
百度不服,上诉到南京市中级人民法院。
二审庭审的时候,百度又加了几层辩护。
第一,AI幻觉是行业普遍存在的技术局限,不可预见,没有过错。
第二,李小亮是自己搜了「被判几年」这种诱导性问题,才触发了错误生成。
第三,这是「中国人工智能大模型侵权第一案」,判决会冲击整个AI产业发展,请法院审慎。
你品品这三条。
第一条在说,我的技术不完美所以我没责任。第二条在说,是用户自己问的问题不对。第三条在说,你要是判我,整个行业都得抖三抖。
主审法官当庭问了一句话,直接把场子定住了。
「豆包、DeepSeek上发问,为什么没有这些评价?」
2026年3月12日,南京中院二审判决,驳回上诉,维持原判。
法院的态度很清楚,AI生成的内容指向明确、贬损性明显,造成了当事人社会评价受损。虽然这种错误具有偶发性,虽然产业还在初期,但这些都不构成免责理由。
技术有缺陷,不等于你可以不负责。
产业在早期,不等于伤害可以不算数。
更离谱的是后面发生的事。
二审判决生效了,百度需要做的事情其实很简单,书面道歉。
不用赔钱,就道个歉。
百度没履行。
双方沟通过执行和解,没谈拢。2026年4月30日,李小亮向法院提交了强制执行申请。5月1日法院签收,5月8日执行局通知即将立案。
一个在两审中都被认定侵权的判决,执行的内容只是书面道歉,到了强制执行阶段才在推进。
而且这不是孤例。
北京律师黄贵耕也遇到了类似的事。2025年5月,百度AI生成了他「威胁法官」「介绍贿赂」「伪造印章」「非法吸收公众存款」等多项虚假犯罪信息。这个案子2025年11月在北京海淀法院立案,目前还没宣判。
一个平台的AI,反复在不同人身上编造犯罪记录。
你如果觉得这离你很远,想一下,你的名字在百度上搜一下会出现什么?
你确定AI不会给你也「安排」一段精彩的人生经历?
这个案子真正值得关注的,不是某一家公司被判了,而是它划下了一条线。
AI生成的内容,不是法外之地。
「AI幻觉」不是免死金牌。「技术局限」不是挡箭牌。「行业早期」不是保护伞。
你做了一个产品,这个产品对外输出信息,这些信息伤害了真实的人,你就得负责。
不管这个信息是人写的、算法推的、还是大模型编的。
对用户来说,搜索框里弹出来的就是「百度告诉我的」。普通人不会去区分这是搜索聚合还是AI生成,不会去研究什么叫幻觉什么叫技术局限。他看到的就是,一个权威平台上写着某某人犯了罪。
你享受了AI技术带来的效率和流量,你就得承担它带来的风险和责任。
这个道理不复杂。
案号摆在这里。一审,南京市江北新区人民法院;二审,南京市中级人民法院,2026年3月12日二审判决生效。有兴趣的可以自行检索裁判文书。
最后说一句。
AI产品越来越多,生成的内容铺天盖地,我们每个人都可能成为下一个「被AI定义」的人。
你不知道哪天,某个你从没用过的AI,会用你的名字编一个你从没做过的事。
而你甚至都不知道它发生了。
以上,既然看到这里了,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标
夜雨聆风