AI说律师“被判刑三年”:AI可以有幻觉,平台不能没有责任

“从“中国人工智能大模型侵权第一案”看AI生成内容的责任边界”

近日，一起与“AI幻觉”有关的名誉侵权案件引发关注。

据媒体报道，江苏南京执业律师李小亮在某搜索类App及网站搜索其个人姓名和职务时，平台的“AI智能回答”竟生成了“李小亮律师因犯爆炸罪，被判处有期徒刑三年”的错误内容，并配上其身着律师袍的照片。此后，法院一审认定平台构成名誉侵权，判令其向李小亮书面道歉；平台不服提起上诉，二审法院维持原判。

这个案子之所以值得关注，并不只是因为当事人是一名律师，也不只是因为“AI把人说成被判刑”这个情节足够离谱，而是因为它触及了一个越来越现实的问题：

当AI生成内容出错，甚至直接损害一个人的名誉时，平台能不能用一句“AI幻觉”来免责？

答案显然不能这么简单。

一、把人说成“被判刑”，不是普通信息错误

现实生活中，信息错误有很多种。有些错误可能只是时间、地点、身份细节不准确，影响相对有限。但在这个案件中，AI生成的错误内容指向非常明确：一方面，文字中出现了律师姓名、职业身份；另一方面，又配上了当事人照片；更严重的是，错误内容涉及“爆炸罪”“被判处有期徒刑三年”这样的刑事犯罪信息。

对任何一个普通人来说，被错误标注为“犯罪”“坐牢”，都可能严重降低社会评价。对于律师、医生、教师、会计师等高度依赖职业声誉的群体来说，这种负面信息的杀伤力更强。

所以，这不是简单的“搜索结果不准”，也不是普通的“信息误差”。当AI将具体姓名、具体照片和严重负面刑事信息组合在一起，并向公众展示时，就已经可能进入名誉权保护的范围。

平台可能会认为，生成式AI存在“幻觉”问题，这是技术发展初期不可避免的现象。这个说法有一定现实基础。当前大模型确实可能在信息不足、语义联想、数据混合、上下文误判等情况下，生成并不存在的事实。

但问题在于：技术上存在困难，并不当然意味着法律上可以免责。

“AI幻觉”可以解释错误是怎么发生的，却不能当然消灭平台应当承担的责任。平台既然把AI问答作为产品功能向用户开放，让其对外生成、整合、展示内容，就不能只享受技术带来的流量和便利，却在侵权发生后完全推给“算法自己生成”。

尤其是AI智能回答，并不是用户自己写的一句话，而是经过平台算法整合、加工后主动呈现的内容。它越像“结论”，用户越容易信任，平台就越需要承担基本的审核和风险控制义务。

传统搜索结果只是提供链接，用户还需要自行判断来源；而AI摘要更像是平台替用户“总结答案”。既然如此，就不能完全回避由此带来的法律风险。

讨论这类案件时，也要避免走向另一个极端：并不是说只要AI生成内容出错，平台就一定承担高额赔偿，甚至不允许技术试错。

AI技术仍在快速发展，司法也需要在创新与权利保护之间寻找平衡。本案中，法院认定平台构成名誉侵权，但并未支持高额赔偿，而是判令书面道歉，本身就体现了一种相对克制的态度。

这说明，司法并不是要“一棍子打死”AI，而是在强调一个底线：技术可以探索，但人格权益不能被忽视。

平台不一定能够保证AI永远准确，但至少应当建立必要的风险防控机制。比如，对于涉及刑事犯罪、失信惩戒、职业资格、医疗健康等高度敏感内容，应当提高核验标准；对于涉及具体自然人姓名和照片的内容，应当避免错误拼接、张冠李戴；对于用户投诉的明显侵权内容，也应及时删除、更正或采取补救措施。

一句话，平台不需要成为“永不犯错的神”，但不能成为“出错也不管的旁观者”。

这个案件对普通人最直接的提醒是：以后如果被AI搜索、AI问答、AI摘要错误造谣，不要只是在评论区骂平台，更不要只留下一张模糊截图。

真正有用的，是第一时间固定证据。

至少要保存以下几类材料：

第一，搜索关键词。比如搜索的是姓名、姓名加职业，还是姓名加单位。关键词能够证明AI是在什么语境下生成内容。

第二，完整页面截图和录屏。最好包含平台名称、搜索框、生成内容、时间等信息，避免后续无法证明来源。

第三，错误内容与本人的关联性。比如是否出现姓名、照片、职业、单位等足以识别身份的信息。

第四，投诉和沟通记录。包括向平台提交投诉、要求删除、更正、道歉的记录，以及平台的回复情况。

如果影响较大，还可以考虑公证取证、可信时间戳等方式固定证据。对于已经造成现实损害的，也应保存客户流失、合作中断等相关材料。

这起案件给平台企业提了一个醒，也给普通人提了一个醒。

对平台来说，AI幻觉不是免责牌。平台不能一边把AI回答包装成高效、智能、可信的产品功能，一边在错误发生时说“这是技术问题，与我无关”。

对普通人来说，网络时代的名誉风险已经不只来自真人发帖，也可能来自算法生成和AI回答。发现自己被错误关联犯罪、处罚、失信等负面信息时，第一反应不应只是愤怒，而应当尽快取证、投诉、要求更正，必要时依法维权。

技术可以进步，也一定会犯错。

但一个基本底线不能变：

AI可以有幻觉，平台不能没有责任；算法可以出错，人的名誉不能被随意牺牲。