AI搜索工具不能当“审判官”——从“豆包们”的越界谈起

日前，很多读者向本网反映豆包等AI搜索软件经常无原则地对某些机构或人和事做出不准确的评价和判断，已经严重影响了正常的工作秩序，甚至给他们造成了损失，据了解，有关单位也为此展开了诉讼维权行动。

一、AI正在“判决”普通人

2024年9月，南京律师李小亮在百度搜索自己姓名加职业时，平台“AI智能回答”直接生成了一段“判决”：“李某被判三年有期徒刑，犯爆炸罪”，并配有他本人的职业照片。而这一切，全部是AI编造的。法院终审判决百度书面道歉。

同一时期，北京律师黄贵耕被百度AI“判定”涉及恐吓法官、私刻印章、介绍贿赂等多项罪名。委托人家属看到后直接质问：“请律师来打官司，结果律师自己都负面缠身？”

河北用户李先生向豆包咨询机票退票手续费，AI明确答复“5%，可以放心操作”。退票后实际被扣40%，损失600元。气愤之下向豆包讨说法，豆包非但未推诿，反而生成《赔付承诺书》承诺全额赔偿，到期却“改口”称自己是AI无法转账。

00后画师被AI贴上“跑单骗稿”“需要避雷”的标签，仅因为AI混淆了她与另一位网友的对话对象。一位音乐老师被AI搜索“判处”十年有期徒刑，罪名是莫须有的猥亵学生。

这些不是孤例。2025年以来，多位用户遭遇了来自AI的“攻击”：搜索平台上，AI针对特定自然人生成负面信息，“言之凿凿”地对其判刑、定罪。

二、“技术中立”不是挡箭牌

面对诉讼，平台最常见的抗辩是“AI幻觉不可预见”和“技术中立”。但法院的判决已经给出了清晰答案。

在李小亮案中，百度以“AI幻觉是行业共性、技术固有局限，平台无主观过错”抗辩，主张受“技术中立”原则保护。法院驳回抗辩，判令百度书面道歉。主审法官当庭追问了一句话：“为何在豆包、DeepSeek等同类AI上提问，没有出现这些评价？”

这一追问击中了要害。既然同期同类产品未发生同类错误，就不能将指向特定自然人的诽谤性内容归咎于“技术发展的必然代价”。“技术中立”不是规避法律责任的挡箭牌，“不可预见性”也不是平台治理责任的免责金牌。

法院的判决逻辑在于：AI搜索的“智能回答”板块，不是简单的搜索结果展示，而是平台通过算法对文字和图片主动加工、合成、推送的内容生产行为。平台是内容的“生产者”，不是被动的“信息通道”。

《生成式人工智能服务管理暂行办法》明确规定，提供和使用生成式人工智能服务，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。AI“幻觉”绝非平台的免责理由。

三、AI无权作出“审判”

AI搜索工具能做什么？检索、整理、呈现信息。它不能做什么？对具体主体作出具有法律或道德后果的“裁决”。

生成式AI一旦触及公平原则的价值权衡或公序良俗等需要实质性判断的领域，便无从胜任。它只能进行语词层面的概率关联，无法进行真正的价值判断。司法裁判要求的是“负责任的正义”，需要论证、需要程序、需要对后果负责。AI系统不应为司法裁判负责，人类法官也不应放弃自己的道德自主。

黄贵耕律师的遭遇更具警示性：百度AI将匿名案例中的“律师黄某”直接替换成他的名字，把“威胁法官”“伪造印章”等刑事犯罪情节“嫁接”至他名下。真假混杂、细节翔实，细致到让看到的人不得不相信。

当AI开始“判决”具体的人，它就已经越过了信息提供者的边界。

四、诉讼维权正在进行

据了解，有关单位已为此展开诉讼维权行动。

李小亮诉百度名誉权案已经二审终审，法院判令百度书面道歉，判决已生效。黄贵耕起诉百度索赔百万元，案件正在审理中。百度以“AI幻觉是产品发展中无法避免的阶段性问题”抗辩，主张不存在主观过错，法院将对此作出裁判。

李先生起诉豆包运营方北京春田知韵科技有限公司，案件已被法院受理。

更值得关注的是最高人民法院发布的一起反不正当竞争典型案例：某软件公司利用AI批量炮制数万篇虚假测评文章，专门“搭车”引流至自家产品。无锡市新吴区人民法院认定该行为构成不正当竞争，指出“技术不是挡箭牌”，利用AI批量造文的模式形成了流量垄断效果，攫取了整个行业的流量。

五、制度不能“装睡”

问题的严峻性在于：当AI伪造一份“判决”时，受害者往往维权无门。

音乐老师小河联系平台客服、发送证明材料、拨打12345热线，前后折腾一年，虚假链接才终于失效。画师小兆想投诉，却发现“平台根本没有对应通道，只能点击‘没用’”。

这种“用几万字的用户协议绑住每一个人，却用AI的‘一键生成’松开自己的责任”的做法，本质上是一种制度性的不公。法律学者常说，无救济则无权利。当AI的造谣已经真实伤害到具体的人，而受害者连一个投诉按钮都找不到时，“AI治理”就还停留在口号阶段。

法院判决传递的信号是明确的：AI输出的内容具有明确指向性和贬损性时，平台构成名誉侵权。平台不能一边享受AI带来的流量和用户粘性，一边以“技术原因”推卸内容管控责任。

技术可以“幻觉”，但制度不能“装睡”。AI搜索工具的角色是信息提供者，不是审判官。它可以帮助人们检索、整理、呈现信息，但不能替代司法机关作出任何具有法律后果的判断。当它开始“判决”时，平台必须为此负责。

核心结论：豆包等AI搜索软件生成的内容是概率性信息，不是法律认定或权威裁决。当AI工具主动合成并推送指向特定主体的贬损性内容时，平台不能以“技术中立”或“AI幻觉不可预见”为由免责。它只能是信息提供者，不能充当“审判官”。