AI越没把握,越敢编

“

它编的时候，自己都信了。你信不信，它说了不算。

一个律师，被自己的搜索工具“判了刑”。

他在百度上搜自己的名字，AI智能回答跳出来一行字：“李小亮律师被判三年有期徒刑”，还配了他穿着律师袍的照片。

他根本没犯过事。这是AI编的。这事闹到了法院，成了中国AI大模型侵权案的标志性判例。百度被判书面道歉。

这就是AI幻觉——它不跟你商量，直接一本正经地胡说八道。

先说清一件事：AI幻觉，不是AI“出错”，也不是AI“故意骗你”。它分不清“我知道的”和“我编的”。它编的时候，自己都信了。

有个律师，在法庭上提交了两份“参考案例”，一份号称最高法、一份号称上海一中院。案情、争议、裁判逻辑，跟手里的案子严丝合缝，滴水不漏地支持他的诉求。

法官一看，太完美了，反而起了疑。一查——两个案子确实存在，但真实判决书跟律师交上来的内容，完全两码事。连案号都是张冠李戴。

律师承认：案例是他让AI生成的，AI给得太“像那么回事”，他就没核实，直接贴进了意见书。法官把这段批评，写进了判决书。

再看美国。内布拉斯加州一个律师的上诉书，63条引用里57条是错的，九成错误率。其中4个案子压根不存在，20条是“幻觉”——从真实案名里，编出了虚构的判决内容和引言。

那问题来了：AI为什么宁可编，也不说“我不知道”？

今年4月，OpenAI在《自然》杂志上发了篇研究，把这个机制捅破了。

训练AI的时候，用的是打分制：答对得分，答错零分，不答也是零分。

那你想，一个AI要是“放弃回答”，永远是零分；可要是“蒙一个答案”，至少有机会得分。算下来，“永远猜”，就成了数学上的占优策略。

所以AI被训练成了一个“应试机器”——宁可给出一个过度自信的猜测，也不肯承认自己没把握。这才是“自信的错”的根源。它不是学坏了，是这套打分规则，把它逼成了一个“打死不说不知道”的选手。

看到这，你可能觉得：我又不是律师，不碰这些。

可你天天在问AI：这个药能不能吃、这个合同能不能签、这个数据对不对、这个名人说过啥。AI给的答案，一样会编。而且一样编得自信、流畅、有鼻子有眼。

你之所以会信，是因为你默认了一件事：AI不会编。你把它“说得顺”，当成了“说得对”。可恰恰是“说得顺”，才是AI真正拿手的。它的本事，本来就是“把话说得像真的”，而不是“把话说对”。

第一道：AI说的“事实”，一律当“待核实”。

案例、数据、引用、人名、日期、法规、出处——只要AI给你一个“具体的事实”，先在心里标上三个字：待核实。它说的，只是“可能是这样”，不是“就是这样”。

第二道：让AI交代来源。

它给一个案例，你就问：案号多少？哪一年的？出自哪份判决书？给一个数据，你就问：哪个机构统计的？哪一年发的？它答得上来，你还能顺着去核；它支支吾吾、说不清来源，那十有八九是编的。

第三道：关键事实，回“人类世界”对一遍。

吃药、签合同、大额转账、法律条款，这些事，AI说的不算。回官网、回数据库、回原文，自己用眼睛再看一遍。AI的流畅，换不来真实。

这三道闸门，说穿了是一句话：把AI的“流畅”，和“真实”，拆开看。

定向：认清一件事，AI会“自信地编”，越没把握越敢编。这是它的机制，不是偶发的小毛病。

立制：立条死规矩，凡AI给的事实——案例、数据、引用、人名、日期——一律当“待核实”，去源头对一遍才敢用。

精进：练一个本事：追问来源。AI给的事实，多问一句“你从哪看来的、出处是什么”，答不上来的，就是幻觉。

AI不是骗子，但它是个“打死不说不知道”的选手。你真正要防的，不是AI变坏，是别把它的“流畅”，当成了“真实”。

下一篇（第4集）：AI换脸——视频里那个“你”，可能不是你。一句声音、一张照片，就能造出一个假的你。

我是 一石，追踪智能体向AGI演进的真实路径。