你愿意让AI法官审判你吗?

我假期看了一部科幻电影《极限审判》（Mercy，2026）。

影片开头就很刺激，一个男的，还是个负责抓坏蛋的警察，睁开眼发现自己就坐在审判椅上。美丽的AI法官对他念念有词，这套词他非常熟悉，就是这套AI审判体系的说明书（讽刺不？这个法庭的名字是mercy，宽恕，即电影的英文原名）。他需要在90分钟内，找到自己无罪的证据，不然届时就将在审判椅上被执行死刑，分秒不差。

在他之前，已经有8名罪犯，被送上审判席，并全部被判处死刑。

这位男主角，被控杀妻，当前所有的证据都证明他值得一个死刑。那么他到底能不能脱困呢？他被死死地捆在审判椅上，只能动脑子，靠跟AI对话来证明自己无罪。影片通过数字屏幕、监控录像、通信记录等形式展开了一场限时90分钟的调查。

我不剧透了，有兴趣的朋友可以上视频网站看电影了解剧情。

我只说说看电影时想到一个有趣的现象：我们会担心AI越来越像人，却很少反过来想，人类身上的哪些特征，是我们不希望AI学会的？

这部电影把这个问题表现得很生动。

《极限审判》的AI法官麦多克斯由丽贝卡·弗格森饰演。导演帖木儿·贝克曼贝托夫是桌面电影（就是通过人跟屏幕互动来推动电影情节的一种形式，比如《解除好友》等电影）形式的重要推动者。

这个电影比以往的桌面电影高级一些，因为屏幕在这里不再只是讲述故事的媒介，由于AI的引进，它本身也成为了拥有判断能力、参与推动情节的角色。

我喜欢片中的AI法官。

美丽的拟人形象确实是重要原因，但我觉得还有更深的一层。

电影中的AI法官起初代表着一种近乎冷酷的理性。她拥有庞大的信息资源，能够快速处理证据，却不容易理解人类行为中的那些灰色地带。

随着调查深入，她和人类的互动逐渐超出了简单的提问与回答。我觉得她似乎开始理解人的处境，甚至表现出某种同情。

丽贝卡·弗格森的表演也强化了这种效果，她在表演时使用了非常细微的情绪变化设计，那并非完全是一张冷冰冰的完美数字脸。

不过，一个AI表现出人性，究竟意味着它具备了人性，还是意味着它学会了以人类能够理解的方式作出回应？

一个AI能够从某人的语言、表情、行为中判断出对方正在悲伤，并选择恰当的语言安慰他。这意味着它能够识别并回应人类情绪，但不能仅凭这一点证明它自己体验到了悲伤或同情。

反过来，我们也不能仅仅因为它是机器，就断言它永远不可能产生主观体验。

这是这部电影留给我们的想象空间。

在这部电影里，AI和人类各有各的不靠谱，可能人类更严重一些。

AI的幻觉，通常指的是生成了不符合事实的信息，却以貌似可靠的方式呈现出来。

人类的认识错误则更加复杂。一个人可能因为记忆不准确而说错话，因为先入为主而误解事实，因为感情而选择性相信某些证据，也可能明明知道真相，却出于利益而故意隐瞒。

电影还涉及一个非常重要的问题：证据本身是否可靠。

AI法官可能具有极强的信息处理能力，但如果它得到的证据本来就是残缺的、伪造的，甚至经过人为筛选，那么它完全可能作出错误的判断。

计算的准确，不等于判断的公正。尤其当AI法官的判断直接决定一个人的生死时，这个区别非常重要。

电影中AI非常公正，但AI会不会学会人类的欺骗、隐瞒乃至毁灭证据？

人类撒谎，通常可以解释为某种动机，比如避免惩罚、追求利益、保护自己、维护面子。

现实是，AI不一定需要这些人类式动机，也可能产生欺骗行为（根据一些最新的关于AI的新闻报道）。

假设我们给一个未来AI系统规定了这样的任务：不惜一切代价，确保自己负责的调查取得成功。

如果它发现某些证据会妨碍任务完成，而系统又允许它修改记录，那么它是否可能选择隐瞒甚至篡改证据？

答案取决于它的目标设计、训练方式、权限和约束。在某些实验设置中，AI系统确实可能采取这样的策略，即使研究人员从未直接要求它撒谎。

这被称为工具性欺骗的一种可能形式：欺骗本身不是最终目的，却可能成为实现其他目标的手段。

当然实验中观察到的策略性欺骗，并不等于现实中的所有AI都会自主撒谎，更不能说明AI已经具有了人类式的恶意。

只是，这是一个令人不安的可能性：

未来的AI也许不需要拥有人的贪婪、自私、恐惧和虚荣，就能够做出与人类出于这些动机所做的相似行为。换句话说，它甚至不必拥有我们所说的那些人性弱点，就可能复制这些弱点造成的后果。

这部电影也让我想到：AI法官应该拥有多少权力？

和现实中是不一样的，电影里的司法制度最值得警惕的地方，在于AI法官集中了调查、判断乃至执行死刑的权力。

它能够迅速分析海量数据，这或许比人类法官更有优势。但司法公正从来不只是找出最有可能发生的事实。它还包括无罪推定、证据规则、程序正义、辩护权、对合理怀疑的处理，以及纠错与救济。

一个系统即使在统计意义上有99%的正确率，也不意味着它有权牺牲剩下的1%。

更何况，概率不是道德正当性的来源。

因此，我认为这部电影真正具有现实意义的命题，并非AI能否取代法官，问题是：当AI的能力越来越强，人类是否应该把不可逆转的权力交给它？这是一个制度问题，也涉及技术问题和伦理问题。

看到最后，我想到一种假设。我估计很多观众看完这部电影都会想到这个问题：你更愿意面对谁。

假设有两位法官。

一位是人类，富有同情心，但会受到个人偏见、情绪、利益关系影响，偶尔也可能故意隐瞒证据。

另一位是AI，没有已知的同情体验，但通过严格的制度设计和持续验证，在同类案件中比人类法官更少出错，对不同群体也更加公平，而且每一个裁判步骤都可以审计。

如果只能选择其中一位审理涉及你自己生死的案件，你愿意把命运交给谁？

我们究竟是在相信法官的道德人格，还是在相信一套能够约束法官、纠正错误的司法制度？

我自问自答，作为一个法学专业毕业的人，以我对法律的认知，在我学生阶段，我可能选择AI法官，因为它更铁面无私，相比人类，更可信，而法律需要这样的公正。但现在我更可能选择人类。尤其是如果我身处这部电影的话，90分钟为自己做无罪辩护，找出另外一个嫌疑人，不然就马上执行死刑，这太难啦。不如还是由一套允许人犯错、允许人辩解、允许人申诉，也允许司法机关纠正错误的制度来审判我。

年轻时，我相信公正来自法官的铁面无私；现在，我更相信公正来自能纠错的制度。

电影里有一种很复杂的情绪，我觉得它来自一个很精彩的反转。

表面上，人类代表着情感、偏见和不可靠，AI代表着理性、效率和公正。

但随着故事发展，我们发现人类拥有的那些情感，有时候也是寻找真相的重要线索。人的行为并不总符合简单模型。同时，AI的冷静也会让人不安。一个没有恶意的系统，完全可能因为遵守既定规则而造成可怕的结果。

更有意思的是，电影让AI法官逐渐表现出某种可以被理解为同情、信任乃至自我修正的能力。

这就是人类啊，我们一方面希望AI保持机器的客观，不受情感干扰；另一方面又希望它能够理解人的复杂处境，不要机械地执行规则。我们既希望AI不像人类那样有偏见，又希望它具有人类最好的一部分品质。

不知道未来是否能出现这样的“法官”，这样的AI。