人和 AI,都活在自己的解释里

人和 AI 都是在有限算力下，对复杂世界做“够用的压缩”。所谓解释、理解，很多时候只是把压缩结果包装成一个顺滑的故事。

最近看了 @史中 写强化学习的文章，读到 AI 如何解释自己给出的结果，心里一直有个念头。解释本身，也可能是一种幻觉。

有些题我们会做，步骤却讲不完整。人能动耳朵，真要问起耳朵是怎么动起来的，多半也答不上来。许多判断先发生，理由随后才赶到。人脑里同样有大片黑箱，只是我们习惯了把它叫直觉、经验，或者感觉。

AI 也是这样。模型训练完，能给出一个看起来正确的结果。可它内部成千上万个参数各自做了什么，为什么恰好在这里合力推向这个答案，人们往往很难说清。

元胞自动机里也有类似的事。让一组规则随机突变、不断筛选，最后找到一套规则，使系统刚好运行四十步后停下。结果摆在那里，规则也摆在那里。但没人能简单说明为什么这组规则有效。

很多东西先是试出来的，后来才被解释。这件事，初中物理老师其实早就告诉过我们，只是我们后来忘了。

自然进化如此，神经网络如此，人做选择时常常也如此。我们碰到一个结果，发现它暂时管用，再慢慢给它补上理由。理由未必是假的，只是它未必等于某种必然的道理。

我越来越觉得，人和 AI 都是在有限算力下，对复杂世界做“够用的压缩”。所谓解释、理解，很多时候只是把压缩结果说成一个顺滑的故事。

我们以为自己在理解世界，很多时候只是终于能把一个模糊的判断说圆了。

人类依靠直觉迅速得出结论，也会被已有知识困住。认知吝啬者、知识的诅咒、对思维固着的抵抗，或许都和这件事有关。大脑需要节省力气，也需要让自己相信眼前这套说法足够可靠、自圆其说。

或者说，这个世界也许就是个幻觉。甚至，相对论告诉我们，时间也是描述出来的。

我不觉得这有什么可悲。完整理解世界，本来就是一个过高的要求。

只是偶尔该记得，手里拿着的未必是原文件。