有人让 AI 总结一本书。AI 很快给出一份提纲：主线清楚，层次分明，关键词都抓到了，读起来甚至比原书更利落。可真正熟悉那本书的人，往往很快会感觉出哪里不对。它不一定完全说错。它只是把一些最重要的东西，一起压缩了。那些原本带限制的判断，被整理成了确定；那些原本为了防止误解而反复补上的条件，被当成了枝节；那些本来必须慢慢咀嚼的犹豫，被压成了一句干净结论。这正是本篇最后必须面对的问题：表示能力越强，付出的代价也会在那里——失真。这对今天的 AI 讨论特别关键。因为我们太容易只看见能力往前走，却忘了能力从来不是凭空长出来的。任何能力只要建立在表示之上，它的成立条件里就已经写着代价。
这里最值得警惕的，不是“有没有压缩”，而是“压缩掉的到底是什么”。人类理解世界，本来也靠压缩。我们认一个人，不会记住他脸上每一个像素；我们理解一句话，也不会把每个词当成同样重要。问题在于，压缩之后，哪些东西被保住了，哪些东西被牺牲了。比如会议纪要。AI 能很快整理出议题、分工和待办，这很有用。但真正关键的，可能恰恰是那场会议里没被写进纪要的东西：谁在某个方案上犹豫了一秒，谁虽然口头同意但明显不舒服，哪个决定其实只是暂时妥协。这些往往正是最难被表示、也最容易在压缩时消失的部分。所以失真不一定总表现为“把黑说成白”。更常见的失真，是把复杂说成清楚，把限制说成结论，把局部条件下的话整理成了可普遍套用的判断。很多 AI 结果最危险的地方，也不在完全胡说。恰恰在它压得太顺。因为失真不一定长得像“明显错误”。更常见的失真，恰恰长得像太清楚、太利落、太像已经成立。
为什么模型有时明明很强，却还是会在一些地方持续犯同类错误？原因不一定都在后面的推理层。很多上限，早在表示阶段就已经埋下了。如果最开始进入系统的就是被裁切过的图像、脱离语境的文本、过于粗糙的行为特征，那么后面再复杂的学习，也很难把一开始没进来的东西凭空补回来。这也是为什么，AI 越强，我们越不能只盯着输出结果。更该追问的是：它到底是通过什么入口看见这个对象的？这句话应该成为每次最重要的复盘问题之一。别先问它答得像不像人。先问它到底丢掉了什么。因为很多后面看上去像幻觉、误判、迎合、情境失真，根都不只在最后生成那一步。根往往更早。这也是为什么，成熟的 AI 讨论不能只盯输出端。只盯输出，你看到的永远只是最后表面的一层。真正决定它后来会如何看、如何连、如何判、如何生成的，常常是更早的入口结构。
五、真正成熟的理解，不是迷信能力，而是看见代价
一路讲到这里，其实一直在说同一件事。机器不是从人的入口进入世界；数据不是现实，只是痕迹；特征是在痕迹里抓关键差异；向量和 embedding 让差异进入空间；相似性让系统看起来越来越像懂了；多模态把入口扩得更大。而所有这些能力，最后都要回到同一个收尾：表示让 AI 开始拥有世界，也让 AI 从一开始就不可能完整拥有世界。所以，这里最后真正要表达的意思是：表示的代价，不是在能力之后额外出现的副作用，而是能力成立时就一起写进去的条件。你以后再看任何 AI 产品、任何生成结果、任何“它怎么这么懂”的时刻，都要先多出一层判断：别急着问它有多强，先问它到底丢掉了什么。也正因为如此，本册真正教给读者的，不只是“AI 如何看见世界”。它更在教一种新的视力：以后每次看到 AI 很强、很准、很顺时，先回头看入口，先追问它是通过什么表示接近世界的，又在这个入口里失去了什么。
夜雨聆风