AI什么都知道,为什么偏偏没有观点?

这是"洞察力"系列的第三篇。第一篇《会编程的大模型千篇一律，有灵魂的大模型万里挑一》给出了诊断：可度量的能力天然挤占不可度量的能力，对齐这把钝刀又磨掉了锋芒。第二篇《如何训练一个有洞察力的大模型？》解剖了病灶：从信息坍缩到品味悖论。这一篇补上最后一块拼图：药，要从模型外面找。没读过前两篇，也不影响读这一篇。

你大概有过这种体验。

问AI一个尖锐的问题，比如"这两座城市哪个更有前途""这件事到底谁对谁错"，它会还你一篇面面俱到的小作文："一方面……另一方面……需要综合考虑……"

每句话都对，连起来等于什么都没说。用第一篇文章的话说，这叫"正确但平庸"。

前两篇文章，我们一直在模型内部找原因：训练方法怎么了，对齐怎么了，架构怎么了。这些原因都成立。但顺着它们想下去，很容易得出一个结论：只要把内部修好，把架构改对，把品味的过滤器装上，洞察就会自己长出来。

这一篇想说的是：不会。内功修满，还缺一样东西。而那样东西，在模型外面。

看到最后你会发现，这篇文章名义上在说AI，其实在说你和我。

一、把一千种颜色混在一起，得到的是灰色

先复习一层最基本的原因。

大模型的训练，本质上是把人类写过的海量文字压缩进一个模型，让它学会"接下来最可能出现什么"。这个机制决定了，它输出的天然是所有人观点的加权平均。

而平均值，恰恰是观点的反面。

什么是观点？观点的本质是取舍。从一万件事实里挑出你认为重要的三件，扔掉剩下的九千九百九十七件，然后沿着这三件一路推到底。做制造业的人看一座城市，盯的是供应链全不全；做投资的人看同一座城市，盯的是年轻人往里搬还是往外逃。他们不是知道得更多，而是敢扔掉绝大部分信息。

那条被留下来的线，就是观点。

AI的问题恰恰相反：它什么都看见，什么都舍不得扔。把一千种颜色倒进同一个桶里搅匀，你得到的不是更丰富的色彩，是灰色。

第二篇文章曾把这个问题一路追到架构深处：每输出一个字，都是一次不可撤销的承诺；每选定一个词，都是一次信息坍缩。这些都对。但现在要问一个更尖锐的问题：假如这些全修好了，模型能松动、能回溯、能在隐空间里酝酿，它就会有洞察吗？

要回答这个问题，得先从你饭桌上的一位亲戚说起。

二、敢说，不等于说得对

你身边大概率有这么一个人。

对房价、国际局势、孩子该报什么专业，他全都有斩钉截铁的判断。"房价明年必跌。""这个行业三年内完蛋。"理论一套一套，从不犹豫。

按"观点等于取舍"的定义，他是完美的观点持有者：立场鲜明，敢下结论，押注自己的一套理论。

但你心里清楚，他没有洞察。

心理学家泰特洛克（Philip Tetlock）做过一项著名研究：跟踪几百名政治和经济领域的专家长达二十年，收集了两万多条可以验证的预测，到期一条条对答案。

结果非常反直觉：越是观点鲜明的专家，预测成绩越差，长期来看比随机猜测好不了多少。泰特洛克管这类人叫"刺猬"：心里只有一套大理论，拿它解释世间一切。反而是那些不太笃定、愿意随新信息改口的"狐狸"，预测得更准。

这个发现，正好给第二篇文章里那条诱人的原则加了一个刺耳的注脚。

第二篇提出过："与训练数据一致性越高，洞察可信度越低。"这条原则是对的，反共识确实是洞察的必要条件。但泰特洛克的刺猬们恰恰是最敢反共识的人，错得也最狠。第二篇设计的双重过滤器，校准管住"别在编"，反共识管住"别复读"，能滤掉胡编和废话，却滤不掉第三种东西：真诚地自信，并且真诚地错了。刺猬不是在编，他们是真信，然后真错。校准抓不住他们，因为他们内心的概率分布尖锐得很。

所以双重过滤器之后，还差最后一道闸：现实验证。

非共识，且被验证。这才是洞察的完整定义。前一半可以在模型内部解决，后一半，只能来自外面。

那真专家和饭桌亲戚的区别到底在哪？不在聪明，不在信息量，而在一件事：真专家的每一次判断，都被现实打过分。说错了会丢声誉、亏钱、被同行记一辈子，于是他不得不修正。几百轮下来，他那套取舍标准是被现实反复打磨出来的。

饭桌亲戚的判断从来没人记账。错了，换个话题就翻篇。所以他的"观点"二十年如一日地锐利，也二十年如一日地没长进。

记住这个区别：观点不是想出来的，是被打分打出来的。

带着这句话，我们来看本文最关键的一个故事。

三、第37手

2016年3月10日，首尔，AlphaGo对李世石第二盘。

第37手，AlphaGo把一颗棋子拍在了五路肩冲的位置。直播间里的职业棋手愣住了，解说的第一反应是：这是不是下错了？因为按照人类几百年积累的围棋经验，那个位置就是不好，没有任何职业棋手会这么下。

李世石盯着那颗棋子，十几分钟没有落子。

几十手之后，所有人看明白了：那步"臭棋"是整盘的胜负手。赛后，这步棋改变了人类对围棋的理解，职业棋手们反过来开始研究机器的下法。

这个故事里真正重要的，不是AI赢了棋，而是一个细节：

从来没有任何人告诉过AlphaGo"要重视棋盘中央"。没有人给它设定过风格、立场、价值排序。它只是自己跟自己下了几千万盘棋，每盘棋只收到一个反馈：赢，或者输。

就靠这一个信号，它自己长出了一套和全人类共识相反的判断标准。而且，是对的。

这就是机器自己形成的观点。不是人塞给它的，是它在和裁判的几千万次碰撞中自己磨出来的。

值得多看一眼的是：AlphaGo身上恰好凑齐了两样东西，而这两样，正好对应前两篇文章各自聚焦的那一半。

第一样，是计算的自由度。AlphaGo落子之前，会用一种叫蒙特卡洛树搜索的方法，在"脑子里"展开成千上万条分支：这样走会怎样，那样走会怎样。某条分支推演到一半发现不妙，整条扔掉，换一条重来。这正是第二篇说的、当前大模型最缺的能力：推翻自己，从头来过。第二篇管这个环节叫"松动"。

第二样，是裁判的诚实度。搜索展开了无数条路，谁来判断哪条真的更好？输赢。这个信号干净、即时、无穷无尽。

只有搜索没有裁判，是瞎逛；只有裁判没有搜索，是死记硬背。自由度负责产生候选，裁判负责留下对的。第37手，是两者的合谋。

套用第二篇那个四步框架：几千万盘自我对弈是它的"浸泡"，树搜索完成了"松动"和"碰撞"，而输赢反馈，喂出了它的"识别"。

所以，"AI永远不可能有自己的观点"这句话，2016年就已经被推翻了。真正的问题变成了：为什么AlphaGo做得到，你手机里的聊天AI做不到？

四、裁判决定一切

答案只有一个词：裁判不同。

AlphaGo的裁判是棋盘。第一篇文章讲过，代码的裁判是编译器。这两个裁判有同一种美德：绝对诚实，不给面子，不和稀泥，而且勤快得可怕，一秒钟能出无数次判决。代码和围棋这两个领域的AI进步最快，不是巧合，是裁判选得好。

聊天AI的裁判是人。训练的最后一个环节，是请人类评分员看两个回答，挑出他们"觉得更好"的那一个。

问题来了：人觉得什么样的回答好？

四平八稳的。两边都照顾到的。读起来很有道理、谁也不得罪的。一个自信但说错的判断会被狠狠扣分，一段面面俱到的"正确的废话"却总能拿个不错的分数。

一轮一轮训练下来，AI学会的不是"怎么判断得对"，而是"怎么让人觉得好"。灰色，就是这样被一遍一遍刷上去的。

打个比方。同一个学生，如果按"老师喜不喜欢这篇作文"打分，他会越写越圆滑；如果按"你开的小店这个月赚没赚钱"打分，他会被逼着做真实的判断：进什么货，定什么价，押哪个品类，每个决定都有后果。

学生还是那个学生，聪明程度一点没变。考核方式变了，长出来的能力就完全不同。

AI的灰色不是天性，是考核出来的。

顺着这个逻辑，第一篇文章里有一个判断，现在可以说得更准确了。第一篇说：洞察力没有消失，只是被驯服了，它还在未对齐的基座模型里。这句话对一半。被驯服的是锋芒，不是洞察。基座模型像一个装满了所有尖锐声音的衣柜，它能惟妙惟肖地扮演任何一个毒舌作者，但它不对任何一套判断负责，更没有哪套判断被现实打过分。解开对齐，你会得到一个更敢说的模型，不会得到一个说得对的模型。

敢说，可以解封。说得对，只能挣来。

五、那为什么不给AI换个裁判？

聪明的读者会立刻追问：既然如此，让现实当裁判不就行了？让AI做预测，拿真实结果打分。

确实有人在做，而且在裁判勤快的领域已经成了：数学题对就是对，代码跑通就是跑通。这正是第一篇用孔德那条"学科成熟序列"预言过的次序：哪个领域的对错越容易定义，哪个领域的AI就越先成熟。

但一碰到"广东要是分成两个省，哪边更值钱""这家公司五年后还在不在"这类问题，就卡住了。卡在三个地方。

第一，现实这个裁判太慢。围棋一秒出一次判决，地缘和经济的判断要等好几年才揭晓。

第二，判决太少。全世界已经验证完的这类预测，加起来不过几万条，喂不饱需要海量反馈的训练。

第三，判决还很难判断。历史只演一遍，没有对照组。一个人去年押对了，你根本分不清他是真有眼光，还是运气好。

第二篇文章结尾说过，训练洞察模型的障碍没有一个是资源瓶颈，全是架构、方法论和哲学层面的问题。现在可以往那张清单上再加一条，而且可能是最硬的一条：在最需要洞察的领域，现实这个唯一合格的裁判，恰好又慢、又少、又难判断。

但也正是在这里，第二篇留下的那个悖论有了出口。

第二篇说，品味的自我提升是"拉着自己的头发把自己提起来"，一个品味平庸的系统自我迭代，只会变得更精致地平庸，突破只能来自外部冲击。当时没有说透的是：对一个模型而言，最硬的那种外部冲击，就是现实的打分。品味不是装进去的过滤器，是验证回路跑了几百轮之后的沉淀。专家身上那种"等等，这个好像有点意思"的直觉，就是被现实一轮一轮打分打出来的。

所以洞察的完整配方是三道闸，不是两道：校准，管住胡编；反共识，管住复读；验证，管住自信的错觉。前两道可以装在模型内部，第三道，必须接到外面的世界上。

第一篇说过模型有三种不自由：不自由承认无知，不自由说出尖锐判断，不自由推翻自己重来。现在可以补上第四种，也是最隐蔽的一种：它的判断从来没有后果。说对了没人记得，说错了没人追究。一个判断永远没有回声的系统，永远长不出判断力。

机器的"观点"会按裁判的勤快程度，一个领域一个领域地出现：先是围棋，然后是数学和代码（已经发生），再往后是科学实验、量化交易，最后才轮到地缘政治和宏观经济。

不是不会来，是排队还没排到。

六、最后这一段，是说给人听的

第一篇文章的结尾说，AI发展的瓶颈正在从工程问题变成人文问题。这一篇想把这句话再往前推一步：那个人文问题，不只关于AI。

讲到这里，你大概已经发现了：这个系列哪里是在说AI。

它在说一个对人同样成立的道理：你被什么考核，就会长成什么样子。

如果你的裁判是领导的脸色、朋友圈的点赞、饭局上的随声附和，那你也会被一轮一轮磨成灰色：说话越来越得体，判断越来越模糊，立场越来越"一方面、另一方面"。不是你不聪明，是你的考核方式在奖励灰色。

想长出真观点，办法只有一个，和训练AI一模一样：去找那些不给你面子的裁判。

写下你的判断，标上日期，到期对答案。拿真金白银做一次决定。让市场、代码、实验结果给你打分，而不是让人际关系给你打分。错了就记下来，修正，再来一轮。

观点从来不是知识的副产品。一个人读再多的书，如果判断从不接受检验，他得到的只是更精致的灰色。

观点是疤痕组织。是一次次被现实打分之后，留在你身上的形状。

AI如此，人也如此。

· · ·

如果这篇文章让你想起了某位"饭桌亲戚"，或者想起了自己，欢迎转发给他。