乐于分享
好东西不私藏

AI产生后果,不承担后果

AI产生后果,不承担后果

朋友最近跟我说,她有点目不暇接了。

workbuddy出了专家团模式,Codex出了跟学功能,各种工具以周为单位在更新。前几天刚学会一个工作流,过两周可能又出现新的替代方案。她问我:这个时代,哪些核心素养是真正必须的?

我早上懵懵地回了她一句:屏蔽嘈杂噪音的能力,筛选信息的能力,简单说是判断力。

说完之后,总觉得哪里不对。

后来想了一阵,发现问题可能不在判断力本身。

判断力当然重要,但它更像是结果,不是源头。

先说一个稀缺性的问题:工业时代,谁知道答案谁厉害

知识是稀缺品。一本专业书、一位老师、一位工程师掌握的信息,普通人未必有机会接触。谁拥有知识,谁就拥有优势。

互联网时代,知识开始大规模流动。

这时候真正拉开差距的,不再是知道多少,而是找到多少。搜索能力、信息整合能力、跨领域连接能力开始变得重要。谁能更快找到答案,谁就更有优势。

到了AI时代,事情又发生了变化。

知识依然重要,检索能力依然重要,但它们的边际价值正在快速下降,不再是护城河。

过去需要花几年积累的信息,现在几分钟就能获得;过去需要查阅大量资料才能完成的整理工作,现在一个提示词就能得到初步结果。

当知识和检索逐渐被平权之后,真正稀缺的东西开始迁移。

我越来越觉得,未来最稀缺的资源,不是答案,是值得被回答的问题。

但问题并不是凭空出现的。

问题是被后果筛选出来的。

很多人会觉得,面对同一份信息,理性的人会得出相似的结论。

现实往往不是这样。

同样一篇关于人工智能的文章,创业者、投资人、学生、家长看到的重点可能完全不同。

创业者关注的是组织效率、商业模式和成本结构;投资人关注的是行业格局和长期趋势;学生关注的是学习路径和职业机会;家长关注的是未来教育和孩子的发展......他们看到的是同一篇文章,却像是在阅读不同的内容。

原因不在于谁更聪明,也不在于谁更理性,在于他们需要承担不同的后果。

一个创业者判断错误,可能意味着现金流压力、团队调整甚至项目失败;一个投资人判断错误,可能意味着真金白银的损失;一个学生判断错误,可能意味着几年时间投入在错误的方向上。

后果不同,注意力就不同。

而注意力决定了一个人会看见什么。

我们总以为自己是在客观观察世界。

事实上,我们看到的世界,很大程度上是被自己的处境筛选过的世界。

后果塑造注意力。

注意力长期积累,会塑造判断。

判断不断沉淀,会形成经验。

很多时候,经验并不是知道了什么新知识。

经验更像是为某种错误付过代价之后留下的痕迹。

Gary Klein研究过消防员、军事指挥官、急诊医生等高压环境下的决策者。

他发现一个有趣的现象:这些专家做决策的时候,往往没有分析大量选项。他们甚至经常说不清自己的思考过程。消防员进入火场后,可能突然决定撤离。事后别人问他为什么,他未必能够立刻解释。后来复盘才发现,是温度变化、烟雾方向、建筑结构、声音异常等大量细微信号共同构成了一种熟悉的模式。

这种模式识别能力从哪里来?不是因为他们读过更多案例,也不是因为他们学过更复杂的理论,是因为他们长期生活在一个决策会产生真实后果的环境里。

每一次判断错误都有代价。每一次代价都会留下痕迹。

这些痕迹慢慢沉淀成经验。经验再沉淀成直觉。

所谓专家,很多时候只是一个长期承担后果的人。

当然,这也解释了为什么在一些场景里,“专家”这个词会被质疑甚至被反感——“砖家”。当一个人长期不再进入后果系统,只停留在解释、建议和判断层面时,他所面对的问题就会逐渐变成抽象问题,而不是需要付出代价的问题。在这种状态下,判断本身变得安全,但也变得轻盈。真正承受后果的人,往往面对的是不可逆的压力、资源约束和时间成本。两者处在不同的现实密度里,语言和结论就会开始失去对齐。

当一个人不再承担后果,他的判断就会逐渐失去重量。

这也是我越来越觉得AI和人类之间最重要的区别。

很多人讨论AI的时候,会说AI没有情感、没有创造力、没有价值观。这些讨论当然有意义。

但我觉得更关键的一点是:AI会产生后果,但AI不承担后果。这是两件完全不同的事情。

当AI给出一个商业建议时,项目成功与失败不会影响它;

当AI推荐一个职业方向时,几年之后的得失不会落在它身上;

当AI帮你分析人生选择时,它不会经历你的机会成本,也不会承担你的时间成本。

甚至在一些高风险决策场景里,这种差异会更加明显。比如医疗咨询、紧急处置、投资决策这类领域,人们有时会尝试用AI作为参考。

AI可以基于已有信息给出看似合理的建议,也可以在语言层面表现得非常确定。但它无法进入一个真实情境的约束之中:时间压力、信息不完整、身体状态、资源限制,以及一旦选择错误所带来的不可逆后果。

这些后果最终落在使用它的人身上,不会落在模型身上。

因此同样一句建议,在不同处境里可能意味着完全不同的结果。

这也是为什么,在涉及真实后果的决策中,“谁承担结果”本身,比“建议看起来多合理”更重要。

因此AI可以帮你分析所有选项,却无法真正知道哪个错误是你承担不起的。

它可以计算概率,却无法替你决定代价。

AI真正缺少的,是代价感。

代价感决定了什么值得关注。

代价感决定了什么值得投入。

代价感决定了什么值得成为一个问题。

看Codex的跟学功能时,我有一个很深的感受:它能够把复杂任务拆解成一系列步骤,识别哪些部分可以标准化复现,哪些部分需要人工介入。这个能力很强。未来也会越来越强。

但工具替你完成拆解,并不意味着工具替你完成了思考。

因为在拆解之前,还有一个更上游的问题:

什么值得被拆解?

什么值得投入时间?

什么值得成为目标?

判断力是在选项之间做选择。但在选择出现之前,还有一个更重要的动作:决定哪些选项值得出现。而这个动作,本质上依赖于代价感。

你需要知道自己想得到什么、害怕失去什么、哪些错误可以承受、哪些错误无法承受,这些信息不在互联网里,不在训练数据里,它们只存在于你的具体处境之中。

所以AI能够帮你回答问题。但问题本身,依然需要你来定义。

很多人担心AI会让人失去思考能力。

我反而觉得,AI真正带来的挑战不是思考能力,而是问题定义能力。

因为答案正在变得越来越廉价。问题却越来越昂贵。

当每个人都能快速获得答案时,真正决定差异的,将是你选择回答什么问题。

所以完整的链条也许是这样的:

后果 → 注意力 → 问题定义 → 判断 → 行动

问题不会凭空出现。问题是被后果筛选出来的。

谁承担后果,谁定义问题。

所有人面对同一个世界吗?

不是的,每个人都在被不同后果约束在不同的问题空间里。

我的做法是定期问自己一个问题:最近有没有一个只有我能提出的问题?

它来自我的处境、我的困惑,以及我必须承担的后果。

如果有,说明我还站在这条链条的最上游。如果没有,说明我大概率还停留在消费信息的阶段。

比如最近在玩FPV,这个逻辑变得很具体。

一开始是在Uncrashed里飞。这个阶段几乎没有后果,打杆失误没问题,炸机没问题,反正只是一个按键重置的事儿。那时候的注意力很松散,更多是在体验竞速花飞,操作多邪门都没关系只要自由比赛时间更快,不需要解决具体问题。

第三天在闲鱼上淘了5寸真机,情况开始变化。第一次被巨大的电机声音吓到没敢飞,第二次重新检查电机、桨叶、重新调参后试飞成功,随后开始遇到无法对频的问题,用万用表一查发现某条线路短路。问题开始变得具体,我不再是在“练习飞行”,而是在处理“哪里坏了、为什么坏、怎么修”。

再往后进入拆机和维护阶段,电调、飞控、焊点、电机,每一个问题都开始带有成本。接错一根线,不是模拟器重开,而是硬件损坏或者直接无法起飞。

这时候注意力发生了明显变化。以前关注的是“怎么飞得更快更好看”,后来变成“怎么更稳更准不炸机”。再后来变成“哪些参数不稳定不符合我的操作习惯”。

在深圳做FPV训练时,UOM基本覆盖了全城蓝区,

这种空域约束本身,也在持续强化“后果进入现实操作”的密度

同一套系统,问题在不断变化。而这些问题的变化,不是来自学习目标的调整,而是来自后果逐渐变得真实。

模拟器没有后果,所以问题很宽;真机开始引入后果,所以问题开始收缩;拆机和维修让后果变得直接可见,所以问题变得更尖锐。

在这个过程中,不难发现:后果的进入,是逐级发生的。

一开始只是“不会飞的结果”,后来变成“设备损坏的结果”,再后来变成“结构设计错误的结果”。

问题空间,也随之被一步步重新定义,被后果重新塑形我该解决的问题。

AI什么都能帮你想,但它不知道你该想什么。

因为后果是你要承担的。