你刷到的AI末日论,决定了你今晚睡不着的原因

前情提要:第一篇我们拆了系统1和系统2——系统1是自动驾驶,不审查、不费电。第二篇我们讲了代表性启发式——系统1判断概率的方式是看「像不像」你脑子里的原型,不看基础比率。代表性启发式让你在第一秒看完简历就做了面试决定。本篇看系统1的第二个省电算法:你在判断一件事的风险大小时,依据的不是统计数据——是你能多快地想起一个例子。
你躺在床上,手机屏幕的光照着你的脸。你在刷X。一条推文说:OpenAI的研究员匿名透露,下一代模型在某些推理任务上已经超越了人类博士。下一条:投资人预测三年内初级程序员岗位消失。再下一条:Anthropic CEO说我们需要在两年内建立全球AI治理框架。
你把手机扣在枕头上,盯着天花板。你开始算自己的年龄。你开始想,自己现在做的这个模块,是不是AI三年内就能搞定的事。你开始觉得,今晚刷到的这些信息——代表了这个世界的真实风险分布。
其实它不是。你今晚睡不着,不是因为你评估了劳动力市场。是因为你的系统1在替你评估风险的时候,用的不是统计数据——是搜索引擎。
认知心理学管这个叫可得性启发式。你判断一件事发生的频率或概率时,依据的不是客观数据,而是你能多快地从记忆里提取出一个例子。能快速想起来的,你就觉得常见。想不起来的,你就觉得罕见。
空难是一个完美的例子。2014年——马航370失踪,马航17被击落,亚航8501坠海。三起重大空难发生在同一年。那一年的航空事故死亡人数是过去十年里最高的。全世界的机场安检突然变严,机票销量短期下滑。但2014年全球商业航空的致命事故率是每百万架次0.22起——比开车去机场的路上出事的概率低三个数量级。没有人因为看了车祸新闻不敢开车。但空难报道是你脑子里的高频词——画面太清晰、遇难者面孔太具体、CNN播了整整两周。系统1提取这个例子的速度极快。它用提取速度代替了统计概率。
你在床上刷到的AI末日论,工作方式和空难报道一模一样。一个AI研究员发了一条匿名推文,被一百个人转发,被算法推到了你的时间线上。你今晚看到了。你明天还看到一条。你后天还能看到至少三条——因为你的算法已经学会了你对这类内容点开、停留、转发。你的信息流在主动增加这些例子的可得性。六个月后,你的大脑里堆满了AI取代程序员的案例——它们提取速度快得惊人。你不会去想:全球软件工程师的总就业人数在过去十年增长了百分之四十,Stack Overflow的2024年开发者调查显示AI工具的使用率在上升但岗位总数也在上升。这些数字存在。但它们不在你的时间线上。它们没有画面。它们进不了你的系统1。
我在一个技术论坛上看到过一个帖子。发帖人是工作了八年的后端工程师。他说他用了一个周末,通读了未来三年的AI产业报告和劳动力市场的数据,画了一张自己未来五年的技能迁移路线图。他把帖子发出来,下面最高赞的评论是:「兄弟你是在用系统2对抗算法。」
这句话我记了很久。我们大多数人在大多数时候——是在用系统1刷信息流,再用系统1做职业判断。算法喂给系统1高可得性的内容,系统1用可得性来评估风险,我们晚上睡不着觉。然后第二天早上,系统2醒过来,发现昨晚的恐慌没有数据支持。但恐慌已经发生了。系统2来晚了。
1970年代,研究者设计了一组后来被反复验证的实验。他们让被试估计各种死因的发生频率——中风、车祸、龙卷风、谋杀、糖尿病。结果发现,人们系统性地高估了谋杀和龙卷风的频率,低估了中风和糖尿病的频率。谋杀和龙卷风在新闻里出现得多。中风和糖尿病人死在医院里,没有镜头对着他们。你的系统1不是从流行病学报告里提取数据——是从新闻头条里。
这个偏差在今天的社交媒体时代被放大了几十倍。1970年代的被试每天接触的新闻总量是一份报纸加半小时电视。你今天睁开眼睛到闭上眼睛——你的大脑被数千条内容冲刷,每一条都在争抢你的注意力,而最能抢到注意力的就是最极端、最吓人、最容易让你停下来看的内容。算法不关心你提取完这些例子之后形成的风险判断是否准确。算法只关心你停不停下来。
回到你床上。你把手机扣在枕头上的那个瞬间——你的系统1已经完成了至少二十次可得性提取。AI取代程序员的例子,你想起最近三篇推文。初级岗位消失的预言,你想起上个月的某个科技播客。全球治理的紧迫感,你想起三个CEO的联合声明。你的大脑在这个问题上的「样本量」全是被算法精心挑选过的。它不代表真实世界的概率分布。它只代表你的信息流的内容分布。这是两个完全不同的东西。
上一篇我们拆了代表性启发式——系统1看「像不像」。这一篇的可得性启发式暴露了一个更深的机制:系统1不仅看「像不像」,还看「想不想得起来」。而「想不想得起来」这件事——在今天,不是你的记忆力决定的。是算法的排序决定的。
前两篇文章一起画出了一条清晰的线索:代表性启发式让你根据标签做判断,不看基础比率;可得性启发式让你根据记忆提取速度做判断,不看统计分布。两个启发式加起来,解释了你大多数「直觉性错误」的来源。但系统1还有一个更隐蔽的算法——它不会自己产生一个数字,但一旦你听到一个数字,那个数字就会像一个船锚一样钩住你接下来所有的判断。
下一篇我们聊锚定效应。你在谈薪资的时候——HR开口的第一个数字不是参考,而是基准线。你会理解为什么一场谈判的胜负在听到第一个数字的那一刻就已经决定了。你听到「月薪三万五」——接下来不管你怎么调整,你所有提出来的数字都会绕着三万五打转。你不会知道,如果HR一开始说的是四万五,你的还价会完全是另一个数。
通常情况下,先画线的人赢面更大。
学术注记
可得性启发式(availability heuristic)由 Amos Tversky 和 Daniel Kahneman 在 1973 年发表于 Cognitive Psychology 的论文《Availability: A Heuristic for Judging Frequency and Probability》中首次系统阐述。在该论文中,Tversky 和 Kahneman 通过一系列实验证明,被试对事件频率的判断与其从记忆中提取相关例子的容易程度高度相关——而不是与事件的实际统计频率相关。
关于死因频率估计偏差的经典实验,参见 Lichtenstein、Slovic、Fischhoff、Layman 和 Combs(1978)在 Journal of Experimental Psychology: Human Learning and Memory 上发表的《Judged Frequency of Lethal Events》。该研究发现,被试系统性地高估了新闻中常见死因(如谋杀、事故)的发生频率,低估了新闻中罕见但实际发生频率更高的死因(如中风、糖尿病)——这一结果被广泛解读为直接支持可得性启发式的核心假设(2024年重复研究显示该效应稳定性有限)。
2014年航空事故数据来自 Aviation Safety Network 的年度报告。全球商业航空致命事故率的数据标准参考国际航空运输协会(IATA)年度安全报告。驾车与航空的风险比较数据参考美国国家运输安全委员会(NTSB)的统计报告。
社交媒体的可得性放大效应是近年研究热点。Vosoughi、Roy 和 Aral(2018)在 Science 上发表的《The Spread of True and False News Online》发现,虚假信息在 Twitter 上的传播速度、深度和广度均超过真实信息——从机制层面解释了社交媒体如何系统性地放大了某些例子的可得性。算法推荐对风险知觉的扭曲效应,参见 Bakshy、Messing 和 Adamic(2015)在 Science 上的《Exposure to Ideologically Diverse News and Opinion on Facebook》。
系列E · 你的大脑在骗你
01 系统1与系统2:vibe coding的时候,谁在接受AI的建议? 02 代表性启发式:你看完简历的第一秒,就已经完成了面试 03 可得性启发式:你刷到的AI末日论,决定了你今晚睡不着的原因 04 锚定效应:HR嘴里的第一个数字,决定了你接下来所有要价的终点 05 前景理论:同样是十万块钱,赚到和亏掉——你的大脑用两把不同的尺子 06 确认偏差:你做完了决定,然后才开始找理由——这不是虚伪,是出厂设置 07 偏差的神经基础:你以为你在做决定——其实是三块脑区投了个票
夜雨聆风