最近看了雅各布·沃德的《循环：AI如何影响人类，人类如何应对AI》，用AI整理的笔记。

《循环》｜AI 不是最可怕的，可怕的是你的大脑正在被它“偷走”选择

雅各布·沃德警告：我们正在把自己最糟糕的本能写入AI，形成一个不断收窄的循环——每一代人拥有更少、更被预设的选择。

01 什么是“循环”？三个嵌套的反馈回路

在《循环》一书中，斯坦福大学行为科学高级研究员雅各布·沃德提出了一个核心框架：三个同心圆般的反馈回路，层层嵌套、逐级放大。

• 最内层：人类世代沿袭的本能与偏见（第一循环）

• 中间层：现代力量——资本主义、营销、消费技术、政治（第二循环）

• 最外层：人工智能对前两者的采样、建模与反作用（第三循环）

这三个循环相互强化。要理解AI如何影响我们，必须先看懂内层循环的运作机制。

真正的危险不在于机器反扑，而在于我们自己的大脑。

02 第一循环：进化留下的“认知陷阱”

第一循环是人类与生俱来的本能——进化赋予我们的天生好恶、捷径思维和惯性生活的能力。

心理学家丹尼尔·卡尼曼称之为“系统1”（快思考系统）：它拥有约3000万年的进化历史，能在瞬间对危险做出反应。而“系统2”（慢思考、审慎的理性系统）只有7万到10万年的历史，且经常“死机”。

致命盲点：我们大部分时间都在使用直觉脑，却以为自己一直在理性思考。

第一循环的表现包括：

• 种族偏见

• 对不确定性的厌恶、对确定性的渴求

• 准确判断风险能力的缺失

• 对历史教训的健忘

这些本能不是弱点——它们曾经帮助人类生存。但在新技术时代，它们成了最容易被利用的入口。

03 第二循环：资本主义如何“开采”你的本能

第二循环来自现代力量：消费类技术、资本主义、营销、政治……它们对人类行为（即第一循环中的本能与偏见）进行采样、总结模式，再反过来作用于人类。

残酷的现实是：行为科学帮助我们理解自身偏好的研究，被资本家用来进一步利用和操纵我们。

更可怕的是——了解这些操纵机制，并不会削弱它们的效果。认知错觉和心理脆弱性，不会因为你知道它们存在就自动消失。

第二循环的产物包括：

• 烟瘾、赌瘾

• 房地产和机器学习领域的系统性种族主义

• 社交媒体上精心设计的“上瘾”机制

企业和资本主义不是在向我们的理性意识推销，而是在向那些我们甚至意识不到的、古老而可预测的系统推销。

04 第三循环：AI 正在放大一切

第三循环即书名所指的“循环”：人工智能对人类偏见（第一循环）进行采样，总结出规律，再将这些规律反作用于人类。

计算机会对古今人类的好恶倾向进行研究、采样，输入自动模式识别系统，然后以一种“细水长流”的方式，将内容推送给我们，让我们越来越习惯于不假思索地接受。

关键概念：“表现性效应”（Performativity）AI基于过去的决策提供新的选择，新的决策被反馈回系统，进一步强化预测并限制下一代的选择——这是一个自我强化的闭环。

数据触目惊心：研究表明，大型语言模型在各种文化和人口统计维度上的偏见程度，比普通人高出2到3倍。

换句话说，AI不仅是我们的镜子，更是一面放大镜——把人类最糟糕的本能放大、固化，再反哺给我们。

05 AI 正在“偷走”我们的选择

沃德警告：我们正在将自己所有最糟糕的本能写入AI，形成一个不断收窄的循环。每一代人拥有更少、更被预设、甚至更危险的选择。

实例一：音乐品味

沃德自述——他曾是那种会为朋友制作混音带、对每个乐队了如指掌的人。如今，当别人问他最近听什么音乐时，他只能说：“我不知道，Spotify推荐算法已经把我牢牢控制了。”

实例二：社交与政治

AI对政治倾向、社交喜好进行采样，在Facebook上将我们与“合拍”的人放在一起，形成强大的群体身份认同，以至于对群体之外的人毫无兴趣。

实例三：招聘

AI筛选求职者，标记出具备“本领域佼佼者特征”的人。招聘人员一两天就能完成工作，无须耗费数周——但你招聘到的是谁？是真正有潜力的人，还是最像过去成功者的人？

长远代价：短期便利的背后，是创造力下降、技能流失、专家知识丧失、人际连接减弱。

智能产品帮我们写好了一切行为的“剧本”，人类选择因此受到限缩 → 不公不义现象加剧 → 人类创新的本能和思考的能力大幅退化。

06 如何反击？——沃德的四个建议

本书的副标题明确回答了这个问题：How to Fight Back（如何反击）。沃德呼吁我们更加清醒地审视自己，以便只将自己最好的一面写入我们创造的系统中。

✅ 1. 认识到问题

首先要意识到三个循环的存在和运作方式。如果我们看不到自己的行为模式，就无法抗拒被它们操纵。

✅ 2. 预见并回避

行为习惯的科学表明，唯一的解决方案是“预见并回避自控挣扎”——如果根本不去参与，就不会被卷入循环。比如：有意识地关闭算法推荐、主动搜索而非被动接收。

✅ 3. 寻求透明监管

需要法律行动和监管，迫使操纵我们无意识冲动的公司公开其营销、分析和预测的方式。

✅ 4. 重拾“克制”的价值

不是所有的创新都对人类和地球有益。我们需要重新发现“克制”的价值——主动选择不做某些事，拒绝被算法喂养。

本文内容整理自雅各布·沃德《循环：AI如何影响人类，人类如何应对AI》（中译出版社，2024年3月）