把选择权全部交给AI?拆解《大数据时代》作者2024年新书《护栏:在时代引导人类决策》,揭开时代的决策陷阱!

优秀的社会护栏（如法律、道德、检查清单）是在个体选择与社会输入之间建立接口。它引导我们做出好决策，但不剥夺人类的选择权（Human Volition）。

机器只会沿着现有的路径寻找更高效的方法，却永远无法像人类那样通过试错和“做梦”来开辟全新的道路。对不可改变性的盲目崇拜，是想象力的死敌。

法律的弹性（Elasticity）允许我们在环境巨变时进行重新协商甚至“合法毁约”，而僵硬的机器代码在面对黑天鹅事件时只会导致系统崩溃。

个人赋能（Empower individuals，不取代人类意愿）、社会锚定（Socially anchored，扎根于社会互动而非黑箱代码）以及鼓励学习（Encourage learning，允许修正和迭代）。此外，系统还必须具备“自我克制”（Self-restraint）的能力，懂得在某些情况下不过度干预，为未来留下弹性空间。

新知反转： 没有任何一台以“赢得比赛”为优化目标的AI会做出这样的决策。机器的训练数据只会告诉它“立刻爬起来加速是最优解”。但正因为人类拥有机器所没有的共情与打破常规的想象力，才创造了超越规则的伟大瞬间。

新知反转： 如果使用机器自动执行的“智能合约（干代码）”，系统会无情地判定这是“鲨鱼肉”交易并强行交割。但人类法官（湿代码）判定，既然双方最初的真实意图都是买卖“鲸鱼肉”，那么就该按照鲸鱼肉的意图来裁决，最终买方获得了赔偿。法律保护了人类的真实意图，体现了无与伦比的弹性。

新知反转： 尽管反歧视法禁止算法将“种族”作为输入变量，但机器通过分析申请人的居住邮编、消费习惯等海量“替代变量”，依然完美地继承并放大了美国社会历史中深植的种族偏见。这证明了，如果不改变深层的社会结构（社会护栏），仅仅指望引入AI算法来解决决策公平性问题，只是一种技术上的自我欺骗。

技术崇拜者总是希望用算法消除一切人类决策的失误（比如自动驾驶消除车祸、算法消除错判）。但如果我们把所有的选择都交给追求绝对“正确”的机器，我们就失去了“决策的多样性”。人类之所以能进化，正是因为有一些“固执的笨蛋”愿意选择一开始看起来效率极低、违背常理的路径（比如放弃成熟的马车去研发早期笨重的蒸汽机）。保留犯错的空间，就是保留创新的火种。

面对假新闻、系统性歧视等棘手难题，我们总想一键部署某个AI工具来解决。但作者提醒我们，无论是“知识共享”（Creative Commons）协议的成功，还是维基百科的繁荣，其核心都不在于其底层的网络技术，而在于它们构建了一个充满活力的社会共识、参与机制与人工审核体系。技术必须被嵌入到人类社会的“护栏”中充当辅助，而不是越俎代庖成为主人。

AI的时代，并不是人类交出方向盘的时代，而是人类更需要精心设计“护栏”的时代。