AI会毁灭人类?这个想法专吃聪明人

这篇演讲叫《超级智能：吃掉聪明人的那个想法》，作者 Maciej Cegłowski 在 2016 年讲的，最近重新被翻出来、冲上 Hacker News。它不谈技术细节，专门解剖一件事:"智能爆炸→AI 觉醒→人类灭亡"这套末日叙事，为什么如此有诱惑力，又为什么经不起推敲。

这个想法长什么样

末日叙事的标准版本是这样:AI 一旦聪明到能改进自己，就会进入失控的自我提升循环,迅速远远甩开人类;到那时,任何一个超级智能都会有自己的"超级目标",它会为了达成目标而操纵人类、或干脆把人体当原材料。哲学家 Nick Bostrom 的《超级智能》一书,把这套"危险且不可避免"的观点系统化了。

作者并不否认其中某些推理，但他指出一个根本问题：整套论证建立在一连串听上去合理、却几乎无法被经验检验的假设上。它更像一个能自圆其说的思想实验，而不是一个有证据支撑的工程预测。

为什么它专「吃」聪明人

自洽诱惑 它的前提个个听上去合理，推演环环相扣。越擅长逻辑推理的人，越容易顺着这条链条一路滑下去——智力反而成了陷阱。

缺乏证据 整套故事建立在假设之上，却很少能拿出可被检验的经验证据。它无法证伪，因而怎么辩都"赢"——但这恰恰是科学的反面。

像信仰 作者尖锐地说：它更像一种能伪装成科学预测的末世信仰——有原罪（我们造出了它）、有审判（智能爆炸）、有救赎（对齐研究）。这套结构，宗教味比工程味更浓。

比「超智能」更该担心的

作者的落点不是"AI 没风险",恰恰相反——他认为我们把焦虑放错了地方。真正紧迫的,是那些平淡无奇、却正在发生的风险:

被人用对，而非失控。一个军事 AI 精准执行「消灭某个群体」的指令——危险的不是它背叛人类，而是它太听话；执行完一个，主人就会想下一个。

加剧不平等。智能工厂可能催生一个微小的「超级富裕阶层」和被远远甩下的大多数。这不需要超智能，只需要现有 AI 继续按当前逻辑铺开。

监控与操纵。AI 已经在强化史上最强大的监控系统和宣传工具。这些此刻就在发生，却因为不够「科幻」而被末日叙事盖过了风头。

如果你也厌倦了两极化的 AI 叙事，把这篇转给同样想清醒思考的人。关注虾米数码，我们不贩卖恐惧、也不吹捧神话，只帮你看清 AI 真实的样子。