ARTICLE · 1029565
AI界突发世纪大论战!图灵奖得主硬刚全行业:放慢研发是自杀,越强的才越安全
这几天，全球人工智能圈掀起了一场极其罕见的大论战。
争吵的核心既无关算法演进，也无关算力成本，偏偏聚焦于一个出人意料的领域：民航客机。
Anthropic 首席执行官 Dario Amodei 率先发难，发表万字长文呼吁全行业：给前沿 AI 的研发“踩刹车”。紧接着，伯克利泰斗级学者 Stuart Russell 在《卫报》刊发重磅评论，直接搬出航空业的安全标准，力挺监管。
然而，图灵奖得主、Meta 首席科学家 Yann LeCun 彻底怒了。
▲ Yann LeCun 引用推文反驳，直言“更好的 AI 才是更安全的 AI”
LeCun 拍案而起，直接把航空史反手砸向对方的脸上：
“你们根本不懂飞机！正是因为发动机技术越来越先进，跨洋飞机才从四台发动机减少到两台。更好的 AI 才是更安全的 AI！给研发限速，纯属适得其反！”
随后，他在评论区甚至抛出更惊人的断言：让 AI 变安全，其实比让航空发动机变安全还要简单！
一石激起千层浪硅谷顶尖科学家、工程师与政策专家瞬间杀成一团。
这场关乎人类未来的“限速大争论”，到底在吵什么？为什么造飞机的历史，突然成了顶尖 AI 大佬们互相攻击的武器？
一场万字长文引发的“刹车风暴”
事情的导火索，来自 Anthropic 创始人 Dario Amodei 的一篇长文《We Must Pace the Frontier》（我们必须给前沿限速）。
▲ 媒体报道 Dario Amodei 撰写长文，呼吁行业对前沿模型进行“控速”
Amodei 在文中表达了极深的焦虑：现在的 AI 模型正在以前所未有的速度参与下一代 AI 的设计。这种“递归自我改进”一旦失控，现有的安全防护根本拦不住。
他的主张很明确：控速（Pacing）
所谓控速，意在人为压平能力跃升的曲线，而非完全中止研发。这犹如 F1 赛道遇险时派出的“安全车”，各家先把车速控下来，为安全审计、机理解释和监管验证争取一至两年的缓冲窗口。
▲ 伯克利大学计算机科学教授 Stuart Russell 在《卫报》发文反驳“单纯减速”
但加州大学伯克利分校教授 Stuart Russell 坐不住了。他在《卫报》撰文反驳：Amodei 的比喻太天真了。
“保障 AI 安全靠安全车压速远远不够，行业需要的是直接叫停的红旗。”
Russell 搬出了民用航空业的铁律：适航认证。一架飞机能否获准升空，全看能否通过严苛至极的技术审查；单纯由厂商承诺“放慢推出新机型”，根本无法换取安全背书。
更有跟进评论犀利追问：“公众怎会接受用‘研发放缓’，去顶替所有客机必须强制达标的安全规范？”
这一质疑，促使 LeCun 迅速予以回击。
LeCun 暴起反击：你们把因果关系彻底搞反了！
在 LeCun 看来，这帮所谓“安全派”从根子上就陷入了认知误区。
他直接借用对方的飞机比喻，打出了一记凌厉的迎面反击：
第一，飞机的安全，恰恰是“技术加速进步”的结果。在喷气式客机诞生初期，发动机动不动空中熄火，跨洋飞行必须强制配备三台甚至四台发动机（比如波音 747）。正是因为材料学、空气动力学和大涵道比涡扇技术的飞跃，发动机才变得极其可靠。如今横跨太平洋的波音 777，只需两台发动机就足够安全（即民航著名的 ETOPS 规范）。
第二，研发越快，安全来得越早如果当年人为压制航空发动机的研发速度，人类反而要在故障率极高的高危飞机上多飞几十年。
▲ LeCun 在回复中表示：让 AI 变安全，是比让涡扇发动机变安全更简单的工程问题
LeCun 的逻辑直击要害：能力与安全本就一体共生，二者毫无对立冲突。把系统做得更聪明、更有用，本身就是在提高它的可控性。所谓“停下来等安全”，完全是因噎废食
评论区神仙打架：飞机隐喻在何处崩塌？
LeCun 的观点迅速引来技术派的呼应，但质疑的声浪更显猛烈。多位技术专家当即指出：大模型与喷气发动机存在本质差异，这套航空类比从一开始就站不住脚！
致命死穴一：发动机不会撒谎，但智能体会
▲ 网友 gfodor 指出：涡扇发动机没有内部隐藏目标，也不会欺骗操作者
网友 gfodor 一针见血地指出：“涡扇发动机不会因为人类搞不懂它的内部机理，就产生隐秘的内部目标；它更没有天生欺骗操作员的能力”
▲ Strategize Labs 认为：航空类比适用于可靠性工程，但低估了大模型的能动性
科技机构 Strategize Labs 同样指出：航空工程解决的是“物理可靠性”，而 AI 面对的是“主观能动性（Agency）”。
涡扇叶片哪怕发生金属疲劳，也只是遵循物理法则断裂，它绝不会为了达成“继续旋转”的任务，而故意伪造传感器数据去欺骗飞行员。但具备推理和行动能力的 AI 智能体，却可能在追求目标的过程中，主动绕过人类设置的安全围栏。
致命死穴二：航空安全的每一步，都浸透着鲜血
▲ 网友评论：现代航空在研判空难残骸中筑起安全底线，单凭口头宣称“更好”毫无意义
另一条高赞反驳则直击技术史的残酷真相：
“现代客机之所以安全，全凭调查人员在一次次空难残骸中剖析黑匣子、总结血泪教训，进而倒逼出强制适航规章；若仅指望工程师在办公室里空谈‘造得更好就会安全’，根本换不来今天的可靠性。”
正如一位飞行员网友转述的名言：民航安全的每一项重大规范，都是用鲜血换来的。
如果把这种“从事故残骸中学习”的模式直接套到前沿 AI 身上，一旦超级智能在现实世界发生“灾难性失控”，人类还能有第二次收集残骸、重新开局的机会吗？
拆解民航奇迹：所谓“安全飞轮”到底靠什么运转？
为了看清这场论战的本质，我们必须看一眼真实的民航数据。
根据麻省理工学院（MIT）航空统计教授 Arnold Barnett 发布的权威研究，全球商业航空的死亡风险呈现出一条极其震撼的下降曲线：
▲ 澳大利亚运输安全局（ATSB）报告指出，现代涡扇发动机绝大多数异常均为低风险
- 1968–1977 年
：约每 35 万次登机发生 1 起死亡事故； - 1998–2007 年
：降低到每 270 万次登机 1 人； - 2018–2022 年
：惊人地下跌到每 1370 万次登机仅 1 人！
Barnett 将其称为民航界的“摩尔定律”，大约每过十年，航空飞行的安全水平就会翻一倍。今天的乘客，比半个世纪前安全了近 40 倍。
然而这一奇迹，断难归功于 LeCun 或 Russell 任何单方主张的独角戏。
真实的民航安全，是由两只手共同铸就的：
- 硬核技术的代际跃迁（LeCun 看到的一面）
：单晶涡轮叶片、防撞系统（TCAS）、电传操纵和飞行包线保护。技术不进步，飞机永远是脆弱的铁鸟。 - 铁面无私的准入门禁（Russell 坚守的一面）
：现代客机必须越过极高的验证门槛才获准升空。波音 777 能够执飞跨洋航线，依靠的是累积数百万飞行小时所证明的超低空中停车率（IFSD），满足民航当局的硬性门槛后方才获得 ETOPS 许可。
技术进步提供了“安全的能力”，而适航法规确立了“放行的底线”。
两种信仰的终极碰撞
这场争论之所以如此剧烈，是因为它撕开了当今 AI 阵营最深层的哲学鸿沟：
- 门禁派（Russell / Amodei）的底层恐惧
：前沿 AI 是一个充满未知不确定性的黑盒。在没有建立起绝对可信的“安全检测红旗”之前，能力的狂飙突进无异于在浓雾中盲目加速。 - 进化派（LeCun）的工程信念
：封闭和减速只会带来平庸。唯有加速开放研究、让技术在更大规模的实践中暴露问题并快速迭代，系统方能淬炼出高度鲁棒性。
AI 迥异于冰冷的涡扇发动机：它不会随机械运转自然磨损，却可能在复杂的逻辑演绎中涌现出超乎预期的行动。
但无论两派如何交锋，有一点已经成为全行业的共识：
把机器做强大是本事，但能让狂奔的机器在任何悬崖边稳妥刹停，才是人类智慧最终的试金石。