造AI的人联名上书,要求限制AI。他们每天写代码,却害怕自己写出的东西。这里面,藏着什么普通人没看到的事?

如果你每天的工作是训练全世界最强大的AI,而你每天下班后最大的恐惧,恰恰来自你白天写的那段代码——这不是科幻电影的桥段。这就是超过1200名AI从业者正在经历的真实处境。
他们不是站在路边举牌子的抗议者。他们是坐在工位上,一行一行敲出AI能力的工程师、研究员和安全团队成员。他们最清楚自己在造什么,也正因此,最害怕。
👇 一封联名信,戳破了一个行业保守了两年的体面
这封名为"Pacing the Frontier"的联名信,来自Anthropic、DeepMind、OpenAI和Meta——正是那些倾尽全力推进AI的头部公司。信的核心主张不是"关掉AI",而是要求美国政府建立一个可操作的降速机制:当AI模型展现出超出预期的危险能力时,监管机构有权责令开发者暂停、评估、修正,再继续。
"Pacing the Frontier"直译是"为前沿定节奏",说白了就是给跑得最快的AI装一个限速器。不是让车停下,而是在超速时强制降档。这个诉求乍看合情合理,但稍微深想一层就会发现:这封信真正戳破的,是AI行业用安全叙事包装了两年多的那张窗户纸。
一个行业保守了两年的秘密
过去两年,AI公司对外讲的故事高度统一:我们有安全团队,有红队测试,有对齐研究,一切都在"负责任地推进"。发布会上的PPT永远用淡蓝色,字体圆润柔和,语速不紧不慢。
但这封信揭开了另一个版本:公司内部的安全机制,在商业竞争面前,基本是摆设。一家公司如果单方面放慢AI开发速度,市场立刻会被竞争对手抢走。这是一个教科书级的"囚徒困境"——每个人都知道合作对大家最好,但因为无法信任对方,最终所有人都选择对自己最有利、也最糟糕的那个选项。
📖「囚徒困境」说人话:你和竞争对手在一条街上各开一家奶茶店。你们都知道,如果两家都不降价,利润最高。但你担心对方背着你悄悄降价抢客,于是你先降了。对方一看你降了,也立刻降价。结果呢?两家利润同时归零,只有顾客赚了。AI行业现在就是这样——所有人都知道应该慢下来,但没有人敢第一个踩刹车。
所以这封信的逻辑是:既然行业内部解决不了这个协调问题,那就让政府来做——通过外部强制力,让所有人的刹车同时踩下去。听上去很合理,对吧?但问题恰好从这里开始。
👇 理想很丰满,现实有三个拦路虎
让政府来管,凭什么管得住?
第一道坎:没有法律授权。美国目前没有任何法律条文授权任何一个政府机构对AI开发进行"紧急暂停"。要建立这个权力,必须国会立法。而在AI监管这个议题上,美国两党的分歧大到几乎无法弥合——一边担心管太多扼杀创新,一边担心管太少酿成大祸。等国会吵出一个结果,AI可能已经进化了好几代。
第二道坎:标准没法定。"未预期的危险能力"——这七个字听上去很严谨,实际上是一团橡皮泥。什么叫危险?谁来定义危险?人类目前对AI内部工作机制的理解还停留在"黑箱"水平。如果标准太宽,等于没设;如果标准太严,每一代新模型都可能触发暂停,开发节奏会被彻底打乱。
📖「训练算力阈值」说人话:信里建议给AI模型设一个"体能上限"——用掉的算力超过某个数值的模型,就要接受额外审查。就像给汽车限制最大排量,排量超过3.0T的,上牌前要多过一关。这个思路逻辑上没错,但问题是:怎么确定这个"排量上限"定在哪?定高了没意义,定低了拦不住。
第三道坎,也是最根本的一个:AI开发已经不是某一家公司或某一个国家的事。即使美国真按下了暂停键,全球其他玩家不会等你。一封联名信,拦不住国与国之间的技术竞赛。这不是1200人的签名能解决的问题。

你可能在想:这是硅谷工程师的事,跟我有什么关系?
关系很大。因为这些人不是AI的反对者,他们是AI的建造者。造房子的人说房子有裂缝,和路人说房子有裂缝,分量完全不同。当建造者集体表达恐惧,这件事就不再是"行业内部讨论"。它应该成为每一个用AI写周报、做PPT、查资料的人——也就是屏幕前的你——真正需要关心的事。"
他们不是站在门外抗议AI的人。他们是每天推开AI大门的那些人。正因为他们站在门里,才最先看到了门后面可能藏着什么。
💡这1200人没有一个天真。他们是全世界最清楚AI真实能力的一群人,正因为清楚,所以害怕。这封信的真正价值,不在于改变政策——短期内大概率做不到。而在于它制造了一份公开记录:2026年夏天,超过一千名核心从业者公开说,他们正在做的事情,可能已经超出了可控范围。这个记录,要么成为未来"早就警告过你们"的证据,要么成为后人回看时"反应过度"的笑话。但不管哪一种,都不会改变一个事实:在高速列车上喊"慢一点"的人,改变不了列车司机的KPI。
说一句可能不太中听的话——假如你是那1200人中的一个,你会签字吗?签了,等于公开承认自己公司的产品可能不安全。不签,等于对内心的不安假装看不见。大到国家,小到公司,再小到我们每个人——当一件"应该做"的事和一件"不得不做"的事正面冲突,你的选择是什么?
下次打开AI工具写邮件、做方案、查资料的时候,不妨想一想:那个在屏幕另一边写代码的人,此刻是什么心情?评论区等你。
关注「穹顶时光」,追踪AI如何改变你的日常
夜雨聆风