ARTICLE · 1257318
AI刹车背后的利益博弈
AI刹车背后的利益博弈高喊给AI踩刹车的人，未必都关心AI。 听人说话，别只看他说了什么，要看这句话落地之后，谁受益，谁受损。 2023年3月，GPT-4发布后不久，一封名为《暂停巨型AI实验》的公开信刷屏全球。由非营利机构未来生命研究所（FLI）发起，马斯克、苹果联合创始人沃兹尼亚克、图灵奖得主本吉奥、AI经典教材作者罗素等上千人联署，呼吁所有AI实验室“暂停训练比GPT-4更强的模型至少6个月”，理由是“对社会和人类构成深远风险”。 今年9月，历史似乎重演。独立参议员桑德斯与进步派众议员卡萨尔联合推出《禁止人工超级智能法案》：永久禁止任何超越人类认知能力、可能摆脱人类控制的“超级智能”系统；在安全规则出台前，暂停先进AI研发；违规者最高面临20年监禁。消息一出，多家AI巨头高管也纷纷表态支持踩刹车。 两次事件，都把话说得很满：不是为了某家公司，不是为了某个党派，而是为了“全人类的安全”。 遇到这种宏大叙事，我们应该先问一句：如果这个呼吁真的落地，谁受益，谁受损？ 再看今年的法案。桑德斯几十年来一直打反科技寡头这张牌：2025年就推动暂停新建AI数据中心的立法，今年8月还致信OpenAI、Anthropic、Meta三大CEO，警告“不暂停，国会就介入”。这次法案条款极端，共和党和大量中间派议员几乎不可能支持，它大概率不会通过。但它能塑造一个叙事：科技寡头正在拿全人类命运赌博，而进步派在替普通人踩刹车。这是竞选叙事，不是立法草案。 同样的刹车，领先者踩是被迫，追赶者是机会，政客踩，是为了让选民看见他在踩。 同时也要注意，不要滑向所有人都在演戏的阴谋论。 2023年那封公开信，签名者里有一大批真正为AI风险焦虑的人。本吉奥是图灵奖得主、深度学习奠基人之一，罗素是AI领域权威教材的作者。他们签名，是基于专业判断的真诚担忧，并不从中获得商业利益。 而马斯克和一些科技公司高管的签名，就很难与商业博弈分开。同一封信，学者看到的是风险，资本看到的是窗口。这不是谁骗谁，而是同一份文件，被不同动机的人共同利用。我们可以称之为议题套利。 今年也一样。桑德斯法案公布前后，OpenAI的奥特曼、Anthropic的阿莫迪纷纷公开表态支持AI安全治理，看起来与政客同一阵营。但仔细看，阿莫迪明确说过：“彻底禁止并不是正确的做法。”他们要的是限速、评估、审计，也就是监管由行业参与制定，而不是立法永久封死赛道。美国联邦贸易委员会甚至公开质疑：几家巨头私下磋商AI安全合作，这更像是在挖护城河。 支持刹车的大方向是真的，但每个人希望刹车踩到什么程度、踩在谁的车上，完全不同。 把这两件事放在一起，可以提炼出一套通用的思辨方法。下次再听到谁慷慨激昂地呼吁为XX踩刹车，先问三个问题。 第一问：这个主张如果真的落地，谁受益，谁受损？不要听他说给谁听，要看规则写下来后对谁有利。抬高了准入门槛的监管，对已领先的大厂是保护，对初创公司是绞索。 第二问：他是长期一贯的主张，还是突然改口？桑德斯反科技寡头反了几十年，这是他的政治底色，所以他对AI巨头喊刹车并不令人意外。值得警惕的是另一类人：一个原本鼓吹AI狂奔的科技大佬突然改口喊刹车，该想想，他是不是看到了什么别人没看到的牌。 第三问：他给的是可落地的方案，还是一个宏大口号？“为人类安全负责”是口号；“独立第三方审计、训练前报备、风险分级评估”才是方案。口号越响，越要追问方案在哪。 讲到这里，容易把所有刹车呼吁都当成谎言。 必须承认，AI风险是真实讨论。对齐难题、目标错位、深度伪造、自动化攻击，这些有扎实的学术基础，不是政客和资本凭空编出来的。一个有私心的发言人，完全可以同时相信风险存在；一个道德高尚的人，也可能提出一个糟糕的方案。 所以正确的心态是分开两件事：说话人的动机可以有利害，论点本身真伪要靠证据判断。因为说话人有钱可图就全盘否定他的观点，和因为口号宏大就全盘相信，是同一种懒惰。 我们大多数人，既不是AI从业者，也不是政客，恰恰是最容易被宏大叙事动员的一群人。 下次再看到刷屏的AI末日警告或AI刹车呼吁，不必急着转发表态。先停三秒，问一问那三个问题。你会慢慢发现，公共舆论场上，最响的声音往往不是最真的声音，而是最能满足某种利益的声音。 学会这一层，不是为了变得愤世嫉俗，而是为了不被话术裹挟。独立思考，从来不是怀疑一切，而是学会拆掉话术的外壳，看见里面的利益结构。 公共舆论场上，最响的声音未必最真。真正需要练习的，不是更大声的回应，而是更冷静地问一句：这句话落地之后，谁受益？ 【End】 往期文章： 写给每一个正在被AI焦虑追赶的普通人 信息爆炸时代，如何搭建自己的知识体系，不被碎片化信息裹挟
一、两次刹车事件
二、刹车声响起时，先别急着感动
先看2023年GPT-4发布后的那封公开信。当时OpenAI凭借微软的巨额算力，一骑绝尘站在行业最前列。而马斯克自己旗下正在筹备 xAI 项目，当时技术储备远不在第一梯队。一同签名的Stability AI，主打图像生成，在大语言模型赛道和GPT-4差距巨大。还有其他不少签名的企业负责人，其自研大模型的能力，同样远远落后于OpenAI。
这些追赶梯队的企业，不会主动牵头发起刹车倡议，一旦由企业出面呼吁暂停，很容易被外界一眼看穿是行业竞争。最优策略，就是等FLI这个看上去中立的第三方机构抛出议题，再顺势签名，借这一场刹车呼吁，争取集体暂停的窗口期，抹平OpenAI的先发优势。
但这里一定要区分，签名名单里，还有大量高校学者、独立研究员，他们并非行业竞争者，签名纯粹源于对AI失控风险的专业担忧。同一份公开信，不同签名者，动机完全不一样。
