50人死伤才能叫停AI？Anthropic的算盘，被一个数字打翻了

"Anthropic，你到底是一家怎样的公司？"

问出这句话的是Nathan Calvin，Encode组织的首席战略官。就在一年前，他和Anthropic还在加州立法战场上并肩作战，一起推动AI安全法案。现在，他把矛头对准了老盟友。

起因是一份37页的文件。10月16日，Politico援引三名知情人士报道称，Anthropic正私下向美国国会议员推介一份联邦AI安全立法草案，路透社随后跟进确认。草案暂名《人工智能评估、治理与事件安全法》（AEGIS Act），要求大型前沿模型开发者公开风险报告、接受第三方评估、向政府报告重大安全事件——听起来全是安全派一直在喊的主张。

问题出在一处条款上：政府若想叫停一个危险的AI模型，必须证明它可能造成50人以上死亡或重伤，或者10亿美元以上的财产损失。

这条规定引爆了安全圈。被逼到墙角的CEO达里奥·阿莫迪（Dario Amodei），10月21日在X上发了近2000词的长文回应。他承认了三处"处理不当"，但没有松口那个数字。

"50人"不是拍脑袋，但用法变了

先说清楚这个数字从哪来。

2025年加州通过的《前沿人工智能透明法》（SB 53）已经采用了同样的标准：50人以上伤亡，或10亿美元损失。Anthropic当年是SB 53的支持者。所以批评者说Anthropic"背叛"，理由并不在这里。

区别在机制上。

SB 53用这个数字界定企业必须披露和评估哪些重大风险——一份义务清单。而Anthropic推的联邦草案，把同一个数字嵌进了禁令程序：政府想阻止某个模型发布或使用，得先跨过这道证据门槛。

同样的数字，放在"要报告什么"和"什么时候才能动手叫停"两种机制里，法律效果完全不同。前者是让你多做作业，后者是给政府的手铐加了把锁。

锁还不止一把。按草案设计，政府申请禁令需要商务部长亲自批准；申请书里必须说明危险预计什么时候发生、为什么罚款、警告等其他干预手段都不够用；就算全部过关，临时禁令最长也只有45天。

平心而论，这些程序约束不是没有道理。政府叫停一个模型，牵涉开发者的商业利益、下游企业的正常运转，还有行政权被滥用的风险。要求严格的司法审查，本来就是限制过度干预的常规设计。但把这套设计放进"最强调AI安全的公司"自己起草的法案里，观感就完全变了——安全圈读出来的不是审慎，是护身符。

草案还有一处埋雷：在联邦法律覆盖的领域，统一规则取代州级监管。措辞可能限制各州独立暂停模型开发、部署或使用的权限。加州辛辛苦苦建起的州级防线，可能被联邦法律整体覆盖——而联邦层面这套禁令机制，又严得几乎动不了。

昔日盟友的三选一质问

Calvin的批评之所以扎心，是因为身份。

Encode是个规模不大的AI安全倡导组织，深度参与了加州AI安全立法。Anthropic和它在SB 53上是同一条战壕的人。10月19日，Calvin发表长文，说Anthropic联邦事务负责人Anthony Cimino的解释没有触及真正的问题，然后抛出了那个三选一：

一家追求商业回报的科技公司？一家真正以安全为使命、必要时愿意放慢脚步的组织？还是一家把赢得超级智能竞赛放在第一位、还是把其他一切都放在次要位置的公司？

他给出了自己的判断：Anthropic越来越像第三种。

论据有九项。超过5000亿美元的算力合作协议；组建自研芯片团队；Claude参与公司内部AI研发的比例从3月的0%涨到8月的26%；今年2月更新的第三版《负责任扩展政策》（RSP）——旧版里有"安全条件不满足就不继续开发"的硬承诺，新版把这些约束改成了风险报告、能力评估和安全路线图，软了一大截；再加上一份提交国会后又撤回的信件，和一句"你不可能以第二名的身份做好安全"。

九项里最硬的不是钱，是RSP。算力投入可以说成竞争需要，但RSP是Anthropic自己给自己立的规矩，自己动手放松了。

达里奥的回应：认三小项，守四大项，抛一张人情牌

10月21日，达里奥在X上发了近2000词。

他先肯定Calvin做监督是对的，大型AI公司应该接受外部审视。然后话锋一转：我不同意你的核心观点。

对九项批评，他分了三类处理。

最后三项——撤回的国会信件、"第二名"那句话、联邦草案——他承认本可以处理得更好，归因于5000人规模的公司扩张太快、团队之间信息没对齐，并补了一句"我是CEO，我负责"。Cimino随后表示会修改草案中不精确的措辞。

中间的算力、芯片、内部研发几项，他不认错：这些是参与前沿竞争的正常做法，Anthropic从没承诺退出竞赛。

真正的重心放在了一张牌上：他首次披露，Anthropic今年2月就已经有一个Mythos级别的模型，因为担心它的网络攻击能力被滥用，只向少量做网络防御的合作伙伴开放，等到6月更强的防护措施就绪才扩大范围。广泛的开放被推迟了大约四个月，达里奥说，这很可能让公司损失了数月领先优势中的相当一部分。

这是整份回应里唯一的新信息，也是唯一指向"我们真的为安全花过真金白银"的证据。一家领先优势以月计的公司，主动压下一个能打的模型四个月——如果属实，这确实不是嘴上说说。

但注意两点。第一，2月有模型、损失了多少优势，全部来自达里奥本人的陈述，没有独立证据。第二，就算Mythos的事百分之百属实，它也只能证明Anthropic在某一次部署上谨慎过，回答不了联邦草案里那道50人门槛合不合理。

达里奥还重申了他讲了很多年的"向上竞赛"（Race to the Top）：只有Anthropic站在最前面，证明强大的AI能被负责任地开发，才有资本推动整个行业提高标准。Calvin担心的是Anthropic为了赢而松绑，达里奥的回答是——我们输了，行业安全只会更糟。

两套逻辑都自洽，矛盾就在这里。

一个数字照出的结构性矛盾

这件事最值得记下的，不是又一家公司"人设崩塌"。

是它把AI安全叙事里的一个结构性矛盾摆上了台面：一家公司愿不愿意为安全做出牺牲，和它主张的监管规则够不够严格，是两件必须分开检验的事。Mythos延迟四个月是前者的证据，50人门槛是后者的证据，前者证明不了后者。

对Anthropic来说，时间点也不巧。这家公司正在筹备11月中旬的IPO，目标估值2万亿美元。安全故事是它区别于OpenAI的核心卖点，而联邦草案透露的信息是：当安全承诺要写进有约束力的法律条文时，它选择把门槛定在了"政府几乎无法出手"的位置。

Cimino说会修改措辞，达里奥承诺进一步说明价值观。但截至发稿，Anthropic没有公开修订版法案，也没有对50人门槛松口。

监管条文比公关文章难看得多。一家公司对AI安全的真实态度，别听它说什么，去看它起草的法律文本里给政府留了多大的动作空间。

参考资料：

• 虎嗅/AI前线：《造成50人以上死伤才能叫停AI模型？Anthropic私下推动监管草案惹众怒，达里奥亲自回应》
• Politico（2026-10-16）：Anthropic私下向国会推介联邦AI安全立法草案（三名知情人士）
• Mother Jones（2026-10-17）：Anthropic's AI Safety Bill Has an Alarming Threshold for Government Action
• Technology Org（2026-10-21）：Anthropic Pitches AI Safety Bill With 50-Death, $1 Billion Threshold
• Business Insider（2026-10-21）：Dario Amodei 2000词回应，承认三处失误
• Motley Fool（2026-10-20）：Dario Amodei's AI Safety Warning Is Colliding With Anthropic's IPO Timeline