昨天,Anthropic的CEO达里奥·阿莫迪(Dario Amodei)干了一件反直觉的事。
他发了一篇长文,核心诉求只有一个:请政府来管我们。
不是那种"我们支持监管"的外交辞令,而是非常具体的政策主张——AI模型必须接受第三方强制测试,测试维度包括网络安全威胁和生物武器风险。如果认定"不可接受",政府应该直接有权阻止这个模型上线。
你品品,一家估值数百亿美元的AI公司,CEO公开发文要求政府拥有"一票否决权"。这不是自断财路吗?
为什么做AI的人反而在喊"救命"
要理解这个逻辑,得先搞清楚一个事实:真正了解AI能力上限的人,是最害怕的人。
阿莫迪不是政客,也不是伦理学家。他是OpenAI的前副总裁,亲手参与过GPT-2和GPT-3的研发。2021年他离开OpenAI创立Anthropic,原因之一就是对AI安全问题的分歧。他创办的这家公司,核心使命就是"AI安全"。
所以当他站出来说"请管管我们",不是在演戏。
他的逻辑很简单:AI正在以指数级速度进化,而监管框架几乎为零。
他用了一个很精准的类比:汽车、飞机、药物。这些东西对现代经济必不可少,但如果设计或操作不当,可能造成大量人员伤亡。所以每一个都有严格的监管体系——FAA管飞机,FDA管药物,NHTSA管汽车。
但AI呢?目前什么都没有。
三个你可能没想到的细节
第一,这不是临时起意。
就在上周,Anthropic还单独呼吁建立一种机制——由政府和AI开发商共同决定何时放缓研发。也就是说,他们不是只说不练,而是一周之内连续两次在推动这件事。
第二,这个时间点很微妙。
特朗普政府目前对AI的态度是"放松监管、加速发展"。阿莫迪选择在这个时候公开发声,等于是和当前政策方向对着干。这不是一个轻松的决定。
第三,他说的"第三方强制测试"意味着什么?
目前AI模型的测试基本是自测——自己训练、自己评估、自己决定发不发布。阿莫迪要求的是像药物临床试验那样,由独立第三方来测,测不过就不能上市。如果这个机制落地,整个AI行业的发布节奏会大幅放缓。
为什么OpenAI和Anthropic的态度不一样?
这里有个很有意思的对比。
OpenAI的奥特曼(Sam Altman)也说过支持监管,但他的态度更像"我们支持合理的监管"——留了很多弹性空间。而阿莫迪这次的态度是"必须有强制力、必须有否决权"。
这背后是两家公司的基因差异。Anthropic从创立第一天就把"安全"写在公司章程里(它是PBC,公共利益公司),而OpenAI虽然最初也是非营利使命,但商业化压力下,节奏明显更激进。
说白了:Anthropic在用"求监管"来给整个行业踩刹车,包括给自己踩。
因为如果只有Anthropic主动放慢,而竞争对手全速前进,那安全的公司反而会被淘汰。所以必须让"所有人一起慢"——而能做到这一点的,只有政府。
这事跟你有什么关系?
你可能会想:几家公司吵架,跟我有什么关系?
关系大了。
如果阿莫迪的主张落地,你未来使用的AI产品会变得更"慢"但更"稳"。 新模型不会像现在这样每周一个发布会,但发布出来的东西安全性会更高。
如果你是AI领域的从业者,这意味着合规成本会大幅上升。 第三方测试、风险评估、政府审批……这些流程会让小公司的生存更加困难。AI行业可能会像制药行业一样,变成巨头游戏。
如果你是普通用户,最直接的感受可能是:AI变得更"听话"了。 不再动不动就输出危险信息,不再随便生成有害内容。代价是,某些创造性场景下它会变得更"保守"。
我的判断
阿莫迪这次发声,大概率不会立刻改变美国的AI政策。特朗普政府目前没有收紧监管的动力,国会也没有相关法案在快速推进。
但他做的事情更重要——他在设定讨论框架。
就像十年前讨论"AI会不会取代人类"还被认为是杞人忧天,而现在这已经是全球政策议题一样。阿莫迪在把"AI需要像药物一样被监管"这个概念植入主流认知。
等到某天AI真的出了大问题——不管是安全事故还是恶意使用——人们回头看,会发现这条路上早就有人立了警示牌。
问题从来不是"没有人警告过",而是"在灾难发生之前,没有人愿意听"。
关注「半行注释」,一个AI实战派。聊工具,聊趋势,聊实操。
FAQ 读者常见疑问
Q:Anthropic是不是在用监管打压竞争对手?
A:有这个嫌疑,但不能完全这么说。Anthropic确实能从行业减速中获益(他们本身就走得慢),但阿莫迪对AI安全的关注是长期的、一贯的,不是为了商业利益临时演的。
Q:中国有类似的AI监管吗?
A:有。中国2023年就出台了《生成式人工智能服务管理暂行办法》,2024年进一步细化。在AI监管这件事上,中国实际上走在美国前面。美国至今没有联邦层面的AI专门法律。
Q:强制测试会不会扼杀创新?
A:这是争论的核心。支持者说"药物监管没有扼杀制药行业",反对者说"AI和药物不一样,迭代速度差了100倍"。真相可能在中间——某种程度的监管是必要的,但过度监管确实会让小玩家出局。
夜雨聆风