夜雨聆风之所以想了解他，是因为我一直有三个问题。
第一个问题，他原来是 OpenAI 的核心研究人员，也参与过 GPT-2、GPT-3 和 Scaling Laws 等重要工作。那他后来为什么会离开 OpenAI，重新创办 Anthropic？
第二个问题，他为什么对中国如此强硬？他支持限制先进芯片出口到中国，也限制中国人使用 Claude。这些做法背后，到底是商业竞争、国家立场，还是他对 AI 风险的一整套判断？
第三个问题更加矛盾。
Dario（达里奥）一方面反复强调，前沿模型可能带来巨大风险，模型发展必须受到管控。他甚至敢于对美国政府划出红线，拒绝 Claude 被用于某些军事和监控场景。
但另一方面，当限制可能影响 Anthropic 自己的发展时，他又认为公司不能停下来，必须继续训练更强的模型、留在能力最前沿。
这背后到底是原则在变还是商业利益？
从家庭经历到 AI
搞清楚这些问题之前，先简单介绍下一他的家庭背景，Dario（达里奥）1983 年出生于旧金山。
他的父亲是一名受过专业训练的皮具工匠，母亲参与过图书馆的翻修和建设。他小时候对互联网创业没有太大兴趣，更喜欢数学和物理，希望理解宇宙运行的基本规律。
2006 年，他的父亲在长期患病后去世。这件事成为他从理论物理转向生物学的重要原因之一。
据 Dario（达里奥）后来回忆，父亲去世几年后，相关疾病的治疗取得了明显进展。这让他产生了一种很强烈的感受：如果技术早几年出现，一个家庭的命运可能就会完全不同。
后来，他开始研究神经系统、癌症和蛋白质。但研究得越深入，他越觉得生物系统的复杂程度，已经超过了个人和普通研究团队能够处理的范围。
也是从这个时候开始，他逐渐把 AI 看成一种认知放大器，希望用更强的计算能力，加快生命科学和其他研究领域的发展。
从 Scaling Laws 到离开 OpenAI
2014 年，Dario（达里奥）加入百度的 AI 团队，参与 Deep Speech 2。
在这段经历中，他发现一个非常重要的现象：当模型变大、数据变多、算力增加之后，AI 的性能也会比较稳定地提高。
后来他去了 Google Brain，又在 2016 年加入 OpenAI，参与 GPT-2、GPT-3，并和团队进一步总结出 Scaling Laws，也就是规模定律。
简单来说，在一定范围内，持续增加模型规模、训练数据和算力，模型能力就会按照相对可以预测的趋势提高。
这件事深刻影响了 Dario（达里奥）对 AI 的判断。
如果模型能力不需要等待某个无法预测的科学突破，而是可以通过算力、资金和工程能力持续制造出来，那么强大的 AI 就不再是一个遥远的想象，而是一个正在倒计时的问题。
那他后来为什么离开 OpenAI？
这件事经常被简单理解成，他反对 OpenAI 商业化，或者反对微软投资。但实际情况并不是这样。
Dario（达里奥）自己参与过 GPT-3 的商业化，也参与推动过 OpenAI 与微软的合作。他真正担心的，不是公司能不能赚钱，而是当模型能力、安全、产品发布和商业竞争全部绑在一起以后，到底由谁做最后的决定。
安全团队能不能真正阻止一个危险模型发布？公司接下来的使命，能不能约束管理层？当安全判断和商业利益发生冲突时，谁拥有最终决定权？
更深层的原因，是他不再相信 OpenAI 原来的治理结构和领导关系，能够约束越来越强的模型能力。
到了 2020 年底，Dario（达里奥）、他的妹妹 Daniela（丹妮拉），以及另外几位同事离开 OpenAI，创办了 Anthropic。
他们并不是想远离最强模型，而是想重新做一次组织实验：继续制造最强的模型，同时把安全、可解释性和治理机制从公司成立之初就写进去。
为什么对中国如此强硬
理解了 Dario（达里奥）对 Scaling Laws 的相信，也就比较容易理解他为什么对中国如此强硬。
在他的判断里，AI 已经不再只是一种互联网产品，而是未来国家级的智力、经济和军事能力。
谁拥有更多先进芯片、更大规模的算力和更强的模型，谁就可能在未来的科学研究、网络安全、情报分析和军事竞争中取得优势。
而中国在他的判断中，是一个拥有强大政府动员能力的国家。
中国政府能够集中资源推动产业发展，也能够对企业、数据、算力和技术应用施加更强的影响。在 Dario（达里奥）看来，一旦前沿 AI 掌握在这样的国家手中，就可能被用于大规模监控、网络攻击、军事研发，以及强化国家对社会的控制。
所以，这里能理解他为什么会对中国会如此的强硬限制。
安全原则，还是继续加速的理由
除了中国，在面对美国政府时，他也表现出非常强硬的一面。
Anthropic 已经把 Claude 用于美国政府的机密网络、情报分析、网络行动和作战规划。但它仍然保留了两条红线：不把 Claude 用于大规模的美国国内监控，也不在当前模型可靠性不足的情况下，让它控制完全自主武器。
美国国防部曾要求 Anthropic 放宽这些限制，并威胁停止合作、将它列为供应链风险，但 Dario（达里奥）仍然拒绝撤回这两条红线。
这说明他的安全原则并不完全是一句口号。在某些情况下，他确实愿意为了这些原则承担商业和政治上的代价。当然，也有另一种解读：这不仅是对安全原则的坚持，也是一种聪明的商业选择。Anthropic 通过向外界证明，即使面对美国政府的压力，它也不愿轻易放弃安全底线，从而传递出一个明确的信号——这是一家能够坚守承诺的公司。对于那些重视数据安全和使用边界的企业客户来说，这种态度反而可能增加他们对 Anthropic 的信任。
当然在安全层面，Anthropic 也做过不少尝试。
他们推出了宪法式 AI，让模型按照一套明确的原则检查和修改自己的回答；长期投入模型可解释性研究，希望理解模型内部为什么会产生某种行为；还设计了 RSP，也就是负责任扩展政策，希望模型能力越强，安全防护标准也同步提高。
但这里也出现了 Dario（达里奥）身上最剧烈的冲突和明显的双重标准。
他一边告诉所有人，前沿模型太危险了，必须受到管控；另一边又认为 Anthropic 自己不能停，因为只有留在最前面，才有能力研究和解决这些风险。
对别人而言，安全意味着接受限制；对 Anthropic 自己而言，安全却意味着必须继续领先。
这里很难简单判断，是公司利益让他不愿意减速，还是他真的相信“只有继续发展才能解决安全问题”。更可能的情况是，这几种因素同时存在。
但最终产生的结果非常奇怪：模型越危险，Anthropic 越有理由训练更强的模型；竞争越激烈，它就越有理由放松只有自己遵守的限制。
到最后，安全不再只是让它减速的刹车，反而也成了它继续加速的理由。
我对 Dario 和 Anthropic 的感受
了解完 Dario（达里奥）之后，我还是不太喜欢这个人，也不太喜欢 Anthropic 表现出来的一些做事方式。
最直接的原因，还是他对中国的强硬态度，以及 Anthropic 对中国用户和企业的实际限制。
加上我自己之前也注册过好几个账号，但最后都被封禁了。所以，这让我很难对他和这家公司产生好感。
但另一方面，又无法否认，Anthropic 的产品确实非常好用，而且模型能力也非常强。