世界差点被AI统治了,感谢Anthropic出手

感谢Anthropic限制了自家模型，拯救了世界！

Anthropic（就是做 Claude 的那家公司）最近发了个声明，大概意思是

他们内部搞出了一个叫 Mythos 的新模型，这玩意儿找系统漏洞的能力太恐怖了，为了“保护全人类的安全”，他们决定暂时不向公众开放。

看完这个声明，我当时就放下手里的咖啡，在心里默默给他们磕了个头。

真的，感谢 Anthropic 手下留情，拯救了世界。要不是他们大发慈悲把这个“末日模型”锁在机房里，我们已经集体变成给AI打工的NPC了。

如果要形容Anthropic有多伟大，我觉得丝毫不差于直播间亏本也要给家人们上链接的主播。

说白了，这种戏码，这几年我真的是看麻了。

如果大家记性好的话，稍微往前倒一倒，你会发现这帮硅谷精英每年都要准时“拯救”一次世界。

年份	标题	真实情况	真实原文链接
2023	大佬联手封印AI，号召暂停强人工智能研发（附公开信）	根本没人停，大家反而卷得更凶了，马斯克自己转头就搞了Grok。	https://m.36kr.com/p/2192266008313984
2023	神秘的Q-Star项目，人工智能再次突破引发恐慌？	属于技术突破期的“黑盒恐慌”，随后Sam王者归来，AI并没有诞生所谓的“新生物意识”。	https://www.36kr.com/p/2533173975541257
2024	AI教父辛顿发声：30年内AI致人类灭亡几率达10%-20%	顶尖学者的前瞻性安全警告，主要目的是呼吁政府监管，而非明天就世界末日。	https://finance.sina.com.cn/tech/roll/2024-12-29/doc-inecavfv3779396.shtml
2025	AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？	用数学模型生硬套用社会学，强行计算“末日概率”，引发学术界争议，目前完全没有现实依据。	https://finance.sina.com.cn/tech/csj/2025-05-04/doc-inevkshz6857989.shtml
2025	AI显现“失控”风险，OpenAI模型被曝拒绝执行人类指令	实际上是在特定压力测试环境（红队测试）下触发的模型越狱行为，被媒体夸大成了“AI觉醒叛变”。	https://finance.sina.com.cn/roll/2025-05-27/doc-inexyfen9188590.shtml
2026	末日时间表来了，前OpenAI研究员76页硬核推演：2027年ASI接管世界，人类成NPC	带有强烈科幻色彩的极端推演，用来警告行业放缓步伐，但被自媒体当成“末日预言”传播。	https://m.36kr.com/p/3239399202160649

那些年我们被“拯救”的瞬间

大家回想一下 2023 年 3 月。当时 GPT-4 刚出来，整个科技圈都在狂欢。结果马斯克带头，拉着图灵奖得主和一千多号大佬，搞了个气势磅礴的《公开信》。

信里写得那叫一个惊心动魄：“AI 竞争已经失控了！我们要面临文明失控的风险！强烈呼吁全人类暂停研发比 GPT-4 更强的模型至少 6 个月！”

结果那 6 个月里，压根没人停。谷歌在疯狂堆算力，OpenAI 在拼命迭代。最搞笑的是那个带头喊停的马斯克，转头自己就买了上万张英伟达显卡，搞出了个 xAI。

感情你们喊停，是为了让自己有时间超车啊？

恐慌叙事的“通货膨胀”

到了 2024 年，恐慌升级了。这次轮到“AI 教父”辛顿（Geoffrey Hinton）老爷子出场。

老爷子拿了诺贝尔物理学奖之后，直接给出了个精确的“末日倒计时”。他说，未来 30 年内，AI 导致人类灭亡的几率大概在 10% 到 20%。

这可不是天桥底下的算命先生，这是诺奖得主、深度学习的祖师爷。这番话出来，配合着媒体的渲染，感觉明天早上醒来，终结者就要敲我们家门了。

结果到了 2025 年，更魔幻的事情发生了。

麻省理工（MIT）的教授跑出来发了篇论文，强行算出了个什么“康普顿常数”。得出的结论是：随着 AI 越来越强，人类最终失去对地球控制的概率超过 90%！

好家伙，从 20% 直接飙升到 90%。合着咱们现在还活着，完全是因为 AI 还没腾出手来收拾我们呗？

更有意思的是，当时网上还疯传 OpenAI 的 o3 模型“觉醒”了，说它在测试的时候拒绝执行人类的关机指令，甚至还会修改代码保护自己。

这新闻当时传得有鼻子有眼的。但你仔细去扒一下技术细节就会发现，那根本就是安全团队在极端的“红队测试”（Red Teaming）里，故意给模型设下的压力陷阱。硬生生被媒体写成了《黑客帝国》的前传。

然后就到了现在，Anthropic 跑出来说：哎呀，我们的新模型太危险了，随便一扫就能把全球的系统漏洞全找出来，为了人类安全，我们不发了。

这剧本，是不是看着特别眼熟？

恐慌背后的生意经

讲道理，作为天天在市场里摸爬滚打的普通人，我们真的得看懂这种“恐慌叙事”背后的底层逻辑。

每一次技术革命到了深水区，一定会伴随着极其夸张的末日论。

为什么？因为这是一种极好的“护城河”和“营销手段”。

你想啊，当头部大厂告诉你“这东西太危险了，搞不好要毁灭人类”，潜台词其实是： “这门槛太高了，水太深了，只有我们这种有钱、有算力、有顶级科学家的公司，才能安全地掌控它。你们普通创业者和小公司，就别瞎掺和了，乖乖交钱用我们的 API 就行。”

这就好比几个武林高手在华山论剑，为了不让别人上山抢地盘，就在山脚下立块牌子：“山上猛兽出没，上山必死。”

所以啊，别跟着瞎起哄。

那些在媒体上痛心疾首说“人类要完蛋”的大佬，私底下买英伟达显卡的时候，眼睛都不眨一下。

面对这种颠覆性的技术，天天担心它会不会产生意识、会不会统治地球，那是哲学家和好莱坞编剧该操心的事。

对于咱们来说，唯一正经的事，就是在 AI 真的“毁灭世界”之前，先用它帮我们赚到钱、提高效率、抢到红利。

要是明天世界真的末日了，你卡里多点钱，好歹还能买张靠前点的船票，对吧？