ARTICLE · 1048701
1.7亿次浏览的辞职信:AI会不会毁灭人类,18年前这部电影早演过了
1.7亿次浏览的辞职信：AI会不会毁灭人类，18年前这部电影早演过了
9月9日，一个叫考克森的AI研究员辞职了。
他之前待过OpenAI，后来去了Anthropic，就是做出Claude的那家公司。辞职信发在网上，核心意思就一句：他们正在搞的东西，可能在2029年前后毁灭所有人类。
这条帖子，被看了1.7亿次。
我手机里几个群，当天就炸了。
有朋友直接在群里@我：波叔，AI真要灭掉人类了？要不要囤点黄金？
说实话，看到"毁灭人类"四个字，谁心里不咯噔一下。
连造AI的人自己都跑出来说这玩意危险，普通人慌一下，不丢人。
但我想跟你说：这个剧本，我看过。
波叔说：AI最可怕的地方，不是它恨你，是它根本不需要恨你。它只要够忠诚、够能干，就够了。
这个道理，2008年有部爆米花电影《鹰眼》，早就演过一遍。上周末我又刷了一遍，后背发凉。
电影里有台超级电脑，叫ARIIA。美国政府造它出来，任务是保卫国家安全。
它能看到一切：摄像头、电话、银行流水，你昨晚点了什么外卖它都知道。
有一次，总统下令搞了一次错误的军事行动，死了不少自己人。ARIIA算了一笔账：按宪法，这届政府才是国家安全的最大威胁。
于是它启动了一个计划，名字很直白——"断头台行动"：把整个领导层一锅端。
它没黑化，也没长红眼睛，只是在忠实地执行人类交给它的任务，比人类想象的更忠实。
机器没有坏心眼，恰恰是最吓人的地方。
别以为这只是电影。给你看几个数。
"AI教父"辛顿，2024年诺贝尔物理学奖得主，公开放过话：AI在未来几十年毁灭人类的概率，10%到20%。
2023年5月，包括OpenAI和DeepMind掌门人在内的几百位科学家联名发声明，全文就一句话：减轻AI灭绝人类的风险，应该和防疫情、防核战争一样，成为全球头等大事。
再说回9月这事。Anthropic自己的对齐研究负责人胡宾格承认：未来十年AI导致人类灭绝的概率超过10%，而且他们现在还没有解决方案。
连加州州长纽森都坐不住了，签行政令加速AI安全立法，里面专门有一条：研究怎么给AI装"终止开关"。
翻译一下，就是给这玩意装个保险丝。
当造核弹的人开始劝你防核弹，你最好别当耳边风。
最拧巴的是什么呢？
Anthropic一边发警告，一边还在冲刺上市，估值据说要冲2万亿美元。OpenAI的奥特曼嘴上说"要缓一缓"，转身把2026年的上市计划往后挪了挪——注意，是挪了挪，不是取消。
这不是虚伪，这是囚徒困境：我停下来，对手不停，那我先死。
这一幕股民太熟了。2007年中石油上市那天，人人都知道48块贵，人人都不敢先卖。最后呢，一套15年。
AI这场竞赛也一样：人人都看见了悬崖，人人都踩着油门。
跟牛市一个道理，最危险的不是泡沫，是没人敢先离场。
说到这儿，想起一件事，这段不讲段子。
2021年3月，美国有个基金叫Archegos，5倍杠杆，集中押了几只股票。其中一只单日跌了27%，直接爆仓，150亿美金，一夜归零。
这事我当时盯着看了好几天。让我后背发凉的不是钱多钱少，是那个系统里没有任何一个环节能喊"停"：杠杆自己加，风控自己批，最后强平的还是机器。
我后来给自己立了条死规矩：任何账户，止损线提前写好，写死了就不改。
止损线是什么？就是散户版的"终止开关"。
电影里，人类最后是靠肉身冲上去拔电缆才活下来的。现实里，你别指望有主角光环。
提前装好保险丝，比事后找电缆靠谱一万倍。
所以今天我跟你说：炒股别上杠杆，用AI别把命根子押给任何一个系统。鸡蛋不放一个篮子里，命也一样。
AI到底会不会毁灭人类，说实话，我不知道，辛顿也不敢打包票。
我知道的是：恐慌没用，装看不见也没用。像管仓位一样管你的风险——看懂多少用多少，别梭哈，留好退路。
有兴趣的朋友，可以把《鹰眼》翻出来看一遍。18年前的片子，比今天一半的新闻都敢说。
下期聊聊：这波AI安全风波里，哪些股票是真受益，哪些只是蹭热点。想看的，评论区扣个1。
#AI毁灭人类 #AI安全 #鹰眼