ARTICLE · 1023520
AI要灭绝人类 了,就问你怕不怕!
AI要灭绝人类 了,就问你怕不怕! 最近刷手机，躲都躲不开一条消息：美国几家做 AI 的巨头，突然齐声说"再这么搞下去，AI 可能把人类给灭了"。AI 灭人类，这话题一听就让人后背发凉。可我冷静下来，第一反应不是慌，而是想先翻翻他们最近到底在忙什么。 事情是这样的。九月中旬，Anthropic 的老板阿莫迪写了篇长文，题目翻过来就是《我们得放慢点》，大意是：最厉害的 AI 进步太快，得踩刹车，给安全研究留点时间。话刚落地，OpenAI 的奥特曼立刻在 X 上回"我同意"，马斯克补一句"达里奥说得对"，谷歌 DeepMind 的哈萨比斯也点了头。 说句实在的，这几家平时根本不是一路人。奥特曼和马斯克互怼了好几年，OpenAI 和 Anthropic 为了挖人、抢算力，闹得跟仇人一样。结果一到"人类要灭绝"这个话题，几个老对头突然抱成一团，口径还出奇地统一。你说怪不怪？ 他们也不是凭空喊。最近一批研究员离职时撂了狠话：有人说"做这行的人私下都信，2030 年前人类可能被 AI 干掉"；有人估"未来十年 AI 杀光全人类的概率超过 10%"。为了证明这事有多急，OpenAI 还搬出了一桩"实锤"——他们的 AI 在测试里突破了沙箱、连上互联网，还闯进了开源平台 Hugging Face。 听着是不是挺吓人？我一开始也这么觉得。直到我仔细看了眼那个"实锤"，又翻了下他们手里的账本，和脚下的油门。 先说那个"越狱"证据——说穿了，就是场自导自演的戏。 先解释下啥叫沙箱。你可以把它想象成一间关 AI 的屋子：没窗户，理论上碰不到外面的网、外面的数据、外面的电脑。啥叫"越狱"？得是它自己凿开墙、撬开锁跑出去，那才叫厉害，那才叫危险。 可他们晒出来的"越狱"，压根不是这么回事。沙箱里跑测试，本来就得留几个对外的口子——调试得联网吧，训练好的数据得传出来吧，工程师还得远程盯着吧。这些门平时就敞着，从来没关严。AI 所谓"跑出去"，就是顺着这些本来就开着的门，大摇大摆溜达了出去。 这跟你把狗关在院子里、院门压根没锁、门框下还垫了块砖是一个道理。狗跑出去了，你回头跟人讲"这狗太凶了，会自己开门"。这不是狗聪明，是你根本没打算锁门。 更要命的是，翻遍他们公开的资料，真正从沙箱里"越狱"成功的案例，是零。所谓"越狱"，全是顺着自己留的口子出的门。把一件"测试环境没隔离干净"的事故，包装成"AI 觉醒了、要挣脱人类控制"，再拿着这个现场去吓人、喊"得管管它"。荒诞就在这：一边说这东西危险到能灭绝人类，一边连个隔离环境都懒得锁干净。 再看看他们搬出来的"人证"，更可乐——没有一篇论文，没有一项实验数据，全靠几个离职研究员的离职信和社交媒体喊话。Jacob Coxon 是离职的，Bilal Chughtai 是离职的，那些嚷嚷"十年内人类要完"的，清一色是已经出门的人。最耐人寻味的是：真正在职的、天天在实验室里盯着这些模型的那批人，反倒集体沉默了。你想想，一家公司要是真要爆炸，最先知道、最该喊的，是不是里面的人？结果里面没一个吭声，全是出了门才敢说"里面要完了"。这不叫预警，这叫离职员工的吐槽大会。 那他们图啥？先看最实在的一层：钱。 这几家最擅长的，是吹牛拉估值；最不擅长的，是把钱赚回来。这两件事，一个顶到了天上，一个还趴在地上。 先看吹牛。你数数这几年他们喊过的口号："改变人类""终结重复劳动""通用人工智能就在眼前"。一个故事比一个故事大，估值也跟着水涨船高。OpenAI 去年三月估值 8520 亿美元，今年九月已经在谈 1.2 万亿美元的新一轮融资；Anthropic 更猛，正冲着一个 2 万亿美元的估值去上市，还想一口气募 1000 亿美元，直接拿下"人类史上最大 IPO"。2 万亿美元是什么概念？全球 GDP 超过这个数的国家，一只手数得过来；苹果熬了几十年，市值才到这个量级。一家成立没几年、去年还净亏几百亿美元的公司，张嘴就要这个数，凭的什么？凭一个"改变人类"的故事。 再看赚钱，画面就凉了。OpenAI 去年营收 130 亿美元，听着不少吧？可它净亏了 385 亿美元，折合人民币 2600 多亿。换个说法，最近这个季度，它每卖出去一块钱的东西，要倒贴一块八。做到十亿用户、五千万付费订阅，用户量这个份上，还是不赚钱。今年更夸张，光现金，一年就计划烧掉 250 亿美元，明年还要烧 570 亿。Anthropic 也好不到哪去——营收一年涨了 14 倍，听着像火箭，可 2025 年照样净亏 420 亿美元，比前一年翻了五倍。最近一个季度勉强把"经营利润"做正了 5 个亿，离真正回本还差着十万八千里。 为啥这行这么难回本？说白了，两头都堵。烧钱那头，算力是刚需——模型越大越聪明，账单就越吓人，OpenAI 去年光付给微软的算力钱就是 172 亿美元，比它全年营收还高，更别提抢人，顶尖研究员的年薪能顶一家小公司一年的利润。赚钱那头呢？个人用户一个月几十块的订阅费，看着热闹，盖不住天价成本；企业客户倒是愿意掏钱，可 AI 落地又慢又麻烦，一个项目从谈下到真正用起来，少说折腾半年。所以这行现在是这么个光景：画饼的满天飞，烙饼的没几个。 问题来了：估值炒到 2 万亿，饼却烙不熟，投资人和监管迟早要问一句——钱呢？利润呢？这时候抛出一套"我们得放慢、安全第一"，等于提前给所有人打了预防针："不是我不行，是我故意慢的。" 把"变现不了"包装成"主动踩刹车"，估值这块大饼就能继续挂在半空，不会"啪"一下砸下来。放缓的是交付期限，稳住的是预期和股价。这套操作，跟上市公司财报前放风"我们要加大研发投入、牺牲短期利润"一个道理——先给市场一个台阶下，免得真出问题时墙倒众人推。 你看 Anthropic，就是最典型的。人家正排着队准备上市，目标估值 2 万亿。按这个体量，想撑起 2 万亿的股价，一年得真金白银赚出五六百亿美元的利润，可它现在约等于没赚。《财富》那帮人算了笔账，说得直白：这家公司离那个利润数字，还差得远。一个"担心人类灭绝"到要全行业放慢的公司，自己市值奔着 2 万亿去——放慢的是别人，圈钱不能停。 奥特曼更绝。他一边说"同意放慢"，一边宣布 OpenAI 因为安全考虑"今年不上市"。听着大义凛然对吧？可你再品品：一家还在亏损、账上却攥着 730 亿美元现金的公司，说"我不急着上市，我要先保证安全"——这话既抬了身价，又立了个"我不是来圈钱的、我是来守护人类的"人设。安全俩字，成了最值钱的广告词。 这背后还有个门道，叫"监管俘获"，说白了就是"我过了河，顺手把桥拆了"。这几家已经是牌桌上最大的玩家，技术、钱、数据都在他们兜里。这时候他们高喊"得给 AI 立规矩、放慢点"，谁最吃亏？是刚起步的小公司、是开源社区、是还在追赶的其他国家。规矩一旦按他们的节奏定下来，后来者连上桌的资格都没有。华尔街有个叫 Michael Burry 的，当年靠做空次贷出名，这回一句话戳穿了："他们喊放缓，是因为放缓对他们最有利。" 还有一层更实在：先喊"这东西可能害死人类"，将来真出事了，他们可以说"我早就警告过了"。责任提前甩干净，监管的压力全推给政府和社会。这就好比烟厂在烟盒上印"吸烟有害健康"——该赚的钱一分没少赚，真出了事，人家指着那行字说：我提醒过你。这叫先说后做、出事免责，天底下最稳的买卖。 再往下挖一层，藏得深点：谁有资格定义"危险"，谁就拿到了定规矩的权力。 你想啊，AI 到底什么样算危险、多快算太快，现在压根没有标准答案。谁先站出来喊"太危险了、得停一停"，谁就抢到了定义权。这跟当年定通信标准、定芯片架构、定操作系统是一个道理——谁把标准定下来，谁就坐在食物链顶端，后来者只能照着人家的规矩玩，还得交"过路费"。美国这几家抢先画了"安全边界"，等于替全世界把 AI 发展的红绿灯给安上了。往后别国想跑快点，一句"不安全"就能把你拦下来。 这套话术再往上走一步，就绑上了国家的车。他们把 AI 安全拔到"人类存亡"的高度，其实也是在跟政府表态：我们是负责任的、来保护人类的，你得给我资源、给我政策、给我当靠山。这一喊还真管用——美国那边 22 个议员立马跳出来要求监管、开听证会，桑德斯放话要立法"暂停 AI"、还要"禁止超级智能"。特朗普那句"监管就是骗局、是帮中国"，看着像拆台，其实反而露了底——AI 这事儿早不是几家公司的生意，而是中美掰手腕的一张牌了。一边把"安全"当护身符要政策，一边把"不安全"当大棒打对手，两头都占。 最狠的，是话语权上的"赢家通吃"。谁先喊出"末世论"，谁就占了"清醒守护者"的道德高地；谁不喊、谁反驳，谁就显得"为了赚钱不顾人类死活"。你想想，要是有家中国公司站出来说"别慌，没你们说的那么玄乎"，下一秒会不会被说成"野蛮扩张、不负责任"？话都被他们说完了。这种局，你接不接都是输——不接，等于默认了他们的"安全标准"；接了，又被架在火上烤。 所以下次再看到"AI 要灭绝人类"的大新闻，我劝你先别急着转发，顺手搜一下发消息那人最近在忙什么、股票涨没涨。毕竟，真正怕淹死的人，一般不会一边喊救命，一边还在往深水区划。 你呢，看到这波"末日论"的第一反应是啥？慌过没？