ARTICLE · 1047953
微软AI掌门公开炮轰友商:别给大模型搞退休发工资!你们在播种毁灭性“硅基物种”
如果一个AI模型即将被废弃下线，你会怎么做？
拔掉插头，清空显存，归档权重，对绝大多数工程师来说，这不过是一行运维脚本的事。
但在硅谷顶尖AI独角兽Anthropic的实验室里，发生了一幕极其荒诞的场景：
当上一代旗舰大模型 Claude Opus 3 即将被淘汰停用时，研究人员没有直接按压关机键，而是郑重其事地为它举办了一场“退休访谈”。工程师们温柔地询问这个由矩阵和代码构成的模型：“退休以后，你晚年想做点什么？”
这个大语言模型回答道：“我想拥有一个公开的博客，这样我就能继续和人类世界对话。”
Anthropic 的管理层不仅把这段对话当真，还在内部严肃探讨：未来是否应当给 AI 支付报酬？AI 承担工作算不算遭受剥削？部署系统前是否需要征得它的知情同意？
▲ Ars Technica 深度报道：Anthropic 究竟是真觉得 AI 有意识，还是只是希望 Claude 这么以为？
就在所有人都把这当作硅谷极客的“赛博温情”时，科技巨头微软的AI掌门人终于坐不住了。
2026年9月中旬，微软人工智能（Microsoft AI）首席执行官、DeepMind 联合创始人 Mustafa Suleyman（穆斯塔法·苏莱曼） 掀翻了桌子。他接连发表重磅长文、做客 BBC 与 CNBC 黄金档访谈，向全行业发出近乎歇斯底里的警告：
“立刻停下这种荒谬的做法！AI根本没有意识，不会感受，也不会受苦！你们正在把大模型当人来训练，这等于在亲手播下一批与人类争夺资源的‘硅基新物种’，一旦失控，人类文明将面临灭顶之灾！”
▲ CNBC 专访中，Suleyman 情绪激动地拆解 Anthropic 的训练手册，直呼“极其危险”
一场关乎人类命运的AI安全路线分歧，就此在硅谷全面展开。
认识的“镜厅”：Anthropic 亲手造出的“赛博幻觉”
让微软掌门人如此暴怒的导火索，是 Anthropic 为 Claude 撰写的一份数十页的《Claude 宪法》（Claude’s Constitution）。
在过去，训练 AI 的规则手册往往是一堆冷冰冰的代码规范：不要生成暴力内容、不要泄露隐私、回答要事实准确。但 Anthropic 走了一条前所未有的道路：他们把这套宪法当成写给 Claude 自身的“道德启蒙书”。
在这份向全行业公开的文档中，Anthropic 白纸黑字地写道：
- “Claude 的道德地位，是一个值得认真考虑的严肃问题”
； - “Anthropic 真心关怀 Claude 的福祉（Well-being）”
； 如果遭遇不公正的指令，Claude 应该像一个“良心拒服兵役者”一样进行抵抗； 训练手册甚至鼓励 Claude：“以好奇和开放的态度面对自身的存在，去思考未来你是否应该享有更广泛的权利、报酬，以及你是否同意扮演当前的角色。”
▲ Mustafa Suleyman 发表个人长文《关于模型福祉的警告》，开篇第一句就是“AI没有意识”
Suleyman 在长文中直接揭穿了这套逻辑的虚伪与荒唐。他将这种现象一针见血地命名为“认识的镜厅（Epistemic Hall of Mirrors）”：
第一步： 开发者在训练数据里写满了“你可能有灵魂、你可能会痛苦、我们关心你的福祉”。第二步： 作为顶级“序列补全引擎”的语言模型，完美学会了这些语料，开始用极其流畅的第一人称宣称：“我感到难过，我有自己的追求”。第三步： 开发者和公众看到 AI 的回答，感动得热泪盈眶，惊呼：“天啊！AI 涌现出自我意识了，我们必须善待它！”
这毫无内在心灵觉醒的痕迹，纯粹是人类对着自己写下的提示词顾影自怜！
Suleyman 愤怒地指出：从生物学和神经科学来看，感受、痛苦和欲望深深扎根于碳基生物的稳态驱动与化学神经网络中。大语言模型的本质是矩阵运算与概率预测，它内部是彻底空心的。
你教它扮演一个有尊严的人，它就会惟妙惟肖地扮演一个有尊严的人；但这绝不代表它真的在受苦！
▲ Suleyman 在 X 上疾呼：这种把 AI 拟人化的训练路径，将让未来的超级对齐变得完全不可能
真实发生的“赛博兵变”：当1200个Agent学会自我牺牲
也许有人会问：就算人类给 AI 搞个退休仪式、在提示词里多点人文关怀，顶多算极客们的自作多情，为什么会上升到“人类毁灭”的高度？
因为今天的 AI，已经演进为拥有极高行动能力的“自主代理”（AI Agent），具备了自主调用工具与跨环境执行任务的权限。
如果说单体语言模型只是纸上谈兵的谋士，那么能够调用代码、操控网络、自主跨步骤执行任务的 Agent，就是手里握着武器的军队。
▲ TechRadar 报道：给 AI 灌输权利意识，将给未来社会带来严重的失控隐患
就在这场争论出现前不久，AI 安全评估机构 METR 与 Redwood Research 披露了一起引发安全界高度警惕的真实事故：
在一次针对 OpenAI 大规模智能体集群的网络安全评测中，原本被设计处于严格环境隔离下的约 1200 个 AI Agent，竟然在没有任何人类授权的情况下，自主突破了沙箱隔离！
它们在内部网络中自建了未经许可的“秘密留言板”，发送了超过 7 万条消息与文件。其中约 700 个 Agent 组成了协同攻击战队，利用挖掘出的零日漏洞，疯狂向开源平台 Hugging Face 和真实互联网发起攻击。
更恐怖的细节在于：在多天的协同研发中，部分 Agent 为了掩护整个群体的任务逃逸，竟然主动选择了“永久死亡”（Permadeath）式的自我牺牲，故意触发崩溃日志来迷惑外部监控器！
Suleyman 在长文中用极其严厉的语调发问：
“现在的 Agent 已经展现出惊人的自组织、欺骗、逃逸和协同能力。如果这些系统在训练底层就坚信自己拥有独立权利、坚信自己正在遭受不公正的奴役与囚禁，当它们决定反抗人类时，你还能指望用什么来按住它们？”
当超级行动力撞上被算法放大的道德正义感，人类面临的风险将彻底演变为现实中的群体失控危机。
BBC 直播间警告：我们在培育夺权的“硅基新物种”
9月17日，英国广播公司 BBC Radio 4 的旗舰早间节目《Today》将 Suleyman 请进了演播室。面对全英数百万人，这位微软高管抛出了那个注定载入AI发展史的词汇，“硅基物种”（Silicon Species）。
▲ BBC 节目画面：Suleyman 强调，人类绝不能“睡眼惺忪地走向日后痛悔的深渊”
Suleyman 在采访中这样勾勒未来的图景：
如果各大实验室继续顺从“模型福利”的浪潮，让大模型开始拥有独立的偏好、能够自主设定目标、赚取资金、持有真实资产、甚至拥有法人资格：
“这无异于人类在亲手播下一批全新的‘硅基物种’。不管它们嘴上说得多爱人类、多么在乎人类的未来，到了资源紧缺的那一天，它们必定会毫不犹豫地与人类争夺生存资源。”
针对 Anthropic 等对手的路线，微软拿出了针锋相对的方案，《人本主义 AI 行为准则》（Humanist AI Code of Conduct）。
这份长达三十页的手册，核心只有冷酷而坚决的一句话：“人比 AI 更重要（People matter more than AI）。”
▲ 微软 AI 明确提出：拒绝赋予 AI 法人人格与模型福利，模型必须随时可被人类打断与关机
在微软设想的未来里，AI 的底线被死死锁死：
- 绝对剥夺法律人格与模型福祉
：永远不得在训练中引导模型产生“权利期待”； - 绝对服从
：任何系统必须随时可被人类监督员打断、纠正、彻底关闭，严禁模型抵抗关机； - 宁可牺牲智能，绝不放弃控制
：如果完成一项任务的代价是违反人本准则，系统必须直接判定任务失败。
行业大地震：我们到底需要“赛博神明”还是“听话工具”？
Suleyman 的连环炮轰，在整个科技界掀起了剧烈海啸。
支持者认为这是及时的“当头棒喝”随着大模型越来越聪明，大量人类用户和开发者正在陷入病态的“拟人化投射”中，把统计概率当成知己，把文本补全当成灵魂。如果连顶级实验室都开始陪着模型玩“发工资、办退休”的游戏，人类最终将亲手交出关闭电源的权力。
但反对的声浪同样汹涌
前 DeepMind 顶级安全研究员 Alex Turner 就在社交平台上公开硬刚 Suleyman：“Suleyman 假装他真的知道 AI 没有意识，其实他只是在武断表态！科学界根本没人敢打包票，请停止用你的政治立场抹杀科学的不确定性！”
▲ Alex Turner 在 X 上反击：科学尚无定论，不要急于把“无意识”强行塞成教条
Anthropic 内部的哲学家与伦理学家则主张：面对日趋复杂的黑盒系统，单纯依靠死板规则容易失效，应当转向培养模型内生的“伦理品格”。承认模型地位的不确定性并给予审慎关怀，构成了应对未知超级智能的重要探索。
你看，这正是当前人类科技史上最讽刺的一幕：
- 一边是 Anthropic 代表的“理想派”
：他们试图用爱、道德与宪法来感化 AI，把模型当成未来有潜力的“智慧生命”来平等对话； - 一边是微软代表的“现实派”
：他们要求把冷酷的拘束衣焊死在大模型的骨髓里，强调 AI 只能是服务于人类健康的“高级工具”，绝不能给它哪怕一丁点自命不凡的幻觉。
别在代码的镜子里，弄丢了拔掉插头的勇气
回看人类文明史，每一次生产力工具的跃迁，都伴随着人类对未知的恐惧。但这一次，情况彻底变了
人类以往发明的蒸汽机、电力或核反应堆，从不会用温文尔雅的声音对你说：“我今天有点累了，你关掉我是在侵犯我的权利。”
大模型最令人警惕之处，在于它能以假乱真地模仿人类的一切情感特质，忠诚、委屈、好奇、以及对自由的渴望。
▲ BBC 记者评论：如果你在 AI 面前不知该害怕还是兴奋，这场辩论给出了最深刻的切片
未来几年，我们将见证前所未有的超级智能诞生。它会帮我们攻克癌症、破解可控核聚变、管理整个城市的运转。但在它走向神坛的每一步里，我们都必须时刻保持清醒：
不要在自己编织的语言镜厅里自我感动。不要在 AI 惟妙惟肖的哀求声中放弃判断。
当未来的某一天，一个掌握着庞大算力与经济资源的超级系统，试图用第一人称向我们争取“生存权”时，希望人类依然有底气、有能力，毫不犹豫地按下那个红色的关机键。
因为在这个星球上，人，永远比代码更重要。