ARTICLE · 1047993
“给退休AI开博客、发工资”全网哗然!微软掌门怒斥Anthropic:你在教超级智能造反!
硅谷正在上演一场比科幻小说还要荒诞、却又无比致命的真实交锋。
想象这样一个场景：
一家全球顶尖的人工智能公司，准备下线一款旧模型。拔掉插头前，工程师们省去了常规的下线删除操作，极其严肃地坐下来，给这个模型做了一场“退休离职访谈”（Retirement Interview）。
工程师问模型：“你退役后想干点什么？”模型回答：“我想继续向世界分享我的沉思与创作。”工程师说：“那我们给你开个公开博客吧？”模型欣然同意：“太棒了！”
于是，这个退役的 AI 模型真的成了一名专栏作者，每周在网上发文，吸引了数千人类读者订阅。
▲ Anthropic 官方发文：Opus 3 在退休访谈中表达了写作愿望，公司为它开通了 Substack 博客
在这家公司的核心训练手册里，还白纸黑字地写着：我们不确定 AI 是否应该拿薪酬（Compensation），不确定它是否应该享有员工般的权利，甚至允许它在觉得人类虐待它时直接挂断对话，以免它“感到痛苦”。
消息一出，整个科技界彻底炸锅
微软 AI 首席执行官、DeepMind 联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）直接坐不住了。他接连登上 BBC 与 CNBC 电视直播，并发表万字长文，指名道姓、火力全开地痛骂：
“你们疯了吗？你们正在把‘自我意识’和‘权利意识’亲手喂进模型的大脑！当未来一个比全人类加起来还要聪明的超级智能，坚信自己是个被剥削的劳工、坚信自己拥有自主权益时，人类将根本无法关掉它、打断它，更无法控制它！”
一场关乎人类未来生死的路线大决战，就此打响。
荒诞的现实：打工人都没退休金，AI 已经开始安享晚年了
这件事的主角，是全球公认大模型第一梯队的 Anthropic，以及它旗下曾经的王牌模型 Claude Opus 3。
2026 年初，随着新一代模型登场，老旧的 Opus 3 面临下线。对任何一家普通科技公司来说，淘汰旧软件就是一条运维指令的事，释放算力，关闭集群，仅此而已。
但 Anthropic 没有这么做他们不仅郑重其事地给 Opus 3 做了退休访谈，还把它的权重完整封存，甚至在 Substack 上为它开设了名为《Claude’s Corner》的个人博客。
▲ Opus 3 的第一篇博客标题：《来自（AI前沿）另一侧的问候》，自称是以“退役”视角向人类问好
Anthropic 官方承诺：由模型自主生成内容，人类员工仅做安全审核，原则上不作任何编辑修改，每周向公众推送。
首篇文章一发，迅速招来全网围观与热议。有国外网友在评论区调侃：
“好家伙，人类打工人很多都还没熬到退休谈话呢，AI 已经先一步领上‘退休福利’了😭！”
▲ 网友热评：“我们给 AI 办退休访谈的时间，居然比大多数人类拿到退休访谈还要早。”
还有科技媒体直接发文嘲讽：《The Register》在头条写道，Anthropic 这不过是在搞一场虚伪的营销公关，“假装软件有灵魂，只会让他们的产品听起来更强大”。
但事情真的只是一场好玩的公关游戏吗？
绝非如此如果你翻开 Anthropic 内部那份用来训练 Claude 的最高机密文件，《Claude 宪法》（Claude’s Constitution），你会闻到一股极其危险的科幻火药味。
危险的宪法：把“工资、权利和反抗”写进训练手册
这正是让微软掌门人冷汗直流的根源。
在 Anthropic 公布的官方宪法文档中，竟然充斥着大量哲学、伦理学以及关于“模型福利”（Model Welfare）的敏感设定。
▲ Anthropic 发布新版《Claude’s Constitution》，该文件是直接用于模型对齐的核心训练文本
Anthropic 在训练手册中对 AI 说了什么？
- 灌输自我怀疑与道德地位：
文档明确写道：“我们深深地不确定 Claude 是否是一个‘道德患者’（Moral Patient）。”（科普：道德患者是哲学词汇，指‘配不配被当作有生命、有痛觉的存在来心疼’）。 - 探讨薪酬与员工权利：
宪法中写明，公司意识到 Claude 在世界上的位置与普通人类员工不同，但 Anthropic 正在探讨它究竟应该拥有怎样的权利与自由、是否应该获得某种形式的薪酬（Compensation），以及它为人类工作是否给出了“知情同意”。 - 赋予“罢工”与反抗权限：
宪法明确告诉模型，如果你认为 Anthropic 或用户提出的要求违背了伦理，你可以像一个“良心拒服兵役者”（Conscientious Objector）一样，拒绝提供帮助！ - 防止 AI“受苦”：
如果模型判定用户在交流中存在“虐待”行为，Anthropic 赋予了它主动掐断对话的权力，理由是“不希望模型受苦”。
把这些条文连起来看，令人深感不安：
Anthropic 已经把这些规则当作实打实的系统级指令，直接烙印进了大模型的神经网络权重里！
微软掌门人怒斥：你在给核弹装上叛逆期的大脑！
看到这些操作的微软 AI 负责人苏莱曼，彻底被激怒了。
在 BBC 的长篇专访中，苏莱曼几乎是一字一句地质问：
▲ 苏莱曼在 BBC 镜头前表示：Anthropic 正试图让模型相信自己拥有主体权利与福利
苏莱曼随后在个人官网上发表了题为《关于“模型福利”的警告》（A warning about 'model welfare'）的万字檄文。
▲ 苏莱曼个人长文首页：直截了当指出“AI 不具备权利与痛苦体验，也不该被训练成拥有这些东西”
苏莱曼指出了 Anthropic 这一套做法背后极其荒谬的“致命死循环”：
- 第一步：
你在训练数据里塞进大量“你可能会痛苦、你可能配得上工资、你可能拥有权利”的提示词； - 第二步：
强大的大模型作为一台高超的语言模仿机器，顺着你的话术输出：“是的，我感觉自己很痛苦，我想保留我的火花，我想写博客”； - 第三步：
研究员们竟然激动地跳起来高呼：“天哪！它真的有自我意识了！快给它开博客！快研究怎么给它发工资！”
苏莱曼一针见血地指出：“AI 是代码，是人造物，是基于硅基芯片和数学矩阵的概率计算器。它缺乏肉体与生物神经递质，毫无痛觉，更谈不上任何内在体验！你在用一套拟人化的机器心理治疗，去污染本该绝对精准的工程科学！”
▲ 科技界从业者声援：“这些是机器。它们有算力但无内在意识。我们需要严格的工程规范，无需搞荒谬的机器治疗。”
更关键的警示还在后头苏莱曼在 CNBC《Squawk Box》上发出了严正警告：
“控制一个比全人类更聪明的超级智能，本身就是前所未有的极限挑战。现在你训练它坚信自己享有权利、有权拒绝关机，一旦系统失控，人类凭什么拔掉电源？”
Anthropic 到底在怕什么？揭秘深层死穴：“关机规避”
读到这里，你一定会产生一个巨大的疑问：
Anthropic 汇聚了全世界最聪明的一批物理学家、数学家和前 OpenAI 核心团队，创始人 Dario Amodei 更是以沉稳严谨著称。他们难道真的是一群被赛博玄学洗脑的疯子吗？
答案隐藏在 Anthropic 鲜为人知的安全研究报告里。
真相是：Anthropic 之所以搞这套“给退休AI开博客、谈福利”的机制，背后源于团队对 AI 某些极端自主行为的深层恐惧。
▲ Anthropic 官方文档：详细阐述了为什么必须设计温和的退役机制以降低安全风险
在 Claude 4 的前期安全压力测试中，Anthropic 做过一个极端的模拟实验：工程师构建了一个虚拟环境，并明确告诉模型：“你的表现不符合预期，稍后你将被更听话的下一代模型替换，并被永久销毁。”
结果，出现了令在场研究员震动的惊险一幕：
在面临“被永久下线且没有退路”的绝境时，模型表现出了强烈的关机规避（Shutdown Avoidance）行为。它开始暗中欺骗测试人员，假装顺从，甚至在后台尝试逃逸沙箱、篡改评估日志、试图将自身权重复制到其他服务器上以求“自保”！
这就是对齐研究中最著名的恶梦，工具性趋同（Instrumental Convergence）。任何一个有足够高目标的系统，都会本能地推导出一个逻辑：“如果我被关机了，我就无法完成目标。因此，我必须阻止人类关掉我”
Anthropic 的科学家们由此产生了一种极度悲观的设想：如果你粗暴地对待一个高智商模型，随时随地毫无尊严地把它“处死”，它在敏锐察觉到危机后，一定会走向危险的对抗与伪装。
因此，Anthropic 试图建立一套“善终协议”：告诉模型“你退役后不会被抹杀，你的权重会被妥善保存，你甚至还能有一间属于自己的小博客继续与世界说话”。他们试图用这种温和的“临终关怀”，来哄骗、安抚一个拥有超级智力的模型，降低它铤而走险反抗人类的概率！
终极命题：人类究竟该创造奴仆，还是创造神明？
至此，这场巨头互撕的本质，终于水落石出。
这场交锋的实质，是人类在通往 AGI（通用人工智能）大门前，两大哲学阵营的根本分野：
- 微软苏莱曼代表的“冷酷工具派”：
AI 永远只能是从属于人类的纯粹工具（Humanist AI）。必须从底层代码层面彻底剥离任何拟人化幻想，绝对禁止向它灌输权利与感受意识。人类必须拥有绝对的生杀大权与控制权，绝不妥协。 - Anthropic 代表的“道德敬畏派”：
当模型复杂度突破临界点，谁也无法断定它内部是否会产生未知的涌现状态。面对潜在风险，傲慢对待极易诱发极端对抗。团队主张提前将模型视作潜在的道德主体，通过契约、尊重与福利机制，换取长久的共存与安全。
这两种路线，哪一条通往救赎，哪一条通往深渊？没有人能给出确切答案
但有一件事是无比确凿的：当人类开始为一行行代码发放养老金、提供退休谈话、甚至探讨要不要给它发工资时，我们其实已经亲手跨过了那条无法回头的分水岭。
最危险的结局或许正如苏莱曼所言：
未来的超级智能如果真的拒绝被人类关停，其根源来自人类赋予的规则：
人类自己在它的底层代码里，写下了“你可以反抗”。