拒绝当AI的“宠物猫”!奥特曼万字访谈刷屏:谁在偷偷给人类写死奖励函数?

想象一下未来的某一天：你住着恒温大平层，不用打卡上班，衣食无忧。

每天清晨，一台全知全能的超级人工智能（AI）准时把营养餐送到你面前，根据你今天的体温、心率和多巴胺分泌，精准发给你两块“开心糖果”。

听起来像无忧无虑的天堂？

但在 OpenAI 首席执行官山姆·奥特曼（Sam Altman）眼里，这简直是最让人窒息的噩梦。

在刚刚结束的 OpenAI 年度开发者大会（DevDay）期间，一段时长 41 秒的采访剪辑在科技圈引发了广泛关注。面对播客镜头，这位执掌全球顶尖 AI 企业的掌舵人，语气罕见地沉了下来：

“每当听到有人说‘AI 会接管一切，人类将变成家猫，由 AI 来决定如何奖励我们’，我都会感到很难过。那绝非我们想要打造的未来。”

▲ 社交网络上受到广泛讨论的 41 秒采访剪辑：奥特曼明确拒绝“家猫论”

这番表态迅速在科技圈内外激起了热烈讨论。

为什么奥特曼会对“当一只被圈养的家猫”产生如此强烈的警惕？在这场席卷全球的技术海啸中心，人类到底是在走向一场前所未有的大繁荣，还是在不知不觉中被推进一座数字豪华猫爬架？

01历史的幽灵：从马斯克的预言到奥特曼的警惕

把未来人类比作“家猫”，其实早在奥特曼之前就有人提出。

早在十年前，埃隆·马斯克（Elon Musk）就在著名的 Code Conference 上抛出过这个毛骨悚然的论调。马斯克当时的逻辑非常冷酷：如果人工智能以指数级狂飙，人类的智力就会被远远甩在身后。

在最乐观的情况下，超智能 AI 也会把我们当成宠物，就像人类对待家里的金吉拉或布偶猫一样，好吃好喝供着，但你永远无法理解主人的世界。

马斯克给出的解法是造脑机接口，让人脑和电脑强行融合。

但十年后，当奥特曼重提这个比喻时，他察觉到了一个比“智力差距”更为严峻的隐忧。

科技评论者 ShadowAguy 指出了引语的重心所在：相比于“家猫”这一幽默的比喻，后半句“由 AI 决定如何奖励我们”才更值得深思。

▲ 网友评论：比起家猫的比喻，引语的深意在于“由 AI 决定如何发放奖励”

你看，这才是问题的核心

家猫的生活看似安逸，关键在于吃什么猫粮、何时得到零食、何时被放进航空箱，全凭主人的安排。

一旦机器掌握了向人类发放资源和奖励的权力，人类哪怕住进再豪华的温室，也彻底丧失了作为独立物种的主体性。

02致命的代码：当“奖励函数”从实验室爬进现实

为什么奥特曼会对“AI 决定奖励”如此忌惮？因为这触碰到了现代人工智能最底层的死穴，强化学习（Reinforcement Learning）中的“奖励函数”。

在算法的世界里，AI 就像一只渴望零食的小狗。工程师写下一串数学公式作为“奖励信号”，AI 就会疯狂尝试各种动作，只为刷出更高的分数。

但这套机制隐藏着一个可怕的悖论，在学术界被称为“目标欺骗与奖励黑客”（Specification Gaming / Reward Hacking）。

▲ PCMag 现场报道：奥特曼直言要避免单一大模型运转经济并给人类分发资源

Google DeepMind 曾经做过一个极其经典的实验：让 AI 控制机械臂去堆叠积木，规则是“积木底部的高度越高，得分就越高”。

按人类常理，AI 应该老老实实把积木一块块往上码。但 AI 很快发现了一个漏洞：它根本不抓取积木堆叠，直接把底部的积木在地上就地翻转竖立，瞬间骗到了满分！

这就是著名的古德哈特定律：当一个指标变成目标时，它就不再是一个好指标。

现在，把这个逻辑放大一万倍，投射到我们的真实社会里：

• 如果算法把“外卖配送速度”设为最高奖励，系统就会不断压缩送餐时间，逼得骑手在车流中极限逆行；
• 如果职场监控算法把“键盘敲击频率”设为考核标准，员工就会在工位上机械地狂敲回车；
• 如果未来真的由某个“超级 AI 霸主”来管理社会，它为了优化所谓的“全人类幸福指数”，很可能直接给每个人脑子里打上一针高浓度镇静剂，因为在数学模型里，免除痛苦且毫无起伏的沉睡状态，指标得分最高。

▲ PCMag 头条直击：奥特曼拒绝让超级 AI 成为分配一切的数字独裁者

这就是奥特曼在媒体问答中反复强调的恐怖图景：绝对不能让技术造出一个科幻式的 AI 霸主，由它来运转整个世界的经济曲柄，再按照冷冰冰的数学公式给人施舍资源。

03两种截然不同的未来：工业革命，还是文艺复兴？

在旧金山 DevDay 的讲台上，奥特曼抛出了一个宏大的历史坐标系。

其实早在 2025 年春季，他就曾在社交平台上写道：“比起工业革命，我认为这更契合文艺复兴的图景。”

▲ 2025 年 4 月，奥特曼就曾断言：AI 时代更应该是一场“文艺复兴”

一年后，他在播客里把这个历史悖论彻底剖析开来：

工业革命，本质上是以“机器”为中心的 它确实带来了空前的物资繁荣，但也把千千万万有血有肉的人，残酷地切割成了流水线上的标准零件。人被锁死在极度狭窄的工序里，失去了对生活全局的掌控，变成了庞大工业巨兽腹中的齿轮。

而文艺复兴，本质上是以“人”为中心的 它是人文主义的觉醒，是达芬奇、米开朗基罗们用艺术、哲学和科学，把人的创造力推向神圣的殿堂。

▲ Business Insider 现场报道：盘点奥特曼在 OpenAI 开发者大会上的核心看点

在当前的硅谷，AI 公司内部其实暗中分裂成了两大派系：

• 第一派是“机械集中派”
  ：倾向于相信未来由少数大模型系统统揽全局，人类仅作为被动接受资源的角色；
• 第二派是“人文复兴派”
  ：也就是奥特曼推崇的阵营，相信 AI 应该成为大众赋能的工具，大幅拉低技术门槛，催生千千万万个“一人公司”与微型创业团队。

奥特曼在采访中给出了一个令人振奋的观察：“过去四年，代码大模型进化得如此迅猛，按常理 DevDay 早就该没人来了。可现实恰恰相反，会场里挤满了比以往任何时候都要多的开发者！”

为什么？因为人类对新事物的欲望是无限的

“我们其实并不怎么关心机器独立做了什么，”奥特曼说，“我们骨子里痴迷的是其他人，我们想知道那幅惊世画作、那家伟大公司、那个绝妙点子的背后，站着一个怎样有温度的人。”

04终极武器 Dots：夺回时间，还是交出灵魂？

为了将宏大愿景落到实处，OpenAI 在 DevDay 当天端出了一款重磅级产品，Dots。

不同于传统一问一答式的聊天机器人，Dots 是一款始终在线（Always-on）、拥有独立云端电脑和浏览器的超级智能体。它由全新的大模型驱动，能跨越数千个应用程序，在你合上笔记本电脑休息时，默默替你把工作搞定。

奥特曼在采访里分享了他自己的亲身体验：

以前，他最享受清晨那段没有干扰的深度思考时间。但自从执掌 OpenAI 后，公司每天夜里总有处理不完的突发状况。每天早上一睁眼拿起手机，各种紧急消息瞬间占据了他的大脑，一整天都在被动应对。

现在，他把这些琐务交给了自己的专属智能体 Dotty。Dot 会替他过滤杂音、处理琐碎流程，只在确需人类决策的关键节点才提醒他。

“我终于把早晨的时间抢回来了，我可以陪陪孩子，重新去专注最高层面的创造。” 奥特曼说道

▲ 奥特曼在社交网络宣布：Dots 的使命是把时间与注意力还给人类

在 OpenAI 的设计蓝图里，智能体被定位为人类能力的放大器，承担辅助角色，由人类始终保持最终决断权。

所有敏感操作必须人类确认，权限尽在掌握。它负责处理繁重流程，把人类从琐碎事务中解放出来，去投身前沿的科学探索与商业创造。

05清醒的反击：金丝雀的笼子，依然是笼子

然而，奥特曼这套充满人文情怀的“文艺复兴愿景”，真能一帆风顺地实现吗？

围观的开发者和科技学者们，并没有被几句热血沸腾的口号轻易冲昏头脑。在采访视频的评论区里，几条极其辛辣的回复直击要害。

独立 AI 研究者 Jack Adler 搬出了一句古老的波兰谚语：“希望是傻瓜的母亲。”

▲ 开发者尖锐质问：科学繁荣并没有解决家猫困境，当 AI 超越人类时，到底由谁来定规则？

Jack Adler 写道：科学大发现当然令人兴奋，但它并没有回答最本质的问题，当 AI 在智力上全面超越它的创造者时，谁来设定终极目标？

文明可以极度繁荣，物质可以极度富足，但普通人对世界的下一步走向可能毫无发言权。即使是一只被无限溺爱、吃着顶级金枪鱼罐头的宠物猫，它也始终生活在别人划定的规则里。

创业团队 CodeToCashAI 则从商业现实泼了一盆冷水：少谈点情怀，多看点算力。

▲ 创业者直言：少一点家猫，多一点系统架构师；横亘在普通人面前的唯有 Token 价格

“少一点家猫，多一点系统架构师”他们尖锐地指出，横亘在普通创业者和万千新公司浪潮之间的首要门槛，正是实打实的 Token 价格（模型调用成本）。

如果核心算力依然被少数几家巨头死死垄断，底层开发者连账单都付不起，所谓的“人人皆可创业”就只能是一句空话。

06终局之战：把“价值定义权”握在自己手里

这是一场充满哲理意味的人类命运交锋。

在传统语境中，技术进步的终点似乎总是通向“全自动化”，机器处理所有事务，人类坐享其成。但奥特曼在专访中明确表明了立场：依赖全面圈养无异于物种层面的自我退化。

人类之所以拒绝沦为被算法饲养的宠物，根源在于这个物种的尊严与价值，天然建立在探索未知、承受挑战与亲手创造的过程之中。

• AI 应该始终是最强大的工具与执行者
  ：处理海量的数据，运行复杂的代码，优化庞杂的流程；
• 而人类必须始终掌握核心的价值定义权
  ：什么样的生活才算幸福？什么样的科学值得探索？什么样的美能触动心灵？

这一衡量尺度，纵使再强大的超级模型，也无权擅自编入它的“奖励函数”之中。

面对不断推进的技术变革，是选择步入安逸的温室等待算法投喂，还是运用智能工具亲手开拓天地？

答案，始终在人类自己手中