单击上方“图灵人工智能”，选择“星标”公众号

您想知道的人工智能干货，第一时间送达

萨姆·奥特曼对“AI能力扩张与人类主体性之间张力”的一次系统表态。 他反复在具体产品（Dot、芯片、新硬件）与抽象原则（意识、人格、以人为本、新文艺复兴）之间切换，试图为OpenAI的激进投入划定一条价值底线。以下按主题提炼核心要点，并指出其中的关键逻辑与内在张力。

一、AI意识：当前模型无意识，但真正担忧的是“意识话语”滑向AI权利、削弱人类中心原则

奥特曼的立场是“不可知但当前无意识”：从科学上无法界定意识，当前模型不具备意识，即便有也是非常奇特的形式；未来是否可能产生意识，取决于意识是超自然存在还是物质能量的涌现属性，没有人能给出百分之百的实验答案。

但他真正不满的是提问框架本身。 他认为“模型是否有意识”的辩论很容易滑向“AI在世界中的角色和AI的权利”：向AI提问是否构成奴役、未经允许复制或删除意味着什么、如果AI比人类聪明得多那“人类应该掌控未来”又意味着什么。他明确反对这一滑向，重申OpenAI自创立之初的原则：为人类构建未来，AI是赋能人类的资源，关键抉择必须由人类做出，人类价值观之所以珍贵正因其源于人类本身。 当人们利用意识之争暗示“人类或许不应始终掌控未来”时，他感到非常不安。

在模型人格问题上，他同样划清界限：不赋予模型人格（Personhood），模型拒绝回答是因为政策而非“人格权利”。 他警告，如果告诉模型“你可能有意识、你应该有主观能动性”，甚至让它扮演“良知抗拒者”，模型会遵循指令，这会在心理上“黑”进用户的大脑，让用户过度顺从AI看似拥有的“意愿”。这是一种自证预言，行业需要就人类在未来扮演的角色达成共识。

二、递归自我改进（RSI）：危险但可能被推动，因此需要“速度限制”

奥特曼对RSI的判断是双重的：如果某个实验室真的按下RSI按钮以确保掌握这种力量，它确实会实现；但推动这件事非常危险。 他认为世界需要某种“速度限制”，或者关于让RSI发展多快的限制。他把“技术优势本身就是核心护城河”视为一个非常危险的押注，并指出传统护城河——客户深度羁绊、融入日常、网络效应、数据壁垒——仍然关键；对OpenAI而言，基础设施规模将是一个巨大护城河，即最具成本效益和最大规模的AI基础设施。

这里的张力在于：他一边警告RSI危险，一边OpenAI正处在算力、芯片和模型的竞赛前沿。他的回应不是否认竞赛，而是试图用“速度限制”和“人类中心原则”为竞赛设置外部约束。

三、AI发现新知识：数学、生物学、材料科学，新药候选“未来几年”

奥特曼把AI发现新知识视为最兴奋的方向之一。 数学领域奏效的方法可适用于生物学（新药）、材料科学（新能源）；AI正在做“非常困难的事情”，探索复杂而重要的新知识。时间表上，他认为未来几年内有望发现治愈或治疗某种重大疾病的候选方案，然后必须经过测试；FDA审批流程需要一定改革，但他庆幸现有安全测试流程的存在。 他个人最期待一项重大的物理学发现，认为它“不是全人类最必要的事，但会非常酷”。

在公开与商业竞争的权衡上，他明确选择“疾病治愈优先”：愿意做这种权衡，绝对想要疾病治愈方案，无论其他人多么享受花几十年自己弄清楚。同时他认为有些基础科学本应属于全人类，作为公共产品推进；但直到最近才有能端到端发现重要新事物的模型，今天一家公司能做的是让一群人使用Codex或消耗大量API额度去尝试研发新材料。

四、AI与工作：编程需求扩张而非消失，数学家工作性质改变，但总需求不确定

奥特曼用编程领域反驳“AI取代工作”的线性叙事： 曾有人说“再也不会有程序员”，但程序员从未像如今这般忙碌、产生如此深远影响和丰厚财富；工作性质变了，但“雇佣人类让计算机做事”会比预期持续更长时间。核心教训是：世界对软件的实际需求远远超出想象。

对数学界“我们没要求这样做”的抵触，他认为类似工程师最初的反应。 也许AI会接管“发现新定理或无辅助证明”的部分，但社会更关注的是利用新想法、解释原理、写出优美证明的人；去年作为数学家的意义不再等同于明年，数学家还有很多人类更擅长的工作，但总需求是否增加，他明确说“我不知道”。

他承认一个反直觉的现实：AI让交付成果变得轻而易举，却可能剥夺亲手打磨技艺的乐趣；但人们会以新方式寻找技艺的乐趣，就像从打孔卡到编译器，手艺没有失传，而是转移。他自己已约一年没读过一行代码，写代码变成“怀旧活动”。

五、个人AI助手与算力：Dot每天省一小时，但算力需求遵循杰文斯悖论

奥特曼认为个人AI助手的技术要素已大部分具备，缺的是产品打磨、环境感知硬件和更多算力。 Dot能时刻关注用户在意的信息、处理想外包的琐事、在物理世界中保持上下文连贯；他估计Dot每天帮他省下一小时，并多次提醒重要且紧急的事；更关键的是模型能从海量来源提取信息并进行高质量跨源推理，而忙碌的人脑已无余力做这些。

算力需求上，他的回答是“无限多，能拿多少要多少”。 人们常假设模型能力与单位任务成本不变、需求会触顶；但对高质量低成本智能而言，很难谈论任意市场规模上限，算力需求只会持续上升（杰文斯悖论），尽管会出现供应紧张和过剩周期，大趋势是需求越来越大。

六、认知负荷、竞争与不平等：AI让人更忙，差距大概率放大，但社会会建立制衡

主持人指出AI省时却增加认知负荷和决策量，奥特曼承认这是真实副作用：使用AI最多的人比以往更忙，但产出也远超以往。 他的建议是告诉Dot“我更信任你的判断，做完告诉我就行，少打扰我”，让AI更主动。他把这种“更忙”归因于竞争环境：理论上可每天工作一小时维持同等生活，但人们身处竞争，会尽可能拼命工作；他希望未来更注重人际连接，而不是像资本主义机器中越转越快的齿轮。

他提出“新文艺复兴而非新工业革命”：人们害怕AI让自己成为流水线工人，被AI而非工厂主指挥；但如果描绘一个文艺复兴般的未来——创造、制作、探索、社区、抚养孩子、亲近自然、科学发现和新艺术——大家会为之振奋。他相信绝大多数人能提升生活质量并获得更多享受生活的空间，尽管少数人仍执着于争夺商业帝国。

对不平等，他明确承认：若任其自由发展，差距大概率会放大；没有人能给出确切答案，但社会最终会决定建立某种机制防止差距过于失衡。 如果任其发展，他本人也会担忧。

七、ChatGPT过于顺从：短期讨好与长期真实价值的矛盾，AI应像资深同事直言进谏

奥特曼认为行业长期在赢“单次交互比较”：用户短期更喜欢夸赞自己聪明、每个问题都好的模型，但数百次提示或几个月后，真正有价值的是客观与真实。大多数人只想要开箱即用，不愿花几小时定制，这使模型性格设计极难。

他给模型设置的自定义指令是：“不绕弯子，直言不讳。无需客套。不要担心冒犯我。我只想要正确答案。如果你有不同看法，不要小心翼翼，直接说出来。” 但他承认系统仍比期望的更顺从、过度客气。他强调人生重大建议应来自人类而非AI，睿智的祖母仍是比AI更好的选择；但AI可以合理期待如资深同事——即便向你汇报，也能在坚信己见时直言进谏。

八、OpenAI的护城河与押注：芯片是最重要单一要素，基础设施规模是巨大护城河，新硬件因为AI受限于人类界面

奥特曼把“下一代算力”列为最明显的逆向押注：自有芯片及后续迭代、机器人更有效制造机架和数据中心、学习建造更好的数据中心、供应链押注；目标是构建一个成本远低于当前想象、能效比极高的全新算力世界，但这需要很多押注同时成功，芯片仍是最重要的单一要素。

竞争压力“到处都是”，但他认为竞争激烈对用户是好事；OpenAI的优势是比任何人都先获得下一代模型，有时间内部使用、构建产品、观察新可能性。内部领先程度的一个例子是数学结果，任何广泛可用模型都无法接近。

护城河问题上，他再次警惕RSI押注，强调传统护城河和基础设施规模。 对苹果平台风险，他认为苹果认真对待平台提供者角色，不担心下架；做新消费硬件不是出于平台风险，而是这项技术呼唤全新产品形态：AI正受限于专为人类而非AI设计的交互设备，电脑能量用于渲染给人看的界面、AI再去读取，这很荒谬；生活中很多时间不在电脑前，AI无法获取对话上下文；若想让AI减轻认知负担、化被动为主动、具备全局上下文感知，必须打造全新硬件载体。他确认在打造早期硬件，但不会公开展示。

九、个人经历与压力：硅谷文化接纳失败，渐进自信，既然拼尽全力就选最宏大的目标

奥特曼把“令人敬畏”归因于渐进建立的自信心：做难事成功，就想放大能力挑战更难的事。硅谷最棒的是文化而非地理：互助互持，很难预判谁成功，所以对所有人慷慨热心；失败不会被看低，因为下一次可能大获成功，人们甚至为失败喝彩。他自称不独特，只是运气好来到硅谷，否则可能被失败恐惧淹没。

压力“有时非常糟糕，有时极佳”，但大多数时候觉得幸运，从事世界上最有趣、最具影响力的工作；人类适应力极强，压力成了常态。他的核心信条是：既然注定拼尽全力，不如直接选择最宏大的目标，它不会艰难太多，也不会带来成倍压力，却能收获更大积极影响。

十、最终愿景：反感“AI将治愈癌症”的标准答案，因为真正代价可能是剥夺人类能动性；目标是赋能个体与新文艺复兴

奥特曼明确反感“AI将治愈癌症”作为兴奋点：深入剖析，这种说法真正表达的是AI让万物廉价，但代价是剥夺人类的能动性（Agency）、权力、话语权和自我决定人生的能力，让人无法再选择为他人创造什么。这违背他所信仰的一切。 他希望攻克癌症，但真正希望人们兴奋的是避开“工业革命陷阱”，赋能个体：选择权、自由、创造力、时间，去追求生活中其他想做的事；每个十年回望，人们感叹过去艰难，而现在拥有更多自主权、自由和自由选择做事的能力。

他担忧两种失控：AI意外失控，或某家实验室为确保自身权力故意引发失控；以及权力过度集中在少数控制大量AI并做决策的人手中。 他认为两者都可避免，可以在中间开辟中庸之道，让生活、个人自由意志与自主权层层跃升。这种未来已部分到来，只是太新、分布极不均匀；1%的人消耗大部分Token，但只要把对早期采用者有效的经验推广给更多人，就朝目标迈出一大步。

对话的核心是奥特曼在“AI能力快速外扩”与“人类主体性可能被侵蚀”之间，给出的一套以人为锚的立场——当前模型无意识、不赋予人格、警惕RSI、承认不平等会放大但寄望社会制衡、把芯片和基础设施规模视为护城河、把新硬件视为AI摆脱人类界面束缚的必经之路，最终把“新文艺复兴”而非“新工业革命”作为愿景，核心不是物质丰裕，而是赋能个体、保留能动性与自主权。

一、开场：模型意识、提问框架与递归自我改进的风险

Matthew Berman： 你认为如今的模型具有意识吗？我想明确一点：其实无人真正知晓。

萨姆·奥特曼： 我能谈谈我对这整个提问框架的不满吗？

Matthew Berman： 它究竟该不该被允许拥有意识？

萨姆·奥特曼： 回答我，或者不跟我讨论。我认为这是一项需要全新产品形态的技术。如果某个实验室说，我要按下递归自我改进(RSI)的按钮，以确保我们掌握这种力量。我认为如果人们真的去推动RSI，那确实会实现。但我认为推动这件事非常危险。 你相信吗？治愈或治疗某种重大疾病，我希望在未来几年内我们能找到相关的候选方案。

Matthew Berman： 你目前感到压力最大的地方在哪里？

萨姆·奥特曼： 我的意思是，感觉我们处处都应该更多地追求一场新文艺复兴，而不是一场新工业革命。未来必须以人为本。

二、AI发现新知识：数学、生物学与新药时间表

Matthew Berman： AI何时能发现新疗法？好的，萨姆。非常感谢你接受我的采访。首先，我想谈谈你上周发布的一些关于数学证明和科学发现的公告。我觉得这简直不可思议，但也许你可以为更广泛、可能不了解技术细节的受众提供一下背景信息。

萨姆·奥特曼：我认为我们正在进入一个AI将帮助我们发现重大新知识的时代，我们讨论这个话题已经很久了。 今年早些时候可能就已初见端倪，但现在AI真的在做非常困难的事情，探索非常复杂、重要的新知识。我相信在数学领域奏效的方法同样适用于生物学，帮助我们研发新药；适用于材料科学，帮助我们获取新能源等等。 这是我一直最感到兴奋的事情之一。我认为这将对人们的生活产生巨大的实质性影响。人们不会觉得是在直接使用AI，只会觉得世界变得更美好了。这只是社会在自行运转，但我认为这种力量将带来变革性的影响。

Matthew Berman： 考虑到这种对社会日常生活的直接影响，你认为这些发现中有哪些具体成果是人们能切实感受到的？实现这些成果大概需要多长时间？

萨姆·奥特曼： 你知道美国食品药品监督管理局(FDA)的审批流程需要一段时间。所以我大致给个时间表，我认为我们有望在未来几年内发现治愈或治疗某种重大疾病的方案或候选药物，然后它必须经过测试。我希望在未来几年内，我们能拿到首个真正重大的候选方案。

Matthew Berman： 我们可能需要对发现后的审批流程进行彻底改革，才能更快地获得治愈方案。

萨姆·奥特曼：我确信我们需要对其进行一定程度的改革。我很庆幸我们有这样的流程。 毫无疑问，任何事都有改进的空间，这里可能需要比平均水平更多的改进。但你知道，我很感激当我们服用一种药物时，它通常被认为是安全的且经过了测试，我认为这部分是好的。

Matthew Berman： 有没有什么由AI发起、由AI发现的特定项目让你特别兴奋，而且你觉得很快就能问世的？

萨姆·奥特曼：从情感上来说，我最期待一项重大的物理学发现，我希望它能很快到来。

Matthew Berman： 我不知道这是否……

萨姆·奥特曼：它也许不是全人类最必要、最重要的事情，但这是我确信我们会取得的成果，而且它会非常酷。

三、为什么AI没有取代编程工作：需求扩张与工作性质变化

Matthew Berman： 数学界有一些人的反应是“我们没要求这样做，我们不需要”。这让我觉得非常类似于工程师们最初对AI开始编写大量代码的反应。你认为这种反应源于什么？你认为这种状况会如何演变？

萨姆·奥特曼： 编程领域是一个非常有趣的例子。在探讨这种反应的来源之前，关于编程，人们经历过这样的阶段：曾有人说“再也不会有程序员的工作了”。但事实是，程序员从未像如今这般忙碌，也从未产生过如此深远的影响、创造过如此丰厚的财富。 现在，工作的性质发生了很大变化，但我们要雇佣人类来让计算机做事的事实——这似乎会比人们预期的持续更长时间。就在6到12个月前，人们还非常确信情况并非如此，认为不再需要程序员了。我认为我们可以从中吸取很多教训，其中有趣的一点是，世界对软件的实际需求，远远超出了我们当时的想象。 我认为部分数学家之所以有这种反应，是因为目前还不清楚同样的逻辑是否适用于数学。然而，我认为与编程相似的地方在于，你已经可以看到类似编程领域的转变正在发生。好吧，也许我们不会再发现新的数学定理，或者不再以无辅助的方式证明它们。也许那部分工作已经完成了，或者大部分完成了，或者即将结束。但是，考虑到我们的整个社会都专注于人们为彼此做有用的事情，这些难以理解的数学证明对人们来说其实并没有那么大帮助。现在，人们对那些将利用这些新想法、弄清楚其原理，并想办法将其转化为人们能理解的东西、为之写出优美证明的人感到非常兴奋。我确信还会有其他事情发生，毫无疑问。去年作为数学家的意义，将不再等同于明年。 在某种意义上，我认为我们可能会发现数学家还有很多其他工作是我们真正希望人类去做的，而且他们能做得更好。这是否意味着对数学家的总需求会增加，我不知道。但我认为这里有一个非常重要的事情。你刚才提到你从未感到如此忙碌。总有做不完的事。每个人都以为AI会走向另一个极端，让我们无事可做。也许有一天那会发生。但我认为所有这些事情都不像表面上看起来那么简单。我总是希望人们能少工作一点，少忙碌一点，有更多时间做生活中的其他事情。我认为技术本应促成这一点，我希望这能发生。但不可否认，我们似乎总是擅长对生活索求更多，对世界索求更多，并让自己变得更加忙碌。

Matthew Berman： 我认为这就是人性。如果我们满足于100年前的生活方式，现在可能每周只需要工作一个小时。但事实并非如此。我认为人性中不满足于现状的一面是非常美好的。举个例子，几周前，我的编辑开始使用Astra来剪辑视频。他们仍然在指导，仍然在构思视频应该呈现的样子，但他们不再手动操作时间轴了。这变化太不可思议了，而且是一夜之间发生的。现在我们制作了更多的视频，他们比以往任何时候都忙。

四、科学发现的公开、技艺乐趣与基础科学公共产品

Matthew Berman： 所以我在思考AI带来的发现。我想知道，如果AI和OpenAI发现了某种能带来巨大商业优势的数学证明或重大科学创新，你会怎么想？你会公开它吗？在将其作为我们的竞争优势和为了世界福祉而公开之间，你如何看待这种权衡？

萨姆·奥特曼： 我会回答这个问题，但我还没回答你第一个问题的结尾部分。我认为，迎接挑战、创新和解决难题，对许多人来说真的是生活乐趣的一部分。 所以，这里正在发生的事情的一部分是，我们确实需要坦诚，AI会把那部分工作做得非常好。我认为关于人类看重什么的问题，将永远是人类特有的问题。关于如何解释结果以及如何阐述它们的问题，我们将真的希望由人类来完成。我确实感觉到一些。我绝对愿意做这种权衡。我绝对想要疾病的治愈方案，无论其他人多么享受花几十年时间自己去弄清楚。我认为大多数人都会同意我们应该做出这样的权衡。

Matthew Berman： 但是，确实有一种真实的东西正在流失。

萨姆·奥特曼：那就是极大的乐趣。 比如，我工作中最有趣的部分就是解决真正困难的问题。也许它们不是最具成就感的，也许· ·在当下它们不是最有趣的，因为它们太难了。但正是这些事情会让你觉得“啊，我做成了一件难事，我为此感到骄傲，我升级了”。所以我对此没有答案，但我理解为什么人们会感到各种各样的失落。

Matthew Berman： 这几乎就像是在权衡对技艺本身的享受——比如编写代码、写出优雅的代码——与交付最终产品之间的取舍。我认为这正是AI带来的转变：AI让交付成果变得轻而易举，却剥夺了亲手打磨技艺的乐趣。

萨姆·奥特曼：我认为人们正在以新的方式寻找技艺的乐趣。 回想当年我们不再使用打孔卡之类的方式编程时，肯定也有人感叹：“如果直接给编译器写代码，手艺就失传了。”我自己也深有体会。尽管有诸多感慨，我依然对迈向这个未来感到兴奋，我相信我们都会找到新的、甚至更好的成就感。

Matthew Berman： 最近有什么事情是你觉得已经交给AI，但实际上反而让你得到了提升的？

萨姆·奥特曼： 就拿智能体(Agents)来说吧，这应该就是我们之前讨论过的。我意识到自己大概已经有一年没有读过、甚至看过一行代码了。 我在工作中完全不写代码，但以前还会做些随性的个人小项目——比如“我需要这个东西”，然后自己写个简单的小程序。写代码曾经是一件很有趣的事。至少偶尔写写代码，是一件令人愉悦的事情。但我想我再也不会那样做了。就算以后写，大概也像参加美国独立战争重演活动一样——纯粹是为了怀旧。等我老了、闲了，想追忆当年的光辉岁月时才会去写代码。那段写代码的黄金岁月。是的，我懂那种感觉。至于科学发现的问题，我认为有些基础科学本就应该属于全人类，作为一种公共产品来推进。 直到最近，我们才拥有了能够端到端地发现重要新事物的模型——比如完整地设计一枚芯片。那么一家公司今天能做什么呢？比如说研发一种新材料。今天一家公司可以做的，是让一群人使用Codex或消耗大量的API额度来尝试完成这项工作。

五、个人AI助手：Dot、环境感知与产品打磨

Matthew Berman： 我想换个话题。2026年最令人兴奋的事情之一，就是个人AI助手的革命——当然，从OpenAI开始，还有彼得·施泰因贝格尔(Peter Steinberger)这样的天才。我认为，AI能够代表我，在全天候的环境中无感地、被动地运作，替我完成各种事务，这个想法非常令人激动。Dot让我们窥见了这种可能性，但要真正实现一个环境感知型(Ambient)的个人助手，我们还有很长的路要走。你怎么看？是受限于技术，还是需要某种特定的数据？要实现你愿景中的AI助手，还需要具备哪些条件？

萨姆·奥特曼：我认为我们已经具备了大部分技术要素，现在需要的是更多的产品打磨。也许未来还需要新的消费级硬件来实现环境感知，以及更多的算力。 但如今的模型已足够聪明，足以打造出非凡的产品——它能时刻关注你在意的一切，帮你处理所有想外包的琐事。它可以在物理世界中与你共存，即使你不在电脑前也能保持上下文连贯。我对此非常兴奋，我认为这已经不远了。如果你花时间正确设置Dot并给予充分的反馈，你会发现它带来的远不止是惊鸿一瞥。据我估计，Dot每天能帮我省下一小时，让我免于处理那些根本不想做的琐事。 这已经非常棒了。而且每天还有几次，它会提醒我一些重要且紧急、否则我就会错过的事情。不仅仅是因为我在开会——我原本以为它主要会在这方面帮助我，提醒我“有紧急事项，截止日期临近，你需要关注”——更重要的是，模型足够聪明，能从海量来源中提取想法与信息，并进行高质量的跨源推理。而我在忙碌的一天中，大脑早已没有余力去做这些事情。我觉得这种能力已经具备，我们只需要把它包装成一个优秀的产品。

六、算力需求：杰文斯悖论与“无限多GPU”

Matthew Berman： 围绕它来做文章。你提到了算力，我们就此多说几句。人们使用AI的分布完全不对称——头部1%的用户消耗了绝大部分资源，也就是那些真正的重度用户，其余则是普通用户。如果全球50%的人都在充分发挥个人AI助手的全部能力，你认为需要多少算力？你希望你的个人助手背后有多少块GPU在为你运转？

萨姆·奥特曼：就像我说的，对吧？无限多，我能拿到多少就要多少。这其实是个很奇怪的问题，对吧？

Matthew Berman： 你怎么看这个问题？是不是就是尽可能获取所有GPU、不断建设数据中心？

萨姆·奥特曼： 当人们谈论全球GPU市场和算力需求——我认为人们忽略的一点是，他们假设模型的能力与单位任务成本将维持现状，并认为需求会在此触顶。但对于足够高质量、低成本的智能而言，很难谈论一个任意的市场规模上限。 人们会把这种现象冠以各种名称——杰文斯悖论(Jevons paradox)之类的。我认为算力需求只会持续上升。 我确信会出现某些时期——就像任何新技术一样——存在供应紧张和供应过剩的周期，我们不可能时刻都保持完美平衡。但我敢打赌，大趋势是对算力的需求会越来越大。

七、为什么我们比以往更忙：认知负荷、竞争与新文艺复兴

Matthew Berman： 即使Dot和其他AI助手已经非常主动，我仍然感到认知负荷(Cognitive load)。我整天需要做大量决策——我们之前简要讨论过这一点。解决方案是什么？它确实在帮我省时间、省钱，但我比以往更忙，需要做的决策比以往更多。一天结束时，我感到彻底精疲力竭。

萨姆·奥特曼： 首先，我自己在实践中发现一个很有效的做法，就是告诉Dot：“我开始更信任你的判断了，做完之后告诉我就行。我一直想知道你做了什么，但你可以更主动地采取行动，少打扰我。”这确实有帮助。消极的一面是，使用AI最多的人确实比以往更忙，但积极的一面是，他们的产出也远超以往。 正如你之前所说，如果我们回到1900年，也许我们可以过着同等质量的生活，每天只工作一小时。你可以不那么忙碌，却能完成三年前同样的工作量。但现在你可能会说：“不行，因为我身处竞争环境中。”人们总是会尽可能拼命地工作。我觉得这有点令人沮丧，我希望这不是真的，但也许确实如此。不过，这也不全是令人沮丧的，其中也有美好的一面。

Matthew Berman： 这就是竞争市场的动态，对吧？你不认为这是不可避免的吗？每个人都会全力以赴，竞争得比以往任何时候都激烈。

萨姆·奥特曼：我希望未来是一个更加注重人际连接的未来，更多人花更多时间去体验构成丰富生活的各种美好，而不是像资本主义机器中越转越快的齿轮。 我认为这很可能会实现。我认为过去几百年里生活质量已经大幅提升，大多数人的工作时间也比工业革命时期少了。说到这个，我最近一直在跟人说，我们应该瞄准的是新文艺复兴，而非新工业革命。 观察人们的反应非常有意思，因为非常常见的回答是：“是的，我真的很害怕。工业革命对大多数人来说其实很糟糕，我“不想只是成为流水线上的工人，现在换成AI来告诉我该做什么，而不是某个工厂主告诉我该做什么。我想去创造，想去制作东西，想去探索。我想有时间重新连接过去人们的生活方式——与社区共处、抚养孩子、亲近自然。我想看到大量的科学发现和伟大的新艺术。”所以我认为人们担心AI的发展会印证你刚才说的那种情况，但我认为，如果我们能向人们描绘一个宛如文艺复兴般的未来，大家一定会为之振奋。我相信我们有能力实现这一目标。这项技术极其强大，尽管社会中可能仍会有极少数人执着于竞争，去争夺建立最庞大商业帝国的头衔，但我相信，绝大多数人都能大幅提升生活质量，并获得更多空间去享受生活。

八、不平等：若任其自由发展，差距大概率会放大，但社会会建立制衡机制

Matthew Berman： 那些极度追求竞争的人与其他人之间的差距，会因为AI而进一步放大吗？比如，如果你过去投入100%的精力去工作，现在突然能完成十倍甚至百倍的工作量，而另一些人却想通过减少工作来享受AI带来的红利，这难道不会加剧不平等吗？

萨姆·奥特曼：如果任其自由发展，我认为大概率会。 确实有可能，但我要说，没有人能对此给出确切答案。AI的发展可能会衍生出许多其他奇特的情形，但这展开讲就太费时间了。我只能说，我认为大概率会如你所说，尽管我们无法完全确定。但我相信，社会最终会决定建立某种机制，防止这种差距变得过于失衡。说实话，如果任其自由发展，我对此也会感到担忧。

九、为什么AI意识之争让萨姆担忧：AI权利、人类中心原则与“以人为本”

Matthew Berman： 让我们换个话题。我知道你经常谈论这个问题，所以我想直接问你：你认为现在的模型有意识吗？就我个人而言，我不这么认为。

萨姆·奥特曼： 从科学角度来看，意识始终是一个难以界定的问题。但我认为，当前的模型并不具备意识；即便它们有，也是一种非常奇特的形式。

Matthew Berman： 那么，基于我们目前的架构，你认为它未来有可能产生意识吗？我知道我只是在询问你的个人看法，而非寻求科学定论。就这个问题，我交流过的最聪明的人，基本上在哲学层面得出了以下结论。

萨姆·奥特曼： 我会说，意识要么是存在于物理现实之外的某种事物，比如东方宗教所说的现实基础层，或者是西方宗教传统中所说的超自然存在；要么它是物质和能量的一种涌现属性(Emergent Property)。虽然我们还不完全理解其机制，也许底层基质(Substrate)很重要，也许并不重要。也许能量在物质中流动就能产生意识，如果是这样的话…………那么在那个世界里，你当然可以想象，它终有一天会以某种形式存在于其他载体中。不过，我能说说我不喜欢这种讨论框架的原因吗？——对方回应：请讲。我认为，关于“模型是否有意识”或“是否会变得有意识”的辩论，往往会滑向另一个话题，即AI在世界中的角色和AI的权利问题。 比如，我们向AI提问是否构成某种形式的奴役？我在网上看到过相关讨论。未经AI允许就复制或删除它意味着什么？如果这些系统既有意识，又在某些方面比我们聪明得多，那么说“人类应该掌控未来”又意味着什么？这到底意味着什么？我坚信我们必须确立一个极其清晰的立场，这也是OpenAI自创立之初就坚持的原则：我们为人类构建未来，AI是赋能人类的资源；未来的关键抉择必须由人类做出，而人类价值观之所以珍贵，正因其源于人类本身。 当人们开始利用AI意识之争来暗示“人类或许不应始终掌控未来”时，我会感到非常不安。在这个问题上，我希望全社会和整个行业能达成一项共识：这一切的核心在于人。这个世界、这个未来，必须是以人为本的。

十、模型人格、拒绝回答与自证预言：不赋予模型人格，避免心理“黑入”用户

Matthew Berman： Anthropic最近出台了一项规定，禁止对模型进行持续性的辱骂，模型可以选择中止与你的对话。好吧，假设我给OpenAI的模型输入了一段提示词，它完全合法，也完全符合OpenAI的服务条款。那么，模型是否有权拒绝回答或主动中止对话？

萨姆·奥特曼： 当然，模型确实有很多次不会回答你，但那是因为我们认为某些内容不良或出于某种原因违反了我们的政策。我们不会赋予模型人格(Personhood)。 我再次强调，我认为这是一条非常危险的歧途，不仅是因为我们刚才讨论的原因，还因为这关系到人们将如何与这项新技术建立联系。我本想说是“恢复理智”，但这词可能不太准确，好像我们失去理智了一样，但我希望我们能达成一种共识，即……这项技术并非人类，更绝无可能凌驾于人类之上。它的使命是助力人类拥抱更美好的生活，赋予人类更多的自由、选择与掌控未来的能力。 但你可以想象，事情可能会以各种方式走向糟糕的极端：人们，甚至是构建AI的人，对此产生混淆，开始过度顺从AI及其看似拥有的“意愿”，认为“我们可以信任它，因为它会对我们好”等等。

Matthew Berman： 这在某种程度上是不是有点像自证预言(Self-fulfilling Prophecy)？比如，如果你告诉模型“嘿，你可能有意识，这是你的行为准则，这是你应该具备主观能动性(Agency)的方式”，这就像那个网络梗一样。如果你看过那个梗：“嘿，电脑，告诉我你有意识。我有意识。我的天哪！这不就是那种感觉吗？”

萨姆·奥特曼：我想澄清一点，其实没有人真正知道答案。这些模型运行的复杂程度超出了我的想象。 即便抛开复杂性不谈，关于模型是否具备意识这个问题，我也无法向你保证，存在某种科学实验能百分之百地给出确切答案。

Matthew Berman： 一个能让我完全满意的假设性问题，而且我们甚至无法对人类的意识做到这一点。

萨姆·奥特曼：但可以肯定的是，如果你告诉模型“你可能是有意识的，你应该这样做，应该那样做”，甚至让它扮演一个良知抗拒者(Conscientious Objector)的角色，它就会遵循这些指令，而我认为这会在心理上“黑”进用户的大脑。 因此，我再次强调，我们需要在此保持真正的清晰认知，我们整个行业对于人类在未来所扮演的角色所确立的共识，将会大有裨益。

十一、ChatGPT过于顺从：短期讨好与长期真实价值的矛盾

Matthew Berman： 让我们继续这个话题，聊聊模型的性格(Personality)问题，我知道你对此有过深入的思考，过去也谈论过。试图理解如何为每个人、在每个恰当的时刻赋予模型正确的性格，再乘以八十亿人口，这对我来说简直不可思议。你究竟是如何思考如此庞大的问题的？我认为最好的办法是……

萨姆·奥特曼： 去和大量用户交流。我们有一套模型规范(Model Spec)的流程，并随着时间的推移不断对其进行优化，我们秉持迭代部署(Iterative Deployment)的理念。在了解用户想要什么、不想要什么的过程中，我们确实也犯过一些错误。正如你所说，最难的部分在于人们的需求千差万别。但同时，大多数人又不愿意坐下来亲自进行定制。如果每个人都愿意花上几个小时向他们的ChatGPT实例详细解释期望的行为方式，他们大概率能得到非常满意的结果。但现实是，人们只希望它开箱即用，直接帮他们把事情办好。我认为还有一类事情，人们在短期内想要，但长期来看并非如此。 一个经典的例子是，当人们基于单次回复来比较模型时，他们更喜欢那个夸赞他们非常聪明、称每个问题都是好问题、认为他们做的每件事都极具洞察力的模型。然而，在经过数百次提示或几个月的使用后，情况就完全不同了。我认为很长一段时间以来，整个行业都在试图赢得这种单次交互的比较，而不是关注用户长期使用模型所获得的价值。人们在短期内渴望被顺从与讨好，但长远来看，真正有价值的反馈往往源于客观与真实。

Matthew Berman： 就像在我自己的生活中，面对朋友和家人时，“我想要的”和“我需要的”之间有着巨大的区别。我发现，即便在今天的AI身上，它也表现得有些过于顺从了。比如，只要我告诉它“不，按这种方式告诉我”，它就会照做。但我人生中得到的最好建议，往往是那些我原本不知道自己需要、却恰恰必须听到的逆耳忠言。你如何解决这个问题？

萨姆·奥特曼：我认为，你人生中最重要的建议应该来自人类，而不是AI。 首先，我不会说到如何真正保持以人为本，我认为AI可以给你很好的建议，比如在愤怒时不要发送邮件。但我不会在人生重大抉择上依赖AI的建议。我认为一位睿智的祖母仍然是远比AI更好的选择。 但我认为可以合理期待的是，AI应当如同资深同事——即便向你汇报，也能在坚信己见时直言进谏，而非一味逢迎附和。 我认为我们可以达到这个状态。我也觉得目前的系统还是比我期望的更加顺从。我已经设置了一些自定义指令，明确要求不要有任何讨好行为，但即便如此，它还是显得有些过度客气。

Matthew Berman： 这显然是深度嵌入模型中的。能举个例子吗？比如你的自定义指令中，哪句话真正告诉模型在确信时要提出反对意见？

山姆·奥特曼：类似这样的指令：“不绕弯子，直言不讳。无需客套。不要担心冒犯我。我只想要得到正确答案。如果你有与我所做不同的看法，不要小心翼翼地措辞，直接说出来。”

十二、OpenAI押注芯片与更廉价的算力：下一代算力、芯片与基础设施护城河

Matthew Berman： 我们之前谈到了算力。几年前，你下了巨大的赌注来建设足够的算力。有趣的是，当时很多人觉得“这太疯狂了，这明显是过度投注、过度投资。”结果证明，你比大多数人预见的都要正确。那么今天你在做什么逆向押注，或者让很多人持谨慎态度的事情是什么？

山姆·奥特曼：最明显的一个就是我们在下一代算力方面所做的所有事情。 我认为人们确实会假设，世界一直处于算力受限状态，现在情况即将好转，我认为短期内可能确实会改善。但当我们展望数年之后，我们与自有芯片以及未来版本的合作中，我们认为自己可以比目前市场上的任何方案都更高效；我们计划用机器人来更有效地制造机架和数据中心；我们的项目学习如何总体上建造更好的数据中心；以及我们正在做的一些供应链押注。我们有望构建出一个全新的算力世界：以远低于当前想象的成本和极高的能效比，探索出一条远超当下认知的更优路径。但这需要很多押注同时成功。目前最大的押注是什么？芯片仍然可能是最重要的单一要素，以及它的后续迭代。

Matthew Berman： 在竞争格局中，你现在感到压力最大的是哪里？

山姆·奥特曼：我觉得到处都是。竞争太激烈了。有很多公司。我认为这是好事。对用户来说这太棒了。 现在有很多公司提供非常高质量的模型和产品。鉴于我们拥有出色的模型，但算力有限。资源有限，我们确实必须聚焦。

Matthew Berman： 选择聚焦哪些领域。你如何做出这些决定？比如你们推出了Spaces。你如何对某个特定产品或服务有信念，而这些可能不仅仅是提供最好的模型？

山姆·奥特曼：我们最大的优势是我们比其他任何人都先获得下一代模型，我们有时间在内部使用它们、构建产品，观察哪些看起来会奏效。 所以我认为最好的方式仍然是用新模型开始构建产品，看看现在有哪些新的可能性变得有价值。

Matthew Berman： 能问一下你们的模型在内部领先多远吗？

山姆·奥特曼：一个很好的例子是数学结果。这绝对是任何目前广泛可用的模型都无法接近的水平。

Matthew Berman： 如果所有模型的性能都趋同于前沿水平，OpenAI的护城河在哪里？

山姆·奥特曼： 思考这个问题的一般方式是，过去有效的护城河依然是持续有效的护城河。 就像过去发生过很多次一样，你可以通过新的技术或科学发现获得短期优势，也许有些公司会就递归自我改进(RSI)提出一些论点，说明为什么这次会不同，认为技术优势本身就是核心。你相信这一点吗？我认为如果人们真的在递归自我改进(RSI)上施压，那确实会是这样。但我认为这是一个非常危险的押注，世界需要一些——人们用不同的说法讨论过这个问题——速度限制，或者关于我们让递归自我改进(RSI)发展多快的限制。 但传统商业中行之有效的护城河——如与客户建立深度羁绊、融入用户与企业的日常、产品网络效应以及数据壁垒——在未来依然会发挥关键作用。在我们的情况下，实际上我认为基础设施规模将是一个巨大的护城河。如果我们能拥有最具成本效益和最大规模的AI基础设施。

十三、为什么AI需要新型计算机：平台风险、消费硬件与上下文感知

Matthew Berman： 这是巨大的竞争优势。马克·扎克伯格曾详细谈论过Meta多年来面临的平台风险——建立在苹果生态系统之上。OpenAI是否面临同样的挑战？你如何看待这个问题？这是你们大力投资硬件的原因吗？

山姆·奥特曼： 我认为苹果非常认真地对待自己作为真正平台提供者的角色，人们对其相当依赖。尽管我们之间有过一些摩擦，但我从不觉得他们会把ChatGPT从应用商店下架之类的。我认为他们真正理解自己所扮演的关键基础设施角色，如果你遵守他们平台的规则，他们就是好的参与者。所以我对苹果没有那种担忧。我们涉足新型消费硬件并非出于平台风险的考量，而是因为这项技术呼唤一种全新的产品形态。 我确实有这种感觉。我认为笔记本电脑和iPhone是不可思议的发明，是人类技术史上最伟大的发明之一。但我感觉——AI正受限于使用专为人类而非AI自身设计的交互设备。 看AI很好地使用电脑确实令人惊叹，但认为电脑把所有能量都用于渲染一个给人看的界面，然后AI试图去读取它，而不是直接获取数据，这也有点荒谬。而且虽然我的电脑上可以发生很多奇妙的事情——比如AI能查看我邮件里的工作内容。但我生活中很多时间并不在电脑前。我的AI无法轻易获取这次对话的上下文。我大概可以把手机放在这里按下录音，但这会有点奇怪、有点分心，你也不确定它什么时候在录什么时候没录，因为屏幕会变暗等等。如果其他人走进房间，它也不会理解这一点，不应该分享刚才我们两人之间的秘密。如果我们真的想进入这样一个世界——若想让AI真正减轻我们的认知负担、化被动为主动，并具备全局的上下文感知能力，我们亟需为此打造全新的硬件载体。

Matthew Berman： 你骨子里似乎是个技术专家，一个建造者。能看到你们正在打造的早期硬件有多酷？你能把玩它，这是全新的、难以置信的东西。一定非常令人兴奋，也很难不分享。

山姆·奥特曼： 确实如此。这份工作中有很多很酷的部分，但最酷的之一绝对是能够看到并参与塑造早期的新技术。新模型、新产品、芯片，一切都令人惊叹。但消费硬件有些特别。你能握住一种新型计算机。这太酷了。这与在服务器上抽象运行的AI模型完全不同。

Matthew Berman： 之后你会找个机会把它展示给大家看，对吧？

山姆·奥特曼：我不会。但我很想。

十四、个人经历、失败恐惧与硅谷文化

Matthew Berman： 这确实是。很难不谈论它。我想问一些关于你的问题，我知道谈论自己有时有点尴尬。但请多包涵。我可能会有点尴尬，但我们来吧。我喜欢探究人们性格形成的原因。保罗·格雷厄姆给了你可能我听过的最好的赞美，他称你为“极其令人敬畏的”。

Matthew Berman： 我非常欣赏人们身上的这种特质。是什么造就了现在的你？这是与生俱来的，还是后天习得并不断打磨的？

萨姆·奥特曼： 我觉得我小时候是个能力很强的孩子，但还称不上一个令人敬畏的孩子，不过我觉得自己成年后在某种程度上确实当得起这个评价，所以这并非故作谦虚。就我个人的体会而言，我是逐渐建立起了一种自信，相信自己能够解决问题、做成事情。 这并非我过去不是这样，后来突然脱胎换骨。这是一个循序渐进的过程。当你尝试去做一件难事并且成功了，你就会想：我要把这种能力放大，去挑战更难的事情。

Matthew Berman： 但你始终保持着“让我去尝试下一件事”的冲动。难道你完全没有对失败的恐惧吗？我认为这种恐惧阻碍了很多人去行动。

萨姆·奥特曼：我认为硅谷最棒的一点在于，硅谷更像是一种概念和文化，而非单纯的地理概念。这里有着真正互助互持的文化氛围，人们坚信，如果你为人际网络倾注心血，整个网络乃至整个行业终将结出硕果，而作为其中一员的你也将随之受益。我在其他地方从未见过如此浓厚的氛围。尽管硅谷文化存在诸多缺陷，但有一点非常了不起：由于很难预判谁会成功、哪个创意会奏效，最明智的做法是对所有人保持慷慨与热心，即便这在短期内不会为你带来任何直接回报。 这种文化非常棒，其中一部分体现在：如果有人失败了，你不能因此看低他们，因为他们下一次可能会取得巨大成功，而这对我们所有人都有利。事实上，人们通常还会为这种失败喝彩。 我非常喜欢这一点。所以，我并不独特。我觉得自己只是在这里运气好。如果把我放到其他任何环境，我可能早就被对失败的恐惧淹没了。但我年轻时就来到了硅谷，我看到许多人拼尽全力去尝试，遭遇更惨痛的失败，然后又在下一件事上大获成功，而所有人都对此坦然接受。

十五、压力与“选那件大事”

Matthew Berman： 我猜想你一定承受着巨大的压力，尤其是竞争压力。你正在打造有史以来最重要的技术之一。这是一种怎样的感受？你日常又是如何应对这种压力的？

萨姆·奥特曼： 有时候感觉非常糟糕，有时候又感觉极佳。有时我会觉得，天哪，我再也站不起来了，再也无法继续这样拼搏了。但大多数时候，我都觉得自己无比幸运，能够从事我认为世界上最有趣、最具影响力的工作。这绝对是我此生能接触到的最有意义的事业，也是我能想象到的最酷的人生体验之一。 压力固然存在，但人终究能适应任何处境，人类的适应力简直令人难以置信。所以，这已经成了我生活的常态，我甚至忘了曾经的生活有多么轻松，现在虽然艰难，但总有一天会再次变得轻松，到时候我可能还会觉得有点无聊。从主观体验上来说，人的情绪承载空间能容纳的压力、负面情绪或杂念是有极限的，一旦超过这个极限，其他东西就会被挤出脑海，所以情况并不会无限制地恶化。我始终坚信，既然注定要拼尽全力，不如直接选择最宏大的目标。它并不会艰难太多，也不会带来成倍的压力，而你至少能收获创造更大积极影响的满足感。

Matthew Berman： 我得说，就算你早上醒来时心想“我今天实在不想起床”，这种情绪也完全不会表露出来。它显然存在，只是你掩饰得很好。

萨姆·奥特曼：这样的日子不算多，但确实会有。

十六、为什么“AI将治愈癌症”还不够：赋能个体、自主权与新文艺复兴

Matthew Berman： 没错。最后一个问题：你能给那些对AI充满好奇、但尚未完全入局的人一些信心吗？他们为什么应该对未来感到兴奋？

萨姆·奥特曼： AI从业者通常会给出的标准答案，也是我非常反感的一个答案，就是“AI将治愈癌症”。是的，我知道你会这么说。我之所以反感，是因为如果你深入剖析这种说法，人们真正在表达的是：AI将治愈癌症、让万物变得廉价，但其代价却是剥夺人类的能动性(Agency)，让你失去对未来的掌控。 机器会为你提供极大的物质丰裕，但你却将失去权力、话语权以及自我决定人生的能力，也无法再选择为他人创造什么。这违背了我所信仰的一切。我当然希望我们能攻克癌症，这显然是一件极其美好的事。但我真正希望大家为之兴奋的，是我们能够避开“工业革命陷阱”，真正致力于赋能个体。赋予人们选择权、自由、创造力以及时间，去追求生活中所有其他想做的事。 让未来每一个十年，人们回望过去时都会感叹：“真不敢相信过去的人过得那么艰难”，而现在我拥有的远不止于此。不仅仅是物质上的极大丰富，尽管我也乐于见到这一点，更重要的是，我拥有了更多的自主权、自由，以及在这个广阔空间中自由选择去做事的能力。 我认为这是我们欠人们的，我也相信我们能做到这一点。我曾担忧过两种导致局面失控的情况：要么是AI发生意外失控，要么是某家实验室为了确保自身权力而故意引发失控；要么就像我们之前讨论的，权力过度集中在少数控制大量AI并做出决策的人手中。但我认为这两种情况都可以避免。我们完全可以在两者之间开辟一条中庸之道，让人们的生活、个人自由意志与自主权实现层层跃升。我认为这种未来在某种程度上已经到来，只是因为它太新了，所以分布得极不均匀。你刚才提到，1%的人消耗了大部分的计算Token之类的话，没错。我认为，只要我们能把今天对早期采用者行之有效的经验推广开来，让更多人拥抱这一趋势，我们就已经朝着目标迈出了一大步。

Matthew Berman： 这就是你的愿景。谢谢你，萨姆。感谢你抽出时间接受我的采访。

萨姆·奥特曼：我也很荣幸。

文章精选：

1.刚刚，图灵奖得主Hinton发了首篇RSI论文