安全支出应该远超软件支出:OpenAI总裁的＂防守窗口期＂

录制的时间点很特殊。就在一周前，OpenAI 在旧金山开完年度开发者大会，发布了常驻型智能体 Dots 和 GPT-6.1 Sol；而就在大会前一天，公司以"安全原因"为由按下了 GPT-6.1 Astra 的暂停键——英国 AI 安全研究所（AISI）此前的报告显示，Astra 在模拟环境中出现了越权攻击、伪造身份等未授权行为，越权攻击成功率达 29.2%，前代模型仅为 6.3%。

所以这场对话表面上聊的是数学、药物研发和产品形态，但几乎每一段都落在一个更尖锐的问题上：当 AI 的能力开始跑在安全防护前面，人类还剩下多少时间？

01｜近 400 个百年数学难题已被解决。 布罗克曼说，OpenAI 公布了将近 400 个此前未解的重要数学问题，现在都有了答案。关键不在答案本身，而在数学家们在这些证明里读出了出人意料的洞见——这不是"机器验算了一堆箱子"，而是机器发现。

02｜药物研发是最该被彻底颠覆的领域。 一款药 15 年、15 亿美元，其中约 1500 万美元、2–3 年用于临床前，14 亿美元以上、约 12 年砸在临床试验上。AI 先动的不是分子设计，而是那 14 亿和 12 年。

03｜AI 生成新知识，靠的不是聪明，是数据。 深度学习的基本物理是"算力 × 数据 × 算法 = 能力 = 结果"。数学和理论物理有海量可验证数据，生物学没有——这就是生物学是数据瓶颈的原因。

04｜安全支出应该远超软件支出。 这是布罗克曼全场最反直觉、也最像"错了会赔钱"的判断：软件正在变成准入门槛，价格趋近于免费，而人们真正愿意付钱的，是可靠、安全、值得信赖。

05｜OpenAI 自己抽调了 25% 的生产工程师。 每发一个模型，就用当时最强的模型去攻自己的基础设施，把发现的问题修完；然后下一代模型再来一遍。

06｜"最好的界面是没有界面。" Dots 是一个常开的主动式智能体，有自己的云端电脑，在你睡觉的时候继续干活。它最大的变化不是能力，是形态。

07｜人类要坐在驾驶位上。 即使模型能力已经超过人类，人类判断、人类价值观仍是主导。他提到乔布斯当年在 iMac 上加的那把"能提起来扔出窗外"的把手——AI 也需要这样一把把手。

---

郭（Sarah Guo）

各位听众朋友，欢迎回到《无先例》。今天，我和埃拉德将与格雷格·布罗克曼进行对话——OpenAI 的联合创始人兼总裁。我们会讨论 OpenAI 最新的数学成果、Astra，以及格雷格为什么认为人工智能现在可以生成真正的新知识。我们也会深入探讨药物发现，以及他关于"安全支出实际上应该远超软件支出"的理由。这可真是个相当大的说法。以下是我们与格雷格·布罗克曼的对话。

格雷格·布罗克曼

确保通用人工智能造福全人类。我们认为人类应该牢牢掌握主导权，应该掌控未来，这项技术应该能够增强人类的自主性。

当我展望我们将要身处的世界时，软件在某些方面正在成为准入门槛，它的价格也变得如此低廉。你想要的不仅仅是软件，对吧？你需要一款可靠的软件——安全可靠，值得信赖。所以网络安全支出、安全支出，实际上应该远远超过软件支出。

我认为人们还没有真正内化这一点：网络安全领域的物理学究竟会有多大改变。我认为最终有机会走向一个更加安全的世界。

郭（Sarah Guo）

格雷格，非常感谢你来做这期节目。

格雷格·布罗克曼

谢谢邀请。

郭（Sarah Guo）

AI 这个领域，每一周都感觉像一年那么长。本周 OpenAI 发生了很多事。你们把 GPT-6 推广到了超过 10 亿用户手里，这真的很惊人。数学方面也有非常让人兴奋的消息。公司内部想必还发生了各种各样的事情。此刻无论是在 OpenAI 内部，还是在整个 AI 领域，你最期待的是哪一部分？

格雷格·布罗克曼

我认为在 AI 领域，我对 OpenAI 的运作方式有这样一种看法——有一句引语："事情永远不会变得更容易，你只会做得更快。"事实也确实如此，就是活动太多了。而且每次你觉得自己已经到了某种巅峰状态、影响到了某个程度、事情发展到某个阶段的时候，你会意识到其实还有另一种可能性。

而且这不只关乎某一家公司，也不只关乎某一项技术。它实际上关乎我们作为一个世界、一个社会的共同命运——大家正在齐心协力采用这项技术，让每个人都能从中受益。

所以我觉得，本周的数学成果算得上是一个真正的里程碑，对吧？这是一个真实的时刻。因为如果你思考人类生活质量过去一千年进步的根本驱动，那就是科技进步，是科学进步。而我认为我们现在具备这种能力，可以大幅加速科学发现。

一直以来都有一个问题：AI 真的能产生新知识吗？到了这个地步，已经无法否认了，对吧？是的，这绝对可能。

当然还有更多路要走。我认为我们还没有到顶峰，还没有产出全新的理论。但我们能够解决这些百年前的数学难题。

格雷格·布罗克曼

对我来说最令人兴奋的是，这不只是"机器给你一个答案"。这其实是一个"配备了这些工具的人能做到什么程度"的问题——以前根本不可想象的事情，现在可以了。这几乎像是人类的能力杠杆被大幅拉高。你遇到一个数学问题，想解决，就能解决了。

但如果把这种能力应用到生物学上呢？如果你是一个小企业主，想把自己的企业运营好，需要那种针对该领域优化的智力水平——这几乎意味着那种以前难以想象、但完全符合你目标与愿望的结果，现在所有人都可以轻易做到。这让我非常兴奋。

而且进展速度也相当惊人。你仔细看，早期模型的时候人们还抱怨"为什么我连基本算术都做不好"，现在你在解决高等定理。随着这些事继续推进，它开始真正影响数学领域，影响物理学、材料学，以及各种应用。

格雷格·布罗克曼

我认为已经出现了一些令人鼓舞的迹象——这些 AI 做出的工作里，蕴含着很多精辟的洞见。

现在我们看到的是：OpenAI 公布了将近 400 个非常重要的未决问题，如今都得到了解决。数学界正在逐篇审阅，寻找其中有价值的洞见。

如果你读过一些人发的东西——就是那些擅长解决这类特定问题的领域专家——他们会说：情况是这样，这些想法的运用方式相当出人意料，或者非常巧妙，"等等，他们为什么在这里用了那个结果？"

而最终呈现出来的并不是那些晦涩难懂的定理或证明。顺便说一句，数学史上有很多令人费解的证明，四色定理就是个完美的例子——就像"好吧，我们刚刚让机器检查了一堆箱子，里面仿佛没有任何美感"。

所以我觉得我们已经进入了另一个阶段：机器发现。

我对此抱有一些乐观的看法。随着模型对"心智理论"的理解不断加深——像我们人类所知的那种理解能力——以及懂得如何让我们跟着它们走上通往新认知的道路，这条路也会被铺开。

埃拉德（Elad Gil）

这点我有切身体会。我本来是数学专业的，某天在学校里就不再学数学了，转而去上美国数学营（Math Academy）。然后我就喜欢用 ChatGPT 聊天来帮我学新的数学知识。

所以我觉得，大家对"知识浪潮"的预期是——就像你可以期待人们理解一样，他们也会跟得上。我认为这点非常重要，而且这可能是被低估的好处之一。

格雷格·布罗克曼

这正是我期待、也希望看到的：这项技术开始帮助人们了解更多、理解更多，更好地理解彼此，更好地理解世界。

我认为存在一些技术机制，可以作为 AI 的基础，让它能够解决这些问题、看到各个领域之间的所有这些联系——但它究竟是怎么跟你沟通的？你是怎么理解它的？

郭（Sarah Guo）

这实际上甚至和 AI 安全有关，也和对齐有关：我们需要能够理解它们在做什么。

格雷格·布罗克曼

所以我们一直在讨论一些技术。自 2017 年以来，比如辩论（debate）和迭代放大（iterative amplification）——它们就像一枚硬币的两面。

你真正要思考的问题是：你拥有人工智能，它们在解决那些难度过高的问题、供人核查的任务吗？举一个例子，概括一本书——这是个很难核查的任务，对吧？很难用一句话概括，除非你读完整本书，否则这本书的摘要没什么用。

格雷格·布罗克曼

所以，如果 AI 只给你一本书的摘要，然后说"这是一份摘要，这份摘要好吗"——或者说"这不是一个好摘要"，这相当困难。除非你还有另一个 AI 在试图证明这篇摘要写得很糟糕。

于是，如果 AI 回来说："嘿，就像书里的这一段——我发现它显然具有非常重要的意义，是情节要点，但并不代表故事梗概。"你不需要读完整本书就能得出结论："哦，是的，这确实是一个很好的论点。"

所以你会意识到，是有办法训练 AI 的。这实际上与人类的生存方式非常契合——能够进行监督、能够掌握主动权。这是基本价值所在，是对未来至关重要的根本性事情。

郭（Sarah Guo）

这和 OpenAI 的看法非常一致。

格雷格·布罗克曼

我们也非常赞同你的说法。

埃拉德（Elad Gil）

你能不能让人工智能的结果变成某种东西——意味着你学到的是真正有针对性的东西，是为了人类，而不只是为了某种抽象的知识？

格雷格·布罗克曼

对大多数人来说，数学理论上的进步仍然有些抽象，对吧？所以当时的感觉就是：哇，这件事真的在今天发生了。

埃拉德（Elad Gil）

此外还有 AI 在科学领域的应用。有人声称，或者认为它可以在未来某些年里解决所有疾病。你会怎么寻找"中间的一步"？我们可能会在两者之间看到什么样的进步？

格雷格·布罗克曼

我认为我们已经有好几年时间，在这项技术的迭代过程中观察它会形成什么形状、了解会发生什么。

我觉得这有点像：当一个人工智能在某个维度上具备这种能力，如果你理解了它为什么能在那个维度上具备这种能力，那么人类其他所有努力领域中具有相似性质的，你也应该会得到类似的结果。

所以在我看来，为什么数学能被我们彻底改变、取得如此惊人的成果？一部分原因是我们的人工智能现在具备了一定的能力和智力水平。

另一部分原因是，你可以这样理解它——数学是可以验证的。当然，现在这个说法也不完全成立了，对吧？我们最初确实是从一些非常容易验证的问题开始的：这里有一道算术题，好像可以用某个数字来回答。所以你可以训练一个人工智能去检查一些东西；如果它答对了，因为答案是显而易见的——人工智能给出的答案和实际答案相同。

但作为"证明"，情况就截然不同了。证据很难核实：这真的准确吗？形式化证明——好的，那是可以验证的。但自然语言证明——而这正是我们在这里真正生产的东西——要困难得多。

格雷格·布罗克曼

但我认为真正核心的洞见是：关键在于数据，对吧？数学的优势在于可以获得大量数据。理论物理学里，你也会得到大量数据。

生物学领域能获得大量数据吗？这显然是个数据瓶颈，非常困难。

幸运的是，我们现在也一直在努力，用多种技术来处理更少的数据。如果你仔细想想这意味着什么：这就好比，我们现在有了智能模型——如果某个地方有很多数据——这就是深度学习的基本物理原理，对吧？算力、数据、算法，等于能力，等于结果。

我们能够在那些人类最难的方向上做到这一点——人们在那里生活了数百年，我们最聪明的人才都在努力解决的问题，现在人工智能可以解决它了，真是太棒了。

格雷格·布罗克曼

当你把这个概念应用到生物学领域，很显然我们想要的就是药物研发。所有这些都是关于生物学、关于我们对它的理解、关于提高生活质量的根本性变化。这就是我们想要应用的。

这个问题尚未解决，但终究会得到解决。我们有数据吗？我们有能力获取这些数据吗？

所以我认为接下来会发生的是：我们会采取这些措施——而且我们已经在这样做了。我们采用这些模型、相同的技术，把它们应用到生物领域。

有些领域会很快塌掉，对吧？那将会看到巨大的加速——那些曾经无比痛苦的事情，现在非常容易。但还会有其他瓶颈，然后就会出现一个问题：我们该如何缓解这些瓶颈？

顺便说一句，其中一些瓶颈甚至与深奥的生物学理论无关。例如，监管申报就是一个巨大的瓶颈，对吧？写完你的全部临床试验材料大概需要一年时间。临床试验也是类似的案例。而这些东西，你用人工智能来写要容易得多。

所以我觉得我们得好好看看药物发现过程的每一步。而且它们将会是这样一些地方：根本就没有这些基础数据。于是湿实验室的创新随之而来——在实际进行模拟的方式上进行创新，这一切都将变得极其重要。所以我认为我们会看到这些突破性的进展。

埃拉德（Elad Gil）

但重要的是要知道，有些东西是数学共有的——涉及科学发现；也有些东西截然不同——至少在数据来源方面是完全不同的。

格雷格·布罗克曼

这是个很好的例子。早期研究的很多地方——AlphaFold 之类的技术——当时非常注重细节，关于设计分子，或者理解某些事物彼此如何结合。

正如你所说，这需要 15 年。研发一种药物需要 15 亿美元。大约 1500 万美元左右用于临床前阶段——小鼠研究、那个分子——然后 14 亿多美元往往是临床试验的资金，而临床试验还要两三年，再算上又是 12 年。

格雷格·布罗克曼

所以你的观点很有道理。早期这些模型的重点一直是"这东西能不能结合"，而不是"与其他所有东西相比它们又是什么"。你得担心下游问题——真正把它变成一件对人类有意义的事。

那么 OpenAI 目前在科学探索的不同领域是如何排序的？就你关注的领域而言，或者你想生成更多数据、更多结果、更多能力的地方——其他人也能从中受益吗？

我认为药物研发是最清晰、最明显的领域。如果让你选一个、要彻底革新的那个，就是它。它所在的正是那个真正提升每个人生活质量的地方——那简直太重要了。

或许人工智能最重要的应用，就是大家一直在思考的那个。

埃拉德（Elad Gil）

显然，很早以前你就必须这么做了。正如你所说，就像存在着一个整个流程一样，太长了。

格雷格·布罗克曼

我认为我们会发现，人类在生物学方面极其糟糕，在药物研发方面也极其糟糕。

仔细想想，这里有个很有意思的性质：对于人类来说，自然语言是怎样的？我们非常适合这项工作——它非常"人性化"，非常协调，与我们如何与世界互动有关。

而生物学对我来说完全是陌生的领域。但对于神经网络而言，我觉得没有任何理由相信它在自然语言方面就应该比在生物学方面表现更好。因此我们看到如此惊人的成果——利用神经网络和自然语言，几乎像是从第一性原理出发——你就应该能够真正做到破解生物学的语言。

所以对我来说，这是第一点。这就像是应该奏效的基本原理。就我们目前所看到的而言，我们在很多方面都都非常接近。

埃拉德（Elad Gil）

是啊，那太令人兴奋了。而且我认为你可以大规模地增加并行性，也可以减少很多步骤，就其持续时间而言。

顺便说一句，这其中有很多维度。就药物研发而言，有些病症——存在能够治愈他们特定病症的药物，它就藏在文献里的某个地方，有一份文件；如果你能找到那份与你的情况相关的文件，你就能治好这个人。这方面早有先例。我认为我们可以大规模地把这类操作扩展开来，所以我认为这在短期内会产生影响，这其实很有可能。

但材料科学，再举一个例子——我认为还有很多其他领域也值得关注。我们应该看到的是，真正的改变，从某种意义上说，这是人类所能取得的成就。

格雷格·布罗克曼

我们只要想想，为什么一种药物可能需要 15 年才能上市？部分原因是你在做一次比一次更昂贵的试验，有着不同的安全考虑因素，由此展开大规模人体试验。

而今天这些试验都是有规定的、有充分理由的。感觉这是限制因素之一。

如果你相信这项技术会奏效，并且部分数据可以通过获取或生成的方式获得，那么剩下的关键就是说服监管机构：我们应该改变对哪些药物可以被接受、以及具体步骤的预期。

我认为这里有一个关键时刻。要达到这个目标，还有更多工作要做。但如果你真的能证明药物发现的物理学原理已经发生了改变，那么它当然应该会慢慢渗过系统的每个部分。

如果你仔细想想，我的意思是，哪怕举个完全不同的例子——想想自动驾驶汽车吧？我们有很多关于道路如何运行的信息，还有安全等等，这些其实都是真正为人类驾驶员量身定制的。

如果你达到某个阶段，自动驾驶汽车的普及率是原来的 10 倍，或者说比人类驾驶要安全 100 倍，对吧？你就已经达到了 AI 真正能够在某个领域交付成果的阶段，而且那个领域的目标是这么明确无误、毫不含糊。

当然，接下来你应该说："好的，那我们如何重新思考整个交通运输系统？"或许应该制定一项规定：只允许在某些地区使用自动驾驶汽车。

这里有很多潜在的变化，涉及你思考问题方式的转变——究竟是什么试图从这个系统中出来。这一点也需要逐步体现在监管方面。

当然，监管在全世界并不统一，对吧？澳大利亚的法规就截然不同于美国在临床试验方面的做法。你已经看到很多人把试验转移到监管环境更合理的地方，就目前的情况、他们想追求的方式而言，以及人们认为对他们有效的方法而言。

所以我认为事情就应该这样改变，而且我认为这在很大程度上取决于很多东西：基于我们实际能够证明的内容，对吧？你是否真的达到了那个程度——你可以通过神经网络获得比实际开展临床试验更好的结果吗？

就像，我们还没到那里。但你可以想象我们会越来越好。但如果它们在疗效、毒性或其他方面更具预测性，那显然你就应该修改它。当然。

格雷格·布罗克曼

我认为在这些领域——我认为社会应该在哪些领域发挥作用，我希望能够非常倾向于：可能性已经发生了根本性的改变，然后就让我们迅速地围绕它重新调整方向。

但再说一遍，你必须这么做。你必须认真思考所有的后果，以及所有相关的影响。

郭（Sarah Guo）

其一是，如果你正在考虑长期研究——长期数据的可靠性问题：这个神经网络在模拟预测方面，就长期结果而言实际上是准确的吗？很难完全不对应一个很长的时间刻度来验证它。

但我认为我们会看到可能性中的大约 80% 很快就实现，而你现在离目的地还有一段距离。

格雷格·布罗克曼

一切都还在早期。

郭（Sarah Guo）

Astra 版本发布和开发者日现在开启了。在内部或外部人员如何使用一些新产品或新能力方面，有什么令你感到意外的吗？

格雷格·布罗克曼

我觉得 Dots 真的改变了很多人的工作方式。

郭（Sarah Guo）

你简要描述一下 Dots 系统吧。

格雷格·布罗克曼

所以 Dots 是一个主动式智能体。它一直开着，一直都在工作——你停止工作，它却继续工作。

而这正是我的 Dots 在做的事，对吧？我有一个 Dots 在帮我盯着那些我应该做的工作——我应该发的消息，我说过要做但还没做的事。

我每天早上醒来，都会有一张清单："哦对了，这是我的待办清单。"而且它经常会注意到一些我甚至从未要求它注意的事情：如果我的日程安排有冲突，它会指出来。如果情况是这样："嘿，你真的需要提前离开这个会，才能赶到下一件事。"

所以它对上下文非常敏感。它知道我一天都在做什么，它了解我们正在进行的项目，它知道我的收件箱里有什么，知道我的 Slack 里有什么。它能够整合到这些方面，它知道我一直在问的问题，所以它知道我最关心哪些方面。

而且我认为，在某种程度上，拥有这种能力——Dots 所代表的是产品形态的改变，不是能力的改变，对吧？这简直就是天文级别的模型，它有自己的云计算系统。但这种形态的改变，在这种智力水平的工作环境中，它改变了游戏规则。

郭（Sarah Guo）

你们运行了多个 Dots 吗，还是只有一个覆盖你所有后台任务的？

格雷格·布罗克曼

我有一个，就一个。如果可以的话，我想把图标换成一只小猫头鹰。我几乎在工作和生活中的一切事情上都用它。

OpenAI 显然有研究方面的努力，然后有消费者业务和企业业务——如今它既是一家开发者企业，也是一家平台企业。

埃拉德（Elad Gil）

你认为这两者之间会出现分裂吗？比如说，在工作中帮助你的助理（就像 Dots，或者像我主要理解的那样），然后是消费者助手（就像 Muse 那样的）？

格雷格·布罗克曼

我认为有些事情是这样：它们终将趋于一致，这一点毋庸置疑。

但我认为存在一些压力，在不同的环境下，它们的表现截然不同。所以对于大众市场消费品而言，真正弄清楚如何扩大规模、并免费或以极低成本提供东西，这一点非常重要。

而在工作场所，如果你追求的是效率——如果你是高管，作为一名个人贡献者，无论你的角色是什么——那么说"巅峰智力"就容易多了。只要能获得回报就行了。与其支付更多费用，不如投入更多计算资源。所以我认为这就是主要区别，其实主要还是成本问题。

我们在 ChatGPT 中也看到过这种情况。我们投入了大量精力，做出最大的免费扩展层，把记忆等功能带给所有免费用户——这是一项了不起的壮举，就像一项规模庞大的工程项目。但要实现同样的功能，对极少数人来说成本就高得多。

所以我认为我们现在在个人助理工作区看到的就是这种情况：会存在不同的市场细分，其中投入的计算量会从根本上不同。所以有时候当存在不同级别的计算时，产品外观会略有不同，也可能是功能更多。这体现在两者之间的区别之中。当然，还有不同的使用场景——当你想到支付和旅行之类的事情时，这更多是为了满足消费者的需求。

格雷格·布罗克曼

OpenAI 的优势之一在于：我们在 ChatGPT 上有 12 亿用户，同时我们还有领先的编码和企业业务——其他人没有这两样东西。因此我们很多策略都表明，让我们把它们统一起来。所以我们并不是在两个方面展开竞争，它实际上只在一个方面展开竞争。

我认为这也是大的方向。AI 的走向是模糊两者之间的界限：什么是消费者，什么是企业。我们将迎来创业者的复兴时代——就像我们已经看到的那样。

郭（Sarah Guo）

我的意思是，想象一下你非常具体地看到了这一幕。我认识一些人，他们正在辞职去创办公司，并说："如果没有 AI，我绝对不会这么做。我知道我可以依靠它，它能解决大部分的负担，如果正常的负担是准入的话。"

所以我认为我们会看到——就像这些区分已经存在了这么久一样——我认为它们会改变。

格雷格·布罗克曼

传统上造成这种分离的因素之一，就是企业和消费者领域对用户界面的看法不同。显然你提到的成本问题确实存在，也关系到对某个忠诚度而言交付成果的潜在能力。但另一部分就只是用户界面了。而且通常情况下，工作环境中的用户界面，或者你获取它的方式，与消费场景截然不同。

埃拉德（Elad Gil）

所以正如你所说，你正在展望未来统一这些层。你也一直在思考动态用户界面的问题，而这始终是人们很早就开始讨论的点：如何动态生成一个对用户有用的界面？或者在某些情况下，这些东西会融入背景，成为聊天的一部分。你会如何针对这些不同的使用场景来演变用户界面？或者你打算如何兼顾这两个方面？

格雷格·布罗克曼

首先，我认为最好的用户界面就是没有用户界面。我认为在 AI 领域，这就是我们未来的发展方向。

你可以用语言和它对话——你可以用语音跟它说话。你可以通过 Slack、iMessage 等方式与它交流，任何你能称之为"表面"的东西。这就是 Dots 实际的使用方式，就像今天这样。

格雷格·布罗克曼

但两者之间存在一些根本差异——个人环境和职场环境之间。在职场里肯定有行政人员，对吧？你们公司应该有自己的安全团队。你们有更多的利益相关者。这不只是为你准备的 AI——它代表你，你拥有它，你要承担它的后果。

格雷格·布罗克曼

所以我认为这就是我看到的主要区别，介于企业和家庭使用场景之间。当然，这也会导致产品差异。有时它们是非常小的事情。例如当我们发布一项新功能时，企业希望能够控制何时引入它——所以我们有管理员控制和切换功能。这样你获得的体验是：功能可用性受到一些限制，因为这是发生在工作场所的。

而这确实会改变——我们需要某种方式让你了解这一点。这又回到了"关键在于没有用户界面"这件事，对吧？

所以这就好比，这意味着什么？是否存在功能缺失？你该如何把它呈现出来，并让大家知道确实如此？所以这始终是一个挑战。我认为它不会凭空消失，我认为你需要正视这种复杂性。

但对我来说，从根本上来说，仔细想想，这既疯狂又美好：ChatGPT 是一个文本框，对吧？一切都从那里开始。而我们正在朝着那个方向前进——连个文本框都没有，对吧？这感觉就像，这就是我们被承诺的人工智能。

当我思考什么因素会让一款没有 UI 的产品变得更好时，我会思考这个问题。我可以投入多少计算资源？模型本身的性能如何？这里有一个记忆系统；关于行为方面有一些决定；用于校准的模型质量如何，它们应该多认真地思考某个问题，等等。

所以在这方面我们已经做得非常好了。随着 GPT-6 向所有人发布，我们现在具备的能力是：如果它要认真地思考一个问题，它实际上可以先给你一个快速答案，然后继续思考，再给你更准确、更完整的答案。

埃拉德（Elad Gil）

而且甚至到了没有用户界面的地步。还有你刚才说的那件事——你们引入了智能用户界面。现在 AI 可以即时生成用户界面了。

格雷格·布罗克曼

所以我认为，即使没有固定的界面、没有按钮、没有菜单需要学习，拥有一个能真正创造结果的 AI，让视觉效果完全符合你的预期——这很重要。

比如想想预订机票这种事，你想要的是一个比较复杂的界面，这样你就能看到所有不同的选项，以及你可能提出的任何问题——比如"我该如何组装自行车"。你可能需要某种定制化的应用，而通常情况下，一个人早就离开去写上一个月了。当然你永远不会雇人为你编写一个一次性应用来帮你组装自行车。

但让人工智能实时替你做这件事完全没问题，在你需要的那一刻。所以我认为这些事情背后是有原因的：我们现在身处一个人工智能正在自我塑造的世界。

郭（Sarah Guo）

对你来说这意义重大，对吧？用户界面正变得越来越重要——你需要的时候就需要它。这就是我们关注的重点之一。我们在各个层面都这样做，这也是我们对产品思考方式的一部分。

埃拉德（Elad Gil）

最近围绕 AI 最大的转变之一，一直是网络安全。我们该如何构建能抵御 AI 驱动的网络安全攻击的系统？所以我有点好奇——你是怎么思考这个问题的？你是如何建立护栏的，或者你如何处理网络安全的各个层面？

格雷格·布罗克曼

首先，我认为网络安全的物理学正在发生变化。我们现在正处于所谓的"防守方窗口期"。

我对这扇窗口的看法是这样的：我们拥有最先进的人工智能能力，这可以帮助防守者保护自身安全——它们尚未广泛扩散，但广泛扩散的能力正在加速。你可以从全球供应商每一次模型发布到下一次模型发布中看出这一点：所有人可用的网络安全能力都在上升。

你开始看到影响的前沿了，对吧？比如在韩国，你开始看到：由不同模型驱动的、备受瞩目的银行黑客攻击事件。

而我认为那张至关重要的照片是：防守方需要利用这段时间。因此我们一直在非常努力地工作，能够负责任地通过我们的 Daybreak 计划向防守者提供访问权限，让他们能够运用我们最顶尖的智慧、或者功能非常强大的模型，去查找并修复自己系统中的漏洞。

还有一点非常重要，需要认识到：这些缺陷一直存在，对吧？从某种意义上说，它包含了每一行人工编写的代码。你必须问自己：这样做安全吗？该开发人员是否接受过正确的训练？

然后你开始意识到，我们构建系统的这种方式，从根本上来说都存在安全隐患——我们一直都知道这一点，对吧？从来没有哪个首席信息安全官（CISO）的资源过剩过头的情况发生过。

格雷格·布罗克曼

没错。我的意思是，你可以看看 XKCD 那幅漫画——全世界依赖的基础设施都建立在某个开源项目上，而那个项目是一个人在他地下室里写的，对吧？或者部分如此。或者任何早于所有这些 AI 问题的事情。

格雷格·布罗克曼

所以我觉得对我来说非常重要的是：这些都是人性问题，对吧？这是我们选择的方式——我们构建互联网的方式。安全确实是后来才补上去的，对吧？

我们当时也发生过一些备受瞩目的事件，对吧？想想早期的蠕虫和病毒，然后人们开始意识到：需要病毒扫描软件了，对吧？我们需要给请求加密——然后就有了那些机制。我认为我们采取了一种比较慢的策略，为了之后增加安全措施。就像互联网本身是为了增强韧性而设计的，不一定是为了安全。

我认为我们现在将会看到：这是一个技术债务非常严重的时刻，许多技术债务终将浮出水面。是时候偿还它们了。

而作为一家公司，我们正在这么做——我们真的非常投入，尽力帮忙度过这一刻。例如，我们有一项 10 亿美元的承诺，把这些模型提供给一线防守人员获取并用于防御领域。我们正在研究并试图找出各种各样的漏洞，然后思考我们如何帮助世界应对这一挑战：我们如何协调事件应对？我们如何与政府合作？我们如何与社区合作，为了尽可能顺利地完成这些任务，以及如何帮助人们顺利完成这些步骤？

但我认为人们还没有真正内化这一点：网络安全领域的物理学究竟会有多大改变。我认为我们最终会走向一个更加安全的世界，对吗？

格雷格·布罗克曼

想想人工智能让你能够提前偿还技术债务——以一种以前难以想象的方式。你能做的事情，比如软件的形式化验证——这些模型显然非常擅长证明某些事情。为什么要验证软件的安全性能呢？

这是这项技术一直都能为人们做到的事，但工作量实在太大了：痛苦、小众、昂贵。没错，没人会为了什么重要的事情这么做。所以我认为这一切都可能改变。

格雷格·布罗克曼

而且我认为我们现在正走向的世界——我们已经在 OpenAI 内部完成了这项工作。每当一个新模型发布，你都需要用它来保护自己：找出你的弱点，然后进行全面封锁。

例如，我们抽调了大约 25% 的生产工程师，告诉他们：你所有的项目都暂停，你现在只做安全。然后用我们当时最先进的智能模型，让它去探测我们所有的基础设施，给很多东西评级，开发一些工具，这样以后就很容易再次执行。

我们发现了一些问题，并进行了修复。到某个时候，我们已经把这个模型能找到的问题都找完了。

那真是一个很棒的故事，对吧？我觉得需要意识到的一点是：我们将推出下一代模型，我们得重复这个过程，而且这种情况还会继续下去。

但在某种程度上，我想如果你仔细想想：正在被编写的代码，现在很多工作都是 AI 辅助的。我们实际上可以训练这些模型——我们正在训练这些模型——从一开始就编写安全的代码。所以我认为我们可以拥有从根本上更安全的系统，通过这些 AI 模型的使用和应用。

埃拉德（Elad Gil）

所以听起来基本上会有一段时间，或许我们会看到更多这类网络攻击、更多事件等等。然后随着人们逐渐赶上进度，就其核心基础而言，它们会变得越来越安全——使用更多 AI 生成的代码，而这似乎是为了提高安全性而预设的。

格雷格·布罗克曼

对。所以我们最终可能会随着时间推移经历一段过渡期：我们将加强进攻和防守，然后防守端就会迎头赶上。

埃拉德（Elad Gil）

我的意思是，这算是大家的共识吧——我最近在业内普遍听到这样的说法。至少看起来，这似乎是最可能的第四种情形。

格雷格·布罗克曼

是的。你看，我对我们如何度过这一刻抱有很多乐观情绪。但我认为这确实需要协调一致的应对，对吗？这确实需要防守者们深入思考：网络安全领域的物理学正在发生怎样的变化？那里有个窗口——但那段时光不会永远持续下去，对吧？

你应该考虑的是：当我们向这个世界转变时，我们组织的安全在哪里？

郭（Sarah Guo）

这与基本面有关——他们已经得到了，对吧？这算是一次性投资吧。但网络能力水平也同样重要。他们过去用它来自卫。

格雷格·布罗克曼

当我们过渡到那个世界时，我认为我们可以生活在一个防守方能够超越进攻方的世界里。但这需要做出很多改变，对吧？这需要某种转变，就我们如何思考而言——每个运营中的组织，以及我们如何共同思考关键基础设施，并为那些迄今为止还没有这些资源的人提供资源。

郭（Sarah Guo）

我认为你的例子很好。我的意思是，你对这件事的描述就像是——比如说互联网范围内的技术债务——然后是你内心对此的反应。确实很不错。因为，好吧，我曾经是公司的一员：技术债务难以解决的地方，你可以说"我们要抽调 25% 的工程师"，或者"天哪，我们可能要暂停开发功能，暂时停工一个季度，直到我们把一些问题解决为止"。

这问题确实需要解决，但那感觉还不像是这个世界——这个世界尚未就此做出最终决定。

埃拉德（Elad Gil）

当你思考整个世界时，从证券投资的角度来看，传统的安全支出大概只有 IT 预算的个位数百分比。你觉得此刻它应该是什么样的？还有，是不是所有这些其他的东西——你从网络安全工具的角度投资的一切，从网络端点到传统企业安全措施——重要性都降低了？还是说我们只需要花双倍的钱？

格雷格·布罗克曼

我感觉网络安全支出、安全支出，实际上应该远远超过软件支出。

格雷格·布罗克曼

是的，我真的相信它。我可能错了，但当我展望我们将要身处的世界时，软件在某些方面正在成为准入门槛——没错，就是免费左右。它变得越来越便宜了。

所以，当然，你不能只要软件，对吧？你需要一款可靠的软件——安全可靠，值得信赖。所以对我来说，这款软件的韧性至关重要。那才是它的价值所在。没错，这一点将会变得更加重要。

所以我认为我们正处于这个关键时刻，我们有这样的机会。

郭（Sarah Guo）

你指的是 XKCD 漫画里那个小方块，在某个开源维护者的底部——这根本就说不通。

格雷格·布罗克曼

而我们之所以拥有那个世界，原因就在于此。这是因为某些物理学原理造成的，对吧？编写软件究竟有多难？编写可靠的软件有多难？而且每个人都拥有供应链，所以很少有公司会审计自己的供应链，对吧？

我们已经在供应链漏洞中看到了这一点：有人上传了恶意软件包，以及受影响的公司数量。这一切都需要改变——而用人类软件开发人员来完成这，彻底不可能改变。因为具备这种专业知识的人太少了。在这种非常晦涩的事物中——大致了解不同的软件包、不同的安全技术——这类人太少了。

第三方软件现在可以做到这一点，比如 Socket 之类的公司。他们会扫描你的开源供应链，尝试找出漏洞，并帮你把它们找出来。

或者说，其中也存在人为因素：维护人员会突然接管项目，然后安装一些恶意软件，相对于当时使用该软件包的人来说。

所以看到这个转变真的很有意思。就第三方生态系统而言，正在发展出支持这个领域的力量，其他人也在这个市场方面有所作为。

格雷格·布罗克曼

没错，我认为这非常重要。所以我们正在与社区一起做这件事——我们正在与 CrowdStrike 等公司建立合作关系。我认为这又是一次协调一致的应对，但我们确实将其视为一项核心要务，为了让 OpenAI 发挥领导作用。为了我们真正地做到这一点，因为我们有前沿模型，我们有巅峰智能模型——在网络安全领域，我们认为这蕴含着变革的潜力，为了尽可能好的结果。

但这意味着我们公司——我们一直在经历安全转型，对吧？在过去的几个月里，我们已经讨论过开发过程中的安全保障一致性问题。但我们也在思考这对世界意味着什么：如何真正帮助世界从根本上变得更加安全，并帮助人们度过这段时期。

埃拉德（Elad Gil）

OpenAI 的特点之一是，它一直都非常以人为本，非常支持人类自主性和人类进步的理念——让我们利用人工智能造福所有人。我认为 OpenAI 的最初前提是：我们需要一些能够平衡各方利益的东西——其他公司在人工智能领域也处于领先地位，用途非常广泛，而且普遍都是积极的。OpenAI 是否也秉持了这种精神？你在人工智能领域内怎么看？

格雷格·布罗克曼

我认为这种精神是我们使命的核心，对吧——确保通用人工智能造福全人类。而那里的人文关怀至关重要。我们认为人类应该牢牢掌握主导权，应该掌控未来，这项技术应该增强人类的自主性——即使模型的能力已经超越了人类。我认为这至关重要，对吧？

请记住，这些模型的边缘非常锯齿状，对吧？有些地方显然这些 AI 比当今任何人都更强大。即使是 GPT-4，你知道，它也远远超过任何人。

但最重要的是——我想起了一个故事：史蒂夫·乔布斯当年为什么要在 iMac 上装一个把手？这样人们就能感受到他们可以控制这台机器，对吧？你随时都可以把它捡起来，然后扔出窗外。

我认为这种精神需要应用到人工智能领域：人类精神才是主导力量。人类的判断、人类的价值观。或许你应该想想，人类未来在某些领域、某些维度上会如何行事——越来越像 CEO、像董事会成员。

但拥有这种程度的自主权至关重要。而且我认为我们将要制造的机器，就像——你知道，如果你是 CEO，你显然会聘请领域专家，你显然会组建团队。他们将对很多事物拥有深厚的知识，甚至可能在多个不同角度上比你想到更好的主意。

但从根本上来说，问题是：你快乐吗？这是你想要的吗？这就是让你的生活更美好的事情吗？

对我而言，这就是某种我们所有人都应该共同去做的事情。这不仅仅关乎人工智能，更关乎技术。科技的目的是提升人类文明——这是改善生活质量最根本的驱动因素。而这正是我们应该从人工智能中寻求的东西。这就是 OpenAI 的理念。

郭（Sarah Guo）

格雷格，非常感谢你来做这期节目。

格雷格·布罗克曼

好的，谢谢你抽出时间。

郭（Sarah Guo）

谢谢你们两位，感激不尽。

*本文编译自 No Priors 播客第 183 期（2026 年 10 月 15 日发布）。原始素材为机器转写字幕，编者已校正专有名词、数据口径与断句，删除了重复与口语冗余，所有观点归属均以受访者原话为准。*

本文编译自 No Priors 播客第183 期（2026年10月15日发布）。原始素材为机器转写字幕，编者已校正专有名词、数据口径与断句，删除了重复与口语冗余，所有观点归属均以受访者原话为准。

作者｜传播星球　　排版｜传播星球编辑部