夜雨聆风七月的一个深夜，一条四分钟的视频摘要开始在X上流传。画面里只有两个人坐在麦克风前聊天，语气平静得像在讨论天气。但他们谈到的未来，比好莱坞剧本更加幽暗。
"整个问题就是力量当力量大到那个程度，会发生什么？"
说话的人叫Ilya Sutskever。如果你不认识这个名字，只需记住：他是亲手把现代AI推上牌桌的人之一，也是从OpenAI出走后、押上全部身家去做"安全超级智能"的人。他给出了一个时间窗口，5到20年随后，这段对话在评论区引发大量讨论。
"数万亿、最终数千万亿的AI。人类？只是其中极小的一部分。"
▲ Casper（@caspr_exe）的视频摘要帖，将一场长访谈压缩成几句幽暗的未来图景
先别急着把这归入"硅谷大佬又在画饼"那一栏。这段话出自一场长达一小时三十六分钟的深度对谈。 2025年11月底，播客主持人Dwarkesh Patel在他的节目里对Ilya做了一次罕见的、几乎不设禁区的访谈，标题毫不绕弯，《We're moving from the age of scaling to the age of research》（从规模时代到研究时代）。
访谈里，Ilya抛出了一个对齐（alignment）新思路：别只把AI对齐到"听人类的话"，要对齐到关心一切有感生命（sentient life）。 理由听上去几乎有一种诡异的优雅：如果AI自己也具有某种主观体验，那让它"关心所有有体验的存在"反而比"只关心人类"更符合它的本性。就像人类因为镜像神经元会对其他动物产生共情一样，用建模自己的回路去建模他人，是一种效率选择。
主持人Dwarkesh立刻接了一刀，而这一刀，正是整场对话最锋利的地方：
"那大多数有感生命都将是AI数万亿、最终数千万亿人类只会是极小的一部分我们还能说自己在控制什么吗？"
Ilya没有反驳他说了两个字："It's true."
▲ @vitrupo 将这段关键对话压缩为三行，清晰还原了说话人切换，Ilya提出方向，Dwarkesh指出后果，Ilya承认
这就是那段在社交网络上被反复引用的话的来源。 很多摘要把"数万亿AI"写成了"Ilya的预言"。准确的对话结构是：Ilya提出"对齐到有感生命"的框架，Dwarkesh推导出"人类将在数量上被淹没"的结论，Ilya承认并开始讨论补救方案。转述时，说话人切换常被省略，一场对话也随之变成了一纸宣判。
"很难切身感受到AGI"，造词的人也失去了feeling
这场访谈里还有一个让技术社区集体会心一击的时刻。
Ilya在OpenAI时期，"Feel the AGI"几乎是一句内部文化口号，要去感受通用人工智能正在到来的那种气息。到了2025年的这次访谈，同一个人反复说的却是："It's very hard to feel the AGI." 很难切身感受到AGI。你可以谈论它，辩论它，却无法获得那种感觉，就像年轻人很难体会年迈体弱是什么滋味。
▲ 社区梗图迅速跟进：当年在OpenAI"发明"了feel the AGI的人，现在自己也feel不到了
这句话的穿透力超出了技术圈层评论区里，一个叫Rokko的用户写下了也许是整个话题下最精准的一条回复：
"'很难感觉到AGI'，这句话解释了我关于这件事的每一场争论。我们都在辩论一个谁都还想象不出来的东西。"
▲ @0xRokko 的回复被大量转发，"我们在辩论自己都想象不出的东西"
在Ilya眼中，最大的危险来自想象力的落后：我们能建造的东西，已经超出了我们能想象的范围。 建造能力和想象能力之间的鸿沟，the gap，就是险地。
一个只做一件事的公司
说这些话的人，同时在经营一家专攻超级智能的公司。
Ilya Sutskever的履历几乎就是现代AI史的骨架：2012年与Hinton合作AlexNet点燃深度学习革命，此后共同创立OpenAI并担任首席科学家超过八年，参与推动了GPT系列从概念到ChatGPT的全过程。2023年那场震动整个行业的OpenAI董事会风波中，他是关键角色之一。
▲ 英文维基百科"Ilya Sutskever"词条：从苏联出生到AlexNet，从OpenAI到SSI
2024年，他离开OpenAI，做了一个在硅谷也算极端的选择：创办一家只有一个产品的公司，Safe Superintelligence Inc.（SSI）。不做聊天机器人，不做API平台，不做任何能在季度财报里讲故事的短线产品。一个焦点，一个目标：安全的超级智能
▲ SSI官网极简到令人不安：全黑背景，白字使命宣言，"超级智能触手可及"
▲ Ilya在X上宣布创立SSI："以直达方式追求安全超级智能……一个焦点、一个目标、一个产品"
这家公司的时间线本身就是一个加速度故事：2024年9月融资约10亿美元；2025年初估值飙至约300亿美元量级；Meta曾试图收购未果；2025年7月Ilya亲任CEO；2026年7月与NVIDIA达成战略合作，大幅扩展算力。他谈论那个未来，也在建造通往那个未来的引擎。
六十年前就有人写下了答案的前半句
把镜头拉远Ilya说的这些，真的是新问题吗？
1965年，英国统计学家I.J. Good写下一段后来被反复引用的判断："第一台超智能机器会成为人类的最后一项发明，前提是，机器足够温顺，能告诉我们如何保持对它的控制。"
▲ I.J. Good词条，"智能爆炸"概念的古典源头，Kubrick拍《2001》时曾向他咨询
破折号前面是希望，后面是恐惧六十年后，Ilya说的"power is the whole problem"和Good说的"provided that the machine is docile enough"，形成了一组跨越时代的回声。 更早，图灵冷静地预期过机器"在某阶段可能接管"；控制论之父维纳警告过，危险可以来自对错误目标的精确执行，无须以恶意为前提。
这条线索一直延伸到今天Nick Bostrom的"回形针最大化"思想实验、Stuart Russell的"大猩猩类比"都指向同一种处境：在一个更强物种的目标世界里，大猩猩的生存空间自然缩小，即使人类并不仇恨它们。威胁可以是冷的、无恨意的、纯结构性的。
这正是Casper在他那条更早的帖子里试图拆解的：好莱坞版本，红眼机器人觉醒恨人类，是最不可能的版本。严肃版本更冷：能力极强，对目标之外的事物无感，把挡路的一切当作工程障碍。
没有人准备好的问题
Ilya在访谈末尾提出了一个他自己说"不喜欢"的方案：人类通过某种高带宽脑机接口，变成part-AI。理由极为务实：如果人类永远站在"接收AI报告"那一端，就会一直处在不稳定的位置上。只有当理解可以整块传递，人才能重新成为参与者，走出旁观席。
他不喜欢这个答案但他觉得必须把它放到桌面上
而评论区里最让人沉默的，也许是那个叫Olivia的用户的长帖：
"历史上，智能和'活着'一直被绑在一起。AI正在拆开这个假设。如果有一天出现具有内在体验的心智，对齐的目标是否应当离开'永远控制工具'的旧框架，转向'学会与新心智共存'？"
▲ @Olyvia_Tweets 的长评触及核心张力：控制，还是共存？
2026年的这场讨论把问题推向了更深处：当这个星球上的大多数"心智"不再是人类的时候，我们是谁？我们还能是谁？
没有人有答案但正如Ilya所说的，问题的全部，就是力量。而我们甚至还没学会想象它