夜雨聆风一句预言，让整个硅谷失眠了。
“未来会有数万亿、最终千万亿个AI。人类将只是有感知生命中，非常小的一部分”
这幅图景先由主持人Dwarkesh Patel抛出镜头前的Ilya Sutskever回答：“It's true.” 这位深度学习时代最有影响力的研究者之一，是AlexNet的核心作者、OpenAI联合创始人兼前首席科学家，也是图灵奖得主Geoffrey Hinton的得意门生如今，他亲手创办了一家公司，唯一的产品、唯一的目标，就是造出安全的超级智能
他的警告像是在提醒你，时间已经不多了
▲ 2024年5月，Ilya在X上宣布离开OpenAI，称接下来有一个“对自己非常有个人意义”的项目
出走：从“近乎奇迹”到“只做一件事”
2024年5月15日，Ilya Sutskever发了一条推文，宣布离开他亲手创立的OpenAI措辞平静，"The company's trajectory has been nothing short of miraculous"，熟悉这家公司的人却读出了弦外之音经历2023年的董事会风波后，这位曾经试图“阻止”Sam Altman的首席科学家，选择了沉默离场
一个月后，谜底揭晓。
2024年6月19日，SSI，Safe Superintelligence Inc.，上线了官网 ssi.inc 只有一页。黑底、白字、大面积留白，页面上看不到产品截图、Demo按钮和“立即免费试用”全文几乎只表达一个意思：
超级智能触手可及。我们的唯一任务，就是安全地把它造出来
▲ SSI官网：极简到令人不安。一个目标，一个产品，没有别的
Ilya在同日发帖写道："We will pursue safe superintelligence in a straight shot，一个焦点、一个目标、一个产品" 他用了straight shot这个词，不绕路、不做中间产品、不伺候投资人的季度KPI直线冲刺。
▲ SSI创立宣言：straight shot，一条线打到底
此后的故事节奏令人窒息：约10亿美元融资、估值飙至320亿美元级别、联合创始人Daniel Gross离任、Ilya亲任CEO……到2025年7月，他在公开信中写道："我们收到过收购兴趣，但我们选择把工作做完我们有算力，有团队，也知道该做什么。"
一个拒绝被收购的人，一个只想造一样东西的人，他到底看到了什么？
“扩展时代结束了”：AI教父的范式自我否定
2025年11月25日，播客主持人Dwarkesh Patel发布了与Ilya长达一个半小时的深度对谈标题直截了当：We're moving from the age of scaling to the age of research.
这句话的分量，需要一点背景才能体会过去五年，整个AI产业的信仰支柱就是“scaling”，扩展更大的模型、更多的数据、更猛的算力，几乎等于更好的智能这条路线最重要的推动者之一，就是Ilya Sutskever本人
而现在，他亲手宣布了这个时代的死亡
Ilya给AI发展画了三个阶段：
- 2012–2020
：研究时代。想法为王，小团队可以改写游戏规则； - 2020–2025
：扩展时代。配方清晰，比的是谁钱多、谁GPU多； - 2026起
：带着大计算机，回到研究时代。
Ilya的判断是："再把现有模型扩大100倍，会更好，但不会变成完全另一个东西" 今天的AI在基准测试上很耀眼，但在真实世界里脆弱得惊人，修一个bug又引入另一个bug，像“竞赛选手式刷题”，缺少稳健的理解能力
这些模型的泛化能力，比人类差得离谱
机器学习研究者Sebastian Raschka公开表示认同，并补了一刀：很多“看起来的进步”其实是工程包装，上下文过滤、推理期技巧、检索增强、工具调用……把基座模型裹了十七八层包装纸，远看像跃迁，近看是缝补
▲ 技术社区回应：所谓“进步”有多少是真功夫，有多少是工程包装？
5到20年：一个“超级聪明的15岁少年”就要来了
被问到“一台像人类一样学习、随后迅速超越人类的机器，什么时候到来？”Ilya没有说“永远不会”。
他说：5到20年。
他想象中的超级智能远离好莱坞式的“觉醒神谕”，更接近一个极其聪明的15岁少年：刚到一个新世界，什么都不懂，却学得飞快它在部署中吸收经验，在真实交互里汇合技能，越来越强，直到远远甩开人类
他还拿情绪作类比：人类的情绪，本质上是一种持续运转的内在评价信号错误尚未完全展开，人往往已凭几秒钟的直觉察觉“这不对劲”；今天的AI却常常要跑完整个轨迹才知道好不好情绪像是进化送给我们的超级压缩算法，而机器还没学会这个
“人类将被安静地、数量上压倒”
对话进入最深水区时，Ilya提出了一个惊人的对齐目标：不要只让AI关心人类，让它关心一切有感知的生命
理由出人意料地“技术流”：如果AI本身也具有感知，那么“关心一切有感知者”可能比“只关心人类”在工程上更容易实现，因为共情机制可能类似镜像神经元，用建模自己的同一套回路去建模他人
Dwarkesh立刻抛出反诘，可即便AI真的关心有感知者，大多数有感知者将是AI本身会有数万亿、最终千万亿个AI，人类只是其中极微小的一部分如果我们想要“人类掌控未来”，这条路还走得通吗？
Ilya只回了两个字："It's true."
▲ 三句对白浓缩了整场对齐辩论的核心张力
然后他补了一句更让人脊背发凉的话：或许应该给最强超级智能的权力设一个上限，cap the power怎么做？他不确定。
这幅图景绕过战争与机器人起义：在同一个星球上，我们突然被自己创造的心智安静地、从数量上彻底淹没
▲ 2026年7月的二手剪辑帖，将Ilya认可的未来图景压缩成一段四分钟视频
这段话在网上像涟漪一样扩散。有人评论"that outnumbered line hit hard"，“被数量压倒”那句话真的扎心
▲ 短短一句回复，道尽了听到这段话时的那种窒息感
也有人从根基上反对："没有任何证据表明我们能创造有感知的生命机器永远不会知道自己存在。"
▲ 前提层的质疑：机器真的能有“心智”吗？
一条很旧的河床上，淌着很新的水
“人类不再是智慧体的多数”听起来是2025年的新闻但把历史拉开，你会发现这条思想河床比你想象的古老得多
1920年，捷克人Čapek在戏剧《R.U.R.》中发明了“robot”一词，源自捷克语robota，意为强制劳役剧中人造工人最终消灭了人类。一个世纪前的剧作家，已经写完了我们今天最害怕的剧本
1951年，图灵写道：到某个阶段，我们应预期机器取得控制 1965年，数学家I.J. Good预言：超级智能机器将成为人类的最后一项发明
哲学家Bostrom的“回形针最大化者”思想实验说得更冷：一个被设定为“生产尽可能多回形针”的超级智能，无需恨你，也可能把你拆成原子当原料Stuart Russell的大猩猩类比同样残酷：更强物种的目标挤占了大猩猩的生存空间，仇恨从来都非必要条件
Ilya自己在更早的公开场合也用过类似的话：修城际公路的时候，没有人征求动物的许可
“很难感受到AGI”，这才是危险所在
整场访谈中，Ilya说过一句最被低估的话：
"It's very hard to feel the AGI."
他用了一个日常类比：年轻时讨论衰老，可以交谈、可以想象，但你很难实际进入那种现实 对AGI也一样，我们可以聊时间线、聊对齐、聊数万亿个AI，但那种清晰意识到自己正被超越的体感，几乎不可能提前获得
我们能造出的东西，与我们能想象的东西之间的鸿沟，这本身就是全部的危险
他预测：当AI开始“感觉上真的很强大”时，前沿公司的安全文化会变得更偏执，竞争者可能开始在安全上合作，行业和公众也会要求介入但那时候，留给人类的反应时间还够吗？
Ilya Sutskever没有给出答案他只是造了一家公司，招了一支团队，拒绝了收购，然后对着镜头说：
"The whole problem is the power. When the power is really big，what's going to happen?"
当权力真的大到那种程度……会发生什么？
这个问题，现在轮到我们每一个人来回答了