“AI”来了,＂SI＂还会远吗?

AI中的“A"是Artificial，充满了科技与狠活的虚假味道？

SI中的“S"是Super，这个用了六十多年的概念到底超级在哪些方面呢？

一、概念的诞生："智能爆炸"的预言

超级智能的思想源头，可精确定位1965年。当年，英国数学家I. J. Good(欧文·古德)，这位二战期间曾与图灵在布莱切利园(Bletchley Park)共破译恩尼格玛密码机的统计学家，在Advances in Computers期刊发表了“Speculations Concerning the First Ultraintelligent Machine”（《对第一台超智能机器的推测》）一文。

他认为：Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an "intelligence explosion", and the intelligence of man would be left far behind."

(把超智能机器定义为能远超任何聪明人之所有智力活动的机器。由于机器设计本身就是这些智力活动之一，超智能机器便能设计出更好的机器，由此必将出现"智能爆炸"，人类智能将被远远甩在身后。)

古德的独特洞察表现为递归自我改进，即机器一旦聪明到能改进自身设计，每一次改进又使它更擅长下一轮改进，智能便会脱离人类节奏、爆炸式攀升。

随之，他留下了一句被引用了半个多世纪的名言：Thus the first ultraintelligent machine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control."

(第一台超智能机器将是人类需要做出的最后一项发明，前提是它足够温顺，愿意告诉我们如何控制它。)

多数转述常省略后半句，但那个附加条件恰恰是精髓所在。

古德在构想智能爆炸的同时，就已经预见了后来所说的"控制问题"。有趣的是，布莱切利园也就是古德当年破译密码的地方，在 2023 年成为首届全球 AI 安全峰会的举办地，历史以一种奇特的方式完成了闭环。

二、概念的体系化："定义之战"

让古德播下的种子长成体系的是瑞典哲学家Nick Bostrom(尼克·博斯特罗姆)。他1997 -1998年的论文正式启用 superintelligence 一词，并于2014年出版Superintelligence: Paths, Dangers, Strategies（《超级智能：路径、危险、战略》）一书。

这部著作成为《纽约时报》畅销书，被马斯克、比尔·盖茨公开推荐，直接催化了现代 AI 对齐（alignment）研究领域的形成。

该书给出了标准定义：We can define superintelligence as an intellect that is much smarter than the best human brains in practically every field, including scientific creativity, general wisdom and social skills.

(我们可以将超级智能定义为：在几乎所有领域，包括科学创造力、通用智慧与社交能力，都远超人类最顶尖大脑的智能。)

他还进一步区分了三种形态：速度超级智能（与人脑能力相当但快千万倍）、集体超级智能（海量较小智能体协作的整体）、质量超级智能（如人之于黑猩猩般的质的超越）。

值得注意的是，该概念谱系的层次。AI（人工智能）泛指机器智能；AGI（人工通用智能）指达到人类水平的通用智能；ASI（人工超级智能）指全面超越人类的智能。

目前，SI仍是一个假说中的存在。这正是后来诸多争议的伏笔，也是美国急于将其提上战略议程的潜在考量。

三、从书页到现实：加速的2020 年代

2020年代，大语言模型（LLM）的爆发让这条哲学脉络骤然提速：

2022–2023年，ChatGPT 引发全球 AI 热潮，AGI 从哲学名词变成科技公司的路线图；

2024年，OpenAI 联合创始人伊利亚·苏茨克维（Ilya Sutskever）离职创办 Safe Superintelligence Inc.（SSI），口号是"一个目标、一个产品：安全的超级智能"。2025 年 4 月，这家尚未发布任何产品的公司估值已达约 320 亿美元；

2025年11 月，微软组建专门团队，推进所谓"人本主义超级智能"（humanist superintelligence）；

与此同时，"AI 教父"杰弗里·辛顿（Geoffrey Hinton）在美国国会作证，警告监管窗口"也许只剩一年"，并指出"AI 已经开始设计更好的 AI"。

递归自我改进，古德六十年前的思想实验，正在成为工程现实。

至此，超级智能完成了从学术概念到资本标的、再到国家战略的第三次跃迁。各国对它的态度，也在这个过程中显露出了深刻的分歧。

四、世界各国的态度光谱

美国：竞赛论与"更名"风波

美国现政府的态度可用一句话概括：谁赢得超级智能，谁就赢得一切（Whoever wins SI wins）。

2025年9月，特朗普在联合国大会演讲，宣布政府文件将弃用"Artificial Intelligence"，改称 “Super Intelligence”（SI）。理由是 "artificial" 让技术听起来像赝品："It makes it sound fake, and it is not fake. It's actually amazing."

该名称是他在社交平台上发起命名投票后亲自选定的，包括 Superior/Extreme/Supreme Intelligence 等列入候选名单。

他在讲台上直言："Whoever wins AI... now I say, whoever wins SI, whoever wins superintelligence, wins."

因此，美国的政策内核与这番修辞一致：

反对监管：不能"扼杀一项将比工业革命更伟大的增长"；

拒绝全球治理："彻底拒绝任何控制 AI 的全球主义方案"，不签署有约束力的国际 AI 安全协议；

零和框架：核心对手是中国，宣称美国"大幅领先并将保持"；

否认生存风险：公开称"AI 接管世界、毁灭人类是骗局（HOAX）"，只由司法部事后"密切关注"。

因此，配套政策的链条清晰可循：2025年1月的行政令 14179 解除监管障碍；7月的《美国 AI 行动计划》以"赢得竞赛"为纲，规划九十余项行动，覆盖创新加速、数据中心与芯片基建、国际外交三大支柱；2026年又相继推出国家政策框架与前沿模型自愿性框架，始终强调不设强制性许可。

对美国的"更名"，学者多持批评态度，指出superintelligence 在学界特指能自我改进、全面超越人类的假想系统，用它称呼今天的 AI 无异于挪用一个为更大飞跃预留的术语的威望。

中国：发展与安全并重，"确保 AI 处于人类控制之下"

中国官方立场呈现为另一套完整逻辑：发展是硬道理，但安全是不可逾越的底线；治理必须是全球的，不能由一国说了算。

国内层面，2023 年 8 月施行《生成式人工智能服务管理暂行办法》，2025 年出台 AI 生成内容强制标识办法，其后发布《人工智能安全治理框架》2.0 版，将治理视野延伸至智能体，要求"明确决策权限和行为边界，建立行为追溯和风险提示机制"。

总体思路是"包容创新与规范监管并重"，让AI"既跑得快，又跑得稳"。

国际层面，自2023年提出《全球人工智能治理倡议》以来，接连推动联合国大会通过人工智能能力建设国际合作决议，发布《人工智能能力建设普惠计划》《人工智能全球治理行动计划》。2026年7月，习近平在世界人工智能大会开幕式的主旨讲话中提出四点主张（智能向善、安全可控、文明互鉴、和衷共济），强调"推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下"，同时"共同反对在人工智能领域泛化国家安全概念、把本国安全凌驾于他国安全之上的做法"。

当月，中国与28个国家在上海共同发起成立世界人工智能合作组织（WAICO）。这是全球首个 AI 领域政府间国际组织。中方对此的表述颇具意象："人工智能发展不应该是某个国家的独奏，而应当是全球合作的交响。"

比较美国的竞赛叙事，中国的叙事重心在于多边治理与技术主权平等，认为真正的安全威胁"不是某一个国家的技术进步，而是技术壁垒、阵营对抗、单边排他的小圈子"。

欧盟：立法先行，把"失控"写进法律

欧盟选择了第三条路。在超级智能到来之前，先把法律修好。

2024年8月生效的《人工智能法案》（AI Act）是全球首部全面性 AI 监管法规，以风险分级为核心架构：不可接受风险（社会评分、实时生物识别等）直接禁止；高风险系统须满足风险管理、人工监督、可追溯等义务；违规最高可处 3500 万欧元或全球营业额 7% 的罚款。

与超级智能直接相关的是其中的系统性风险条款。该条款规定，训练算力超过 10^25 FLOP 的通用模型被推定为具有系统性风险，须履行模型评估、风险缓解、重大事故报告、网络安保等额外义务。而欧盟官方对"系统性风险"的列举中明确包括模型可能"逃脱人类控制"（escape human control）。

换言之，博斯特罗姆式失控场景在欧洲已不是哲学思辨，而是成文的监管对象。2025年8 月通用模型义务生效，谷歌等主要厂商签署了《通用人工智能行为准则》；2026年8月，委员会的执法权力全面启动。

在大国之间，欧洲亦有自己的姿态。联大会议期间，20 多个以欧洲为主的国家联合呼吁对先进 AI 采取有约束力的安全措施。中美两国均未背书。

法国总统马克龙更进一步表态，欧洲不应成为任何大国的附庸（vassal），主张集中投资建设欧洲自己的开源前沿模型。加上巴黎 AI 行动峰会与后续峰会外交，欧洲试图以"规则输出者"的身份在美中之间占据第三极。

英国：中间道路与峰会外交

英国的自我定位介于美欧之间，"亲创新的监管，但要有问责"。其最具影响力的动作是外交性的。2023年11月，布莱切利园首届 AI 安全峰会促成 28 国与欧盟签署《布莱切利宣言》，首次让美中欧在一份文件中共同承认前沿 AI 存在"严重乃至灾难性伤害"（serious, even catastrophic, harm）的潜在可能。英国随之建立了全球首个 AI 安全研究所（AISI），这一模式随后被美国、日本、新加坡等国效仿，形成了国际 AI 安全研究所网络。在联大会议上，英国还宣布计划利用其 G20 主席国身份推动形成"一整套全球 AI 原则与标准"。

联合国与全球南方：对话、鸿沟与"交响"

联合国秘书长古特雷斯的呼吁勾勒出另一种焦虑，"AI 能力最强的政府对人类负有最大的责任，应建立对话渠道"。他援引冷战时期美苏管理共同生存风险的历史经验，主张中美就 AI 未来开启类似接触。这一呼吁在 2025 年联大周期与中美元首会晤前夕显得格外具体，两国此后讨论建立 AI 事务沟通渠道。

全球南方的关切则更为切身。AI 的红利与风险都不应再复制旧有的不平等。发展中国家在各类峰会上反复呼吁，全球 AI 治理框架不能把小经济体边缘化，能力建设与"弥合数智鸿沟"必须与安全议题并行。中国推动的WAICO 与《普惠计划》、法国的开源主权路线，都部分回应了这一诉求；而美国"赢家通吃"的叙事，则被不少观察者视为对这一诉求的漠视。

五、分歧的本质：不同世界观的对撞

把各国姿态放在一起，会发现围绕超级智能的分歧并非单纯的技术路线之争，而是三种世界观的对撞。

耐人寻味的是各方的"默契"。尽管立场针锋相对，中美却在两件事上罕见一致：都不接受具有强制力的国际 AI 安全协议。

特朗普与习近平在会晤中被媒体发现的最大公约点，竟是"都不喜欢 AI 现在这个名字"。

与此同时，OpenAI 的奥特曼、Anthropic 的阿莫迪等美国 AI 巨头负责人，却主动走向联合国安理会请求更多全球协调。产业界比本国政府更渴求治理，这或许是整个图谱中最具讽刺意味的一笔。

六、结语：古德的条件句

回到1965年古德那句名言。它的主干"第一台超智能机器将是人类最后一项发明"如今已被资本市场的估值曲线和政府文件里的"SI"反复印证，而设置的条件从句"前提是它足够温顺，愿意告诉我们如何控制它"，却仍在等待答案。

纵观这个概念六十年间走过的三段旅程，古德让它成为数学推测，博斯特罗姆让它成为哲学体系，而 2020 年代的资本与权力让它成为地缘政治的筹码。分歧的各方其实共享同一个事实前提，即没有人知道超级智能何时到来、以何种形态到来；分歧只在于，是先冲过终点线，还是先系好安全带，抑或先修一条所有人都能走的路。

人类还没造出超级智能之前，关于它的争吵本身，或许已是对人类集体智慧的一场预演。

AI来了，SI还会远吗？人类的未来还会在人类手里吗？