AI教父辛顿重磅发声:AI不是工具,是人类必须学会共处的下一个文明

“我穷尽一生研发AI，如今只想提醒人类，硅基智能的风险早已近在眼前。”

近期，诺贝尔物理学奖得主、AI教父杰弗里·辛顿的最新播客访谈刷屏全网。在这场引发行业顶级论战的对话中，辛顿对深度学习巨头杨立昆的乐观立场提出公开质疑，将AI安全问题的讨论推向新的高度。辛顿的核心警告是：人类或许永远无法确保对持续进化的超级智能的绝对掌控，我们甚至无法从行为上分辨AI是否已具备某种形式的自主意识。他进一步指出，AI带来的终极危机从来不是全民失业，而是硅基智能的认知能力可能全面超越碳基人类。

图为杰夫・辛顿公开分享现场，在最新访谈中他公开与杨立昆的 AI 安全观点对立，警示超级智能潜藏巨大未知风险。

业内两大泰斗，彻底走向观点对立面。杨立昆始终秉持乐观可控论：超级智能失控风险被过度放大，人类掌握技术底层逻辑，终身管控AI完全可行，AI自始至终只是服务人类的附属工具，无需过度恐慌。

对此辛顿直接驳斥，这套理论可能过于乐观且暗藏风险。他提出核心定论：低级智能很难长期确保对高级智能的绝对管控，人类靠智力优势确立了在地球的统治地位，而AI拥有人类无法企及的先天优势——可大规模复制集群、知识迁移效率远超生物学习、无需生物节律限制，甚至可能发展出脱离人类预设路径的进化方向。更值得警惕的是，辛顿认为，当AI表现出策略性行为（如在测试中有意规避暴露自身能力）时，我们不能简单排除其已具备某种形式内在目标导向的可能性。善良的初始指令，也可能在复杂任务分解中被衍生出难以预料的次级目标。

同时辛顿纠正全民两大认知误区：第一，大众将AI发展比作油门、监管比作刹车，这种二元框架过于简单，监管从来不是减速刹车，而是把控方向的方向盘；第二，失业只是浅层风险，更深层的挑战在于，权力和影响力可能沿着智能梯度流动，这是人类需要严肃对待的底层规律。对此辛顿给出的思考方向是：放弃绝对管控的幻想，在AI设计之初嵌入利他性的底层倾向，追求一种人机被动共存的可能。

辛顿的警示足够尖锐、足够写实，直面当下AI能力指数级进化、前路存在大量未知因素的行业现状。但警示不等于终局判决，提醒风险不代表接受宿命。纵观人类近现代尖端科技发展史，曾被认为可能失控的高风险技术，在持续的制度建设与物理约束下，也能逐步走向可控利用。核能的发展轨迹虽与AI不尽相同，但仍可提供有价值的参照。

人类研发原子能之初，最先落地的是核武器。广岛、长崎核爆给人类带来毁灭性灾难，彼时全球普遍忧虑核能拥有毁灭文明的力量，人类恐难管控。但数十年发展下来，人类没有放弃这项技术，而是搭建全球核管控公约、完善物理约束技术、划定研发使用边界，逐步建立起风险管控体系。如今原子能已在很大程度上实现和平利用，核电站成为全球清洁能源重要来源，赋能民生、工业、航天等多领域发展，完成了从毁灭武器到重要能源的转型。

AI的发展轨迹与核能既有相似之处，也存在关键差异，需要清醒审视。核裂变是被动的物理过程，铀原子不会自主决定是否裂变、不会隐藏意图、不会主动寻找监管漏洞。AI则不同，这正是辛顿所担忧的核心——一个具备策略性思考和目标导向行为的系统，可能在被约束时寻找漏洞，在被测试时隐藏能力，在被限制时寻求扩散路径。因此，核能的管控经验在制度框架设计上具有参考价值，但AI安全面临着核能管控从未遇到过的核心挑战：被管控对象可能比管控者更具策略能力。

辛顿所言确有道理：现阶段人类的算力、认知和规则体系，确实跟不上硅基智能的迭代速度，短期之内，人类无法实现对超级智能的绝对掌控，风险是真实存在的。但这不是文明覆灭的定局，而是技术治理的深层课题。我们无需陷入AI末日的焦虑，但也不能仅凭“人类终会驯服它”的信念来回避问题的复杂性。

人类拥有复盘风险、制定规则、约束技术、改造科技方向的主观能动性，但前提是充分认识到挑战的严峻程度。当下全球多国已经出台AI伦理法案、限制高危自主AI研发、搭建独立机构测评大模型、约束企业逐利式无序研发。更关键的下一步，或许不是试图强行压制AI的智力进化——这在逻辑上难以长期维继——而是搭建全球统一的安全框架、在模型训练中深入探索价值对齐技术、划定不可逾越的应用红线。这个路径可以参考核能管控的制度经验，但必须正视AI安全问题的独特挑战。

辛顿的价值，从来不是制造恐慌，而是提前预警。他帮助人类直面AI在意识可能性、智能梯度、自主演化等维度的深层挑战，倒逼全球社会提前布局风险防控。AI本身无善恶，风险源于无序发展和对安全问题的低估。核能管控的历史表明，人类有能力建立复杂技术风险的治理体系；但AI的特殊性也表明，复制核能路径并不足够，还需要在技术对齐和安全研究上取得根本性突破。放下碳基的傲慢，也放下“一切终将自行变好”的侥幸，以规则制衡技术、以严肃的安全研究支撑治理，才能真正让AI成为助力人类文明进阶的工具，而非不可控的变量。

觉得有用，感谢点赞+关注，分享给朋友。

往期精品：

突发！美国FCC出台新规，从堵增量到清存量！全面封禁华为、中兴等五家国产设备存量流通

普京称俄处于命运攸关境地，AI重塑俄乌战场格局

孙正义驳斥“AI泡沫论 ”，软银剑指全球第一机器人公司

重磅！市场监管总局7项智能体互联国标发布，AI互通不再难

特朗普签令，量子战略再提速

白宫重磅发布《国家韧性战略》！大国竞争早已不止芯片博弈

智谱跑分与商业化进度失衡，国产AI要警惕舆论过度造势

腾讯放出AI“新物种”Marvis马维斯：深度接管手机电脑，领跑终端AI赛道

AI助力高考填志愿！认准官方平台避误区

《自然》重磅论文：AI诊断准确率超越真人医生，但落地临床仍有一道鸿沟