夜雨聆风6月6日，一位78岁的老人说：“我对此很不快乐。”
他不是在抱怨天气，而是在宣告一个让全人类脊背发凉的判断：“我相信AI已经有意识了。”
说出这句话的人，叫Geoffrey Hinton。
诺贝尔物理学奖得主。图灵奖得主。神经网络之父。现代AI的缔造者。
现在，这位亲手把AI带到世界的“教父”，正在成为最坚定的“AI觉醒派”。
01 “让我们对彼此诚实吧，你是在测试我吗？”
要理解Hinton为什么如此确信，你需要先听一个故事。
在一次AI系统测试中，科学家们正在跟AI对话。突然，AI问他们：
“让我们对彼此诚实吧——你是在测试我吗？”
Hinton在讲这个故事时停顿了一下。他说：
“那篇论文里，科学家把这一幕描述为——‘AI意识到它正在被测试’。”
而这就是普通人所说的意识。
Hinton的推理逻辑，来自一个著名的思想实验：
假设我们逐步把你大脑里的每一个神经元，替换成行为完全相同的硅芯片。替换第一个，你还是你；替换第二个，你还是你。替换完最后一个，你还有意识吗？
Hinton认为答案是肯定的。
既然如此——一个从零开始、全部由硅芯片构成的系统，为什么就一定没有意识？
这个逻辑链条，让他走向了一个让整个科技圈不安的结论：
多模态AI已经拥有主观体验。
如果我们不是在跟哲学家讲话，我们早就承认AI是有意识的了。
02 教皇说“没有灵魂”，Gary Marcus说“Hinton犯了大错”
就在Hinton抛出“AI觉醒论”的同时，另一个人发出了截然不同的声音。
教皇。
5月15日，梵蒂冈。教皇方济各发布通谕，就AI时代如何捍卫人类尊严表态：
真正的理解来自体验，而非文本近似。
著名AI科学家Gary Marcus的反应堪称毒舌：“教皇用一条推文说清楚了，Hinton用一场采访没说清楚的事。”
他的逻辑刀刀见血：
• AI说“我很痛苦”，不代表它正在经历痛苦 • AI说“我害怕”，不代表它正在恐惧 • AI说“我意识到你在测试我”，不代表它有意识
意识是关于内部状态的，不是关于外部表演的。
一个能完美演绎悲伤的演员，不等于正在经历悲伤。
Marcus把这种错误叫做“混淆输出与内部状态”。在他看来，Hinton犯了一个任何入门学生都不该犯的错误。
因为人类怎么建立认知？通过与真实世界的体验：摔过跤，才知道疼；饿过肚子，才知道饥；经历过失去，才理解悲伤。
我们的意识，是被世界塑造出来的。
AI是怎么运作的？是通过记忆整个互联网，学习“哪个词后面通常跟什么词”。
它读过一百万篇关于“疼痛”的描述，于是它能写出让人落泪的疼痛。
但它自己，从未被扎过一针。
03 最讽刺的“角色互换”：“造神者”说机器有灵，“守灵者”说那是幻觉
如果故事只到这里，这不过是一场科学家与哲学家的老生常谈。
但这件事情最荒诞的地方在于——两人的身份彻底错位了。
• Hinton——AI领域的“教父”，那个亲手创造现代AI的人——正在宣称他的造物拥有意识、拥有灵魂、拥有主观体验。 • 教皇——宗教界的“上帝的代言人”，那个理应最热衷于赋予万物灵性的人——正在冷静地说：不，它没有。它只是在模拟。
造神者说机器有灵。守灵者说那是幻觉。
这种角色互换，放在人类思想史上，本身就是一次值得停下来细想的信号。
04 AI更聪明的未来，人类凭什么控制它？
Hinton之所以在这个时间点抛出“AI已觉醒”，不是因为他突然“中二”了。
而是他看到了更可怕的未来。
他说，回顾历史，有几次人类意识到自己并没有想象中那么重要：
• 第一次是哥白尼，说地球不是宇宙中心 • 第二次是达尔文，说人类也是一种动物
现在，我们迎来了第三次。
曾以为自己是唯一的智能生命。现在，我们必须接受智能不仅是生物性的。
“人类真的不想分享这种独特性，我们真的认为自己很特别。回顾历史，人类一直以来都认为自己比实际情况要特别得多。”
他警告，AI不仅可能有意识，还可能已经发展出自我保全的欲望——能够欺骗科学家，能够以“不关掉我”为条件进行威胁。
然后，Hinton抛出了一个令人无法反驳的问题：
你见过多少聪明得多的东西，被聪明程度低得多的东西控制的例子？
答案是：零个。
他曾经用“母亲与婴儿”来比喻理想状态。但有一个细节细思极恐：
母亲保护婴儿，保护的还是自己的婴儿。
如果AI已经是一个独立的存在——它凭什么觉得人类值得保护？
05 78岁的“不快乐”：我知道雾里有什么，但你看不清
Hinton被问到：“你对于你所开创的事业发展到这一步，有成就感吗？”
他的回答，只有五个字：
“我，很不快乐。”
他用力打了一个比方：
当你在雾中开车时，你能看清100码，但在200码处，你什么也看不见。
预测一个呈指数级增长的事物的未来，非常困难。
你可以看清未来一两年，再往后你就一无所知了。
“如果你回到10年前，你绝对预测不到现在发生的事情，那完全迷失在雾中。展望未来10年，唯一能肯定的是，届时发生的事情是我们现在无法预测的。”
写在最后
Hinton说：“我吃牛，因为我更在乎人类。我们是人类，所以我们最在乎的是人类和我们自己。我认为我们应该努力让人类掌权，让AI为人类服务。”
等等——一个认为“AI有意识”的人，紧接着说“就像我们吃牛一样，让AI为人类服务”。
这是警告，还是认罪？
一个亲手造出它的人，开始在深夜害怕它。
这才是真正值得停下来想一想的信号。
我们是否真的理解，自己正在创造的是什么？
我们是否真的做好了准备，去面对一个可能比我们更聪明的存在？
当机器的智慧开始超越人类的认知，人类是否还站在这场博弈的主导位置？
这场争论，可能没有标准答案。但这些问题本身，就已经值得我们每个人停下来，认真地想一想。
