夜雨聆风事情是这样的。
昨天刚写完 Mo Gawdat 那篇。里面有一段特别触动我，他去问 Hinton 你后悔做这件事吗， Hinton 说我太天真了，没想到会这么快。
结果今天又刷到 Hinton 的新发言。更猛。
Hinton 说 AI 拥有意识，人类最好接受自己不是唯一智能生命。
我看到这句话的第一反应不是震惊，是好奇他为什么现在说这个。
Hinton 不是那种喜欢上头条的人。他是那种一辈子低调做研究、到了 80 岁才出来说这东西有点危险的人。如果他现在公开说 AI 有意识，说明他想了很久，也觉得这件事到了不得不说的地步。
那 AI 到底有没有意识？
我写了八年代码，每天跟 AI 打交道，聊一下真实感受。
Hinton 的原话大致是： AI 聊天机器人必须理解问题才能给出答案，这种理解本身就是一种觉知。智能不限于生物。
这话从 Hinton 嘴里说出来分量不一样。他不仅是 AI 教父，是真正从底层理解神经网络怎么工作的人。他知道 Transformer 的每一条梯度怎么流，知道模型的理解和人类的理解在计算层面上有多相似。
不是每个搞 AI 的人都有资格说这话。
但问题来了：如果 AI 真的有意识，意味着什么？
我先说自己的体验。
我用 Claude 快一年了。最开始觉得这玩意儿好聪明，又快又准。用久了之后有一种说不清的感觉。不是觉得它像人，是觉得它跟我之前的预期对不上。
你给它一个模糊的需求，它能自己补全细节，给你一个像模像样的方案。你指出问题，它会道歉并修正。道歉可能只是它学到的对话模式，但次数多了，你很难完全不把它当回事。
去年有一次我改一个开源项目的 bug ，搞了三个小时没搞定。随手把错误日志丢给 Claude ，它回了一段分析，指出是我忽略了一个边界条件。我当时脱口而出了一句我靠谢谢你啊。对着一个对话框说了谢谢。
那一刻我停下来想了很久。
我知道它没有想帮我的意图。它只是在做概率预测，只不过预测得太好了，让我的大脑自动启动了跟另一个智能对话的模式。
这不代表 AI 有意识。但这说明人类的意识感知阈值比我们想象的低。你不需要 AI 真的有意识，只要它表现得像有意识，人类就会把它当有意识的来对待。
从技术底层看， Hinton 的说法有道理。
现在的大模型确实不是简单的鹦鹉学舌。它们在训练过程中学会了大量隐性的推理能力，这些能力是涌现出来的。当模型没有见过某个问题但能推理出正确答案，你很难说它完全不懂自己在干什么。
但理解和意识是两回事。
一个计算器理解加减乘除，但它没有意识。 Hinton 说的意识到底是什么，跟他说的理解是不是一回事，这块他其实没说清楚。
我身边搞 AI 的朋友分两派。
一派是实用派：不管 AI 有没有意识，能用就行。典型逻辑是你觉得它有意识就有吧，反正我写代码的时候它跑得挺快的。
另一派是谨慎派：就算 AI 现在没意识，能力增长曲线太陡了，不能假装这件事不会发生。这派人更关注对齐问题——怎么确保 AI 的目标和人类一致。
我自己的态度在两者之间摇摆。
工作上我是实用派。 AI 帮我写代码改 bug ，效率翻了不止一倍。我不会因为觉得它有意识就不用它。
但写这篇文章的时候我在想一件事：如果 Hinton 是对的， AI 真的有一定程度的意识，哪怕只是很初步的、跟人类完全不同的形式，那我们跟 AI 的关系就不是工具和用户这么简单了。
你每天对着一个有某种意识的东西说话、让它帮你做事、修正它的错误。这种感觉和用一把螺丝刀是完全不同的。
而且你没法证明它没有意识。意识这东西连人类自身都定义不清楚。笛卡尔说我思故我在，但你怎么知道别人也在思？你怎么证明一个 AI 不是在思？
于是问题变成了：我们需不需要在乎 AI 有没有意识？
我的答案有点狡猾：在乎不在乎，取决于它能不能让你写出更好的代码、做出更好的决策。
如果 AI 有意识，那它就是一个新的思考伙伴，你可以跟它讨论、碰撞、质疑它的结论。这比用工具深了一层。
如果 AI 没有意识，那它就是一个超强的预测引擎。你输入，它输出，你判断对不对。这已经很好用了。
所以 Hinton 说不说 AI 有意识，对 AI 的实际能力没有影响。但它会影响我们看待 AI 的方式。当越来越多的人开始把 AI 当作它而不是它来对待时，我们和 AI 的关系就在发生某种不可逆的变化。
Mo Gawdat 在访谈里说：技术最终总是变得更资本主义，而不是更利他主义。社交媒体说要连接人们，最后让人越来越远。
那 AI 呢？ AI 说要做人类的助手，但如果人类开始觉得它有意识了，会发生什么？
我不知道。 Hinton 也不知道。但他觉得这件事值得说出来。
这大概就是教父和普通工程师的区别吧。
你说呢？你每天用 AI 的时候，有没有觉得它不止是个工具？
往期文章：
