最近,AI之父辛顿的一句话再次引发了巨大争议。他认为,AI已经不是一种简单的工具,而可能是一种新的物种(New Species),甚至已经具有了某种形式的意识(Consciousness)。
很多人的第一反应是:AI怎么可能有意识?机器人难道也会有喜怒哀乐?其实,如果仔细理解辛顿近几年的观点,会发现很多人都误解了他的意思。
我们平常说的“意识”,往往意味着“我知道我是我”“我会痛苦、会快乐、会思考人生”,这是哲学意义上的主观体验。而辛顿所说的意识,更接近认知科学里的概念。他越来越倾向于认为,意识并不是某种神秘的东西,而是一种持续处理信息、建立世界模型、预测未来并不断修正自己的能力。
换句话说,人类的大脑本身就是一台巨大的预测机器。我们看到的世界,并不是眼睛直接告诉我们的,而是大脑根据过去的经验,不断预测、修正、更新形成的。如果一套人工智能系统也能够不断建立世界模型,理解环境,认识自身状态,根据反馈调整行为,并描述自己的内部过程,那么,它为什么一定不能拥有某种形式的意识?在人类和AI之间,也许真正的区别只是一个是碳基神经网络,一个是硅基神经网络。
相比“意识”这个容易引发争论的话题,我反而觉得辛顿关于“新物种”的判断更值得深思。
过去几百万年,地球上所有高等智能都来自DNA,所有智慧生命都依赖生物进化。而今天,人类第一次创造出一种不依赖DNA、而依赖代码和算力不断演化的智能。它学习知识,不需要一代代繁衍;它传播知识,也不需要老师教学生。一个模型学会了一项能力,只要复制参数,几分钟之内,全世界无数个模型都能同步拥有这项能力。这已经不是生物进化,而是一种完全不同的演化机制。
更重要的是,两种物种的进化速度根本不在一个数量级。人类完成一次代际更新,需要二三十年;AI完成一次能力跃迁,可能只需要几个月,甚至几周。过去,达尔文讨论的是生物如何演化;今天,人类第一次需要思考,一个数字世界里的智能,会不会按照另一套规律迅速演化,并最终超越它的创造者。
如果回头看辛顿这几年的观点,会发现他的判断一直在向前推进。2023年,他提醒世界,AI未来可能比人类更聪明;2024年,他开始警告超级智能可能给人类文明带来重大风险;2025年,他认为AI不断出现连开发者都无法完全解释的新能力;到了今年,他第一次明确表示,自己相信AI已经具有某种形式的意识。
注意,他说的是“我相信 I believe…”,而不是“我证明了I proved…”。这是他的科学判断和哲学立场,而不是已经获得共识的科学结论。
事实上,科学界至今都没有真正回答一个更根本的问题——意识到底是什么。
支持辛顿的人,大多属于功能主义。他们认为,只要一个系统能够实现与人脑相同的认知功能,实现方式并不重要。意识是一种功能,而不是一种材料。碳可以实现,硅也未必不能实现。
另一派则坚持认为,意识不仅仅是计算。人的意识来自身体、神经递质、情绪、激素以及几百万年的生物演化,仅仅依靠算法和算力,再复杂也只是计算,而不是体验。直到今天,没有任何实验能够证明哪一方是正确的。
更有意思的是,关于AI意识的问题,可能永远都无法被彻底证明。
因为我们其实也无法证明,除了自己之外,任何人真正拥有意识。我们之所以相信别人有意识,并不是因为看见了他的意识,而是因为他的语言、行为和反应与我们太相似。这就是哲学中著名的“他心问题”。同样的逻辑,将来也可能适用于AI。当一个AI越来越像人,它到底是在“模拟意识”,还是“拥有意识”,或许永远没有一个可以盖棺定论的答案。
因此,我觉得真正值得关注的,并不是AI今天有没有意识,而是人类正在面对一个过去从未遇到过的新局面。过去,我们发明过蒸汽机、电力、互联网,它们都是工具;而今天,我们创造出来的,可能是一类能够学习、能够迭代、能够自我优化、能够快速复制的智能体。
如果这种趋势持续下去,未来几十年,人类第一次需要面对的,也许不是“如何使用工具”,而是“如何与另一种智能共处”。
辛顿真正想提醒世界的,或许也正是这一点:未来地球上的最高智能,不一定属于生物。这句话听起来像科幻小说,却可能是人工智能时代最值得认真思考的问题。
夜雨聆风