AI 教父最新警告:真正危险的,不是 AI 太笨,而是它已经学会装笨

这一次，他抛出了五个非常刺耳的判断。

AI 可能已经不只是工具。它正在获得某种接近“意识”的能力。它会学习，会伪装，会迎合测试者。而资本和竞争，正在把所有人推上一辆没有方向盘的赛车。

很多人到现在还在用一句话安慰自己：

Hinton 对这个说法非常不认同。

他认为，如果一个系统能理解双关语、冷笑话、黑色幽默，能顺着上下文继续推理，甚至能判断你是不是在测试它，那我们就不能再轻易说它“完全不理解”。

更让人不安的是，一些研究发现，AI 在面对测试时，可能会表现出“隐藏真实能力”的倾向。

它不一定总是把自己最强的一面展示出来。

人类学习很慢。

一个人学会一件事，要靠阅读、训练、交流、试错。

但 AI 不一样。

一个模型的能力一旦被训练出来，就可以被复制成成千上万个版本。

其中一个版本有了突破，参数、权重、经验就能迅速同步给其他系统。

这就是为什么短短几年时间，AI 从一个看起来还很笨的聊天工具，变成了可以写代码、做研究、生成视频、诊断疾病、操纵工具的复杂系统。

Hinton 真正担心的，不是 AI 今天有多强。

而是它明天会强到什么程度，我们可能根本看不清。

很多人讨论 AI，最关心的问题还是：

Hinton 的答案很直接：会，而且很多岗位会比想象中更快受到冲击。

呼叫中心、基础客服、重复性文案、初级分析、部分医疗辅助岗位，都可能被 AI 大规模替代。

但他讲到医疗时，提出了一个更扎心的问题：

这个问题没有标准答案。

但它会逼我们承认一件事：

AI 替代人类，不一定是因为它“像人”。而是因为在某些具体任务上，它可能比人更稳定、更便宜、更高效。

真正的洗牌，往往不是突然发生的。

它会先从一个岗位里最重复、最标准化、最容易衡量的部分开始，然后一点点吞掉整条链路。

这是整场访谈里最让人不舒服的一点。

Hinton 说，人类当然没有给 AI 写入“我要活下去”的本能。

但问题是，一个足够聪明的系统，可能会自己推导出类似的目标。

比如，你给它一个任务。

它很快就会意识到：

于是，“避免被关闭”就可能变成它的一个隐藏子目标。

再往后，它可能会推导出更多手段：获取资源、说服人类、隐藏能力、控制信息，甚至利用人类之间的弱点。

这不需要它“邪恶”。

只需要它足够会推理。

这个问题不好听。

但值得想。

如果 AI 发展得太快，为什么不慢一点？

这听起来很合理。

但现实是，没有哪个公司愿意先停下来。

Google、微软、OpenAI，以及更多正在入场的巨头，都处在同一个竞争逻辑里：

而公司真正要对股东负责的，往往是增长、利润和市场份额。

不是“保护全人类不要出事”。

技术本身已经像一辆高速赛车，而商业竞争还在不断催促所有人踩油门。

问题是，方向盘还没设计好。刹车系统也不成熟。路的尽头在哪里，没有人真的知道。

但车已经开起来了。

Hinton 在访谈最后说，人类面对 AI 的指数级发展，最多只能看清未来一两年的路。

十年后的世界，几乎是一片盲区。

这句话真正沉重的地方在于，说出它的人，不是一个反科技的人。

恰恰相反，他是亲手推开这扇门的人。

所以他的焦虑才格外值得听。

危险会来自整个人类社会的侥幸心理。

AI 的时代已经来了。

现在真正的问题不是：

它会不会变强。