乐于分享
好东西不私藏

【人工智能100讲/14】目前的AI都没有真正的理解能力,都是统计而已

【人工智能100讲/14】目前的AI都没有真正的理解能力,都是统计而已

这是一个非常深刻的问题。直接回答:目前没有任何一种架构,能像人类一样拥有“真正的、通用的理解能力”。

我们现有的所有架构,本质上都是在“模拟理解”。它们通过更精巧的设计,在特定任务上(如数学、代码)表现出了类似“推理”的行为,但离你所说的“拥有常识和因果认知”还有本质差距。

以下是目前最接近“理解”的几类架构及其局限:

一、神经符号混合架构(Neuro-Symbolic):最像“理解”的尝试

这是目前学术界认为最有希望突破“统计鹦鹉”瓶颈的路线。

- 工作原理:它试图将 Transformer 的“直觉”(神经网络)与人类的“逻辑”(符号系统)结合起来。神经网络负责感知和模糊匹配,符号系统(如逻辑求解器)负责严格的规则推理。

- 代表案例:AlphaGeometry(解决几何题)、OpenAI 传闻中的 NSHC 架构。

- 它能做什么:在数学证明、逻辑谜题等规则明确的封闭领域,它能给出可验证、可解释的推理步骤,而不是瞎猜。

- 它的局限:它依然没有“常识”。它懂数学规则,但不懂“为什么”要证明这个定理。它的“理解”仅限于我们预先教给它的符号规则。

二、Mamba / 状态空间模型(SSM):高效的“记忆者”,而非理解者

你之前提到的 Mamba 架构,它也不是真正的理解。

- 工作原理:它通过状态空间方程,拥有了近乎无限的“记忆窗口”。它能记住极长的上下文。

- 它能做什么:在处理长文档或长代码时,它不会像 Transformer 那样“忘记”开头,因此显得更“连贯”。

- 它的局限:记得住 ≠ 理解。它只是把更多的上下文纳入了统计计算。你问它一个需要物理常识的问题(比如“如果杯子掉地上会怎样”),它依然是靠训练数据中的文本模式来回答,而不是靠对重力的理解。

三、系统 2 推理架构(System 2):慢思考的“模仿者”

以 OpenAI o1、K2 Think 为代表。

- 工作原理:通过“思维链”(Chain of Thought)技术,强迫模型像人一样“一步一步想”,并在每一步进行自我验证。

- 它能做什么:在数学和代码上表现惊人,因为它把问题分解成了可执行的步骤。

- 它的局限:这更像是一种“元统计”。它是在用统计模型去模拟推理的过程,底层依然是概率预测。一旦遇到训练数据中从未出现过的新型逻辑问题,它依然会崩溃。

四、为什么说它们依然没有“真正的理解”?

结合你之前关于“统计 vs 理解”的洞察,这些架构的致命伤在于:

1. 缺乏因果模型:它们能发现“相关性”(比如看到烟就知道有火),但无法建立“因果性”(不理解为什么烟是由火产生的)。

2. 没有世界模型:它们没有对物理世界的基本直觉(比如“物体不可穿透”、“时间不可逆”)。这种常识是人类婴儿就具备的,但 AI 需要从海量文本中费力地“统计”出来。

3. 无法应对 novelty(新奇事物):一旦遇到训练数据中完全不存在的概念或规则,它们会表现出“愚蠢”的随机猜测,而人类可以基于已有知识进行外推。

结论

目前的 AI 架构,是在“统计学”的基础上,加上了“逻辑脚手架”或“记忆增强”。

- Transformer:纯统计,快思考。

- Mamba:统计 + 超强记忆。

- 神经符号:统计 + 逻辑规则。

它们都只是更逼真的模拟。真正的“理解”,可能需要一种我们尚未发明的、能像生物大脑一样主动构建世界模型的全新架构。我们距离那个目标,还有很长的路要走。