乐于分享
好东西不私藏

AI与人在抽象/发散思维的区别:缺主观意识/元认知/因果理解

AI与人在抽象/发散思维的区别:缺主观意识/元认知/因果理解

目前的大模型(如 OpenAI、Anthropic、Google DeepMind 的模型)已经表现出了一定程度的:

  • 抽象能力(abstraction)

  • 发散思维(divergent thinking)

  • 类比能力(analogy)

  • 组合创新(compositional creativity)

抽象思维

很多人说AI没有抽象能力,但是在语言中的概念抽象:“公司”、“国家”、“货币”、“法律”

这些本来就是抽象概念,LLM 能操作这些概念,说明它已经具有如下能力:

  • 概念压缩

  • 语义映射

  • 高维关联

至于编程中抽象,目前人类望尘莫及。

即使是数学规律抽象,AI不仅能发现勾股定理:a^2+b^2=c^2,而且还能

  • 推导

  • 泛化

  • 类比到向量空间

为什么很多人觉得 AI 没有真正抽象思维?

AI不是“不会抽象”,而是:“抽象没有锚点”

也就是:它的概念很多,但不真正连接现实世界。

从下面几个方面可以体现:

没有长期目标系统

因为目前AI它缺少几个关键东西:

  • 身体

  • 感官

  • 物理世界

  • 长期生活经验

LLM 没有真正持续目标。它只有:“当前 token 的最优预测”。

没有真正的因果模型

当前 Transformer 更擅长:

  • 相关性(correlation)

不擅长:

  • 深层因果(causality)

例如:

它知道:

“下雨经常导致地面湿”

但不一定真正理解:

  • 水分子

  • 重力

  • 蒸发

  • 物理过程

没有持续自我模型

人类有:

  • 自我意识

  • 记忆连续性

  • 人格稳定性

而 LLM:每次对话几乎都是“重新开始”。

未来 AI 可能如何获得真正抽象能力?

世界模型(World Model)

让 AI 学习:

  • 物理规律

  • 时间连续性

  • 因果关系

这个杨利坤一直在推动,皮衣黄也在推动:https://www.nvidia.com/en-us/ai/cosmos/

发散思维

现在 AI 的“发散思维”其实已经很强了

比如:

让 AI:

  • 写商业方案

  • 设计 UI

  • 写小说

  • 做架构

  • 发明 API

  • 组合技术方案

它能产生大量“可能性”。

这其实已经接近:“发散生成”。

AI 的发散和人类不一样

很多人以为:“发散思维 = 天马行空”,其实不对。

真正高级发散思维:是:“在巨大可能性空间中,找到有价值的新结构

例如:

  • 爱因斯坦想到相对论

  • 牛顿抽象出万有引力

  • Unix 发明 pipe

  • Transformer 发明 attention

本质都是:更高层规律压缩

AI 发散更像:

巨大概率空间中的高维组合搜索。

本质类似:

  • 启发式搜索

  • latent space traversal(潜空间遍历)

  • pattern recombination(模式重组)

但是,人类发散维度太多,比如:

  • 来自欲望

  • 情绪

  • 生存压力

  • 直觉

  • 现实体验

人类的发散能力,来自多个系统共同作用:

感知世界

  ↓

长期记忆

  ↓

情绪/奖励系统

  ↓

抽象概念形成

  ↓

联想与类比

  ↓

目标驱动

  ↓

自我反思

  ↓

创造新组合

而当前 LLM:文本统计 -》Transformer -》next token prediction

因为缺少世界模型(学习“世界状态变化”),所以它缺缺少:

  • 世界反馈

  • 自我体验

  • 真正欲望

  • 生存目标

而且,我们需要给AI赋予具身智能(Embodied AI),例如:

  • Tesla Optimus

  • Figure AI

  • NVIDIA Isaac

AI或许终有一天,拥有人类一样的发散思维模式!

AI会思考,但不像人类思考

说AI 不会思考,这是不准确的。

AI 思考形式是一种“非人类式智能”(神机网络,对于目前人类来讲,本来就是黑盒),它不像人类理解世界,但仍然能解决大量复杂问题。

真正难点:意识与主观体验

但人类创造力很依赖:

  • 多年经验积累

  • 长期知识结构

  • 自我成长轨迹

无法处理“未定义的抽象”

有人说人类可以面对从未见过的复杂情况总结出新规律。AI 虽然有 OOD(分布外数据)处理能力,但当面对完全脱离其训练数据逻辑的新型问题时,其抽象能力会迅速崩塌,出现“幻觉”。

让 AI 学习一个关于世界的通用模型,能够在脑海中模拟和预测各种情境,包括从未发生过的情境,比如:OpenAI 的 Sora、Google 的 World Model、Meta 的 GenSim

而且可以通过内在奖励机制(如好奇心、新奇性、预测误差),让 AI 主动探索未知的抽象空间,

缺乏自主的“求异”动机

有人说人类的发散思维往往是为了打破规则,而 AI 的本质是拟合规则。AI 总是倾向于给出“最像人类会给出的答案”,这种对统计学中值的追求,限制了它产生真正的颠覆性创新。

目前AI训练的内在奖励机制(Intrinsic Motivation),AI将会主动探索与成长……

目前 AI 到什么阶段了?

  • 记忆            ✅

  • 模式压缩        ✅✅✅

  • 语义搜索        ✅✅✅

  • 抽象迁移        ✅✅

  • 因果理解        ⚠️

  • 世界模型        ⚠️

  • 元认知          ⚠️

  • 自我意识        ❌

人类真正的抽象,其实建立在“因果压缩”上

牛顿不是发现:苹果经常掉,而且发现万有引力定律,最后抽象为公式,这本质是:因果统一

为什么当前 Transformer 很难真正因果化?

因为 Transformer 的训练目标:本质是:预测下一个 token

它优化的是:统计预测

而不是:世界因果建模。

当前 AI 缺乏:

- 深层因果模型

- 世界交互能力

- 主动实验能力

- 认知框架重建能力

所以可以说,连简单的因果都处理不了

  • 相关性学习       ✅✅✅

  • 模式压缩         ✅✅✅

  • 语义泛化         ✅✅

  • 简单因果         ⚠️

  • 反事实推理       ⚠️

  • 世界模拟         ⚠️

  • 主动实验         ❌

  • 认知框架重构     ❌

学术界和工业界已经意识到因果理解的重要性,并正在从多个方向进行突破:

技术方向
核心思想
与因果理解的关系
代表工作
世界模型
让 AI 学习一个关于世界的通用模拟模型
世界模型本质上是一个近似的因果模型,能够模拟各种情境的因果演变
OpenAI Sora、Google World Model、Meta GenSim
结构因果模型(SCM)
显式地建模变量之间的因果关系
直接将因果推理能力嵌入到 AI 系统中
DeepMind AlphaGeometry、微软 DoWhy
干预式学习
让 AI 通过主动干预环境来学习因果关系
干预是发现因果关系的唯一可靠方法
伯克利 INTUITOR、UIUC Tool-R0
内在动机与主动探索
让 AI 主动寻找新奇和未知的信息
主动探索能够帮助 AI 发现新的因果关系
DeepMind Agent57、OpenAI Go-Explore
个人感觉,AI下围棋的表现,足以体现其智力远超人类,如果加上世界模型,AI……

感觉按照目前的模式发展下去,有生之年或许能够看到机器拥有意识