乐于分享
好东西不私藏

AI时代的认知操作系统:底层架构、预测编码、贝叶斯,吸引力法则

AI时代的认知操作系统:底层架构、预测编码、贝叶斯,吸引力法则
推荐阅读前序文章:
AI时代的人类认知操作系统:你对大脑的误解有多深?
一份AI时代的人类认知操作系统:为什么你需要这篇文章
你真的理解人工智能吗?从计算范式的转变谈起
上一篇文章做到了“破”,本篇文章就做一下“立”。当然,要“立”的东西很多,我们从大脑最基本的架构(预测编码)和最基本的算法(贝叶斯)谈起。
你知道吗?你的大脑本质上并不是一台串行的处理机器。
大脑每秒钟要处理大约11兆比特的感官数据,相当于1s就要下载一部高清电影。
对于一台20瓦的机器,如果要把这些信息全部处理一遍,显然不可能。
预测
大脑走的是另一条路:先预测,后验证。  
它先猜测世界“应该”是什么样子,再看自己猜错了多少。它只计算真实输入与预期输入之间的差值,而不会去处理完整的感官信息。  
如果预测准确,差值接近于零,大脑也就不需要额外处理。只有真正出乎意料的输入才会产生很高的差值,从而消耗更多的神经资源。  
举个有体感的例子:小时候,这个预测模型还不够准,所以看什么都新鲜,总觉得时间过得很慢。而随着年龄增长,模型越来越准,体感上时间也就变快了。  
这就是“预测编码”理论的核心主张:你的大脑不是一个被动的接收器,而是一台持续的、自洽的预测机器——每时每刻都在生成它期望看到的感官输入,然后计算误差。  
这意味着你所看到的东西,可能90%以上是你自己生成的,只有不到10%来自真实世界的修正信号。
生成模型
大脑里维护着一个分层的、并行的、对世界建模的模型,就叫它生成模型吧。
当你置身一个场景,这个模型能够生成预测,告诉你下一时刻应该看到、听到、感觉到什么。
这个模型是分层的:
最底层:预测边缘、颜色、纹理、音高,时间在毫秒内。
中层:识别物体,"这是一个人"、"这是一辆靠近的汽车",时间在数秒到分钟,维持着对短暂的理解。
高层:预测情境,"我在咖啡馆"、"这个人接下来可能要和我说话",时间在数小时到天。
最高层:负责整个人的叙事,"我的生活是安全的/有意义的/朝着某个方向走的",时间往往在数天到数年,甚至一生。
关键在于,所有的层级是同时运行的。上述的内容可能会让你想起卷积神经网络,它确实和人脑殊途同归,但是结构相比之下要简单的多。
所以你并非“先看到边,再认出杯子,最后才意识到在咖啡馆”。而是最高层直接告诉高层“在咖啡馆应该看到杯子”,高层告诉中层“杯子应该在这个位置”,中层再指挥底层去核对杯子的边缘和颜色。 预测自上而下流动,如果发现对不上号,错误的信号又自下而上汇报。整个过程完全并行。
预测误差
如果说生成模型产生的预测是自上而下的流,那么从感官向上传递的就是预测误差。
这就解释了很多奇怪的现象:
你走路时感觉不到脚底接触地面。你的大脑把每一步的触感都预测得很准,每一次着地都恰好符合预期。只有当踩到一块不平的石头时,预测误差才会出现,并可能穿透到意识层面。
你闻不到自己家的味道。你已经在这个环境里待了很久,大脑准确地预测了它。而刚到一个陌生的地方,你会立刻注意到那里的气味。
为什么长期关系会变淡。不完全是感情变了,而是因为对方的大部分行为已经被你的模型准确预测。没有预测误差,就没有注意力的调动,新鲜感自然下降。
预测误差还有一个关键性质,就是层次化。
一个高层的预测误差,可能来自长时间的全局信息整合,但不一定会触发你具体的感官知觉。它可能只是让你感到一阵莫名的不安、兴奋、恐惧或焦虑。
所以,那些“说不清道不明”的情绪,本质上就是高层级或大规模预测误差的信号。
精度加权
不是所有预测误差都值得处理,因为你不可能对每一种感官的误差都给予同等关注。
因此,大脑有一个更精密的机制:它不仅预测会发生什么,还预测这个预测本身有多可靠。
这就是精度加权。
举个具体的例子:

在深夜昏暗小巷,你的余光扫到一团模糊黑影。视觉信号很差,大脑的预测置信度极低,“那可能是人,也是个垃圾桶”。于是你瞬间警觉,权重快速飙升,注意力扑过去收集更多数据。明亮的办公室里,你的余光看到穿蓝衬衫、步伐熟悉的同事走进来。预测精度极高:“XX来开会了”。你大概率不会多看他一眼,权重几乎为零,你会继续敲键盘。

精度加权解释了注意力的本质:注意力就是大脑暂时提高某个通道的权重。
如果你在嘈杂的派对上专心地听一个人说话,你的听觉皮层是在说“这个方向的预测误差很重要,给我放大处理!至于那边是谁在笑?不重要,别汇报上来”。
精度加权主要由三种神经递质:多巴胺,乙酰胆碱,去甲肾上腺素。
人脑是贝叶斯的
如果说预测编码是架构,贝叶斯推理就是运行在架构上的算法。
贝叶斯定理是这样的:
后验信念 ∝ 先验信念 × 当前证据的吻合度
在你看到任何东西之前,大脑里已经有了一个先验,比如“人不会穿墙而过”、“星星通常不会突然动”、“我认识的人不应该凭空消失”。大脑会不断用感官输入作为证据来修正这个先验。
不要觉得这个过于理所应当,这件事AI现在也很难做到。
但“贝叶斯脑”的内涵比这更深,它被称为层次化贝叶斯推理。
举个例子:视觉皮层更新完“这个物体像一张脸”之后,物体识别的中层就把“这大概率是一张脸”作为新的先验传给底层,“现在你在我说的位置去找眼睛和鼻子”。
即使分辨猫和狗这种看似简单的任务,也并非串行处理,而是整个大脑协同工作:所有层级的预测和误差被同时修正,直到整个系统收敛到一个平衡状态。
插一句题外话,我们总容易把系统平衡简化为因为所以,我之后想写篇文章谈谈这一点。
我们从更数学的角度理解这件事:整个大脑的状态像是一个高维空间的势能函数,更准确地来说是变分自由能。贝叶斯推理就是在梯度下降,找极小值。预测误差是梯度力,精度是曲率,也就是海森矩阵的对角值。曲率越大,说明系统越确定。认知过程就是系统在整个势能面上找到一个局部极小并待在那里,直到新的感官数据改变势能面的形状,迫使系统再次移动。
行动也是贝叶斯的
到这里为止,大脑看起来像是被动的——只能接收信息、更新模型。
但更精彩的部分来了:贝叶斯推理也适用于行动。这个扩展框架叫作主动推断。
大脑所做的,不只是“给定感官数据,最可能的状态是什么”。
还有另一件事:“如果我现在做一个动作 X,我会得到什么样的感官数据?”
然后,它会选择那个可能产生最小预测误差的动作。
这就意味着:你的一生,都在不断用行动让世界符合你的预测。
我觉得,这也是“吸引力法则”可能成立的原因。它的解释很浪漫:你相信什么,就会向宇宙下订单,就会吸引什么,就会成为什么。
而真实的过程可能是这样的:你相信了一件事,它给了你一个很强的先验信念。接着,你的注意力筛选方式变了,你的感官数据变了,你感知到的世界真的发生了变化。随之而来的,是你的语气、措辞、行动逻辑、决策优先级也变了。这些变化同时修正着你对外界的预测,以及外界对你的预测。于是,你真的成为了那个样子。
举个简单的例子来检验一下可靠性:你挠自己的时候是不会感觉到痒的。
为什么?因为你的运动皮层在向肌肉发送“弯曲手指”的指令时,同时会向感觉皮层发送一份“传出副本”,意思是:“我刚才命令手做 X 动作了,所以你应该预期拇指根部会感觉到这个触感,其他部分不会。”
预测与真实触感一致,误差接近于零,因此你不会觉得痒。
而当你挠别人时,对方的大脑没有收到这份“传出副本”,无法提前消除对自己皮肤的触觉预测,所以会觉得痒。
Dark Room之问:为什么我们不躺平?
到这里你可能想到了一个问题:如果大脑唯一的目标是最小化预测误差,那么最稳妥的方案岂不是去一个没有任何感官刺激的地方躺着?在那里不会有任何预测误差,因为根本没有感官输入的变化。
这就是 Dark Room 之问,是自由能原理最经典的思想实验之一。
Dark Room 之问的答案很简单:大脑最小化的不是当前的预测误差,而是预期的自由能。
预期自由能=实用价值+认识价值
实用价值就是满足偏好,就是呆在舒适区,严格定义为:行动能多大程度实现你预先偏好的结果。
认识价值就是减少不确定性,就是走出舒适区,定义为:行动能多大程度降低你对世界模型中的不确定性,比如探索未知环境。
进入黑房间这个策略,虽然当前时刻的预测误差为零,实用价值有可能实现的很好,但只要一个人是从屋外走进黑房间的,认识价值就会崩的一塌糊涂。
即使我们假设一个人的实用价值就是因为你不知道外面在发生什么,你的模型会说“屋外的世界我完全不确定”,这种巨大的不确定性会导致预期自由能很高。
因此,大脑在设计行动策略时总会同时权衡两个分量:
    实用价值:这个行动能让我的预期偏好得到满足吗?
    认识价值:这个行动能最大程度地减少我模型中的不确定性吗?
这里又引出了一个问题,人的好奇心来自哪里?
好奇心并不是简单的喜新厌旧,而是对你模型中“已知的未知”的反应。 或许你自己也不知道你并不知道那个空白,但你的模型知道自己有一个空白在那里。所以,记得保护你的好奇心。
这也正契合探索‑利用困境:它本质上是大脑在做的一个贝叶斯决策。
每一刻,系统需要选择是执行高实用价值的行为(利用),还是执行高认识价值的行为(探索)。
就好比高考前,你是再看几道旧题,还是多刷几道新题?