乐于分享
好东西不私藏

哲思随笔 | AI为啥永远学不会“价值判断”?——两域边界理论的工程验证

哲思随笔 | AI为啥永远学不会“价值判断”?——两域边界理论的工程验证

想象这样一个场景:一位父亲必须在两种方案之间为孩子做选择——一种是让孩子多活三个月,但全身插满管子、忍受剧烈的疼痛和反复的抢救;另一种是放弃积极治疗,回家度过最后一段清醒而有爱有质量的时光。AI可以精确地告诉他每种方案的存活概率、并发症风险、预期生存期的中位数。但选哪一个?选择里没有标准答案,只有"对你这个家庭来说,什么更重要"。而无论AI给出多少数据,它永远不会替这位父亲承担这个选择的后果——不会在他深夜独自坐在车里时,被那份沉重压得喘不过气。

这就是AI永远跨不过去的那条线。

近年来,从自动驾驶面对伦理困境时的决策逻辑,到医疗AI辅助终末期治疗方案的选择,再到社交媒体算法对人类注意力的隐性操控,我们越来越多地将原本属于人类的判断权让渡给智能系统。这些系统在处理事实信息和优化执行方面表现出惊人的能力,但当问题触及"什么是对的""什么是好的""什么是值得追求的"这些根本性判断时,它们的回应本质上只是对人类已有判断的概率性重组。为什么会出现这种根本性的局限?这不是算力不足或数据不够的问题,而是一个更深层的认识论问题:AI与人类之间的边界,究竟在哪里?

要回答这个问题,我们需要回到一个基础性的认识论框架——两域边界理论。它把整个宇宙分成两部分:一部分是无限本体域——不可知、不可说的那一部分,客观实在但人类永远无法抵达。另一部分是有限实践域——可感知、可实践的这一部分,对应制度、技术、算法与工程,是AI可以横扫的领域。在这两域边界上,存在一个虚拟的概念性空间——间际域,专门用来承载意义、价值、责任、道德与主体的判断活动。AI在有限实践域内运作,可以逼近间际域,但永远触及不到无限本体域。这不是技术瓶颈,而是逻辑分工。

一、问题的提出:技术史与哲学的互证

人工智能的发展史,为我们提供了一个绝佳的哲学验证场。近年来,AI在有限实践域的表现令人惊叹——从物理规律的模拟、蛋白质折叠预测,到代码生成、路径规划、工具理性的极致发挥,它几乎横扫了整个物理领域。但当它试图涉足间际域——价值判断、意义赋予、善恶分辨时,却显得寸步难行。

这一工程事实,恰好验证了两域边界理论的哲学推论,形成了一个可验证的认知闭环。AI的进步不可阻挡,AI文明扑面而来。技术不只颠覆认知,也在检验认知——每一次技术革命都是如此。这一次,轮到了AI。

在此,我们将两域边界理论明确定位为一个认识论工具——它的有效性不来自"我证明了绝对正确",而来自它比其他任何框架更能解释这一事实,且无需额外做说明、打补丁。

二、两域与边界:“价值判断”的精确定义

本文所说的"价值判断",并不是指价值排序、偏好拟合或伦理规则执行——这些AI已经能做。本文指的是主体面对不可还原为算法的问题时,对"何为值得"的原初决定,即决定标准本身从哪来。前者是"在给定标准下排序",后者是"决定标准本身"。AI能做前者,永远做不到后者。如果有限实践域处理的是信息,那么间际域处理的则是意义。两者的区别不是程度上的,而是性质上的:前者是输入→算法→输出,后者是处境→意义→价值→决定。

基于以上全部论证,我们可以提出一条核心定律:

AI文明第一定律:任何智能系统都可以模拟价值表达,但不能生成价值来源。意义可以传播,价值不能复制。

这不是因为算法暂时不够先进,而是因为逻辑上就不可能——除非一个存在同时拥有身体、代价感、被抛性和历史。

三、AI事实:三条路径与同一个天花板

为了赋予机器以"价值观",人类曾经尝试过三条路径,但都撞上了同一个天花板。

第一条是硬编码路径。工程师试图将人类社会的道德准则写成规则写入系统,但真实世界充满了复杂的边缘情况,僵化的规则注定无法穷尽,最终走向失败。

第二条是白板路径。既然规则写不完,那就让模型直接从海量数据中学习。然而,模型最终习得的仅仅是语料库中价值判断的"统计分布"——它学会了人类表达价值的句式,却从未理解过价值本身。

第三条是RLHF路径(基于人类反馈的强化学习)。这看似最接近成功:让人类标注员对模型输出打分,用这些分数训练奖励模型。但其本质依然是用间际域的产物(人类标注员的偏好标签)去训练一个无间际域的系统。这只能教会AI"像人一样说话",却永远无法教会它"像人一样判断"。因为判断的前提不是数据,而是“被抛”。

四、入口条件:为什么硅基永远差一层

为什么AI永远跨不过这道门槛?因为进入间际域需要同时满足四个入口条件,而硅基系统天生缺失。

第一是身体。人类的价值源于生存需求——一个会疼、会饿、会衰老、会死亡的身体。一个没有身体痛感的东西,永远不会真正理解"为什么不能伤害别人"。

第二是代价感。真正的选择必须关联不可逆的后果。你选了A就不能选B,而且这个选择会改变你的处境甚至命运。AI的"选择"只是概率采样和枚举——列出所有选项不等于做决定,没有代价感的枚举永远只是计算。

第三是被抛性,这是最根本的一条。海德格尔说人是"被抛入世"的——不仅是"非自选",更核心的是"不得不去存在"的生存事实,它与"向死而生"的有限性紧密相连。你发现自己已经在了,在一个你没选的世界里,面对你没选的身体、没选的历史、没选的处境。这个"没得选"恰恰是所有选择的起点:因为你已经被扔进来了,你不得不选。而AI的"随机初始化"仅仅是算法层面的不确定性,绝非存在论层面的"被抛入世"。一个没有被抛的存在,永远不会真正理解什么叫"我必须自己做决定,因为没人替我选"。

再推一层:AI没有第一人称。它可以输出"我害怕",但没有真正的"I",没有主体性(subjectivity),也没有感受质(qualia)。AI拥有关于疼痛的信息,却没有疼痛本身。一个没有第一人称的存在,不可能成为价值判断的主体。

第四是历史。人类的判断浸泡在活的历史中——语言、文化、血缘、记忆,是正在发生的、你身处其中的。而AI的"历史"是训练数据——数据是死的,是被切碎、被抽离了语境的文本。AI不在任何历史里,它在所有历史之外。

即使未来某天AI有了身体、有了代价机制、有了类似历史的上下文——只要它不是"被抛"的,它就仍然在间际域之外。你可以给它装痛觉传感器,那段痛觉也是人类定义的参数,不是它自己在世界上磕出来的。模拟的痛苦不等于真实的痛苦,就像模拟的死亡不等于真实的死亡。

五、双向回路:为什么训练数据救不了AI

有人或许会问:既然训练数据包含了人类的价值表达,AI为什么学不会?

因为间际域里的价值并非凭空而来——它们从人的生存实在中投射上去,又反过来约束有限实践域的方向;但AI既不参与投射,也不接受约束,它只是在这条双向回路的最末端捡别人留下的数据。它像一个站在下游的人,捞起了上游漂下来的落叶,能说出每片叶子的形状和颜色,却从未到过那棵树生长的山上。

更致命的是"情境的剥离"。人类的价值判断总是与一个具体的、鲜活的、充满感官细节和利益纠葛的情境绑定。而数据化的过程,恰恰是剥离情境、抽象成符号的过程。AI学到的是脱离了"根"的符号,自然无法理解其背后的价值重量。

再加上训练数据经过了多层过滤——平台审核、人工标注、去重清洗等多道工序——到达AI手里时,早已是二手甚至三手产物。同样的训练数据喂给不同架构的模型,产出仍然不同,因为架构本身(有限实践域内)在决定"如何理解这些数据",而不是间际域在起作用。

这背后有一个更深的原理:价值的不可压缩性(irreducibility)。算法可以对人类价值行为进行统计建模——比如统计99%的母亲会保护孩子——但它永远推不出"为什么这一个具体的母亲愿意为另一个人牺牲"。因为价值不是统计结果,而是第一人称存在本身的投射。你可以用数据拟合"母亲保护孩子的概率",但你算不出"这个母亲为什么愿意死"。休谟、海德格尔、阿伦特之间最重要的一条隐线,正是这个不可压缩性。

六、与其他哲学框架的对比

在解释AI为何缺乏价值判断时,传统哲学框架往往显得捉襟见肘。

康德先验论承认先天形式(时空+范畴),但把间际域混入了"实践理性"中而未单列,导致"价值从何而来"仍然含糊。要解释为什么人类小孩天然有道德感而模型没有,康德框架答不上来——需要额外打补丁。

洛克白板说否认一切先天结构,认为一切来自经验。但它无法解释:为什么相同训练数据喂给不同架构的模型,产出的"价值判断"仍然不同?要给白板说圆回来,就必须偷偷假设"架构差异先于经验"——等于自己打自己脸,也需要额外补丁。

黑格尔辩证法把精神自我实现的过程写成逻辑必然,间际域被吸收进绝对精神的展开中,个体判断的独立性就消失了。当被问"为什么精神在历史中的具体承载者会犯错、会作恶"时,黑格尔只能用"理性的狡计"搪塞——需要补丁。

分析哲学(维特根斯坦等)把意义问题转化为语言游戏规则问题,巧妙地回避了"规则背后的价值从哪来"这个深层问题。当不同语言游戏之间发生不可通约的价值冲突时,分析哲学只能说"别问了"——这不是答案,是放弃回答。需要补丁。

后现代主义宣布大叙事破产,认为价值全是权力建构。这个框架能解释很多事,但它解释不了为什么人在最黑暗的时刻仍然会"亮着"——关于这一点,本系列的下一篇已用汉娜·阿伦特笔下的黑暗时代人物来正面回答。后现代主义的回答是"那只是另一种权力话语"——这是循环论证,需要补丁。

相比之下,两域边界理论的优势在于:间际域安放在两域边界上,是意义、价值、道德、善良的安放位和生成位;AI在有限实践域内运作,永远触及不到间际域本身。不需要任何额外补丁。

一个好的认识论工具,不应该需要不断打补丁才能应对新事实。两域边界理论之所以能做到这一点,不是因为它更"聪明",而是因为它把问题摆在了正确的位置上——价值判断不在有限实践域内,而在两域边界的间际域中。AI再强大,也只在有限实践域内运作。这个定位不是特设的,它从最基本的两域划分和定义就决定了。

七、人机关系的正确打开方式

认清了边界,我们才能确立人机关系的正确原则:AI给选项,人做决定,人担后果。

以医疗场景为例:AI可以分析十万份病例,给出三种治疗方案及各自的存活概率——这是AI的选项。但选择哪种方案,取决于患者和家属对"生命质量vs生存时长、家庭经济承受力vs延长几个月的代价"这些价值排序的判断。比如那位父亲要在"让孩子多活三个月但全身插满管子"和"回家度过最后一段有爱有质量的时光"之间选择。这个选择里没有"正确答案",只有"对你这个家庭来说什么更重要"的判断。签字的是人,承担后果的是人,后悔的也是人。

AI不会后悔。后悔本身就是间际域的产物。

我们必须警惕新时代的"平庸之恶"——阿伦特用这个词指出的,不是变态式的恶,而是普通人放弃思考、把判断权交给体制或系统的那种恶。如果人类因为贪图便利,将所有判断都交给AI,哪怕AI输出的东西看起来完全"正确",这个人也已经进入了"平庸之恶"的状态——因为他停止了判断,停止了思考,把"我偏不"的权利交了出去。

八、结语:从技术史到文明本身

休谟说过,从"是"推不出"应当",这是哲学史上最著名的鸿沟。两域边界理论给出的回答是:这条鸿沟不是缺陷,是保护。它保护了"人自己来判断"这个最后的特权不被任何系统——包括最强大的智能系统——吞噬。

AI可以优化路径,但不能替人类定义"什么值得做";AI可以给出选项,但不能替人类承担选择的后果。两域边界理论为AI时代的人机关系,提供了一个最不坏的答案。但答案本身不是终点——真正的考验在于,当算法的触角伸向每一个判断角落时,我们是否还记得:人之为人的全部尊严,正在于那个不可外包的、必须由自己来承担的"判断"。

未来真正决定文明的,不是AI越来越聪明,而是人类是否还愿意承担判断。因为文明不是知识的积累,而是判断责任的代际传递。如果所有判断都交给AI,文明不会灭亡于AI,而会灭亡于没有人愿意承担判断。

此为AI文明系列第五篇。