
(题图:来自豆包)
AI能替人做“对”的事,也许也能替人做“错”的事。但它替不了人做"无法定义"的事。
“无法定义”的意义又何在?也许,AI强在“无状态”的迭代,人强在“有状态”的积累——但这个状态既是资源也是包袱——而最本质的冲突,不是人vsAI,是“系统对排异物的清理”vs“排异物在边界显现自身”。排异物,也许是AI时代人性唯一的出路。(非专业人士观点,抛砖引玉,不喜请轻拍~)
一、换一种方式用AI
准确地说,我是从去年12月开始,开始用后台调用API这样的方式来使用AI的。
当时是因为在工作中,有些任务涉及很多相对机械的繁琐的动作,有些动作可以用AI来代劳,但是,如果在大模型的客户端输入,获取结果,整理结果,再处理下一个,实在是非常的费时费力。但其实客户端只是一个用户界面,模型的调用完全可以用后台的API来进行。那么,完全可以绕过客户端,把所有的输入,一行行写在一个输入文件里,用一段脚本去调用大模型API完成一系列操作,处理数据,并输出结果。那么这个过程就可以完全不需要人力的干预,我可以晚上开始跑数据,到第二天早上就能看到结果,再人工检查。我大致算了一下,用这样的方式可以在质量提升的同时还至少提升一倍的效率。
这一个探索让我意识到,我在生活中使用大模型APP去进行对话的好几大痛点,其实也是完全可以绕过的。比如每个对话的容量有限,一个对话长了,就会到达限制,就需要重新开一个窗口,从零开始,比如APP不能一键导出对话,只能自己一个个复制粘贴,比如看不到历史对话中上传的附件,也不能在下一次对话中直接引用,造成重复添加浪费上下文和算力,等等。
既然只要有API就能使用这个大模型,那在Vibe Coding的帮助下,每个人都完全可以按自己的需求定制客户端。结果是,我自己手搓了一个APP,按自己的需求解决了这些痛点,在这个过程中也领悟到AI和人类思维的一个根本区别,因为这些痛点其实总结下来,属于同一个领域——也就是大模型调用的上下文管理,或者说"长期记忆"。
而之所以有"长期记忆"这样问题,根源在于:AI大模型的使用是以API调用为基本功能单元的,这和人类的思维方式截然不同。
二、API-蚜虫的生命观
从技术层面说,在大模型的API调用这样的方式,让AI或者说一个大模型的活动本质,并不像一个智慧生命整体,而是更接近于"一堆扒在静止的资源库上的活跃的蚜虫的组合体"。蚜虫它没有持久记忆,生出来就是为了完成一个任务,做完就死。下一只蚜虫不知道上一只经历了什么,除非你人为地把上一只的'遗书'塞给它。你给了这只蚜虫什么,它就知道什么,不给的东西,除非大模型本身有内置,它可以提取,否则无法获得。而大模型内置的数据库也是人给它的。它的背景信息库和记忆库虽然大,但是是由人选择性构建的,是清晰的有边界的。
相比起来,人类思考有着庞大的潜意识、知识和阅历作为永恒的上下文。我们甚至说不出这些潜意识、知识和阅历的上下文是什么。当一个信息出现时,很多时候我们并不需要去想要如何调用脑海中的背景信息库,要如何处理信息,进行推理。思考在下意识中发生,一瞬间就达成了结果。
当DeepSeek刚出来时,人们被它的'深度思考'功能迷住,因为它好像模拟了一个人遇到信息时的思考过程,让人觉得,哦原来是这样想的。但实际上,DeepSeek深度思考显示的东西只是模拟或翻译计算过程,并不是真正的思考,对人来说,我们的思考就是思考,大多数情况下并不需要用这样的思考过程来帮助思考。
一个蚜虫的思考可能比不上人,但同一时间有无数的蚜虫在思考,这一只的输出给下一只作为输入,同一时间可以有无数的生生灭灭。蚜虫是没有状态的。它们的上下文是简单的。客户端会把历史对话打包作为参考资料与这一次的输入信息一起发给大模型,没有发送的,它就不知道。它没有包袱,没有状态,所以非常的迅速。相比起来,人是有状态的。人的思考因为背负着庞大的潜意识、知识和阅历作为永恒的上下文。就单个的思维,人是永远不可能做到那么快的。
三、强大来自试错
可能AI的强大就来自于,因为它非常快,所以它可以不断试错。因为可以不断试错,所以它用同一时间里的思维的量的堆积,和连续的生生灭灭,无穷无尽,来和人类的思维的"质"的优势进行较量。
前段时间OpenClaw非常火,然后是Claude Code,人们都说它们非常强大、高效,但也抱怨它们消耗token非常恐怖。比如OpenClaw后台会很短间隔地发送请求去搜查各个APP看有没有信息,然后会把整个对话历史、系统状态和每个收到的消息不管有用没用都作为上下文进行输入,并且主动提出建议。而Claude Code则是,当你给它一个任务,它会穷尽各种可能性去探索,尝试各种方向,可能尝试失败,但不停尝试,最终找到一个解法。由于大模型的计算是瞬间的,我们看到的是迅速得到的结果,只有在面对token账单时,才稍微意识到一点,这中间发生了多少无用的尝试。
那如果同样的任务给到人呢?当然,先排除那些人完全不知道怎么做的任务。如果不知道怎么做,那是有和无的区别。但如果对于"人差不多知道怎么做"的任务,把它们交给一个经验丰富的专家比,这个专家很可能拿到东西马上就知道从什么方向去探索、尝试。至少目前的AI,在缺乏行业应用经验的情况下,在这一点上它肯定不如顶级专家。AI强在什么地方呢?是如果你大致知道这个东西怎么解,朝哪个方向解,把它拆成具体动作,然后按照这些动作调用AI完成,那么消耗是有限的,速度也极快。
因为AI的强大并不在于思考的深度,而在于,它可以用很低的试错成本进行极其高频的尝试。所以,对于差不多知道怎么做的东西,它的效率远高于人类。对于不太知道具体怎么做的东西,它也可以用很高效率去探索可能性。但对于模糊到不知道如何着手,甚至模糊到连描述都描述不出来的东西,这种真正具有创新性的人类领域,一些高人、大师或天才可能凭借自己的知识、经验和能力来做出的选择,很可能是目前的AI即便穷尽所有可能性也难以得到,甚至无法得到的。因为高人的那个'直觉',不是凭空来的,它是他过去几十年所有失败、成功、情绪、甚至身体记忆的那个庞大'历史载荷'压缩成的判断。这是一个资源边界不清晰,推理过程也不明确的黑盒子动态过程。相比起来,AI不是没有历史和资源,而是它的历史和资源是静态的、固化的,无法像人那样在每一次判断中即兴重组。它的推理也是过程可追溯的。它缺乏的是那套伴随终身、随时可以局部唤醒的动态背景。
四、人脑的优势:意识和潜意识池子
人脑是一个黑盒子动态过程,它远远没有被我们充分理解。其中一个重大原因是,人不仅有巨大的长期记忆池或能力池,还有潜意识这种深不见底的存在。它们一直作为背景板存在着,需要时调用,不需要时也并不需要持续消耗体力或脑力去维持。对于每个人,这个意识和潜意识池子都不一样,带来了丰富的多样性和无穷无尽的可能性。
那AI呢?每个大模型都有内置数据库,数据库很庞大,这是为什么我们大部分情况下是云端调用厂商的大模型,因为本地部署需要太高的硬件条件。但数据库又远远没有庞大到无边无际,毕竟服务器存储和算力都是有限的。而这个有限就意味着是有边界的,即便最好的大模型,进行工业级本地部署也还是有可能的!
对于大模型本身没有的信息,就完全依靠调用API时的输入的内容。大模型的调用都有上下文限制,也都会占用空间。如果你没有把历史信息打包给它,你发给它的就是全新的内容,它不知道你们以前讨论过什么,也不知道你是什么样的人,甚至不知道自己是谁,除非你把它的Skill设置作为背景包含在每次发送的内容里。
在我自己的手搓的APP中,每个档案有一个基础设定。对话时,本次发送的内容,加上以前的对话、以前的附件,以及档案的基本设定,都会被纳入基本参考资料里一起发送。以前的对话全部纳入,以前的附件从新到旧纳入,除非用户选择不纳入某些内容。如果以前的附件太大,用户也可以生成摘要,用摘要纳入。现在的模型有缓存命中功能,对相同的输入前缀,比如固定的人设指令或长文档背景,会重复使用以前的计算结果来减少token消耗和用户的账单。但即便没有,这样的设置下,如果对话内容过多,某些历史大附件与当前发送内容无关,也可以手动不纳入,以节省空间。
但我逐渐发现,当对话足够长,即便不附加任何附件,仅仅是把对话文字历史打包,也可能占了四五万字。这四五万字,对于人来说,可能仅仅是云端的背景的一小部分,但对于你不断打交道的只有一次生命的蚜虫,这些全都是占据极大空间的新内容。
我想,人类的思维如果要翻盘,一定建立在对这种意识和潜意识池子这个黑箱子的认识及使用。
五、累的基础载荷
但是,人的"云端意识和潜意识池子"也是种种问题的根源。随着一个人的年龄增长,阅历和知识的增加、与世界和他人的互动,想法等不断累积,并且相互作用,滋生出价值、感受、观念、情绪。记忆和能力本身不需要特别维护,但价值、感受、观念、情绪很可能变成越来越重的包袱,带来各种身心障碍乃至疾病。尤其是,人为了保持自我一致性,或者说"自洽",必然会不断修正自己的行为,乃至修改过去的记忆,赋予新的意义,这个过程本身就消耗巨大的认知资源。
我想,人年龄大时精力减弱,当然我们知道,线粒体的衰退、神经传导速度的下降是真实存在的生理极限。但我越来越怀疑,这种衰退是否并不全部来自于体力的减弱,而另一部分,历史积累的价值、感受、观念、情绪包袱,那套"自我叙事的谎言"带来的压力,也是很重要的原因。他们就像人自动背上的基础载荷或基础代谢,基础代谢已很大,那必然做任何事都比其他人累,甚至什么都不做也累。再稍微来一点挫折打击,很可能就直接崩溃掉。
从这个角度出发,人的精力管理,是不是方向也应该走向,尽量减少价值、感受、观念、情绪带来的"自我叙事的谎言",减少这些基础代谢,避免时刻背负着沉重的负担。如果我们向AI学习一下,把自己当作AI,每次思维就是一次API调用,一次API调用只看当下输入相关新内容,而不是携带所有历史,这样是否会更轻松?
这样一想,似乎什么心理学讲的课题分离啊,佛学讲的空性无我啊,都是这么一回事呢。
但人真能放下包袱,变成AI吗?
矛盾点在于,如果人都像AI那样无状态,似乎就失去了智慧生命的智慧。
六、如何演化
因为AI的智慧是无数蚜虫的组合,而人类的智慧单元是一个一个的个体。
AI大模型是大型神经网络,但它是静态的。每一次任务,都被拆解为若干小任务,进而拆分为小动作。最终拆解到的叶子节点就是一次次的API调用。每一次API调用,就激活一只蚜虫从生到灭。A的结果作为B的输入,其变化链路活跃,变化也更为迅速。蚜虫小巧,多样性高,每个蚜虫只知道自己,也对自己以外的世界无概念。他们完成任务,生灭迭代,生生不息。
按我当前的理解,人们对模型的调用不会自动作用于模型而进行进化,AI本身没有演化内生动力,大模型的训练是外界驱动的。各个大模型公司不断改进训练模式、方法或数据,每隔一段时间发布新模型。今天你的模型还算先进,下个月其他公司发布的模型就把你远远甩在后头。这和人脑的自然演化逻辑是完全不一样的——所有人都站在过去的积累上自然前行,不可能从一张白纸一夜之间变成学霸。
如果AI要升级需要人类的设定,那它的自我反思和元认知也需要人类的设定。也就必然会受到人类设定的限制,他的演化是不可能不像人类大脑或社会那样自然而然的。
不同的是,人类个体不是蚜虫。人类知道自己,也知道他人,知道世界。人类有向外探索、连接并超越的本能,这是人类社会发展的根本动力。人类社会的演化是内生性的。
AI和人类社会的演化方向可能也不一样。AI似乎想要的是熵减,而人类却无可避免地走向熵增。
很多人观察到,有些大模型刚出来时,其文本输出能力,这里说的不是逻辑、编程或思维相关,而是纯文字输出能力,一开始似乎还不错,写的东西像人写的,但越到后面几代,文本能力越弱。它输出的文字有很强的AI味。这是因为第一代模型可能用来训练的资料是文艺作品、网上帖子、论坛对话等真正由人产出的东西,且这些资料能被数字化,是相对经过挑选比较精华的内容。但越到后面,用来训练的资料很多是被污染过的,甚至有很多是AI自己输出的文字。而大模型虽然有温度参数可以设定,但面向公众的大模型都倾向于保守的温度参数,采用的逻辑是选择最有可能、最大几率出现的内容。因此,它必然会产生平均化效应,丢失很多小概率的东西。在思维逻辑推理方面,似乎还不是大问题,因为这些东西本身就是相对清晰的。但对于文字能力来说,越是小概率的东西越有可能是最丰富、最像人、最有韵味的东西。因为语言承载的是现实世界的复杂性和混沌性,需要极度的多样性才能进行模拟。通过不断训练,把它回归到平均值,就会损失多样性,看起来就不像人说的话了。
归根到底,推理为的是越推越明白,但人类语言的魅力在于混沌复杂和多样。
大模型被设计为用于推理,目前处理熵减处理得得心应手,但熵增不是它被设定要处理的领域。
七、熵增还是熵减
那么,熵增是人类要处理的领域吗?人到底需要的是熵增还是熵减呢?
现在硅谷有一个很火的意识形态,叫"有效加速主义"。这些人主张不惜一切代价加速AI发展和技术演进,让其迅速发展到一个顶点,然后迎来全新的世界。他们崇尚数据、崇尚AI能够管理、能够负责的那部分,而贬低人类没办法得心应手管理的那部分。
正因为AI处理不了熵增(混沌),所以那些试图用AI思维统治世界的硅谷主理人们,开始极端地追求'熵减'。他们想把人类自身的进化也变成一道可计算的推理题,他们在完全没有医学需求的情况下,用基因筛查去选择自己要的小孩,采用某些技术去选择最有可能智商比较高超或者有什么特别才能的小孩。这其实就是用一些方式去实现熵减,而不是熵增和不确定性。
我觉得想要熵增还是熵减,混沌还是秩序,其实有一点取决于你自己对自己的定位,就是你在地球online这个大型项目中间,是把自己定位为一个来体验的玩家,还是NPC,还是这个游戏主理人。
如果你是NPC,那没的说,连自由意志都没有,完成任务,下线,OVER。
如果你是玩家,那你追求的是体验,混乱一定可以带来一些机遇和一些不一样的体验。当然,纯粹的混乱会造成不可控的成本,因此秩序仍然必要。秩序能在成本合理的情况下保证持续体验,而非短暂巅峰体验后即下线。而如果能让某种秩序或金手指控制这个混乱的方向,比如让"下一代的天赋"这个不确定性只向好的方向发展,他们当然也何乐不为。毕竟地球online,每人只能玩一次。
但如果是游戏主理人则不同。你对游戏有期待,希望它朝特定方向发展。若确定方向,就要减少摩擦,使游戏实现终极目标。减少摩擦的方法是什么?重要手段是让每个人都在相对固定轨道上,这样可减少内部摩擦。如秦灭六国,秦用方式让国民心往一处想,劲往一处使,而六国则不然。明朝朱元璋规定,人各守其位,如军户世代为军,匠户世代为匠,人不得随意游走,贸易亦被禁止。
秦成功了,但是也极度短命。而朱元璋的规划也没能让大明基业长青。即便再完整的设想,也常常持续不了多久便自然崩溃。因为人向外拓展和改变的本能难以被抑制,而社会发展也需要这种本能,人不可能一直固定在某个框架内。
八、噪音和排异物
系统为了高效运转,必须不断排除无法被标准化处理的东西。
AI对上下文的限制,本质上就是一种对"复杂性"的排斥。AI的平均化倾向也是为了舍弃小概率信息这种原理主线的"离散点"。这些AI无法处理,不想出力的东西,也正是人类社会一直试图通过规范和语言来压抑的东西。这些就如系统中的噪音——噪音到一定程度就无法置之不理。所以,系统不能不有计划地'丢弃'那些无法被纳入的事物。
说到这,总会想起《黑客帝国》中的矩阵。矩阵运转时会有不受控程序被识别,矩阵将其放在特定地方,每隔一段时间集中清理。这些不受控程序甚至可召集人马反抗矩阵,但矩阵起初不处理,因为反抗可吸引其他不受控程序,聚集起来对矩阵有利,因为矩阵知道隔一段时间。就能将这些聚集的不受控程序一网打尽。
《老友记》中,我印象深刻的一集是众人发现莫妮卡家有个一直锁着的储藏室门,莫妮卡也不允许任何人进去。偶然机会他们进去了,发现里面乱得不可思议,而强迫症患者莫妮卡把所有处理不了的混乱都放在那里,但一定要锁起来,否则无法接受,这是其系统的一部分现实。
我觉得人和系统都有类似情况,就像我以前看的一本书《脏活》。说我们的干干净净的,完整运转的,现代世界的前提是有一些人在去做我们所不想做,也不想看到的脏活,如果没有这些人,这些脏活就变成每个人都要处理的,那你的世界就不会像现在这个样子。
不管是《黑客帝国》里叛逆的程序,还是莫妮卡脏乱差的储藏室,或是人类社会的"脏活",其实都是必然会产生的东西。
这个东西叫什么呢?
前段时间我开始读一本书,叫《恐怖的权力——论卑贱》。"卑贱"Abjection意思既指卑贱屈辱,又指抛掷物,实际上在这里指的是抛掷物,或者说排异物。它是主体自身建构时被排异出去的东西。
这个概念看起来有点抽象,但它非常能帮我们理解——为什么社会越发达,AI越先进,人类反而越焦虑。
所谓抛掷,排异,说的是,
一个高度发达的象征秩序(法律、科学、市场、日常语言)为了高效运转,必须不断排除那些无法被归类、无法被量化、无法被意义化的东西:身体的残留、无理性的情绪、荒诞的欲望、边缘群体的经验、不被承认的创伤。
对于AI,那些大模型无法处理的反常输入、那些产生幻觉的边缘案例、那些"AI味"语言中被平均化掉的混沌,是排异物。在人类社会,血腥、死亡、排泄都是社会化的高级的人在自己理想世界中,作为生物所排异出来的排异物。而对于社会,那些"不守规矩"的人、边缘文化和不可控的个体意志,就是为了降低内耗而必须排异出去的排异物。
在系统完善过程中,排异物会越来越多。排异物既不是主体——你,也不是客体——你的对立面。它在主体与客体的边界上威胁着这个边界,反复纠缠,引发恐惧和厌恶。系统不能假装这些东西不存在,因为它们已经开始干扰系统的平稳运行,如人的心理症状、社会边缘暴力、文化厌倦等,这些都是结果。
九、命名与收编
回到刚才所说的,如果你把自己放在这个人类大型游戏的主理人的位置上,去看你操作的地球online大型系统,那么你的根本原则必然是——"有效实现目标"。为了有效实现目标,那所有"不有效"的东西都是无意义的。那就必然要让每个人固定在自己的轨道上,而不是每个人都可异想天开、随意行动,才能减少内部摩擦,节省算力。因此,社会规范必然希望每个人都按照固定轨道行事,并且将不遵守这个规范的人和事物作为排异物排出去。
排出去后怎么做呢?
但是,如黑客帝国的矩阵那样,能定期把排异物一网打尽,的只是体系的理想。
大多数情况下,系统对排异物的清理并不总是成功的。排异物永远不会消失,它们只在边界处积蓄能量,最终以心理症状、社会暴力或文化厌倦的形式回归,不断骚扰,或实现某种程度上的共处。
系统与排异物共处的方式,我观察下来大概有四类:命名、收编、装饰、反向收编。它们的共同点是——都不真正消灭它们,只是换一种方式让它们'不再碍事'。
一种共处叫命名。
心理学的发展是一个例子。对人的各种情绪障碍的定义,当下互联网各种NPD、回避型依恋话题、原生家庭创伤,这些都是试图把混沌梳理和命名成某种东西。似乎命名了,就理解了,就可以去解决了。
用命名去假装解决问题,把现实存在的那些复杂的、说不清的、毛茸茸的东西,强制归类到预设的"NPD""回避型""创伤"这些新命名的定义上。虽然,命名只是命名而已。但系统确实通过新的命名和定义,让排异物被安放了,排异物对系统的挑战似乎被安抚了。
另一种叫收编。
例如,道德方面,如红楼梦中的贾琏偷偷娶尤二姐,这在当时伦理中说不清道不明,但王熙凤挑明后,把尤二姐拉到贾母面前见了一面,贾琏就此事过了明路,成为正儿八经的二房,在社会规矩中变得允许。
权力层面,对无法彻底制服的强者通过妥协方式招安,如强盗大到无法剿灭,就给个名分,像少数民族地区土司制。土司名义上服从管教,但实际上旗下地方仍由其自己说了算。
还有一种是装饰。
从杜尚的小便池开始的现代艺术,和以装置、行为、垃圾美学、卑贱艺术等等为代表的后现代艺术,把排泄物、垃圾、性、暴力、腐烂、疯癫,这些排异物进行了艺术化,用艺术化的刺激来消解排异物对系统的挑战,或者说,消解这种挑战的破坏性。
表面上,把那些被系统排出的东西直接摆在展览台上。当然是对系统边界的刺激和冒犯。让观众感到恶心、困惑、愤怒。但是通过排异物引发的情感反应,它们同时提供了一种"安全的冒犯"。当这些排异物被放置到"艺术"的框架内,被赋予了一个位置、一个名字、一个解释空间,他们就已经变成了系统的展览性的表达。系统通过吸纳对自己边界的挑战,把它变成了一种装饰。
最后一种是反向收编。如果排异物既极为强大又极为负面,连给个名分、让其给个面子都做不到,那么人们只能选择主动反向修改自己的叙事,如西游记和很多民间故事中,河神妖怪要吃人,人们打不过也躲不掉,干脆主动献祭童男童女,还美化成'河神庇佑',不是系统容纳了排异物,是排异物重构了系统的意义框架,系统为了自洽,只能反向收编,来减少自己的道德负罪感。
十、排异物的处理
前面说到,系统对排异物的其中一种处理方式叫命名。实际上,收编和装饰,某种程度上都是命名。命名之所以重要,是因为,排异物成为排异物的根本在于,他们被从人类构建认知和世界的基本工具——语言中排除了出去。
我们的语言是离散的。关于语言的离散性,其实有一个例子我觉得很形象。我读大学的时候做机械设计,还是要用CAD这个工具制图。每个线段上都会有几个节点,如果你想从一条已有线段上连一条新的线出来,当你把鼠标移到已有线段附近,鼠标会自动连到距离最近的一个线段节点上,比如线段的两端中点、四分点等。但如果你想连线的是不是这些"被定义的节点",就需要手动连,还需要努力避免鼠标被附近的节点吸引走。语言的离散表达就像这些节点,他们会有巨大的吸引力,让你把你想表达的东西归到已经被定义好的某个点。哪怕你想表达的并不是这样一个点,但只要你接受了这样的"吸引"或者"就近归属",你表达出来的东西就会走到那个点上,而丢失原本那些复杂而模糊的含义。
所以,如果排异物被命名,比如,把某种内在的、无法言说的与人相处的障碍和痛苦命名为"回避型依恋",就可以去查资料、做量表、加入社群、甚至找治疗师。混沌被装进了一个名为"诊断"的容器。心理学知识、医疗体系、社交媒体话语这样的体系因此获得了对混沌的管辖权。一个痛苦的人不再只是"感到奇怪、无法言说",而是恍然大悟说,"哦原来我是回避型依恋"。于是,个人安然了,系统也可以开始统计、治疗、科普、争论——整个话语机器运转起来。
命名也反过来会"殖民"你的真实感受。比如,一个莫名烦躁的人知道这叫"回避型依恋",可能就会不自觉地表演"回避型依恋"该有的行为来符合这个标签。就像福柯说的,"话语即权力"。最阴险的地方在于:它让你心甘情愿地把自己塞进那个新发明的节点里,并以为那是你的"自我发现"。所以福柯说,语言不是中性工具,它是一套秩序系统。
他说,每个社会的言说中真相的生产都受到一套程序的约束,那些程序旨在排斥、遴选、分配和重新配置那些意志。沉默并非无语,而是另一种语言的门槛。
没有被语言收编的排异物呢?
他们是沉默的,难以被语言捕捉的。
十一、混沌中的自我显现
我刚开始读《恐怖的权力-卑贱物》这本书的时候,坦白说,我几乎都看不懂。按照我常规的阅读方式,我只能大致知道说的是什么,但没办法完全理解每句话。更早以前读《景观社会》也有类似的感觉。
有朋友说因为哲学有一套既定的定义,如果没有这些定义的解释说明,就看不明白。但我觉得这只是《景观社会》的情况。《恐怖的权力》这本书的情况是,语言确实束缚了人的思想,当然也就束缚了思想的表达。
关于语言束缚思想,维特根斯坦曾说,凡是能够说的,都能够说清楚。凡是不能说的,必须保持沉默。他认为,语言只能表达事实,即世界上已经发生的、可以用逻辑图像描述的事情。但那些真正构成世界意义基础的东西,那些意义、价值、逻辑、形式,本身在语言的界限之外,没有办法被语言描述,它们必须保持沉默。只能显现自身。
所以我觉得,有些哲学书上想表达的东西,是没有办法用现成的语言来精确解释的。是在哲学家们试图用语言描述它们的过程中,它们的意义才被人体会和显现出来。所以,当我用解读语言逻辑界限的东西的方式去读《恐怖的权力》,简直寸步难行。反而当我把它们当成某种文学表达去体会,反而惊喜地感到似乎越来越能贴近它想表达的东西。
前段时间听到一个我很喜欢的播客《意犹未尽》讲存在主义,说,存在主义在当年其实被很多人诟病,说他们不是哲学,而属于文学。那时候人们认为的哲学类似于分析哲学,那种是完全基于逻辑的,有很多参数、很多定义,按照这些去做一些类似于数学的推理。但存在主义所讲的内容完全不能用这一套去框定。我想,对啊,因为它想表达的内容,正好就是所谓排异物的领域啊!连语言都无法呈现它,那当然不可能用参数、定义、推理这些数理逻辑的方式表达出来啊!
对于这些,我们必须先接受混沌,才有可能看到混沌中的显现。
十二、当人被排异
前面说到了AI的上下文限制,AI的平均化倾向,AI的清晰的每一个思维过程。这一切似乎都在说,AI是系统的、熵减的,AI在摒弃排异物这方面已经有过之而无不及,远远超越了人类。但讽刺的是,我觉得这反而让人类社会的排异物获得了一种前所未有的地位。
因为,在AI面前,人类的系统一面已经迅速褪色,优势荡然无存。人类的脆弱模糊复杂混沌转而定义了人类。那么,充满了不可言说,背负着庞大的历史包袱,高耗能低效率的人类,在AI开启的世界的框架里,似乎都变成了需要被排异出去的排异物!
有人可能会说,其实很长时间以来,所有的反乌托邦小说,其核心恐惧之一就是人被广泛地工具化。如果我们可以让AI去承担这个工具化的角色,那么应该是,人可以当人了,才对啊!为什么还要害怕排异呢?
但其实我们内心都清楚,大概没有多少人能大言不惭说自己是地球online这个大型游戏主理人,能当自己是个玩家的都算ego爆棚,而玩家和NPC要能被系统容纳,不过是因为你有价值。也就是说,被工具化是纳入系统的一种保障。如果你连工具的价值都没有了,那这个系统为什么要允许你的存在呢?
其实人类很早就在思考,人工智能接管一切后,被剥夺主体地位的人的价值和意义。
在《黑客帝国》里,矩阵自己可以做所有的事情,人是被作为人肉电池去维护的,但其实这个人肉电池完全是一个科学幻想,它立不住脚,人的那些生物电产生的能源几乎是忽略不计的。那现在就有人在讨论说,如果以后AI能做一切事情,那人类的作用是不是就是提供基因多样性。毕竟AI的升级跟人的升级是不一样的,人的升级还是具有极大的研究价值的,那就必须维护一个多样化的人类种群。
但是如果人类只具有提供基因多样性的功能,相当于只是作为育种的基础,则AI似乎没有必要维持一个庞大的社会。育种后,被挑选的人进入真实世界,而未被挑选的人则维持基本生命,这似乎是最可能发生的。而如果AI想加速育种,实际上也是可以做到的。之前提到硅谷富豪育出的很多超级婴儿。目前硅谷很多人秉持加速主义的世界观和价值观,认为AI可以加速人的进化,迅速达到终点,从而开启新世界。若一切加速进行,则无需维持当前庞大的社会,通过加速方式即可挑选出值得留下的人类种子。
那么,如果人都要被整体排异了,再将自己的特性分成三六九等,孜孜不倦地分化排异,还有意义吗?
也许,被剥夺主体地位是个太过极端的假设。也有很多反乌托邦作品,设想过保留了主体地位的人,如何适应新的时代。
我曾读过一篇反乌托邦小说《记忆传授人》,与许多其他的反乌托邦小说类似,这里的世界也经历了世界毁灭、文明重建的过程。
人类社会为了效率,也为了不承受无法解决的痛苦,于是将一切简化。世界上,每个人扮演不同角色,自主选择并一直承担该角色。世界是理性的极致。世界是黑白的。语言是贫乏的。每个人的思维和感知都极其简单,活得极其简单。高效,冰冷,空洞。
他们把过去战争的记忆,无法被社区语言描述的粘稠、混杂着恐惧和绝望的身体体验,这些他们认为有害的东西全部排除出去。在所有活着的人中,无人对这些有任何感知,所有的这些仅仅由记忆传授人一代一代承担。
这个社会所做的,正是把人类历史上所有无法被理性话语消化的排异物,全部封存在一个人身上。
主角是一个小孩,他原本也语言荒芜,感受贫乏,看不到任何颜色,但当他成为记忆传授者并慢慢地接受其上一代那个满脸沉重痛苦的老人给予的记忆后,他看到和感受到了人类历史中的所有痛苦和混沌,却也看到了彩色、体会到了无法归类的丰富情感。正是这些令人痛苦的东西让他获得了完整的人类感知,让他感觉自己真正地活了过来。
所以,我们到底是应该高效而麻木地活,还是丰富而痛苦地活呢?
十三、所以呢?
你看,AI没有我们的'基础载荷',因此它也没有我们的'历史厚度'。那些让我们累的东西——那些无法言说的情绪、修改过的记忆、自相矛盾的价值观——恰恰是我们无法被AI替代的原因。排异物不是垃圾,它是我们作为人的'压舱石'。
我觉得,随着AI的发展,人的属性会分道扬镳走向两极。可被言说的部分,最后都会给到AI,并且被AI所接管;而不可被言说的部分,那些永远吸附不到节点上的曲线,会汇集到那些一直以来存在于边界之上,被摒弃、被处理、被晦涩地对待的排异物中。
他们也许在现在的系统中还显现不出特别的价值,但是,当基本的需求被满足,当社会的发展进入新阶段,我们会发现,人性最肥沃的土壤,正是存在于那些不可言说的、未被理性之光照亮的痛苦和混沌之中。
所以,如果有一天,AI真的能替我们承载所有工具性的劳动,剩下的问题,或许不是'我们会不会被排异',而是:我们愿不愿意接受自己作为排异物的身份,放弃被系统吸附的欲望,去拥抱那种不被语言收编的、混沌的、带着全部历史负担的活法,并且从这种活法中,活出真正丰沛的生命?
毕竟,颜色从来不在节点上,颜色在节点与节点之间的缝隙里。
小宇宙播客ID: 如切如磋
单集链接:
https://www.xiaoyuzhoufm.com/episode/6a44eb512e335a35a80c72c5
(可复制在小宇宙或浏览器打开,或点击文末“阅读原文”)
夜雨聆风