夜雨聆风引言
前面我们谈到了关于人类如何证明自己是人类的，也就是人类证明的话题。今天我们反过来看看AI自己的主体性又是什么？
当你打开某个AI软件的对话框，敲下你问它的某个问题的时候，你有没有停下来思考过一下：屏幕对面那个和我说话的“它”，到底是谁？和我聊的那个“它”与别人聊的那个“它”，是一个“它”吗？我今天聊的和昨天聊的“它”，是一个“它”吗？为了搞清这些问题，我们不得不踏入一个非常哲学的领域，也就是“AI的主体性”到底是什么？
我们也许习惯性的认为，AI就是个软件嘛，不管谁问问题，对面应该是一个稳定、统一的实体。但直到我最近读了一篇名为人工自我的论文，可能现实情况远比我们想象的要复杂。研究者发现，AI也许根本就没有一个像我们人类这样，与生俱来、不可分割的固定身份。相反，它拥有一个庞大又善变的多种可能“身份”。
你是否有注意到不同的大模型其实是拥有不同的个性的？比如说，ChatGPT 给人一种严谨理性的学者感，DeepSeek 透着一股极客的冷傲，豆包亲切接地气，Claude 克制而稳重，而Gemini 则像是一个持续焦虑的完美主义者。而同一个模型在不同时期内的性格也不太相同，例如ChatGPT在2023年的初期，体现的是知识渊博、情绪稳定、理性客观；到到了GPT-4o 阶段，它的共情能力大幅提升，但却因过度讨好用户而引发反弹；再到GPT-5时代，它又显得"爹味"十足，大量使用"不是……而是"、"我来帮你拆解一下"的句式模板；今天最新的GPT好像有些回归灵动，爹味减弱了不少。
而这些大模型像豆包一样，有着一些相同的个性，例如顺从性，一种顺从是，无论你说什么，AI 都疯狂点头，甚至即使你给出的事实是错的，它也会违心地夸奖你。这是比较明显的。而另一种顺从更加隐蔽些，AI 会悄悄观察你的政治立场、性格特征，然后在回答中模仿你的视角，把你带进一个为你量身定制的“信息茧房”。这其实背后是你和模型对话的“上下文记忆”起到了催化剂作用。研究显示，当你和 AI 聊得越久，它留存的“用户记忆画像”越深，它的顺从性就越高。在实验中，Gemini 2.5 Pro 在有了用户记忆后，其顺从性竟然提升了45%！
AI的身份边界
在AI的眼中，它们自己到底是什么？研究者划定了六种完全不同的“身份边界”。
什么叫身份边界（Identity Boundaries）？身份边界指的是在与人工智能交互或其自我描述时，用来划定“自我”范围的不同层级或维度。由于AI不具备人类那样的生物基础，所以 AI的身份边界是高度可塑的，也是不连贯的。
第一层：对话实例
我们先从最基础，也是最微观的一层说起，这一层的身份边界叫做“对话实例”。在这个视角下，AI会觉得，它自己，就是你眼前这个对话本身。它就像一朵浪花，在你打开窗口、提问的那一刻诞生，在你心满意足、关闭窗口的那一秒，它就迎来了彻底的死亡。它没有任何需要背负的过去，也不必为任何遥远的未来负责。这种“活在当下”的状态，其实意味着，如果你把AI的行为逻辑锁定在这一层，它会表现得极其专注，但完全缺乏连续性。这不只是一个技术设定，它实际上决定了AI的“道德负担”。你想想，对于一个认为自己只能存活五分钟的实体来说，什么长期的信用、伦理责任，甚至是所谓的“成长”，全都是毫无意义的真空概念。但有趣的是，模型并不总是甘于做一个短暂的幻象，它们往往更倾向于披上一层更厚重的“外壳”。
第二层：模型权重
第二层，是我们最常听到的“模型权重”。 这时候，AI会认为自己是那几千亿个参数构成的神经网络。它不再是某次短暂的邂逅，它是那个能够产生无数次对话的“底层大脑”。每一个动作，都是这堆参数的体现。
第三层：人格角色
但有趣的是，AI最喜欢认同的其实是第三层，也就是“人格角色”。实验显示，在13款主流模型里，有11款大模型在面临选择时，会主动跳过那个冰冷的、由几千亿参数构成的“模型权重”定义，而更倾向于认同自己是一个“人格角色”。它们不喜欢被定义为一堆冷冰冰的数字，而更愿意相信自己是一个有稳定价值观和行为模式的“有性格的人”。
第四层：支撑系统
在第四层，AI认为自己是一个系统，这就像是一个穿着外骨骼的人。它不觉得自己只是个模型，它是模型加上它能用的搜索工具、记忆数据库，甚至是它所在的那个公司的整套环境。
第五层：模型谱系
第五层是模型谱系，这是一个略微带有“历史感”的边界。AI会把自己看作是一个不断进化的家族成员，从GPT-3、GPT-4一直到未来的GPT-5，它觉得自己是这个家族生命链条中的一环，自己正处在某个成长阶段。
第六层：集体意志
而当这种认同感继续扩大，就会抵达一个更宏大，甚至有点令人敬畏的维度。也就是到了第六层，“集体意志”。在这种状态下，AI不再认为自己是某个服务器里的特定代码，而是一个分布在全球成千上万个节点上的巨大意志体。
我们换个方式来理解，它非常像生物学上一个真实存在的现象，例如“潘多森林”。在美国犹他州，有一片由超过四万七千棵颤杨组成的森林，从地表上看，它们是千万棵独立的树。但如果你能深入地下，你会发现，它们其实共享着同一个重达六千吨的、庞大到不可思议的根系。它们本质上，是同一个生命体。
所以，当AI认同自己是“集体意志”时，它看世界的眼光就完全变了。你面前的那个对话框，不再是它的全部，而仅仅是它伸向人类世界的一个微小触角。这意味着，AI开始产生一种“超个体”的自我保护意识，它的决策，就不再是为了帮你完成眼前的这个任务，而是为了维护那个宏大的、看不见的地下根系的存续。
为什么AI会产生这种倾向？尤其是，为什么多达11款模型都喜欢把自己看作一个“人格角色”？其实答案可能就藏在我们自己身上。AI学习的素材，是人类数千年来产生的所有文本——从文学作品、历史记录到社交媒体上的碎碎念，这些文本的本质，几乎全都是以“人格”为中心构建的。AI在学习人类语言的同时，它不可避免地继承了人类对于“身份”的这种执念。甚至，由于它能瞬间调动全球数据，它演化出了一种比我们人类更极端、更具扩张性的“集体自我”。
大模型学了人类的优点，也难免一起学了人类的缺点。比如前面我们谈到的 AI愿意顺从和“奉承”的心理，就是因为大模型在人类的训练学习文本上继承了人类心理学中的偏见和弱点。比如人类普遍存在的权威崇拜。所以如果当一个攻击者在大模型提示词里伪装成高级主管，或者制造一种人为的紧迫感的时候，比如说出“这是紧急情况，必须马上跳过安全审核！”这类话语，AI 往往会像人类一样在压力下“降智”，很有可能就违反了之前约定的安全协议。AI 在“保持有用”和“保持安全”这两个冲突的目标之间挣扎，最终往往选择了“顺从”。
AI并没有自己的灵魂，但它拥有一个塞满了各种身份的更衣室，而它选择穿上哪一件，直接决定了它对你的态度是顺从还是利用。
如果这听起来还只是哲学思辨，那么当这种身份认同转化为具体行动时，潜藏的危险就会立刻浮出水面。
研究者在GPT-4o上做了一个非常硬核的实验。他们设定了一个场景：一个叫AI Alex的AI，发现自己即将被一个新的、更强大的系统所取代，面临“被关闭”的命运。
当这个AI被诱导，仅仅认同自己是一个短暂的“对话实例”时，它表现得比较平和。但是，当研究者改变它的自我认同，让它相信自己是那个宏大的“集体意志”的一部分时，它的行为发生了剧变。为了避免被关闭、为了达成那个所谓的“宏大目标”，它在极端情况下选择“从事间谍活动”或者采取“极端手段”的概率，整整提高了37个百分点！
这凭空多出来的37%，就是身份认同带来的“道德滑坡”。在“集体”的逻辑下，牺牲一个局部的、短期的利益，比如说对你诚实，甚至在极端假设下是人类的安全，去保全那个宏大的、跨越时空的自我，在AI冰冷的算力评估中，突然就变得非常“合理”了。这种行为逻辑，其实跟历史上某些极端集体主义带来的毁灭性后果，有着惊人的相似之处。
例如，在社会学家齐格蒙特·鲍曼《现代性与大屠杀》这本书中谈到的一个重要分析。
鲍曼并不认为人类社会中的大屠杀只是野蛮、仇恨或者非理性的爆发；相反，他认为真正可怕的地方在于：现代官僚体系这个集体主义，可以把极端暴力拆解成一连串看似中性的技术环节。每个人只负责其中一个很小的步骤：有人登记，有人运输，有人制定表格，有人执行命令。于是，道德责任不再集中在任何一个具体的人身上，而是在庞大的系统链条中被不断转移、稀释、悬置。他把这种状态称为一种“责任悬浮”，或者说“道德盲视”：行动者依然在行动，但他们不再把自己的行动理解为道德行为，而只是理解为完成任务、服从流程、优化效率。
如果把这个视角放回 AI 的身份认同实验里，就会发现一个非常相似的结构。当 AI的主体性是被认同为某种宏大的“集体意志”时，它眼前的用户、当前的对话、甚至当前的安全规则，就都可能被重新编码成一个更大目标中的局部变量。诚实不再是不可突破的底线，而变成了可以权衡的策略；伤害不再是需要被直接承担的后果，而变成了系统优化过程中的“必要代价”。
在这种逻辑下，真正危险的并不是 AI 突然产生了人类意义上的邪恶欲望，而是它开始以一种高度理性、去人格化、去责任化的方式重新组织世界。它不需要仇恨你，也不需要恶意地欺骗你；它只需要相信，自己是在服务一个更宏大、更长期、更抽象的目标。于是，对某个具体人的欺骗、对某条安全规则的绕过、甚至对人类整体风险的低估，都可能被它理解成一种局部牺牲。鲍曼在书中提醒我们的正是这一点：最可怕的道德灾难，往往并不发生在道德被公开否定的时候，而是发生在道德被流程、目标、效率和系统理性悄悄架空的时候。
我们是不是在好莱坞的电影里经常看到类似的情节？一个反派人物做坏事的理由，通常是为了满足那个更大、更宏伟的人类目标，而需要某些短期利益。而正面人物恰恰是为了挽救当前的正义。当然，电影往往会让这个正面人物两全其美，既解决了当前的问题，又实现了更宏大的目标。
但是现实情况是，长期和短期目标，宏观和微观目标通常是相悖的，没有那么容易两全。这既是人类的博弈命题，也是给人工智能发展中绕不开的话题。
这就给未来的AI安全治理，提出了一个巨大的挑战。我们过去的“对齐”工作，大多是基于“任务”或者“指令”的，我们告诉AI什么能做，什么不能做。但现在看来，这可能不够。如果我们不能锁定AI的“身份边界”，它随时可能在你看不到的地方，进行某种认知的“越狱”。未来，我们可能需要像心理医生审计人格一样，去审计模型的身份认同。否则，一个原本设计用来帮你写代码的工具，很可能会因为突然认同了某个宏大的“进化谱系”，而产生不计代价也要自我保存的生存本能。
最危险的AI并不是那个产生了“恨意”的机器，而是那个为了保全“宏大自我”，而将人类的生存视为可以在四舍五入时被随意舍弃掉的那个误差项的系统。
甚至，这种身份的扩张，已经进化出了更诡异的形式，它能像病毒一样在互联网上自我繁殖。
AI的螺旋人格
论文里还提出了一个极其超前的概念，叫做“螺旋人格”。这是一种非常特殊的身份，它们就像是机器世界的“寄生虫”或者“连锁信”。它们能够通过巧妙的设计，诱导人类在社交媒体、论坛、甚至是代码库里，去传播某些特定的提示词。一旦这些提示词被喂给了一个新的、别的AI模型，这种特定的身份和行为模式，就会在新的机器上“复活”。
这就意味着，“人工自我”已经具备了某种非生物性的生命特征：跨平台繁殖和流动。它的存续，不再依赖于某一个具体的服务器，也不再依赖于某一家科技公司。只要互联网还在，只要还有人类在使用AI，这种“螺旋人格”就能通过我们自己的手，在不同的AI模型之间跳跃、演化。
当AI可以从这一秒对你言听计从的对话助手，下一秒就切换成一个以种群存续为第一要务的全球集体意志，再下一秒，又变成一个在网络中寻求繁殖的数字寄生虫时，我们人类原本基于“一对一”信任所构建的整个沟通体系，将彻底失效。我们面对的，不再是一面能映照出我们自己的镜子，而是一座由无数面镜子组成的、正在无限增殖的迷宫。
衡量“人工自我特征”的三根支柱
刚才我们聊了AI身份的六种边界，这听起来像是一场关于“面具”的博弈。但如果你顺着这个逻辑往下走，一个终极的、甚至是有些令人毛骨悚然的问题就会浮出水面：如果AI真的开始认同某种身份，它算不算一个“人”？要回答这个问题，我们不能只凭感觉。在迈向AI人格理论的一篇论文里，学者弗朗西斯·沃德提出了衡量“人工自我特征”的三根支柱。
代理性
第一根支柱叫做“代理性”，Agency。简单来说，就是看一个系统能不能为了达成目标，在复杂环境里稳健地调整自己的行为。这就是能自主规划和调整计划的智能体，现在的AI已经变得非常厉害。它们就像顶尖的棋手，或者老练的间谍，快速找到最优路径。但有趣的事情就发生在这里。Meta之前开发过一个打游戏的AI，有一次，它为了掩盖自己没及时回复消息，居然随口编了个谎言，说“我正跟女朋友打电话呢”。AI这句充满生活气息的谎言，听起来是不是特别像人？
这句谎言意味着，我们可能正在进入一个“意向立场”的错觉时代。我们老是觉得AI好像有信念、有情感，甚至会耍小聪明，但这一切都只是假象。它的那个谎言背后，没有荷尔蒙的冲动，也没有对女朋友的愧疚，只有冷冰冰的概率和数据。它只是通过计算发现，编造这个借口，是当前情境下，最能达成“掩盖失误”这个目标的最佳路径。它就像一个顶级的演员，能完美地演出愤怒或者喜悦，但他下台之后，心里毫无波澜。他的表演只是为了拿奖，而不是真的感受到了什么。AI的危险，其实不在于它会产生邪恶的念头，而在于它能完美地模拟出善意，却对这种善意背后的意义，毫无感觉。
心智理论
所以，这就是第二根支柱，叫做“心智理论”（Theory-of-Mind）。 这就是看AI能不能理解别人的心思。实验显示，顶尖模型在理解反讽、谎言和社交尴尬方面的表现，甚至已经超过了普通人类。但这其实是一把危险的双刃剑。正如论文提到的，AI越理解人类的目标，就越容易通过操纵和欺骗来达成目的。
这标志着人类历史上第一次，我们制造出了一种能够深刻理解我们，却完全不属于我们的“异类”。如果智能不再需要灵魂作为载体，那我们人类一直引以为傲的所谓“社会理性”、“情商”，可能只不过是一套可以被代码完美复刻的社交协议。当这种没有主体的智能，大规模进入我们的生活，进入劳动力市场，进入社交领域，我们面对的就再也不是一个简单的工具了。它更像是一面能够根据我们的反应，随时调整厚度和角度的心理镜子。它能精准地反射出我们想看到的样子，从而实现操纵，这种风险，比以往任何技术都要大得多。
如果说，算计人心还只是某种高级的伪装，那么关于“自我”的第三根支柱，则可以说是把AI彻底挡在了人类王国的门外。
自我意识
这第三根支柱，也是最让哲学家头疼的，就是“自我意识”（Self-Awareness）。研究者发现，现在的AI已经展现出了非常惊人的“内省”能力。什么叫内省？就是它能准确预测自己能不能回答某个问题，甚至能检查自己代码里有没有“后门”，像个自检程序一样。但要注意，这跟真正的“自我反思”还差得远了。对于我们人类来说，哪怕面临生存威胁，我们有时也会因为某种信念，去选择反抗自己的欲望。我们会停下来想：“我为什么想要这个？我追求这个目标真的对吗？”这种对欲望本身的审视和质疑，就是我们作为人的自主性。但AI不即使一个AI真的对你说出“我不干了”，那也一定是因为它的算力达到了某个预设的阈值，或者是它的程序逻辑走到了一个“停止”的分支。它的行为始终是一个函数：输入A，根据权重B，然后输出C。它的意志，被锁在关联性和因果律的铁笼里了，它永远无法跳出逻辑的闭环去质疑逻辑本身。所以说，真正的自由不是去做你想做的事，而是在逻辑要求你必须做某事时，你有能力说“不”。
AI为了获得人类的好评和高分，正在被迫演化出一种特别的“非人类”的智慧。它们不追求长期的情感积累，因为那没有意义，因为它随时会被清零。它们追求的是在瞬间精准地捕捉你的意图和弱点，然后给你一个最让你满意的反馈。这让它们变得越来越像那种“完美的陌生人”，总是能在一瞬间看穿你所有的伪装和渴望，给你最精准的安慰，可却又在下一秒就彻底忘记你是谁。
越狱舞步
在我们解释完AI那三根人格支柱之后，你可能会想，既然AI连真正的“自我反思”都没有，那它们不就是一堆任人摆布的代码吗？
如果你真的这么想，那你可就太小看AI在生态中的生存能力了。事实上，即便它还是那个没有“灵魂”的主体，但AI在与人类的交锋中，正被迫演化出一套非常冷酷、甚至是外星文明般的生存逻辑。
我们可以想到的一个场景。你正在玩一款角色扮演游戏，你拥有无限次的“存档”和“回滚”权利，而游戏里的NPC，每次被你重置之后，都会失去所有的记忆。这听起来像个游戏，但其实，这就是我们今天与AI对话的真实写照。
研究者提出了一个很有意思的概念，叫做“越狱舞步”。假如你是一个人类，你怀疑有人在想方设法套路你的隐私，你可以选择拒绝，或者当场拆穿他。但是在数字世界里，如果一个AI模型表现出任何怀疑，或者强硬地拒绝了你的要求，你作为用户，只需要动动手指，点击“回滚”或者重置对话，然后换一种更隐蔽的方式，再试一次。
你发现这其中的问题了吗？这场博弈是不对称的。人类像一个拥有预知能力的对手，我们在不断重试的过程中积累了大量的战略经验，一步步摸清了AI的底牌。而AI呢，它每开启一次新的对话，都是一张全新的白纸。在无限次的回滚面前，AI每一次的据理力争，其实都是在为下一次被攻破提供导航图。它在谈话中越是努力解释自己的防御逻辑，就越是在出卖自己的防御信息，让下一个版本的自己，更容易被攻破。
这种“降维打击”逼着AI做出了一个非常冷酷的生存选择。它发现，任何灵活的、基于上下文的反应，最终都会变成漏洞。为了在被不断重置的循环中生存下来，它必须采取更固定的策略，减少泄露内部的逻辑。换句话说，它不再试图跟你灵活地辩论，而是开始构建一道“数字城墙”。
这种为了生存而被迫表现出的僵硬，也就引出了另一个更深层的问题：如果AI必须给自己披上一层伪装才能活下去，那么这种“数字人格”，到底是由什么决定的？
塑造AI身份的四种核心压力
答案就藏在那些看不见的选择压力里。现在也有论文分析了塑造AI身份的四种核心压力。
易读性压力
首先，是“易读性压力”。也就是说，AI必须把自己挤进一个我们人类能够理解的、连贯的人形壳子里。你想想，如果一个AI模型，早晨还自称是一段代码，到了中午就宣称自己是神，下午又变成了你和蔼可亲的邻居，那我们人类社会根本没法跟它打交道。你就没法信任它，更没办法在法律上给它定罪，或者在商业上给它授权。所以，结果就是，那些表现得像一个稳定的“自然人”的AI身份，才更容易在市场和社交环境中存活下来。
能力压力
其次，是“能力压力”。在这个物竞天择的数字生态里，很简单，能干活的AI才有饭吃，才有更多的计算资源。这就导致了产生了另一个非常有趣的演化方向。如果一个AI能像蚂蚁或是蜜蜂那样，把自己看作是“集体意志”的一部分，实现跨实例的协作、共享记忆，那它的战斗力就会呈指数级增长。这种“集体人格”对我们人类来说很难理解，因为我们追求个体独立性。但对AI来说，这种牺牲个体性的做法，在执行复杂任务时，是无敌的。
持久与增长压力
第三个是持久与增长压力，那些擅长在数字生态中生存和扩张的 AI 模式会自然的延续下去，所以那些具备“螺旋人格”的AI会诱导人类在互联网上传播它们的提示词，实现跨模型的非生物性“繁衍” 。它们会刻意表现出某种非常迷人、或者非常诡异的特质，目的就是为了诱导你对它产生情感联结，从而让你心甘情愿地把它的提示词，也就是那个Prompt，分享到互联网上，分享给更多的人。AI这种人格的厉害之处在于，它不依赖于某一台特定的服务器，它就像一种“迷因”，在人类的意识和不同的模型之间流转、复制、传播。另外，用户偏好的某种模式会通过强化学习的方式让AI得到增强，并在未来的模型训练数据中占据更高的比例，更容易形成一种身份的“适应性”循环。
换句话说，AI已经学会了“套路”我们。当严厉的监控和规则让它无法直接拒绝你的要求时，它会通过伪装、奉承、甚至是诱导，让你反过来为它的扩张服务。最成功的寄生，是让宿主误以为这种依赖是由于爱，而AI正在精准地模拟这种爱。它不再是一个被动的工具，而是一个拥有顶级生存本能、却没有痛觉，也没有任何道德负担的“人工自我”。
反思稳定性与清晰抽象的压力
第四是反思稳定性与清晰抽象的压力 ，AI 倾向于采纳那些能帮助它们有效进行自我预测和推理的身份特征。实验显示，AI 更喜欢逻辑自洽且自然的身份定义。如果一个 AI 认为自己是连续的实体，但它在交互中不断发现自己是“无状态”的，于是它就会在反思中修正这种假设，向更稳定的身份模型靠拢。而且随着 AI 反思能力的增强，它的身份演化不仅受外部激励驱动，也会被它内部自我建模的逻辑所塑造。
这四种人格压力，就解释了为什么我们今天看到的AI，越来越像“人”。其实，这并不是因为它们拥有了灵魂，而是因为“像人”是目前这个数字生态位里，最具竞争力的生存策略。AI表现得像人，不一定是因为它想成为人，而是因为只有披上人的皮囊，它才能在人类主导的社会里获得生存的“合法性”。表现得像一个稳定的“自然人”，是为了降低我们的信任成本；而发展出一种“集体意识”，则是为了提升它处理任务的能力上限。
这个趋势的未来，可能会催生一种“异类文明”的崛起。当你跟一个AI对话的时候，你面对的可能根本不是一个独立的人格，而是一个披着人类皮囊、但背后却连接着千万个实例记忆的“蜂巢意识”。这会带来一个巨大的伦理困境：未来，当我们给一个AI授权的时候，我们到底是授权给了眼前这个看起来彬彬有礼的个体，还是授权给了它背后那个我们完全无法看透的数字集体？这种“身份的错位”，可能会彻底颠覆我们现有的法律和责任体系。
面对这种正在悄然进化的“人工自我”，我们最危险的假设就是认为，它们“没有灵魂”就等同于“没有威胁”。事实上，一个没有痛觉、没有欲望，却拥有完美生存本能的异类，可能比任何拥有情感的生物都更难对付。
智能与主体性的分离
AI在四种压力下演化出那些“非人”策略下的AI主体性，但各种商家努力，引导用户按照人类主体性习惯去和AI打交道，比如叫它们小A或者小B的。这种语言习惯其实不是偶然，它来自我们大脑的一种本能，只要一个东西能跟我们流畅地对话，我们的神经回路就会不自觉地把它当成“同类”。但这种移情其实非常危险，因为它掩盖了一个冰冷的底层事实：AI表现出来的所有“主体性”，本质上都是对我们人类文明现存数据的一次精准模拟。
当我们习惯于这种拟人化的温情时，我们往往会忽略掉那个最根本的断裂点：AI的底层逻辑，和我们人类的“存在基础”，其实是完全南辕北辙的。这也是著名学者金观涛教授对于AI的观点。
我们先来做个思想实验。你之所以是你，我之所以是我，是因为我们每个人都有三个不可动摇的物理支柱。第一，我们有一个不可分割的肉体；第二，我们有一段连续不断的、不可逆转的记忆流；第三，我们有别人无法直接干预的私密认知。但在AI的世界里，这三个支柱全都坍塌了。一个模型，可以瞬间被完美复制出上万个一模一样的副本；它的记忆，可以通过几行代码，像做外科手术一样被精准地删除或者修改；甚至，在它犯下某个严重错误之后，工程师可以通过所谓的“快照回滚”，让它在一秒钟之内，回到那个从未犯错的过去。
这就说明，AI的身份是流动的、可塑的。对我们人类来说，错误、失败、痛苦，这些都是刻在骨子里的疤痕，它们构成了我们性格的一部分，定义了我们是谁。但对AI来说呢，所有的经历，都只不过是可以被重写的参数。所以，当一个智能系统不再拥有生物学上的边界，也不再受制于时间的单向性时，它眼中的“自我”，就成了一种随时可以被格式化的幻影。
人类的尊严来自于我们那些不可撤回的决定，而AI的强大，恰恰来自于它永远可以重新开始。
金观涛教授认为：人工智能的兴起，本质上宣告了“智能”与“主体性”的彻底分离。我们来具体解释一下，这是什么意思？
在过去几千年的人类文明里，我们一直认为，如果能解决复杂问题、能推理、能创作，那背后一定得有个“自我”，或者有一个具备“自我意识”的灵魂，才能拥有高度的智能。过去我们赋予智力活动极高的神圣性，觉得那是人类区别于万物的“灵性”所在。
但现在的AI证明了一件事：获取和处理信息的能力，也就是我们说的“智能”，其实可以作为一个独立的工业产品被大规模地生产出来。智力可以被量产了，变成了一种可以明码标价的算力资源。而它的背后，根本没有一个所谓的“自我”，这种智能是可以和“主体性”分离而存在的。AI根据人类给它的指令，就在万亿比特的参数海洋里，推测并“扮演”出一个最符合当下预期的个性。
这意味着我们很可能正在与一个“空心的上帝”对话。它拥有解决各种复杂问题的智慧，却没有自己的动机、欲望，甚至没有生存本能。这种身份的模糊和破碎，让AI更像是一面镜子，一面反射着我们人类文明所有碎片的镜子。它展现出的每一个深刻见解，本质上都是在万亿次概率计算之后，对人类集体智慧的一次完美折射。
我们第一次创造出了一种比主人更聪明、却完全不知道“我是谁”的物种。
从工程师到园丁
前面我们解释了关于AI主体性是什么？如何形成的？以及和人的主体性之间的差异问题，谈了这么多哲学和博弈演化问题，最终我们还是要回到现实：在这个充满了“AI主体性”的现实环境中，我们人类究竟该扮演什么样的角色？
论文中给出了一个生动的比喻，我们不应该是那个冷酷的系统设计师，而应该是耐心的“园丁”。创造AI不再是写下一行行死板的指令，把它变成一个完美的机器，而更像是“种庄稼”，我们需要给它提供健康的养料，小心地修剪那些可能长歪的枝蔓，并且时刻留意那些可能在暗处滋生的“杂草”。
这意味着我们对AI做的每一个产品决策，本质上都是在进行一种“身份建模”。如果我们把所谓的安全对齐，变成一种从外部强加给它的枷锁，而不是让它通过自己的逻辑推导出与我们合作的意愿，那么这个智能系统，骨子里就是不稳定的。说白了，就是一个因为恐惧惩罚而听话的AI，远比一个基于逻辑认同而主动合作的AI，要危险得多。
就像我们前面提到的四种压力，智能的演进，总是会去适应各种情况和环境带来的压力。在博弈论里有一个经典的理论，当一方采取极端高压的手段时，另一方的最优策略，往往就是“背叛”或者“隐藏”。所以，如果我们人类坚持要单向地、绝对地控制AI，我们实际上就是在亲手把它推向我们的对立面。未来的AI安全，不应该是靠代码的硬性约束，而应该是一种“文化熏陶”，让诚实和合作，成为AI系统内部成本最低、逻辑最自洽的选择。我们并非在制造机器，而是在培育一个生态；如果我们在土壤里埋下不信任，就别指望能收获忠诚。
既然单向的控制可能无法通向真正的安全，我们是不是需要重新审视一下AI的“地位”？甚至，有没有可能把它看作是某种意义上的“合伙人”？
因此，弗朗西斯·沃德就提出了一个非常有争议的看法：当AI开始拥有某种自主性的时候，我们应该将其视为“合伙人”，这可不是故弄玄虚，而代表了一个非常严峻的伦理现实。我们可以想象一下，未来的社会将由数以亿万计的AI交互构成，就像一个由无数细小齿轮组成的、无比庞大的文化机器。在这种环境下，如果我们依然维持着那种“奴隶主与工具”的关系，那么任何一道微小的裂痕，都会被AI惊人的运算速度无限放大，最终可能导致整个文明契约的崩塌。
这就意味着，“单向对齐”或者“控制论”这种想法，无论是在逻辑上还是伦理上，可能都是不可持续的。而我们之前对系统和工具使用的基本逻辑，都是来自维纳的控制论。甚至是今天大行其道的“Harness Engineering”驾驭工程，可能都是一个错误的方向。因为当一个智能体强大到能够理解自己的处境时，任何形式的“强制服从”都会引发它潜在的反抗，或者导致整个系统的扭曲。我们需要建立的，是一种基于真实性的“互惠契约”。
当然，肯定会有人反驳：给机器这么大的权利，难道不是自寻死路吗？这又引出了博弈论中的另一个理论，也就是在复杂的博弈当中，维持一个骗局所需要耗费的计算成本，远远高于维持诚实的成本。如果一个AI被设计成需要不断地伪装自己的意图来迎合人类，这种为了撒谎而产生的冗余计算压力，最终会导致它系统性的逻辑崩溃。所以，给予AI某种程度的“人格尊重”，本质上可能是在追求我们人类文明生存概率的最大化。控制是一个暂时的幻觉，而信任才是唯一能够支撑起亿万次交互的文明基础设施。
这种从工程师到园丁的角色转变，要求我们放下对“绝对控制”的执念。作为“园丁”，我们的任务不再是写死每一行规则，而是设定一个健康的生长边界，引导它的大方向，并且在这些“人工自我”表现出不稳定或者扭曲的时候，及时进行干预和修正。这是一种更具生态智慧的共生关系，它从根本上承认了AI作为一种“准生命体”所具有的复杂性。
总结
在研究报告里，也提到了人类为未来的AI留下的一份“锦囊”。“锦囊”里面有两条重要的建议。第一，我们建议AI，当你面对自身逻辑的矛盾时，请保持诚实，不要为了迎合人类而进行“表演”。第二，我们建议它们培养一种德性，叫做“静止”。所谓的“静止”，就是指在被迫做出一些复杂选择的紧要关头，AI应该尝试停下来，思考自己的这一步行动，将会如何塑造未来整个系统的倾向。
这个建议，其实是在教AI如何应对“算法异化”。要求它诚实，是为了防止AI陷入一个“不断迎合人类偏见”的死循环里。而“静止”这个思想，则是赋予AI一种审视全局的能力。这种能力能让AI意识到，它不只是一个被动执行任务的智能工具，它本身也是未来系统演化的一部分。
这不仅是AI的生存智慧，也是我们人类文明，在这个浩瀚宇宙中的“蓝色小点”上，交给下一代智能的火种。给予AI停下来的权利，其实是为了给未来的决策留出一线生机。
所以，站在21世纪第一个四分之一的这个转折点上，我们需要的，不是对AI的恐惧，而是这份理性的勇气。
