ARTICLE · 1083325
AI原生(四):认知共生的意义和自主性
AI原生(四):认知共生的意义和自主性第二篇讨论了认知活动的载体如何扩展：人与认知外骨骼持续协作，形成综合认知主体。第三篇进一步讨论了这个整体怎样运行：通过实践发现心智世界与客观世界的偏差，辨认信号、修订认识，再进入下一轮实践。 但循环运行得更快，还不足以说明我们正在取得怎样的进步。 同样一组结果，可能意味着效率提高，也可能意味着某些重要的问题被排除在视野之外。哪些偏差值得关注，什么结果算得上改善，什么时候应该调整方向？当这些判断越来越多地在共同思考中形成，人又怎样保持自主，并对行动的后果负责？ 设想一个服务团队，希望借助AI缩短用户请求的处理时间。系统整理历史记录、识别常见问题、生成回复，并根据后续反馈调整流程。一段时间后，平均处理时间下降，已完成的请求数量上升。从既定指标看，这是一次成功的改进。 但进一步查看会发现，一些复杂请求在多次转交后被自动关闭。它们退出了待处理列表，用户的问题却没有解决。 这里至少存在两种不同的偏差。第一种是事实上的：系统记录的“已解决”，与用户实际获得的帮助不一致。第二种发生在评价上：团队把更快地结束一条记录，当成了更好地完成服务。 前一种偏差需要核查事实，后一种偏差要求重新审视“我们究竟在做什么”。 意义在这里进入认知循环：它把眼前的任务，连接到我们认为值得实现的结果。 
对于这个团队，处理请求的意义，来自帮助用户摆脱实际困难。响应速度之所以重要，是因为等待本身会造成损失；一旦速度的提高建立在问题被掩盖之上，它与原本目的之间的联系就断裂了。意义因此参与决定：哪些差异必须进入视野，哪些改善值得追求，哪些代价不能被一个漂亮的平均数遮蔽。 这也让第三篇提出的“高价值维度”有了更具体的内容。我们关心处理速度，也关心实际解决程度、用户付出的额外努力，以及复杂问题是否仍有得到处理的机会。有限的注意力必须有所选择，而选择需要理由。 所谓高维认知，可以在这种关系中理解：人能够把当前任务放回更大的情境，联系不同人的处境、不同时间尺度的后果，以及多个目标之间的关系，重新判断局部结果的分量。它并不等于堆积更多指标。增加十个指标，也可能仍然遗漏最重要的问题；识别出一个关键关系，就可能改变整个评价。 这些判断也需要在实践中发展。团队起初相信，只要及时回复，用户就能顺利解决问题。接触复杂案例后，他们可能发现，用户真正缺少的是跨部门协调，以及有人持续跟进。原有的服务理解由此变得更具体，评价标准也随之修订。 现实能够揭示我们忽略了什么、付出了什么代价，却不会自动替我们完成所有取舍。面对同样的资源限制，团队仍然需要讨论：怎样兼顾多数人的等待时间与少数复杂请求的处理机会？这种讨论需要事实，也需要对不同处境的理解。 AI可以参与其中。它可以帮助发现被平均数掩盖的案例，比较不同规则的后果，提出我们尚未想到的评价角度。意义与价值的讨论，同样可以在共同思考中得到澄清。与此同时，系统给出的分类和建议本身也应接受检验：它让谁的处境变得可见，又把什么留在了画面之外？ 判断因此包含两层工作：在既定尺度下评估结果，也持续检查这些尺度是否仍然贴近我们关心的现实。第三篇的认知循环，由此延伸到了方向与尺度本身。 回到这个服务团队。负责人每天都会收到AI生成的报告：问题已经归类，优先级已经排列，改进方案已经比较，最后由他点击确认。 这个人保留着批准权，却未必真正参与了关键判断。如果复杂请求早已在分类阶段被排除，如果所有备选方案都围绕缩短处理时间展开，那么他看到报告之前，许多重要的选择就已经发生了。 第二篇讨论的认知外化，在这里呈现出更深的影响。外部系统承接记忆、分析和推演，也会参与组织问题本身：什么值得被呈现，什么被当作约束，什么可以成为选项。这些安排会影响人的注意力与判断。 在这里，一系列实际能力的必要性显现出来：人能否看懂决定所依赖的关键依据，能否提出异议、引入其他方案，能否改变目标，并在必要时暂停或收回委托。 这些能力不要求人重新计算系统完成的每一步。对于服务负责人，重要的是能够查看被关闭的复杂案例，追问“已解决”的定义，比较另一种处理规则，并有权调整流程。理解需要深入到足以作出相关判断的程度，控制也需要落在真正影响结果的位置。 这种基于自主性的驱动力可以通过认知外骨骼得到扩展：人借助它看见更多可能，并且能够改变共同思考与行动的方向。 一个设计得当的系统，可以主动呈现不同方案依赖的假设，展示结论尚不确定的部分，帮助人理解改变目标之后会发生什么。原本无力独自完成的比较，由此成为可能。人在参与这些判断的过程中，也能够积累新的经验，逐渐获得更强的判断能力。 但这种成长需要合适的协作安排。一项包含199名参与者的实验发现，相比直接提供AI解释，要求使用者更主动地思考的交互安排，能够在实验任务中减少对错误建议的过度依赖；参与者对其中效果最好的安排，主观评价反而较低。这提示我们，感觉顺畅与形成充分判断之间，可能存在张力。 这并不意味着所有任务都应该增加人工步骤。第三篇已经讨论过，人的认知带宽有限。把每一次局部执行都送来确认，会消耗人参与重要判断的机会。需要认真安排的是：哪些活动可以自主运行，哪些变化应当引起人的注意，哪些决定需要重新讨论方向与尺度。 在服务案例中，常见问题的回复可以自动完成；复杂请求反复转交、某类用户持续得不到解决，则应当成为重新审视流程的信号。认知外骨骼既承担日常工作，也应帮助人发现原有安排正在失效的地方。 这种驱动力还取决于组织条件。如果负责人能够看到异常，却无权调整考核；一线人员能够发现问题，却没有时间与渠道提出异议，那么更多解释和培训也难以补足这种缺口。实际参与需要相应的信息、时间、权限与行动空间。 人的作用由此变得更具体：理解和运用外部能力，参与关键取舍，识别何时需要改变协作安排。强大的认知机器能够扩大人的行动范围，也使这些能力具有更高的价值。 回到那个服务团队。复杂请求被关闭之后，用户仍然需要反复联系、重新解释，甚至自己承担问题没有解决的损失。与此同时，团队的处理时间下降，完成率上升，系统可能继续把这套做法识别为成功经验。 现实已经付出了代价，但这些代价没有回到产生判断、制定规则和组织行动的一侧。团队看到的仍是一套表现良好的系统。 错误认知之所以能够持续，有时正是因为维持它的人，不必承担它在现实中造成的代价。 
这让第三篇的认知循环显露出一个更深的条件。实践产生后果，后果提供偏差信号，但信号不会自动成为修正的约束。它可以被忽略，被重新解释，也可以被转移到别人的生活与工作中。只要作出判断的一方仍能保留收益，并把错误的代价留在外部，错误认识就可能在反复实践之后继续得到强化。 责任由此成为闭合认知空间与现实世界的锚点：它要求行动的后果回到形成判断、作出决定和组织行动的主体，使现实中的代价成为下一轮认知无法绕开的约束。 这里需要区分“知道有代价”与“承担代价”。报告中增加一行“部分用户体验下降”，可能仍然不影响任何决定。只有当相关主体必须为这些未解决的问题投入时间、资源和修复劳动，必须面对受影响的人，并据此调整原来的安排，这些后果才真正进入了自身的行动条件。 这也解释了为什么责任的核心是fix it。承担责任意味着把问题接回自己的行动范围，承担恢复、补救和改变所需要的成本，直到修复效果得到现实的检验。错误造成的代价已经发生，责任要求相关主体承接其中应当由自己承担的部分，并付出避免它继续发生的努力。 对于这个团队，这意味着重新打开被错误关闭的请求，安排人员跟进，修复给用户造成的损失，并接受短期完成率下降、处理成本上升的结果。团队也需要重新定义“解决”，让复杂问题的真实状态进入评价。原先漂亮的数字可能变得不好看，但认知与现实之间的联系因此得到恢复。 付出代价并不自动带来正确认识。关键在于，代价能否沿着决定与行动的关系返回，并推动认识和行为发生改变。让一个无权改变系统的一线人员受罚，既可能掩盖真正的问题，也可能让实际决定者继续免于调整。关于自动化系统的研究已经指出，控制能力有限的操作人员，可能在系统失效时承受不成比例的责任。 因此，责任安排需要联系谁制定目标、谁配置系统、谁决定部署，以及谁有权改变规则。承担者应当获得相应的信息、权限与资源；掌握决定权和控制能力的主体，也应承担与其角色相称的后果与修正义务。组织可以分工承担修复，责任不能随着分工一起消失。 第二篇所讨论的综合认知主体，使这个问题更加突出。判断可能由人、模型、知识库和工具共同形成，执行也可能跨越多个环节。如果每个参与者都只确认自己完成了局部任务，那么整个系统造成的现实后果，就可能无人承接。认知能力已经组合起来，后果承担却仍然碎片化，整体便缺少稳定的现实锚点。 AI进一步放大了这种缺口的影响。一条没有受到现实约束的错误认识，可以被写入共享记忆、转化为操作规则，再被多个任务和智能体重复调用。系统内部的一致性随之增强，现实中的偏差却可能不断累积。第三篇讨论的加速循环，只有把后果承担一并接入，才能让更多行动带来的现实反馈持续约束自身。 责任也因此必须在行动之前进入安排：谁承接异常，谁投入修复资源，受影响的人如何让问题重新进入系统，什么后果会触发暂停与重新判断。对未来代价的承担，会反过来改变当下的审慎程度、证据要求和授权范围。 有些损失无法完全恢复。承担责任仍然意味着面对这些后果，停止损失扩大，尽可能补救，并改变导致它们发生的条件。不能因为修复不可能完美，就把剩余的代价继续留给别人。 意义使我们能够说明什么值得追求，自主使我们能够参与决定追求的方向，责任则使这些判断接受现实后果的约束。只有把代价承担纳入其中，共同思考才具有持续返回现实、修正自身的条件。 认知可以在更大的空间中分布，责任必须在现实中有所着落。当一个综合认知主体既能够扩展行动，又必须承接行动的后果，它的认知循环才获得了真正的闭合。 当这些问题进一步落到人的身上，便会进入下一篇的主题：面对不断扩展的能力与选择，我们怎样理解自己，又愿意把哪些目标和承诺作为自己生活的一部分。
一、认知共生中的意义判断
二、认知共生中的驱动力
三、责任：以代价承担锚定现实