当AI成为上级:重新定义服从、权威与责任

文 | 彭凯平、柯罗马

2021年，彭博社报道了一批Amazon Flex司机的经历。Amazon Flex是亚马逊的众包配送项目，司机通过手机应用接单、取货、配送，应用会记录配送完成率、迟到、客户投诉等指标。一些司机的账号被停用时，真正通知他们的不是一位主管，而是一封自动邮件和手机应用里的状态变化。司机可以申诉，但许多人不知道是哪一项指标触发了停用，也不知道申诉究竟由谁阅读、由谁复核、由谁负责最后的判断。司机不是被某个主管解雇，而是被算法系统管理和淘汰。

一种新的组织关系已经出现。司机每天接受系统派单，按照系统规划的路线行动，被系统持续记录和评分，最后可能被系统淘汰。在传统组织管理中，上级至少有一张脸、一间办公室、一段可以追问的关系。AI进入组织管理以后，上级可能变为一组规则和自动化流程。人仍然在按命令工作，服从仍然在发生，只是发号施令的对象不再是人。

当AI分配任务、评价表现、规范行为，甚至影响去留时，它就不再只是工具，而是开始承担上级的一部分功能。这里我们采用“AI上级”这种拟人化称谓，不是说AI真正取代人类管理者，而是说它承担了部分上级工作，在一定程度上扮演上级，并因此改变员工对权威、服从和责任的感受。

算法管理是指组织用算法系统来分配任务、监控过程、评价绩效、决定奖惩或协调劳动。这个概念早期在平台工作研究中受到关注，因为网约车、外卖配送、众包配送等工作高度依赖应用程序。司机接哪个订单、走哪条路、等待多久、评分多少、还能否继续接单，都可能由算法系统持续计算和调整。后来，算法管理进入更多组织：客服中心用系统评估通话质量，仓储企业用系统追踪拣货速度，销售团队用系统预测业绩，企业人力资源部门用系统筛选简历和辅助绩效管理。

算法管理和普通办公软件不同。办公软件帮助人完成任务，算法管理则改变了任务指令的发出主体。

这就是AI成为上级的开始。它不一定理解人的处境，却能影响员工收入、评价和机会。一个传统上级的权力来自职位、经验、组织授权和人际关系。AI管理系统的权力来自部署位置：它被放在任务入口、绩效入口和资源入口。员工工作绕不开这些入口。

算法管理的吸引力很明显。它能处理大量数据，执行标准一致，不会疲劳，也不需要像人类管理者那样逐一和员工谈话。对于组织来说，算法管理可以减少管理成本，提高响应速度，让规则看起来更客观。对于一些员工来说，算法管理总强过一个坏主管：至少规则相对稳定，不会搞“小团体”，给人“穿小鞋”。

问题在于，管理不只是提高效率那么简单，还意味着分配机会、评价表现、解释错误、承担后果和维持关系等。AI可以把工作过程变得更可见，却未必能更好地理解员工处境。AI深入管理链条后，组织的关注点就不能只停留在它算得准不准上，还要考虑它有没有资格这样要求人。AI在组织中的角色变化见下表。

由上表可知，AI进入组织对员工的心理影响随着角色升级而加深。工具主要改变效率，助手改变判断，管理接口改变行动空间，上级则触及身份、服从和尊严。

当AI开始要求人服从，组织关系就从“人使用AI”变成“人接受AI管理”。

“员工照做了”不等于“员工接受了”。

司机按照应用派单配送，客服按照系统提示回应客户，仓库员工按照手持设备指示移动，这些并不意味着他们认同系统安排。很多时候，他们只是知道不照做会影响评分、收入或工作机会。

当一个命令被包装在制度、专业和权威位置之中时，普通人就可能把自己的判断让位给外部命令。组织中的AI管理系统正是有这种权威外衣：系统由公司部署，规则写进流程，结果连接奖惩。于是员工很难不服从。

传统上级的权威至少包含一个可以互动的主体。员工可以观察上级是否熟悉业务、是否愿意听解释、是否愿意承担后果。算法管理是组织用数据和算法参与分配、监控、评价和奖惩的管理模式，“AI上级”则是这种算法管理在员工体验中的拟人化说法。管理系统把权威融于流程——权威仍然存在，但权威的主体变得不那么可见了。

员工面对AI上级会形成三种不同的服从，见下表。

第一种是工具性服从：员工为了保住工作、避免惩罚而照做。

第二种是习惯性服从：员工长期按系统指示行动，逐渐不再主动追问。

第三种是合法性服从：员工认为系统规则基本合理，因此愿意接受。组织希望得到的是合法性服从，但算法管理容易制造出前两种服从。

员工在评价算法管理时，不只看结果，还会同时兼顾公平感知、信任水平和情绪感受。一个系统即使提高了效率，但如果让员工感到自己被监视、被简化、被排除在解释之外，那么也很难获得员工的合法性服从。当AI成为上级，透明、控制感和可解释性问题会变得更加敏感，因为员工每天都要在这些系统下工作。

算法管理还会改变员工与组织之间的心理契约。心理契约是员工对“组织应当怎样对待我”的期待。比如，我努力工作，组织应当公正评价；我遵守规则，组织应当说明规则；我遇到例外情况，组织应当给我解释的机会。

当算法成为雇佣关系中的重要行动者时，员工会重新判断组织是否履行了隐含承诺。当心理契约被破坏时，员工不会只质疑一个分数，而会质疑整个组织关系：这个组织是不是只需要我的数据和劳动，却不愿意把我当作需要解释和尊重的人？

被算法管理会让人觉得自己的工作地位更低。

人们会从“由谁管理我”推断“我的工作有多复杂、我在组织里有多重要”。如果一个岗位主要由算法发指令、给反馈、定奖励，员工就可能感到自己被放在较低的组织位置上。因此AI上级也会影响尊严。一个人接受工具帮助自己工作和接受自己被工具管理是不能相提并论的。

现代组织中的上级权威合法性还来自专业能力、职位授权、程序正当性、关系信任和道德责任。一位管理者之所以能要求员工服从，不只是因为他有管理权限，还因为组织承认他的职位，员工相信他大致理解业务，制度允许员工申诉，而管理者也必须为错误的管理承担后果。

组织授权AI，并不等于员工承认AI。正式授权可以让AI进入流程，却不能自动让员工在心理上接受它。员工是否接受AI，取决于AI能否被理解、被追问、被修正，以及组织是否仍然承担其最终责任。

AI上级的权威因此需要三层合法性。

第一层是技术合法性，即系统是否稳定、准确、一致。

第二层是程序合法性，即规则是否清楚，过程是否可解释，申诉是否有效。

第三层是道德合法性，即系统是否尊重员工尊严，是否避免把人简化为指标，是否有人承担后果。

很多组织只为AI上级权威建设了第一层合法性，少量涉及第二层合法性，而忽视了第三层合法性。员工真正抵触的，往往不是系统不够聪明，而是组织用聪明系统绕开了应有的责任。

AI上级权威的三层合法性及其缺失后果见下表。

这三层合法性解释了为什么同一个AI系统应用在不同组织里效果不同。如果企业只是把AI当作降低成本的管理替代品，员工很容易把系统理解为监控和压迫。如果企业把AI明确定位为辅助管理者判断的工具，并且保留人工复核、申诉和员工参与，员工就更可能把AI上级理解为受人类制度约束的管理工具，而不是真正替代人类上级。

AI进入组织管理会带来一些缓慢而深刻的变化。

第一个变化是管理的去人格化。员工越来越多地接收系统提示，人对人的解释减少。这样的组织管理一方面可能减少主观性和偏私，另一方面可能削弱关系承诺。员工在纠结“我的主管怎么看我”之余，更多地问“系统给我打了多少分”。组织成员之间的信任可能逐渐被人和AI之间的依赖关系替代。

这种变化是潜移默化的。一次自动提醒、一次系统评分、一次默认排序，看上去只是普通流程，但日积月累，员工会越来越少地和人类管理者讨论工作意义，越来越多地围绕评分指标调整行为。

第二个变化是责任的稀释。一个错误评价过去可能归因于某位主管，现在可能被分散到数据采集、模型设计、系统部署、管理流程和外包供应商之间。责任主体变得越来越分散，员工很难找到一个主要负责人。

第三个变化是员工自我理解的改变。长期在算法管理下工作，员工逐渐会把自己理解为一组可优化指标：接单率、响应时长、满意度、错误率、活跃度。指标当然有用，但指标不能体现一个人的全部工作价值。好的员工处理任务速度快，善于协作、照顾新人、安抚客户、维护团队氛围。这些贡献难以被系统捕捉，难以用指标评价，于是员工会对“我怎么做算好员工”产生疑问。

第四个变化是组织道德能力的变化。管理者可能会考虑逐渐减少对作出困难判断的练习：如何在效率和公平之间取舍，如何应对员工的特殊处境，如何为一次处分承担解释责任。由于越来越多地把判断本身外包给AI，人类管理者的道德能力会变弱。

这些变化是人工智能心理学必须把AI上级纳入研究的原因。AI上级不是一个单纯的人力资源工具，也不是一个效率插件。它改变了员工如何理解权威、如何感受公平、如何判断组织是否在乎自己的方式，还改变了管理者如何承担责任的方式。人机关系在这里不再是人与机器之间的互动，而是机器介入人与组织之间的关系。

未来的组织很可能不会回到纯粹的人工管理。AI会继续进入招聘、培训、排班、绩效、协作和风险控制等层面。问题不在于是否使用AI，而在于组织是否愿意为AI管理建立清楚边界。

AI进入组织管理，不意味着人类管理者失去价值；恰恰相反，人的管理责任需要被重新说明。过去，管理者通常主要做三件事：分配任务、监督执行、评价结果。AI可以在这三件事上表现突出。可是管理还包括其他一些工作：解释组织目标，理解员工处境，处理冲突，修复关系，判断例外情况，为艰难决定承担责任。

如果组织把所有管理判断都交给AI，人类管理者就可能退化为系统通知的传声筒。为了使管理结构更合理，人类管理者要转变角色，从“直接计算者”转向“解释者”和“责任承担者”。AI可以负责数据分析、模式识别、风险预警和备选方案的生成；人类管理者则负责把这些信息放回人的具体情境中，判断例外，解释取舍，承担最终责任。AI不应使管理者更轻松地回避责任，而应使管理者更清楚地说明自己为什么接受或拒绝系统建议。

人类管理者的价值在于能把AI计算出来的结果重新放回人的生活和关系里。

一个绩效分数可能显示员工效率下降，人类管理者需要追问这是来自岗位变化、家庭压力、团队分工不均，还是员工自身确实需要改进。

一个风险预警可能提示员工违规，人类管理者需要判断这是员工故意违反，还是规则本身设计不合理。

AI给出结果，人类管理者完成判断。因此，AI进入组织管理后，我们要讨论的不是替代的问题，而是在不同的任务中，AI上级和人类管理者如何分工的问题。

这种分工也表明，组织管理需要人类管理者具备新的管理素养：理解系统大致如何工作，知道数据偏差来源，能向员工解释系统判断，在必要时推翻系统建议。管理者不能因为AI的介入而失去自己的判断能力。

人机分工最重要的是划清边界。哪些事可以交给系统先做，哪些事必须由人复核，组织需要提前说清楚。边界不清，员工就可能疑惑系统提示是不是隐性命令；管理者也可能把系统建议当作推卸责任的挡箭牌。