AMR-2021-AI的自动化与增强悖论

编者按

这篇文章聚焦于一个在当下真实存在的管理难题。企业一方面迫切希望人工智能带来更高效率、更低成本和更强的流程一致性，另一方面却不愿失去人类独有的价值判断、情境理解、责任担当与创新创造力。许多管理者因此得出一个看似稳妥的结论，即尽量将人工智能用于增强功能，同时避免过度自动化。这一结论默认增强与自动化可以被清晰切割，也默认企业只要选择其中一方就能规避另一方的副作用。

作者指出，真实管理场景中的人工智能应用并非如此。增强往往会走向后续的自动化。人类在与机器反复协作与迭代学习的过程中不断提炼规则、沉淀模型并固化标准，原本复杂模糊的任务逐渐具备了自动化的条件。就像企业做 AI 招聘筛选，一开始 HR 必须和 AI 一起判读简历、修正偏差、优化规则，等这套逻辑足够成熟稳定，就能直接交给 AI 全自动完成初筛，这就是典型的从增强走向自动化。与此同时，自动化也会反过来催生新的增强。某个环节被机器接管后，前端的目标设定、后端的结果解释以及上下游的协同适配，反而需要更多且更深层次的人机互动。比如财务报销系统已经能自动审核发票、校验合规，把重复劳动全部自动化，但财务人员反而要花更多精力解释规则、处理例外情况、校准系统逻辑、协调业务需求，人类的价值变得更偏向判断、沟通与整合，这就是自动化反过来推动了增强。

企业真正需要面对的问题不是选择自动化还是增强，而是如何处理二者同时存在、相互依赖却又彼此冲突的持续张力。这就是作者提出的自动化与增强悖论。这一理论跳出了非此即彼的简单选择框架，用悖论视角将人机协同的底层逻辑阐释得清晰透彻。这篇文章不仅梳理了人工智能与管理的关系，也提供了一把理解所有人机协同问题的总钥匙

文章的逻辑起点清晰明确。自动化指机器接管原本由人完成的任务，目标是将人移出流程以获得更高效率、更强理性和更稳定的一致性。增强指人与机器持续协作共同完成任务，机器负责计算、搜索、识别和生成，人负责设定目标、判断情境、筛选结果和承担责任。从单个任务或单个时点看，这两种路径确实存在差异甚至带有竞争关系。作者借助悖论理论指出，只关注某个任务的某一瞬间会误将局部差异当作整体结构。

第一层互依关系来自时间维度。企业在面对复杂任务时往往无法从一开始就彻底自动化，因为规则不够清晰且模型尚未成熟，这时只能先走增强路径，让领域专家与机器一起迭代学习。当这种互动积累出较为稳定的规则或模型后，组织又会顺势将其中一部分工作转向自动化。当环境变化、任务定义改变或旧模型失灵时，组织又不得不将人重新拉回流程中，通过增强方式重新校正机器。作者以JP Morgan的招聘筛选和Symrise的香水创意生成为例说明，增强可以孕育后续的自动化，自动化又会在新条件下重新激活增强。二者是循环转化的关系。

第二层互依关系来自空间维度。管理任务很少孤立存在，它们往往嵌入更大的流程之中。一个环节被自动化后，前一道工序可能需要投入更多精力来设定约束条件，后一道工序也需要投入更多判断来解释和吸收结果。Symrise的案例具有典型性。人工智能可以自动生成大量香水配方，但调香师必须在流程前端将客户目标、限制条件和市场语境表达得足够清晰，在流程后端又要依靠感官经验、审美判断和故事化表达去筛选和打磨结果。自动化发生在某个局部环节，增强却在相邻环节中扩展开来。作者将这种现象理解为溢出效应，即一个任务中的自动化可能在其他任务中催生更多的增强需求。

作者进一步解释这组张力不会在短期内消失的原因。问题不在于技术进步不够快，而在于管理任务本身具有一些结构性特征，使得人很难被完全移出系统。文章列出了四类机器局限。第一，机器没有目的感和责任意识，无法自行设定组织目标也无法真正承担结果责任。第二，面对复杂任务时，机器往往只能提供一组可选方案，最终如何在现实约束下进行取舍仍需要人的常识判断和经验。第三，机器通常只在特定任务上接受训练，缺少跨情境迁移和一般性理解能力。第四，机器没有人的感官、情绪、社会技能和关系意识，无法替代那些依赖信任、说服、共情和意义建构的管理活动。这些限制的持续存在使得自动化与增强之间的张力同样持续存在。

文章从悖论治理角度区分了两种组织响应方式。第一种是单边响应，即组织只关注自动化或只关注增强。只关注自动化容易形成以短期降本为中心的路径，长期导致技能流失、组织僵化和流程锁定。只关注增强则容易陷入高投入、高不确定性和反复试错的困境，甚至因持续投入而升级承诺，难以及时止损。第二种是更全面的悖论响应方式。作者认为，组织需要先承认这组张力本身无法被一次性消除，然后在流程中进行区分与整合。组织需要明确哪些任务适合自动化、哪些任务必须增强，同时需要协调不同任务与不同阶段之间的切换方式，确保自动化产出能够进入人的判断，人的反馈能够回到机器模型中。文章特别强调，整体流程责任不能完全交给机器，人必须保留对管理过程的总体负责权。

这篇文章属于理论研究，其证据结构与多数实证论文存在差异。作者的主要材料来源分为两类。第一类是三本在管理实践中广泛流传的人工智能商业书籍，分别是Brynjolfsson与McAfee的《第二次机器革命》、Davenport与Kirby的《该当需要人类时》以及Daugherty与Wilson的《人+机器》。这些书籍共同塑造了一种具有广泛影响力的管理叙事，即人工智能的最佳使用方式是增强人类能力而非取代人类。作者以此为起点指出，这套叙事虽包含现实洞察，但在理论上过于线性且过于乐观。第二类材料来自大量已有研究和企业案例。文中反复引用JP Morgan、Symrise、UBS、Unilever、IBM、Microsoft、Amazon等企业的实例，用以说明自动化与增强在真实组织环境中如何相互牵引。这篇论文的贡献在于理论重构。作者借助Smith和Lewis（2011）所代表的悖论理论，将原本被管理实践分割开来的两种人工智能应用方式重新整合到一个系统框架中。这一理论认为，管理中大量看似冲突的要素并非简单的非此即彼关系，而是既对立又相互依赖且长期存在的悖论性张力。面对这种张力，传统二选一的思路只会引发恶性循环。真正有效的应对方式是接受张力的存在，对要素进行差异化分工，再进行系统性整合，在动态平衡中实现良性循环。

第一，管理中的自动化与增强同时具有对立性和互依性。它们在某个具体任务上表现为两种替代选项，但将观察尺度拉长到过程与流程层面后，增强会孕育后续的自动化，自动化又会在新情境下反过来催生增强。作者因此反对简单的权衡视角，主张将二者理解为持续存在的张力关系。

第二，单边偏好会带来组织与社会层面的负向循环。组织过度押注自动化时，容易在短期效率诱惑下丢失人类专长、缩窄选择空间，并在行业中卷入零利润式的同质化竞争。组织过度押注增强时，则需要承受持续实验、持续投入和结果不稳定带来的压力，还可能将人的主观偏见更深地嵌入机器系统。作者用恶性循环这一概念概括这种结果，即企业越想通过单边方案解决问题，越可能将自己推向新的困境。

第三，更可取的做法是通过区分与整合形成良性循环。区分意味着承认不同任务与不同阶段对自动化和增强的需求存在差异。整合意味着让两类应用在流程中形成接力和互补关系。机器的独立输出可以用来挑战人的直觉判断，人的反馈又可以帮助机器持续迭代。组织若能将这些切换方式转化为制度安排，就可能同时获得自动化带来的速度、一致性和成本效率，以及增强带来的情境理解、创新能力和适应性。

第四，人工智能管理问题的后果不只停留在企业绩效层面，还会外溢到劳动力市场、公平性和社会治理领域。文章指出，自动化可能引发岗位流失和技能贬值，也可能因训练数据偏误带来更系统性的歧视。增强虽然将人保留在决策回路中，但若缺乏良好的反馈与校正机制，也可能将人的偏见放大并赋予其合法性。作者的判断既不悲观也不浪漫，人工智能的社会后果不由技术本身决定，而取决于组织如何管理这组悖论。