当AI开始替你思考:人类控制权还剩多少?

导言

当AI开始进入医疗、自动驾驶、金融风控等高风险领域，一个越来越现实的问题正在浮现：如果AI参与了决策，那么最终结果到底该由谁负责？

例如，医生参考AI诊断结果后误诊，责任算医生的，还是算系统的？自动驾驶系统建议变道，驾驶员点击确认后发生事故，又该谁承担后果？

过去，人们总以为“只要人还在决策环路里”，就意味着人类依然掌握控制权。但最近发表于 Human Factors 的一项研究却发现：人是否真正拥有控制权，并不只取决于AI有多智能，而取决于系统究竟把AI放在什么“角色”上。

研究背景

过去，工程心理学领域常常使用一种基于信息论的“责任量化模型”来计算人机协作中的责任分配。这个模型认为，人类的责任，本质上取决于人类究竟为最终结果贡献了多少“独特信息”。如果自动化系统已经完成了判断，而人类只是简单确认，那么大量决策信息其实已经由机器提供，人类真正的贡献就会下降。

但问题在于，以往模型默认自动化系统总是“主决策者”，而现实中的AI系统并不总是这样。有些系统中，AI只是“辅助顾问”；而另一些系统里，AI已经成为“第一决策者”，人类只是负责监督和兜底。研究者因此区分了两种典型模式：一种是DSS（Decision Support System），即“AI给建议，人类做决定”；另一种是ADM（Automated Decision-Making），即“AI直接做决定，人类只负责批准或推翻”。

研究者认为，这两种系统虽然都存在“人类参与”，但在人机关系中的心理意义完全不同。DSS意味着AI是在“帮助人”，而ADM则更像是“AI已经替你决定，你只是最后签字”。因此，他们提出一个核心问题：同样的AI能力，仅仅因为系统角色不同，会不会改变人类真正的控制力与责任感？

实验设计

为了验证这一问题，研究者设计了一个模拟工业质检任务。400名参与者被要求扮演工厂质检员，判断一根钛合金棒是否存在缺陷。实验中，缺陷棒平均会更长一些，因此参与者需要根据长度信息做出“合格”或“不合格”的判断。每个人需要连续完成40轮决策任务。

实验最核心的自变量，是“自动化系统的角色类型”。

在ADM条件下，系统会直接显示“批准”或“拒收”的决定，参与者只能选择“接受”还是“推翻”系统决定。整个界面会让人感觉，AI已经先完成了决策，人只是监督者。

而在DSS条件下，系统只会给出一个红色或绿色提示作为“建议”，真正的“是否合格”需要由参与者自己点击决定。此时AI更像是一个辅助顾问。

除此之外，研究还操纵了两个重要变量：一是AI系统本身的准确率高低，二是人类自身判断能力的高低。研究者通过不同组合，构建出八种实验条件，用来观察不同人机能力搭配下责任分配会如何变化。

研究者主要测量了两类因变量。

第一类是“客观责任贡献”。研究者会根据参与者的真实决策行为，计算人在最终结果中究竟贡献了多少独特信息，也就是人在多大程度上真正影响了最终决策。

第二类则是“主观责任感知”。实验结束后，参与者需要填写问卷，评价自己有多依赖AI、多相信自己的判断，以及自己认为对最终结果承担了多少责任。

实验结果

实验结果非常有意思。

首先，在客观行为层面，DSS系统中的人类责任显著高于ADM系统。换句话说，当AI只是“给建议”时，人类确实更像真正的决策者；而当AI已经先做出决定，人类的真实贡献会明显下降。

更重要的是，这种差异会随着人和AI能力提升而被放大。当人类本身判断能力很高、AI准确率也很高时，DSS与ADM之间的责任差距达到最大。研究者认为，这意味着未来AI越强，系统如何定义“谁先决策”就越重要。

但真正耐人寻味的，是参与者的主观感受。

很多参与者即使在ADM条件下只是“监督AI”，依然会认为自己对结果负有很高责任。尤其当AI表现非常准确时，人反而更容易高估自己的作用。

也就是说，人类很容易产生一种“控制幻觉”——即便真正做决定的是系统，人仍然会觉得“结果主要是我决定的”。

讨论与启示

这项研究最重要的启示在于：系统里“有人参与”，并不等于人真正拥有控制权。

很多现实系统虽然保留了“人工确认”步骤，但如果AI已经先完成了主要判断，人类可能只是机械地点一下“确认”。表面上看，人还在决策链中；但实际上，人对结果的真实影响已经被大幅削弱。

这也是为什么近年来“Meaningful Human Control（有意义的人类控制）”会成为AI治理中的核心概念。真正重要的，不是人有没有出现，而是人是否真正贡献了决策。研究也呼应了欧盟《人工智能法案》的思路：在高风险系统中，AI可以辅助人类，但不能完全替代人成为第一决策者。

此外，这项研究还揭示了一个非常典型的人因问题：当AI越准确，人越容易过度自信。很多人会因为系统运行良好，而误以为“这是我控制得好”，从而高估自己的判断力。这种“责任幻觉”，可能反而导致人类忽视AI真正的优势。

下次当你使用导航软件、自动驾驶、AI医生，甚至AI写作助手时，也许可以重新问自己一句：

现在，究竟是谁在做决定？

AI是在“帮助我判断”，还是我已经在替AI“签字确认”？

很多时候，人机协作真正危险的地方，并不是机器太强，而是人误以为自己始终掌握着控制权。