ARTICLE · 1034816
“万事不决问AI”,决策责任谁来负?| 风向标工作室
“万事不决问AI”,决策责任谁来负?| 风向标工作室
撰稿 / 顾超（北京大学政府管理学院中国政治学研究中心助理教授）编辑 / 迟道华 何睿 校对 / 张彦君 眼下，“万事不决问AI”似乎正在成为常态。 从日常生活到公共事务，在问策AI时，是否要问一问：人在决策时，是否应保有必要的理解、核验和判断？当问题的解释、备选方案和选择理由都由AI提供时，人的最后决定究竟还包含哪些判断？ 谁在形成判断 哈佛商学院2025年公布的一项工作论文显示，在244名波士顿咨询公司顾问完成模拟投资建议任务的过程中，有人自己掌握分析思路，选择性地使用AI；有人与AI反复讨论、检验；也有人将整项任务交给系统，直接采用结果或只作表面修改。报告都由人提交，但形成判断的过程却存在差异。 一个决定并不始于最后的选择。在此之前，人需要弄清发生了什么、原因何在，以及各个方案有什么依据。如果这些解释和比较主要由AI完成，那么它已经承担了形成判断的部分工作。 在这个意义上，AI将零散材料转化为可供决策使用的解释和认识，由此承担了部分知识生产工作，并参与塑造了人对事情的理解。因此，虽然最终确认仍由人完成，但也不足以认定形成判断的过程仍由人主导。 当这些认识成为公共决定的依据，受到影响的人也被纳入其中。公众往往难以自行核验全部专业材料；如果AI的分析过程又难以理解，就可能更依赖专业人员的解释。 此时，对AI输出的依赖，还可能转化为对解释、核验和确认这些输出者的依赖。谁在生产知识的问题，由此进一步联系到谁的解释能获得信任。 当AI成为“认知权威” 专业人员对AI的解释和采用，还可能使专家与AI的权威相互增强。 2025年，在北京北儿窦店儿童医院的AI儿科医生试点签约仪式上，医生展示了人机协作诊疗：AI提出初步诊断及检查、治疗建议，供医生参考。相关介绍称，系统整合了北京儿童医院专家的临床经验与多年病历数据。 在这样的协作关系中，专家经验与医院信誉可以成为人们信任系统的理由。反过来，当专业人员引用AI分析来说明自己的建议时，这些建议又可能被认为兼有专业经验与数据计算的支持。 相互背书可能只是这一关系的起点。随着技术发展，如果AI在持续使用中表现可靠，并获得专业机构和使用者的认可，其“知识权威”地位就可能得到巩固。人们相信它能够提供可靠知识，也就可能逐渐不再要求每项输出都经过专家确认。 如果这种信任进一步变成对AI正确性的预设，专家与AI发生分歧时，人们就可能先要求专家解释他们的判断为何偏离AI，而不是审视AI是否犯错或产生幻觉。此时，AI反而成为衡量专家意见的准则，它也由此从提供可信知识的“知识权威”，走向评判其他认识的“认知权威”。 这种变化带来的后果是后工业社会中的“技术统治”或“专家统治”逐渐演化为数智时代的“算法统治”。随着AI智能体全过程参与人们的日常决策，至少在现阶段，对“算法统治”的最大担忧，并不是AI觉醒后超级智能开始统治人类，而是人类不自觉地把原本专属于人类的认知权威和决策权委托给了AI。 AI正在影响议程设置 如果人们对AI判断能力的信任，进一步延伸到对其问题界定方式的接受，AI的影响就可能进入议程设置：哪些事情构成问题、哪些目标应当优先，也开始依照AI提供的框架来理解。将公共议题转化为计算任务，需要确定目标和评价标准，而这些设定本身包含价值取舍。一旦议程设置因AI的权威而被当作不必讨论的技术前提，公共讨论就可能在目标已经确定之后才开始，集中于比较哪种方案更有效。 例如，如果把改善城市出行仅仅表述为缩短机动车通行时间，计算可以比较哪种方案更快，却无法仅凭这一指标决定是否应当优先照顾行人和公共交通。未被纳入评价框架的诉求，也可能因为难以体现为既定指标的改善，而失去被认真考虑的机会。 这种变化未必取消个人选择。在既定框架内，AI可以通过默认选项、方案排序和呈现方式引导行为。个人仍能改选另一个方案，但这并不意味着他有机会改变方案共同遵循的目标。 保有选择的机会，与参与形成选择范围，是两个不同层次的问题。每个人都想选择最优方案，但没有人愿意成为被“优化目标”忽略或排斥的那个选项。 “认知外包”时代意味着政治学中的“委托-代理”问题进一步扩展为对AI所界定的问题和目标的普遍依赖。虽然“算法统治”还没有真正到来，但对AI的过度依赖却可能逐渐使它成为现实。 对决策责任的追问，还须回到目标如何设定、判准如何确立、判断如何形成等问题上。如何让AI更好地服务人类决策，已成为国家治理的一门必修课。 值班编辑 王丹妮
“开考9分钟试卷被传出，40分钟后答案传回考场”，打不掉的高校考试作弊群：校外答题按人收费，每科几十元到二三百元 
疑罪去疑：盗窃犯刑满释放前8天改判死缓，一桩十年悬案的罪与罚 
白岩松追忆敬一丹：我和大姐并肩同行超过30年，再也不会有这么好的搭档了，她这一生从容而坚定，没有任何遗憾 最近微信改版 经常有读者朋友错过推送 星标🌟“新京报” 及时接收最新最热的推文 点击“在看”，分享热点👇