AI作为治理工具:理解AI影响的框架

研究问题

人工智能的进步将如何改变公共行政中的决策过程与行政裁量权？公共管理者应当如何评估和决定是否（以及如何）在公共组织中引入AI来增强或替代人类的行政裁量权？

为了回答这一问题，作者提出了一个全新的理论概念——“人工智能裁量权”（Artificial Discretion, AD），并试图构建一个理论框架，帮助公共管理者在面临技术颠覆时，系统地权衡AI在不同行政任务中的利弊。

方法与数据来源

1.研究方法：本文是一篇理论构建与概念性研究论文。

作者借用萨拉蒙（Salamon, 2002）经典的“治理工具”（tools of governance）评估框架，从五个维度——有效性（effectiveness）、效率（efficiency）、公平性（equity）、可管理性（manageability）和政治可行性（political feasibility）——对“人工智能裁量权”与传统的“人类裁量权”进行了系统的比较与评估。

2.数据来源：由于是理论性文章，本文没有使用一手或二手的实证数据集。其论证主要基于对现有跨学科文献的广泛梳理（涵盖公共行政学、人工智能计算机科学、算法伦理学等），并通过现实中政府应用AI的典型案例（如预测性警务、面部识别抓捕逃犯、自动邮件过滤、儿童寄养风险评估等）来进行逻辑推演和理论归纳。

研究发现

1.“人工智能裁量权”（AD）的最佳应用取决于任务的复杂性（裁量权程度）：

（1）低度裁量任务（如数据录入、常规许可发放）：AI最适合用于完全自动化，以替代人类劳动。

（2）中度裁量任务（如假释判定、绩效管理）：AI最适合作为决策支持工具和预测分析，以增强人类决策。

（3）高度裁量任务（如危机响应、政策制定）：AI最适合用于生成新数据、降低数据复杂性以及发现潜在关系，帮助人类理解混沌系统。

2.AD在任务层面的三大核心优势：

（1）提高可扩展性：AI处理海量高维数据的速度和规模远超人类认知极限。

（2）降低成本：尽管AI系统的初始设计和硬件固定成本较高，但一旦建成，执行新任务的边际成本几乎为零。

（3）提高质量：在模式识别等特定领域，AI的准确率已超越人类，且能消除人类因疲劳或情绪波动带来的决策不一致。

3.基于“治理工具”五维框架的评估发现（潜在风险）：

（1）有效性与效率：AD在处理大规模数据时效率极高，但存在为了追求“可测量的效率”而牺牲“实际政策效果”的风险。

（2）公平性：尽管AD理论上可以消除人类的主观偏见，但由于机器学习依赖历史数据，而历史数据往往内嵌了社会结构性的不平等（如种族歧视），AD极易复制甚至放大这些偏见，对弱势群体造成伤害。

（3）可管理性：AD消除了人类官僚的消极怠工等管理难题，但引入了新的挑战：神经网络的“黑箱”特性导致决策不可解释（缺乏透明度和问责制），且系统容易受到“对抗性数据”的攻击。

（4）政治可行性与合法性：用AI替代低技能或受工会保护的公共部门岗位会引发强烈的政治冲突；此外，公众普遍存在“算法厌恶”，对机器做出的高风险决策（如刑事司法）缺乏信任。

研究贡献

1.理论概念创新：首次在公共行政领域系统性地提出了人工智能裁量权这一核心概念。赫伯特·西蒙曾指出“决策是行政的核心”，本文将这一经典论断延伸至AI时代，填补了现有“数字治理”文献中缺乏对AI如何重塑“行政裁量权”进行深度理论探讨的空白。

2.构建了实用的决策与评估框架：为学术界和政府实务界提供了一个极具操作性的多维评估矩阵（结合了“裁量权高低”与“微观/中观/宏观分析层次”）。这为公共管理者提供了一套清晰的指南，帮助他们判断在何种具体情境下应该引入AI，是该用AI来“替代”人类，还是“辅助”人类。

3.拓展了技术治理的批判性视角：本文打破了对“技术万能”和“AI必然提高政府效率”的盲目乐观。通过深刻揭示AI在公共部门应用中可能带来的公平性受损、问责制缺失（黑箱问题）以及政治合法性危机，本文为未来关于AI在公共行政中的伦理、法律和政策研究奠定了坚实的基础，提醒决策者在拥抱技术红利的同时，必须警惕其对民主治理价值观的潜在侵蚀。

对人工智能（AI）的广义界定与分类

1.日常语境：使用数据、算法和硬件来识别关系、做出预测或完成半复杂任务的技术。

2.技术语境：更精确的定义是指数字计算机具备以下特征之一：（1）拥有并表现出类似人类的智能；或（2）能够为了实现某个目标而理性地解决问题（引用了图灵等人的观点）。

在此基础上，作者区分了两种AI的发展水平：

1.弱人工智能（Narrow AI）：涉及一个或多个决策的特定任务设计的系统（例如图像中的人脸识别或自动驾驶汽车）。这是目前现实中存在的AI。

2.通用人工智能（AGI）：指尚未实现、仅存在于理论中的系统，这类系统能在广泛的认知活动中满足“智能”的定义条件。

AI的两种底层技术架构对比

1.专家系统（Expert Systems）：由软件工程师咨询领域专家后构建。它是一套规则集合，试图复制并最终自动化人类专家的决策过程。这种系统需要对人类经验法则有精确的理解。

2.机器学习（Machine Learning）：使用训练数据来识别输入数据和结果之间的模式，从而使用概率推理生成预测模型。它从数据中“学习”关系，不需要关于某个领域的强理论，而是利用相关性（即使不完全理解背后的因果机制）。

3.案例说明：在司法领域，如果用“专家系统”决定是否给予假释，系统会基于法官和法律学者访谈得出的“人类决策规则”来运行算法；而如果用“机器学习”，系统则是通过分析过往案件的数据，自己找出预测罪犯是否会重新犯罪的特征，从而生成自己的算法。

本文对“人工智能（AI）”的专属定义

“任何使用机器学习技术、针对非确定性任务做出理性决策的特定领域系统。”

1.理性（Rational）：借用了赫伯特·西蒙的“有限理性”概念，即决策受限于决策者可获得的信息及其利用信息的能力。

2.非确定性任务（Nondeterministic tasks）：这是核心。确定性任务只需少量规则就能准确完成（不需要裁量权）；而非确定性任务的特征是信息太少或太多、结果受各种偶然因素影响、或者存在相互竞争的价值观（没有唯一的最佳答案，只有一系列最优结果的边界）。这类任务正是传统上需要人类官僚行使“裁量权”的领域。

3.不以“人类智能”为基准：作者刻意避免将AI与人类智能进行全面对标，因为在某些特定领域（如战略游戏、医疗诊断），AI已经超越人类，但在感知和物理移动等其他任务上，AI目前仍不如人类。

AI与传统信息通信技术（ICT）的本质区别

虽然数据库或仪表盘等传统ICT工具也能改善决策，但AI与“裁量权”的关系是独一无二的。AI具有三个独特的设计特征，使其有别于传统技术：

1.它是为通过问题的抽象数学表示来自动化学习和决策过程而构建的。

2.它能以远超人类认知的速度和维度（dimensionality）利用输入数据。

3.随着更多数据的可用，它可以“学习”并调整其行为（更新其决策启发式规则）。

相比之下，传统的ICT工具和专家系统只是生成、传输和存储数字数据的被动载体，或者是人类专家预先配置好的代表。

核心概念：“人工智能裁量权”（Artificial Discretion）的正式提出

“在行政裁量权的行使过程中，使用人工智能来进行增强（augment）或自动化（automate）的情况。”

1.增强（Augment）：AI作为决策支持工具，帮助人类官僚处理复杂信息，但最终决定权仍在人类手中（通常用于中/高度裁量任务）。

2.自动化（Automate）：AI完全替代人类官僚，直接做出行政决策（通常用于低度裁量任务）。

涵盖范围： 既包括像IBM Watson这样成熟的商业AI系统，也包括政府部门为了特定需要而临时开发的预测模型。

引入AI的动机：解决人类行政决策的现状缺陷

传统的行政决策中普遍存在一些难以克服的“人类缺陷”，而人工智能裁量权（AD）为解决这些问题提供了契机。这些缺陷包括：

1.预测不准确：在诸如儿童寄养安置、小微企业贷款发放等后果严重的裁量任务中，人类判断往往不够准确。

2.决策质量不一致：不同的管理者之间存在差异；同一个管理者也会因为“决策疲劳”或“情绪冲击”而导致标准不一（例如，脚注中提到一项实证研究：法官母校的橄榄球队输球后，法官在接下来一周的判决会更严厉）。

3.偏见与歧视：例如在警务执法中存在针对特定群体的不一致的处罚率。

4.腐败：裁量权被用来谋取私利或政治影响力（如将政府合同授予政治盟友）。

5.高昂的劳动力成本：许多需要一定裁量权的半常规官僚任务耗费了大量人力成本。

AI的承诺与挑战：

1.AI有望变得更准确、更一致、不易腐败且更具成本效益。

2.挑战在于权衡（Trade-offs）：如果一个AI系统成本只有原来的一半，但准确率下降了10%，它还值得用吗？如果整体准确率提高了，但对某个特定少数族裔的误判率极高，该怎么办？

AI在政府中的三种主要技术用途

1.将非结构化输入转化为结构化数据：处理图像、传感器数据或文本。例如，使用AI阅读政策文本并建立分类法；或使用面部识别软件监控实时视频以识别逃犯。

2.利用大型多维数据集发现模式和进行预测：例如，通过分析执法数据，AI能比传统方法更准确地预测哪些警察未来可能过度使用武力。

3.通过自动化消除行政任务中的人类环节：将数据生成、分析和行动转化为一体。例如，电子邮件系统中的恶意邮件过滤，AI在邮件进入收件箱前就自动做出了隔离的裁量决定。

核心匹配框架：基于“裁量权程度”的AI应用

AI的适用性取决于任务环境的复杂性，即完成该任务所需的“裁量权程度”。

1.低度裁量任务（Low Discretion） -> 最佳应用：自动化

（1）特征：任务枯燥、重复性高。

（2）AI的作用：完全替代人类。可以节省成本，并消除人类因无聊而导致的低质量输出和标准不一。

2.中度裁量任务（Medium Discretion） -> 最佳应用：决策支持工具与预测分析

（1）特征：任务结构化程度较低，数据相对稀缺，结果较难定义。

（2）AI的作用：增强（而非替代）人类裁量权。AI通过扩大信息范围、提高信息质量、预测可能的结果，来辅助人类官员做出更好的决定。

3.高度裁量任务（High Discretion） -> 最佳应用：生成新数据、降低数据复杂性、发现潜在关系

（1）特征：数据质量差、成功因素极度不确定、系统高度复杂且混乱（如极端天气预测）。

（2）AI的作用：在这种情况下，直接用AI做预测是不合适的（因为问题定义不清或数据不足）。AI的价值在于处理海量颗粒数据，从中发现人类无法察觉的隐藏变量和关系，帮助人类理解复杂的环境。

公共部门的决策往往不是纯粹的技术问题，而是政治问题。

有些AI应用是毫无争议的公共物品（例如，用AI优化救护车路线，缩短时间，所有人受益）。但是，大多数公共部门的解决方案都涉及利益权衡（trade-offs），会产生赢家和输家。一个使“效率最大化”的所谓“最优”AI算法，可能会将不公平的负担强加给某个特定社区或少数群体。

因此，官僚裁量权的一个常见用途就是在成本、效率、公平和正义之间寻找平衡。如果在使用“人工智能裁量权”时，不结合具体的实施语境进行仔细考量，必然会导致政策实施的失败以及意想不到的负面后果。

任务分析矩阵：裁量权程度 × 分析层次

为了让框架更具现实指导意义，作者引入了另一个维度：分析层次（微观、中观、宏观）。任务涉及的行动者越多，裁量权就越受限且相互依赖。作者构建了一个矩阵并给出了具体案例：

1.微观层面（个人）：

（1）低裁量：数据录入、发放常规许可证。

（2）中裁量：决定儿童是否进入寄养家庭、罪犯量刑与假释。

（3）高裁量：紧急事件的现场响应。

2.中观层面（组织）：

（1）低裁量：设施运营（如决定何时使用能源）。

（2）中裁量：招聘流程、部门绩效管理。

（3）高裁量：组织议程设置、战略规划。

3.宏观层面（制度与政策）：

（1）低裁量：执行明确的法定报告义务（如劳工局发布经济数据）。

（2）中裁量：为已充分理解的社会问题制定政策。

（3）高裁量：危机响应与管理（如9/11事件后设立国土安全部、出台爱国者法案）。

AI裁量权 vs. 人类裁量权的三大任务维度

在任务执行层面，AD相较于人类主要在三个维度上产生差异：

1.任务可扩展性（Task Scalability）：单位时间内可执行的任务数量，AD具有压倒性优势。AI处理高维“大数据”的速度远超人类认知。即使在某些情况下AD的平均准确率略低于人类，但由于其处理海量数据的速度极快（例如在灾害响应中快速对海量社交媒体帖子和卫星图像进行分类），其整体表现依然优于人类。

2.任务成本（Task Cost）：AD的成本结构是“高固定成本，极低边际成本”。虽然初期开发算法、搭建硬件和收集训练数据的成本很高，但一旦建成，处理新任务的边际成本几乎为零。在财政紧缩的背景下，这种成本优势对政府极具吸引力，但也存在为了省钱而忽视服务质量的风险。

3.任务质量（Task Quality）：一系列任务的成功或失败率。在模式识别（如识别支票签名、医疗影像诊断）方面，AD已超越人类。但在复杂的物理环境导航或理解事物“意义”方面，人类依然占优。此外，虽然理论上AD可以消除人类的主观偏见，但实际上，由于训练数据中往往内嵌了人类历史上的偏见，AD可能会复制甚至放大这些偏见（例如面部识别系统对深色皮肤的识别率极低）。

核心评估框架：萨拉蒙的五个治理工具标准

在明确了上述任务层面的差异后，作者将AD置于萨拉蒙的五个标准下进行系统评估：

1. 有效性（Effectiveness）

（1）定义：相对预期目标取得成功的程度。

（2）评估发现：AD的有效性高度依赖于任务所需的“裁量权程度”。

低度裁量任务：AD（完全自动化）通常比人类更有效。但如果规则极其明确（“如果A，则B”），传统的专家系统可能就足够了，未必需要机器学习。

中度裁量任务：人类通常是更有效的决策者。此时AD最有效的角色是作为“决策支持工具”（放大人类智能），而不是替代人类。

高度裁量任务：AD的有效性体现在它能够将海量、复杂的非结构化数据降维，转化为人类决策者可以理解的模式和结构。

（3）挑战：很难设定一个明确的“质量阈值”来决定何时应该用AI完全替代人类，这需要政府组织进行大量的实验。

2. 效率（Efficiency）

（1）定义：产出/结果与投入成本之间的比率。

（2）评估发现：由于AD极高的可扩展性和极低的边际成本，它在效率方面通常占据绝对优势。

（3）潜在风险：追求效率可能带来负面后果。在财政压力下，政府可能会被“胁迫”采用高效的AI系统，从而对边缘群体造成惩罚性后果。此外，管理者可能会为了迎合AI的特性，用“容易测量的产出指标”来替代“真正的政策结果目标”，从而牺牲了有效性。

3. 公平性（Equity）

（1）定义：是否对所有公众一视同仁，以及是否有利于弱势群体的资源再分配。

（2）评估发现：传统的人类裁量权本身就存在严重的偏见（如司法和执法中的种族歧视）。然而，大量证据表明，数据驱动的AI系统往往会加剧不平等。

（3）“算法歧视”的根源： 所谓的“种族主义AI”或“性别歧视AI”，其根源在于开发者自身的偏见，以及历史人类决策的不平等被深深嵌入到了训练数据中。

（4）阶层差异： 学者O'Neil指出一个令人不安的趋势：“富人享受人类裁量权，而穷人被施加人工智能裁量权。”

（5）心理距离： AD具有“双重用途”特性，且会增加管理者与被管理者之间的“心理距离”和匿名性。这使得心怀恶意的行政人员更容易利用AI来压迫特定群体，而不会产生直接的道德负罪感。

4. 可管理性（Manageability）

（1）定义：运行该程序的难易程度（系统越复杂、涉及主体越多，越难管理）。

（2）评估发现：AD在解决旧管理问题的同时，引入了全新的、更棘手的管理挑战。

解决的旧问题：自动化消除了人类官僚的动机问题、消极怠工和对政策变革的抵制，增加了民选官员对行政过程的控制力。

引入的新挑战：系统过度复杂、产权与保密、“黑箱”问题（Black Box）、安全脆弱性

5. 合法性与政治可行性（Legitimacy and Political Feasibility）

（1）定义：公众是否认为该工具是正当的，以及是否存在足够的政治意愿来实施它。

（2）评估发现：这是最不稳定、最难概括的标准。

政治可行性：用AI自动化低裁量权任务（如替代受工会保护的公务员）几乎肯定会引发强烈的政治冲突和劳资对抗。除非发生重大的经济危机，迫使政客必须通过裁员来削减成本。

合法性与“算法厌恶”（Algorithm Aversion）：心理学研究表明，即使有明确证据显示算法比人类表现更好，公众依然更倾向于接受人类的判断，而对机器的错误容忍度极低。

（3）如何提升接受度：为了提高AD的合法性，系统设计必须体现人类的价值观，并且必须提供某种反馈机制，允许人类在一定程度上修改AI的输出结果。

（4）未来趋势：随着AI在私营部门的普及，基于对“私营部门效率”的意识形态迷信，公共部门可能会出现对AI的“模仿性采纳”，从而逐渐克服初期的政治阻力。