ARTICLE · 1078844
AI 原生组织系列(5)- 人类 + AI设计值得信赖的协作
AI 原生组织｜第 5 篇（全系列共 8 篇）
Human + AI: Designing Trusted Collaboration
如果仅仅让人留在决策流程中，已经不够了呢？
随着 AI 越来越有能力作出决策、采取行动，我们如何确保人的判断仍然具有真正的意义？
从形式上看，人可能仍然处于决策路径之中。
但如果 AI 已经筛选了证据、界定了问题、缩小了备选方案的范围，并影响了建议的形成，那么，留给人的独立决策空间究竟还有多少？
有人参与，不等于人能自主判断和行动。
因此，要建立值得信赖的人类与 AI 协作，不能只划分哪些任务交给人、哪些交给 AI。
还需要明确：在什么条件下，人和 AI 各自可以参与、提出建议、作出决策、提出质疑、发起升级处理，或采取行动。
这意味着，我们需要同时设计两件事：
机器自主性的边界
AI 可以决定什么？依据什么授权？什么时候必须停止？
让人的判断具有实质意义的条件
人必须能够持续获取哪些背景信息、证据、备选方案和不确定性信息，并保有哪些权限？
还有一个更长远的问题：
如果 AI 越来越多地接手那些原本帮助人积累经验、锻炼判断力的决策，我们是否在提升今天的生产力的同时，也为明天积累了判断力债务（Judgment Debt）？
这也意味着，人的能力本身，必须成为架构设计的一部分。
人在回路Human in the Loop
↓
人类监督Human Oversight
↓
有实质意义的人类判断Meaningful Human Judgment
↓
值得信赖的人类与 AI 协作Trusted Human + AI Collaboration
也许，要建立值得信赖的协作，首先该问的并非“我们能自动化多少工作”，而是：
我们必须作出怎样的设计，才能让机器的自主性不断增强，同时不让人的判断沦为空壳？
在你的组织中，哪些监督环节体现了人的真实判断？又有哪些环节，可能已经在逐渐变成流程上的确认？
本篇｜第 5 篇（全系列共 8 篇）
AI 原生组织系列(1)-从 AI 运营模型（AI Operating Model）到决策架构（Decision Architecture）