【AI与人类未来 18】AI能做选择，但不能承担道德责任

「AI与人类未来」系列 · 第18篇道德责任需要承受负担——AI无法承受。只有人类能承担道德责任。

开篇：思想实验

来，做个思想实验。

假设一家医院用AI系统分配ICU床位。AI预测：

• • 病人A有80%的存活率
• • 病人B有40%的存活率

按算法，AI把床位给了病人A。

结果是：病人A活下来了，病人B死了。

现在问题来了：谁对这个结果负责？

• • AI？它只是按算法运行。
• • 程序员？他们写了代码，但不知道这个具体案例。
• • 医院？他们用了AI，但没有做具体决定。
• • 社会？我们选择了使用AI。

这个问题没有清晰答案。而这，正是问题的核心。

道德责任是什么？

“道德责任”不只是”谁写的代码”或”谁按的按钮”。

它包括：

一、决策的自主性

道德责任前提是”我可以选择”。

如果被人用枪逼着做某事，我不负道德责任——因为我没得选。

如果AI”选择”了某件事，它真的”选择”了吗？还是只是在执行算法？

二、理解后果

道德责任需要理解行为的后果。

AI能”预测”后果（数学上），但它能”理解”后果吗？

• • 它知道死亡意味着什么吗？
• • 它能想象失去亲人的痛苦吗？
• • 它能感受道德重量吗？

三、承担负担

道德责任最终是关于”承受负担”的。

• • 内疚
• • 羞耻
• • 后悔
• • 法律惩罚
• • 社会谴责

AI能承受这些吗？

AI不能承担道德责任的三个原因

原因一：AI没有自主性

AI的选择不是真正的”选择”，而是计算。

• • 给定输入A，AI必然输出B
• • 如果重新运行，结果会一样
• • AI没有”想要”，也没有”意愿”

真正的道德选择需要：

• • 我本可以选X，但我选了Y
• • 我理解我在做什么
• • 我愿意为此负责

AI没有”本可以”。

原因二：AI没有道德感受

道德责任需要”道德感受”：

• • 内疚：”我做错了”
• • 羞耻：”我不应该这么做”
• • 后悔：”我希望我没这么做”
• • 同理：”我理解我造成的痛苦”

AI可以有”错误信号”，但它能”感受”内疚吗？

当AI”决定”让病人B死的时候，它会：

• • 晚上睡不着吗？
• • 质疑自己的决定吗？
• • 感到道德重量吗？

答案显而易见。

原因三：AI无法”承受”惩罚

道德责任最终需要”承受”后果。

• • 法律惩罚：你不能把代码关进监狱
• • 社会谴责：AI不在乎舆论
• • 内心折磨：AI没有内心

惩罚AI，就像惩罚一块石头——毫无意义。

这意味着什么？

意味着一：AI不能做道德决策

如果AI不能承担道德责任，那它就不能做道德决策。

为什么？因为道德决策的权重在于责任。

当我们做道德决策时，我们在说：

• • 我愿意为这个选择负责
• • 我理解这个选择的后果
• • 我承受这个选择的道德重量

如果AI不能承担这些，那它做的就不是”道德决策”，而是”计算”。

意味着二：人类必须保留最终决定权

正因为AI不能承担道德责任，所以：

• • 重大决策必须由人类做出
• • 人类必须为结果负责
• • AI只能提供建议，不能做决定

这在以下领域尤其重要：

• • 医疗决策
• • 司法判决
• • 军事行动
• • 生命安全

意味着三：我们需要新的责任框架

当AI越来越强大，我们需要重新思考：

• • 谁为AI的选择负责？
• • 如何分配责任？
• • 如何防止责任逃避？

实际案例

案例一：自动驾驶

自动驾驶汽车面临不可避免的事故，应该：

• • 保护乘客还是行人？
• • 保护年轻人还是老人？
• • 保护多数还是少数？

AI不能做这个选择。

为什么？因为这个选择是道德选择，需要承担道德责任。

程序员必须预设规则。但这些规则，本质上是程序员自己的道德判断——由他们承担道德责任。

案例二：算法招聘

AI招聘系统可能学会歧视某些群体。

谁负责？

• • AI？它只是识别了数据中的模式。
• • 程序员？他们没有故意写歧视代码。
• • 公司？他们使用了AI。

答案是：使用AI的人类必须负责。

案例三：医疗AI

AI建议不给病人治疗，因为存活率太低。

如果病人本可以活下来，谁负责？

• • AI？它只是基于概率。
• • 医生？他们听了AI的建议。

答案是：医生必须负责。

医生不能说”AI是这么说的”。因为最终的决策权在医生，责任也在医生。

正确的态度

态度一：承认AI的局限

AI可以：

• • 分析数据
• • 预测结果
• • 提供建议

AI不能：

• • 做道德判断
• • 承担道德责任
• • 感受道德重量

承认这个局限，是正确使用AI的前提。

态度二：明确责任归属

在使用AI之前，必须明确：

• • 谁做最终决定？
• • 谁承担后果？
• • 谁可以被问责？

没有清晰的答案，就不应该使用AI做重大决策。

态度三：保留人类的判断

无论AI说什么，人类必须保留：

• • 否决权
• • 最终决定权
• • 道德判断权

给开发者的建议

如果你在开发AI系统：

建议一：明确你的道德立场

你的系统会体现某种价值观。

• • 你希望它优先考虑什么？
• • 你如何权衡不同的价值？
• • 你愿意为这些选择负责吗？

建议二：让系统可解释

如果AI做了选择，人类需要理解：

• • 为什么做出这个选择？
• • 考虑了哪些因素？
• • 可以如何调整？

建议三：保留人类干预

永远保留人类可以：

• • 覆盖AI的决定
• • 修改AI的建议
• • 关闭AI系统

给用户的建议

如果你在使用AI系统：

建议一：不要盲从

AI的建议只是建议。

• • 质疑它
• • 验证它
• • 用你自己的判断

建议二：承担责任

如果你听从了AI的建议，你要负责。

• • 不要说”AI让我这么做的”
• • 你有最终决定权，你就有最终责任

建议三：理解边界

知道AI擅长什么，不擅长什么。

• • 在合适的领域使用AI
• • 在不合适的领域保留人类判断

最后

AI能做选择，但不能承担道德责任。

这不是对AI的批评——它本来就不是为此设计的。

这是对人类的提醒：

道德责任是人类独有的负担。也是人类独有的尊严。

当AI可以做越来越多事情时，我们比任何时候都更需要记住：

• • 我们可以委托计算
• • 但不能委托责任
• • 我们可以寻求建议
• • 但必须自己判断
• • 我们可以使用工具
• • 但必须自己决定

这不会改变。

因为如果我们放弃了道德责任，我们就放弃了一样让我们成为人类的东西。

在AI时代，这个真理比任何时候都更重要。

AI可以成为我们的助手。但道德责任的重量，永远由我们承受。

这既是负担，也是特权。既是责任，也是尊严。

让我们守住这条线。