AI替你做决定,出了错谁能按下暂停键?

国际观察 / 澳大利亚

人类控制，不该只是有人签字还要有人有权拒绝，有能力纠错

AI帮你写邮件，很方便。如果它替你决定能否获得一份工作、某项服务，甚至把你认定为高风险用户，你还愿意只听一句“系统就是这样判断的”吗？工具变成决策者，方便与失去选择之间，可能只有一步。

9月22日，澳大利亚总理阿尔巴尼斯在纽约公开表示，人工智能能够促进经济和科学进步，但应当由人类控制。澳大利亚广播公司当天报道，多国领导人联署呼吁建立安全约束。这是治理主张，不是已经生效的全球统一法律。

争论也不必被简化成支持科技还是害怕科技。真正值得问的是：当AI的建议影响了你的利益，谁有权叫停，谁负责解释，谁来承担错误的成本？一个按钮的背后，其实是一套权力安排。

阅读线索 · 三个问题

设想一家机构让AI初筛申请，再由工作人员点击确认。表面上每一步都有人参与，但如果审核者每天面对大量结果，没有时间查看原始材料，也不知道模型为什么给出这个结论，最后的签字可能只是替机器盖章。

这是本文用于解释风险的假设场景，并非指认某家机构正在这样做。它揭示的区别却很重要：形式上的人工参与，与实质上的判断能力并不是一回事。没有信息、时间和权限，人的存在也可能只是一层免责包装。

所以，要求保留人工审核还不够。审核者必须能够提出不同意见，不会因为推翻系统而被不合理惩罚；受影响的人也应当找到真正能处理问题的入口，而不是从一个自动回答跳到另一个自动回答。

另一边的担忧同样有道理。每个低风险工具都要经过漫长审批，成本可能转嫁给使用者，小团队也可能被挡在门外。原本能节省时间的翻译、检索和辅助创作，未必需要与高风险决策承担完全相同的手续。

这里不是替所有AI应用争取豁免。关键在于区分后果：一段文案写得不够好，通常容易重做；一个涉及重要权益的错误决定，可能让当事人错过机会。影响越难逆转，部署者就越需要提供充分的解释和救济。

我更支持按风险和使用场景设置要求，而不是给所有模型贴上一个统一标签。既不因为名字带着AI就额外恐惧，也不因为它比人工更快，就默认它有资格替所有人作决定。

分歧对照 · 本文分析

开发模型的企业、采购系统的机构、具体操作的员工，控制的环节并不相同。开发者了解技术边界，部署者决定用途，操作者面对具体的人。如果责任被拆散到每个人都只承担一点，受损者反而可能找不到负责到底的一方。

因此，我认为重要决定至少需要留下可检查的记录：当时用了什么信息，哪些环节由系统完成，谁可以重新审核。公开监督并不意味着把所有商业机密交出来，但商业机密也不应成为拒绝一切解释的万能理由。

消费者还需要合理的替代路径。在适合提供人工服务的关键场景里，拒绝自动决定，不应自动变成拒绝获得服务。否则所谓自由选择就会变成一道空题：你可以不同意，只是不同意就什么也办不了。

截至9月24日的核验，公开表态说明了方向，却不足以证明各国已经对执行机构、责任分担和处罚办法达成一致。企业会如何落实、不同制度怎样协调，也不能靠一份倡议提前宣布成功。

我的判断是，评价AI治理不该只数声明有多少签名，而要看三个普通人能感受到的结果：错误能不能改，损失能不能追，选择能不能保留。安全与创新不是天然敌人，模糊的责任才会同时损害信任和长期使用。

假如某项AI服务便宜又快捷，但拒绝提供有效的人工复核，你会接受这个交换吗？你希望AI替你省去哪些决定，又有哪些决定必须把最后一票留给自己？这比抽象争论机器会不会统治人更切近生活。