AI时代的人机协同悖论:为什么机器做得越多,人反而可能越累?

这段时间开车，我越来越多地使用智能驾驶。一个很直观的感受是：打开智驾以后，我的角色变了。

以前自己开车，我是驾驶员；现在很多时候，我更像一个驾校教练。

车在自己开，我的手虽然还放在方向盘附近，但并没有真正控制它。我只是看着它转弯、变道、跟车、刹车，随时准备在它犯错的时候接管方向盘或者踩下刹车。

这种感觉有点像小时候骑自行车时把两只手从车把上放开。车还在往前走，人也没有离开，但是控制权已经暂时交出去了。不同之处在于，骑自行车时我知道车最终还是完全受我控制，而今天使用智驾时，我面对的是一个会自己判断、自己行动，却又并不完全可靠的系统。

这就产生了一个很有意思的问题：

机器本来是来减轻人的负担的，为什么有些时候反而让人更累？

我觉得，这可能是理解今天很多AI应用的一个重要切口。

---

自己开车，有时候反而没有那么累

乍一看，自己开车当然比让机器开车更累。

但人的大脑不是这样工作的。

一个刚刚学习驾驶的人，确实非常累。什么时候踩刹车，方向盘打多少，后视镜什么时候看，车距怎么判断，都需要不断思考。

但开车熟练以后，大量动作会逐渐自动化。

看到前面的车减速，脚自然会松开油门；看到旁边有车接近，会自然调整方向；进入一个熟悉的弯道，也不会每一次都重新计算应该打多少方向。

这时候，很多驾驶行为已经进入了所谓的“系统1”。

如果借用卡尼曼的说法，系统1快速、自动、直觉化；系统2则更加缓慢，需要注意、判断和有意识思考。

所以一个熟练驾驶者看起来做了很多事情，实际上大量操作并不需要系统2持续介入。

这也是为什么有时候长途驾驶虽然身体疲劳，但人在熟悉路况下并不需要每一秒钟都高度紧张。

而使用今天的智驾，情况反而可能倒过来。

车虽然替你完成了大量具体操作，但因为你不知道它什么时候会犯错，所以你必须不断盯着它。

它现在为什么变道？

它有没有看到右边的电动车？

前面的车突然刹车，它能不能处理？

这个路口它会不会选错车道？

它是不是准备继续往前开？

表面上，人的操作减少了，实际上注意力却可能被重新调动起来。

自己开车时，大量任务交给系统1；智驾开车时，人却可能需要调用系统2去监督机器。

所以，真正决定人是否轻松的，并不只是“做了多少事情”，而是“需要多少有意识的注意”。

---

机器替代了执行，却没有替代责任

这里其实存在一个非常关键的变化。

过去是人执行，人负责。现在逐渐变成机器执行，人负责。

只要最终责任仍然在人身上，人就很难真正退出。

所以今天很多所谓“自动化”，实际上只是把人的角色从“执行者”变成了“监管者”。

开车如此，AI写作也是如此。

过去写一篇文章，是人自己想、自己写、自己修改。

现在可以把任务交给AI。AI可能几分钟就写出几千字，看起来大大提高了效率。

但问题马上来了：写得对不对？案例是不是真的？数字有没有错误？逻辑有没有漏洞？有没有把我的意思理解偏？哪些话可以直接用，哪些必须重最后，人还是要把整篇文章重新看一遍。

所以AI替代的是“写”，却没有完全替代“判断”。

操作减少了，监管增加了。

这也是为什么很多人在使用AI以后会产生一种很奇怪的体验：

明明机器替我干了很多活，我却没有想象中那么轻松。

原因就在这里。

人减少的是执行负担，增加的却是监督、检查和判断负担。

---

真正的问题，是机器越来越快，人却没有变快

如果只是多了一点监管，其实问题还不算严重。

真正重要的变化是，AI的生产速度正在快速超过人的监督速度。

一个人一天认真写几千字已经不少。AI却可以几分钟写几千字，而且几乎可以无限生成。同样的事情也发生在代码、图片、视频、数据分析、方案设计等领域。

机器的生成能力正在迅速扩大。但人的阅读速度没有发生数量级变化。人的理解能力没有突然提升几十倍。人的判断时间也没有缩短几十倍。

于是出现了一个非常清楚的不对称：

机器生成得越来越快，人验证得仍然很慢。

过去的主要问题是“生产不出来”。未来越来越可能变成“生产得太多，看不过来”。这意味着，AI时代一个非常重要的瓶颈正在发生转移。

过去稀缺的是内容生产能力。未来越来越稀缺的，可能是判断能力。机器可以迅速给出一百个答案，但人未必有时间逐一判断哪一个是真的、哪一个是好的、哪一个值得采用。

所以，AI越强，“谁来判断AI”这个新问题反而会越来越突出。

---

从完全核验到“只能相信”

这里还会产生一个更加微妙的变化。

我们通常认为，人相信机器，是因为机器越来越可靠。

但未来很可能还有另外一种情况：不是因为机器已经完全值得相信，而是因为人已经来不及不相信。

如果AI一天替你写一篇文章，你可以逐句检查。如果AI一天替一个组织生成几百篇报告、几千封邮件、几万条分析，人已经不可能逐项核对。

于是，人最终只能接受一种新的工作方式，即默认接受大部分结果，抽查一部分结果，再重点审核高风险结果。只有发现异常时再进行人工介入。

这时候，“信任”就发生了变化。

一种信任是主动的，即我了解它，我验证过它，所以我相信它。另一种信任则是被动的，即我没有足够时间和能力全部验证，所以只能先相信它。

这两种信任非常不同。

前者来自可靠性的确认，后者来自监督能力的不足。

今天我们可能还没有充分意识到这一点。

随着AI生产能力越来越强，人类很可能越来越多地进入第二种状态。

---

系统0越强，系统2反而越重要

如果放到我一直在讨论的“系统0—系统1—系统2”框架里，这个变化会更加清楚。

系统1，是人经过长期训练以后形成的自动化能力。

系统2，是人的有意识思考、判断和控制。

而今天出现了一个越来越强的“系统0”——外部的机器智能。

过去，人主要依靠系统2训练系统1，然后让系统1帮助自己高效行动。

今天，越来越多任务可以直接交给系统0。

系统0帮我们写文章、做分析、开汽车、写代码、制作视频。

从表面上看，人应该越来越轻松。

但问题是，只要系统0还不够可靠，人的系统2就不能退出。

系统2必须不断监督系统0。

于是出现一种非常有意思的状态：

系统0越能干，人越少亲自执行；但在系统0还没有完全可靠之前，人的系统2反而要承担更多监管责任。

这也解释了为什么今天很多AI应用处在一种很别扭的阶段。机器已经聪明到足以让人少做很多事情，却还没有聪明到让人完全放心不管。

这可能正是当前人机协同最典型的状态。

---

真正成熟的AI，不只是“替你做”，而是“让你放心”

所以，评价AI真正的价值，不能只看它替代了多少工作，还要看另一件事情——它到底减少了多少人的操心。

一个系统如果帮我完成了90%的工作，却要求我用大量精力去检查这90%的工作，它当然依然有价值，但这种价值和“真正的自动化”还不是一回事。

真正成熟的智能系统，应该逐渐把人从持续监管中解放出来。

未来的人机协同可能不是机器做，人逐项检查，而会逐渐变成机器自己完成大部分工作，普通结果自动通过，高风险任务交给人，异常情况由人介入，最终再通过抽查和审计保证整体可靠。

也就是说，人从“时时盯着机器”，逐渐转向“只在真正需要的时候出现”。

这可能才是自动化真正成熟的标志。

所以，从智驾到AI写作，我越来越感觉到一个很简单的道理——自动化并不天然等于减负。

当机器只是替代执行，而责任仍然留在人身上时，人的负担可能只是从“做事情”变成了“盯事情”。

当机器的生产速度又远远超过人的监督速度时，问题还会进一步变成：

机器越来越能生产，人却越来越来不及判断。

最后，人类不得不把越来越多事情建立在信任之上。

所以AI时代真正值得关注的，也许不只是机器的生成能力，而是机器的可靠性，以及人类是否还有能力有效监督它。

过去，我们最关心的是机器能不能做？现在越来越需要问，机器做完以后，人还需不需要一直盯着？

再往后，真正关键的问题可能是：

当人已经不可能把所有事情都看一遍，我们凭什么相信机器？

这或许才是AI时代真正的人机协同问题。

归根到底，真正高级的智能，不只是“让我少做一点”，而是让我少操一点心。