AI的核心缺陷,才是人类的核心资产

最近，Meta开发的AI Agent Muse又制造了一轮热点。

Muse不仅在很短的时间内，以压倒性下载量登顶苹果的应用市场，还引发了华尔街对"AI颠覆金融服务业"的担忧，致使美国的银行与券商股受到重挫。

分析都在说，类似的AI Agent可以帮助用户完成自动比价、切换服务和管理账单。当AI替代用户承担了主动决策的成本，用户也就不会再倾向于维持现有的消费习惯，这就摧毁了依赖"消费者惯性"的商业模式。包括传统金融服务、电信、保险、甚至公用事业等在内的行业，都会经受新一轮的冲击。

自大语言模型问世以来，各种版本的"AI威胁论"一直甚嚣尘上，大部分行业几乎都被AI"捶爆"过一遍。现在，随着各类AI Agent的密集发布，市场也开始变得越来越紧张。AI不仅威胁着网络安全、威胁着替代人类的工作、也威胁着颠覆人类的行业。

但我一直都认为，AI永远无法彻底替代人类，也不可能完全颠覆传统行业。因为相比人类，AI有一个巨大的缺陷：它不是人类，无法像人类那样"背锅"。

背锅，是只属于人类的能力，只要人类社会的组织形式存在一日，责任归属的问题就存在一日，而AI永远无法替代人去担责。

想象你是一个开发团队的负责人，你们团队利用AI做软件工程，花了三天的时间，烧掉价值上万美元的token，产出了上万行的代码。但在工程验收时，你突然发现，AI在最开始理解需求时就偏了，整个工程要推倒重来。

从AI的技术角度看，这是一次"概率性失误"。大模型的本质是基于概率的预测，即使它的参数已经足够多，依然不能保证每次的预测结果都符合使用者的预期。

你可以做最精确的提示词工程、最细致的流程优化，把出错的概率降到最低，但这依然解决不了底层的矛盾。

从你作为负责人的角度看，AI出错后，你面临的是一次责任真空。你甚至找不到任何一个人，能为这一万行垃圾代码负责。消耗大量token带来的账单还不是最严重的问题，浪费掉的时间、错过的交付节点、团队士气的损耗，这些才是更加昂贵的后果，但整个团队甚至找不到可以为结果负责的承担者。

很多时候，我自己在使用AI也会遇到相似的问题。从GPT-4o到GPT-6 Astra，大模型一代比一代宣传得更"智能"，token也卖的一代比一代贵，但每次使用这些模型帮我处理手上的项目，我依然提心吊胆。

大模型越是迭代升级，它出错的成本也就越高。这是因为越大的模型越昂贵，而且完成同样任务消耗的时间越多。更无力的是，一旦它出错，没有任何人可以替我——终端用户——承担这个责任。大模型公司只管开发更多参数的模型，给token更高的标价，讲出更动听的故事。但当他们交付出的模型出错时，他们就集体不在场了，只有终端用户自己，为大模型的错误买单。

最无奈的是，也没有人认为大模型公司应该为模型输出的错误买单，毕竟那是AI的错误，而AI的本质，只是一堆参数和无数行代码。

AI运行的底层逻辑是概率优化，而人类社会运行的底层逻辑是责任归属。

AI被应用得越深入，这个矛盾就越尖锐。当AI只是帮你写个文案、生成张图片时，一次出错的成本可以忽略不计。但当AI要做医疗诊断、法律建议、自动驾驶决策时，出错的成本从"浪费几分钟的时间"变成了"人命关天"。这时候，必须找到一个具体的人来为结果负责。

这就创造了一个结构性缺口：在AI的产出和社会的接受之间，要有一个"责任层"。

现在的AI Agent和各类AI应用，本质上是大模型的包装层，它们的利润来源于从用户端收取的工具打包费用。打包费的逻辑，是"我提供了打包好的功能，用得好不好是用户自己的事"。

在这种模式下，应用层和大模型一样，不会为生成的结果负责任。但这也意味着，AI应用距离跑完"最后一公里"，还有很多功课要做。

如果AI应用还只停留在大模型基础上的工具调用，它会永远受制于大模型的发展。AI应用的未来，不是打包出更好用的工具，而是成为能为大模型生成结果提供担保的保险人。

最近，我刷到了一则看似荒谬，实则直戳本质的推文：有律师事务所正在为一级市场业务招募"IPO签字律师"，而且不要求应聘者有"IPO经验"。这背后的意图已经十分明显，事务所实际招募的，不是精通业务的专业人士，而是可以押上自己前途的"背锅侠"。

这种新闻看似离谱，但它揭示了人类社会的底层真相：很多机制的正常运转，依赖的并非是"结果正义"，甚至也不是"程序正义"，而只是"有个人可以被追责"这个真正的前提。

法律审判需要被告、道德谴责需要对象、社会信任需要可信的载体。这些机制的共同点是：它们都要求责任可以归属到具体的、有限的生命体上。

AI所不具有的，恰恰是这种宝贵的有限性。大模型可以被关闭、被重置、被重新训练，它永远无法"承担后果"。你不能判一个算法坐牢，不能让一个模型受惩罚，也不可能让AI因为内疚而辞职。AI没有可以被社会机制惩罚的"自我"，所以它无法嵌入到任何依赖责任归属的社会结构中。

我一直认为，即使自动驾驶在技术上超越人类司机，也很难真正普及。真正的难题并不是技术问题，而是当自动驾驶技术造成事故时，应该由谁来承担道德和法律后果？

汽车公司会把责任推卸给算法，算法则显得更加冤枉，至于人类司机应该在事故中承担的责任，就更加难以界定。最后，全社会会发现，没有一个具体的、可以被审判的"人"来为损失负责。

追责机制本身，就是社会信任的基石。只要这个基石还在，AI就永远有无法弥补的缺陷。

AI时代，医生不会被替代，不是因为AI诊断的准确率不够高，而是因为需要有人承担医疗事故的法律责任；律师不会被替代，是因为法律意见错了需要有人被吊销执照；项目经理不会被替代，是因为项目延期了需要有人被老板追责。

这些工作，都位于责任链的末端。

链的末端站着的必须是人，因为社会只接受人作为责任的终点。