ARTICLE · 1323520
AI会幻灭吗?
AI会幻灭吗?我越来越怀疑，今天人工智能行业的乐观预期，是否建立在一个尚未得到充分验证的假设之上：只要模型足够大、训练数据足够多、推理计算足够充分，真正可靠的智能就会自然出现。 如今，全球科技公司正在投入巨额资金建设数据中心、购买芯片、训练模型。资本市场期待AI带来一场新的工业革命，企业希望它逐渐替代人类的脑力劳动。但我认为，在讨论AI究竟能取代多少工作之前，我们应该先区分三个经常被混为一谈的概念：准确性（Accuracy）、理性（Rationality）与一致性（Consistency）。 准确性（Accuracy）关注的是结果是否正确。例如，AI能否预测真实价格，能否解出一道数学题，或者能否生成正确的程序。理性（Rationality）关注的则是决策是否遵循某种合理的选择原则。在经济学中，这通常意味着一个主体能够在给定偏好和约束条件下最大化效用。一致性（Consistency）关注的是决策之间能否保持稳定、相互兼容。例如，同样的经济条件仅仅改变语言表达方式，AI是否仍然作出相同或符合稳定概率规律的选择？当多个AI共同参与一个经济系统时，它们的行为是否能够满足共同的资源约束？ 这三个概念存在根本区别。一个AI可以准确预测某个结果，却不一定遵循理性的决策规则；一个经济主体可以完全理性，却因为信息不足而作出不准确的预测；一个模型也可以始终保持一致，却始终作出错误选择。更重要的是，即使每个AI Agent单独作出的决策都符合某种理性原则，也不意味着这些决策放在一起，就一定能够形成一个协调一致的经济系统。 近年来，一些经济学研究开始认真检验这些问题。2023年发表于PNAS的 《The Emergence of Economic Rationality of GPT》，利用显示性偏好理论研究GPT的选择行为，发现模型在部分实验中表现出较高程度的经济理性。这说明语言模型的能力可能已经超越简单的语言模仿。但与此同时，研究也显示，语言框架可能影响模型的选择。换句话说，一个模型在某种问题表达方式下表现得非常理性，并不意味着它在不同情境下都能保持同样的决策规律。 另一篇论文 《What Do LLMs Want?》 则进一步使用结构经济模型研究LLM的选择行为。作者不仅考察金钱分配，还让模型面对动态求职决策：接受当前工资，还是拒绝并等待未来可能出现的更好机会？在经典经济学模型中，这类问题可以通过效用最大化推导出最优决策规则。作者甚至允许模型存在随机决策错误，因为人类的选择本身也具有随机性。 但研究发现，部分LLM的行为仍然无法被作者指定的结构模型合理解释，即使允许一定程度的随机性也是如此。这一点很重要。因为我们不能把所有不符合经济理论的行为都归结为随机噪声。随机效用模型本身也有需要满足的条件。如果模型的选择系统性地违反这些条件，那么问题可能不只是随机性，而是它的决策机制无法被所假设的经济模型解释。当然，这并不证明LLM完全没有理性，只能说明它未能通过特定模型下的结构合理性检验。 这也让我重新思考今天所谓的“推理模型”。它们能够生成越来越复杂的推理过程，在数学、编程和部分科学任务中取得显著进步。但推理表现的提高，不等于理性已经得到证明，更不等于系统一致性已经得到保证。 一个模型可以准确解释预算约束，却在实际选择中违反预算约束；可以详细说明市场如何达到均衡，却未必能够让多个由它控制的经济主体真正形成市场均衡。 从技术上看，今天的主流大型语言模型（比如ChatGPT）仍然建立在统计学习和概率生成机制之上。但统计性并不天然排斥理性，经济学中的随机效用模型本身就是一个例子。因此，不能简单地因为模型依赖概率预测，就断言它没有推理能力。真正值得质疑的是：为什么我们如此容易从“模型能够生成正确的推理过程”，推导出“模型已经具备稳定、可靠、可泛化的理性决策能力”？ Transformer架构最初提出主要用于机器翻译。此后，它通过大规模训练展现出惊人的语言处理和泛化能力，逐渐成为整个生成式AI产业的技术基础。但Transformer最初并不是为了保证效用最大化、长期决策一致性或者一般均衡收敛而设计的。当然，一项技术的最初用途并不能决定其最终能力边界。然而，如果我们希望AI从语言助手进一步发展为能够独立行动、长期规划、协调资源的经济主体，那么这些能力是否能够仅靠扩大模型规模获得，就需要更加严格的验证。 我也一直在思考，为什么像Anthropic这样的前沿AI公司如此重视哲学、伦理学和价值对齐研究。关于它近期是否增加了哲学博士招聘，还需要具体数据确认。但这至少反映出一个值得讨论的问题：当AI开始从生成语言转向自主决策时，关于偏好、价值、理性和判断的哲学问题，正在变成实际的技术问题。我们可以通过训练让模型解释什么是正确的决策，但如何保证它在复杂环境中始终遵循相应原则，是完全不同的挑战。 或许未来的AI需要的不只是更大的语言模型，而是一套能够将语言理解、世界模型、目标函数、规划算法和约束验证结合起来的系统架构。语言模型可以负责理解问题和提出方案，但方案是否可行、是否满足资源约束、是否符合最优性条件，以及不同主体的决策能否相互协调，可能需要更加明确的机制来保证。 这也是为什么我对当前的AI投资热潮保持怀疑。我们正在为一种仍然存在重大科学不确定性的技术路线投入巨额资本，并期待它带来前所未有的生产力革命。AI已经在翻译、编程、知识处理和科研辅助等领域创造了真实价值，但这些成功并不能自动证明它能够胜任所有复杂决策任务。技术上的成功与资本市场预期的成功，也并不是一回事。 我并不认为现有研究已经证明Transformer架构必然失败，也不认为必须彻底放弃它才能发展出更强的智能。但如果未来的技术进步仍然主要依赖增加参数、扩大训练规模和延长推理计算，而没有在决策机制、约束满足与系统协调方面取得相应突破，那么今天人们对通用人工智能的许多期待，可能迟早需要重新评估。 真正值得警惕的，不是AI还不够准确，而是我们可能把准确性误认为理性，又把个体理性误认为系统一致性。 一个越来越擅长回答问题的系统，不一定是一个能够可靠作出决策的系统。一个能够模拟经济主体的模型，也不一定能够形成真正协调的经济系统。如果我们无法清楚地区分这些能力，就可能在尚未充分理解技术边界的时候，提前将整个产业的未来押注在它身上。 语言生成的成功，并不等于通用理性的实现。 如果未来出现幻灭，我认为幻灭的未必是人工智能本身，而可能是人们对现有技术架构那些过于确定的期待。
