Nature子刊最新研究:AI会“举一反三”吗?从泛化能力看数字法治的新议题

 人工智能近年来取得的进展，包括生成式方法，使其能够在人类科学发现和决策过程中提供技术支持，但同时也可能对民主制度造成冲击，并对相关权益产生具体影响。在人机交互中，一个关键但常被忽略的方面是人类与机器在泛化方式上的差异。在认知科学中，人类的泛化通常涉及抽象能力与概念学习；相较之下，人工智能的泛化则包括机器学习中的域外泛化（out-of-domain generalization）、符号人工智能中的规则推理，以及神经符号人工智能中的抽象能力。本文结合人工智能和认知科学领域的研究成果，从泛化的概念、实现方法以及评估标准三个维度，识别其中的关键共性与差异性，对人工智能与认知科学中关于泛化的不同概念化方式进行比较分析，并探讨其在人机协作对齐中的作用。由此揭示出人工智能与认知科学领域亟待解决的跨学科挑战，以支持在人机协作场景中实现高效且具备认知支持的对齐机制。

 泛化是指将从具体实例、样本或经验中获得的知识、技能、规则或模型，迁移并应用到新的情境、对象或任务中的能力。

  文章将泛化拆解为三层含义：

  （1）作为过程的泛化，即从具体实例中形成概念、规则或图式，例如抽象、扩展、类比、迁移学习；

  （2）作为产物的泛化，即泛化后形成的结果，例如类别、概念、规则、模型、原型、概率分布等；

  （3）作为运算符的泛化，即将已有概念、规则或模型应用于新数据、新任务或新情境，并检验其是否有效。

 文章指出，人类与机器泛化的共通性可以从以下三个层面理解。

 第一，二者都在解决同一个核心问题：如何把有限经验迁移到新情境中。文章将泛化界定为“将知识或技能从具体实例或范例迁移到新情境的过程”。无论是人类学习，还是机器学习，本质上都不是停留在单个样本上，而是要从样本中提取某种可迁移的概念、规则、模式或结构，并将其用于新对象、新任务或新环境。

 第二，人类与机器在泛化方法上存在明显的互动关系。文章指出，人工智能与认知心理学都发展出了多种泛化方法，并且二者经常相互启发。这种共通性不仅体现在某一种技术路径上，而且贯穿于规则驱动、符号和知识驱动、案例和类比驱动、神经网络与统计方法等不同路径之中。具体来说，早期认知心理学关于人类概念学习的研究，启发了“决策树”等早期机器学习算法；人类关系概念学习的研究，又推动了结构表征学习、递归概念学习和归纳式编程的发展。这说明机器泛化并不是凭空产生的技术问题，而是在很大程度上借鉴了人类“如何形成概念、如何从少量样本中归纳规则”的认知机制。

 第三，在相似性和类比层面，人类与机器也具有对应关系。人类会依据原型、范例、相似性和情境来完成分类，例如同一个杯状物在“盛汤”的情境下可能被归为碗，在“插花”情境下可能被归为花瓶。机器学习中的k-近邻算法（k-nearest neighbors，k-NN）、案例推理、基于相似性的分类方法，也是在模拟这种“从相似案例迁移判断”的泛化方式。类比推理则进一步体现为从一个情境向另一个情境迁移知识，尤其强调结构相似性而非单纯的特征相似性。

 此外，神经网络路径也体现了人机泛化的共通性。文章指出，神经网络方法最初由认知科学家提出，目的是克服符号方法的脆弱性。这意味着机器泛化的发展同样受到了人类隐性学习、模式识别和联结机制的启发。只是，当前统计型机器学习虽然在大数据条件下表现突出，但在语义理解、因果解释、异常数据识别等方面仍与人类泛化存在差距。

 因此，所谓“人类与机器泛化的共通性”，不是说二者泛化能力完全相同，而是说二者都围绕“从有限经验到新情境迁移”这一共同问题展开，并在规则学习、概念抽象、相似性判断、类比推理、神经网络和统计学习等路径上形成了相互启发、相互映照的关系。人类认知为机器泛化提供了理论模型和方法灵感，机器学习则以算法形式重构、放大或检验了人类泛化机制中的部分环节。

 在揭示人类与机器泛化共通性的同时，文章更进一步指出，二者之间存在不可忽视的结构性差异。这种差异并不表现为一方具有泛化能力而另一方缺乏泛化能力，而是体现为二者在泛化机制、表征产物、样本依赖、情境稳健性以及解释方式等方面的不同。

 第一，二者的泛化机制不同。人类泛化通常依赖概念学习、抽象、情境判断、类比推理和因果先验，即人类会从少量经验中提取一般性意义，并结合既有生活经验、自然规律和社会互动常识进行迁移。相较之下，统计型人工智能主要依赖训练数据中的统计模式和概率分布，通过数据驱动学习形成模型。因此，人类泛化更接近于“在理解基础上的迁移”，机器泛化则更接近于“在模式学习基础上的外推”。

 第二，二者形成的泛化产物不同。人类倾向于形成稀疏的、可组合的概念表征，例如类别、规则、因果关系和可解释的图式，并能够通过类比推理迁移到新领域。统计型人工智能形成的则更多是统计模式、参数关系或概率分布，这些产物虽然在训练数据覆盖范围内表现较好，但一旦新任务或新领域显著偏离训练数据所覆盖的范围，就容易失效。

 第三，二者的样本依赖程度不同。人类可以从少量样本中完成泛化，因为人类的泛化并不是一次性从当前任务中产生，而是建立在长期经验和对自然规律的持续观察之上。机器学习理论则通常认为，只有在数据量足够大、模型不只是单纯记忆训练数据时，才更可能实现有效泛化。少样本学习虽然在一定程度上试图弥补这一差距，但并未完全达到人类泛化水平。

 第四，二者面对分布外数据和新情境时的稳健性不同。人类通常能够在噪声、情境变化、任务转换和分布外数据中保持较强的适应能力。例如，一个人即使看到形态不同、场景不同的对象，也可能结合语义、用途和情境判断其类别。数据驱动型人工智能则较难超越训练分布，在异常数据、对抗样本或新语境中可能出现明显偏差。

 第五，二者的解释方式不同。人类不仅能作出判断，而且往往能够说明判断理由，尤其会借助因果过程、概念关系和情境理由来解释为什么可以将某一案例中的判断或规则迁移适用于另一个案例。机器学习，特别是深度学习模型，虽然能够产生结果，但其内部泛化机制往往是黑箱式的，难以直接说明其为何如此迁移。文章也指出，人类推理并不只是停留在事件之间表层的共变关系，而是依赖更深层的因果表征；对于机器而言，如何从低层次观测数据中识别并形成高层次因果变量，仍是一项重大挑战。

 可以说，人类与机器泛化的差异性集中体现在泛化机制与泛化边界的不同。人类泛化通常建立在概念抽象、情境理解、类比推理和因果先验之上，能够从少量样本中形成可组合、可迁移的概念表征，并在噪声、分布偏移和新情境中保持较强的稳健性。相较之下，统计型人工智能的泛化主要依赖训练数据中的统计模式和概率分布，其有效性通常受训练分布限制；当任务、领域或情境与训练数据相距较远时，模型容易出现泛化不足、过度泛化或幻觉等问题。

• 通过此文，我们将获得何种启示？

 第一，数字法治研究应将“泛化能力”作为算法治理的重要对象。过去讨论算法治理，常集中在数据安全、隐私保护、算法歧视、平台责任等问题上，但文章提示我们，人工智能风险的深层根源之一在于机器如何泛化。也就是说，模型不是简单地执行规则，而是会根据训练数据形成某种统计模式，并将其用于新的对象和场景。问题在于，这种泛化可能正确，也可能出现泛化不足、过度泛化甚至幻觉。文章指出，统计型人工智能往往难以超出训练分布进行泛化，也难以有效抽象；而大型语言模型的过度泛化错误可能表现为用非事实信息替代具体事实。

 第二，数字法治不能把机器判断等同于法律判断。人类进行法律判断通常依赖概念解释、规则适用、利益衡量、价值判断等；而机器泛化更多依赖数据模式、概率分布和统计相关性。文章明确指出，人类倾向于形成可组合、可迁移的抽象概念，而统计人工智能泛化往往表现为统计模式和概率分布，二者在泛化机制和泛化产物上并不一致。这对数字法治研究的启示在于，在司法裁判、行政执法等场景中，不能仅以模型预测准确率替代法律上的正当性、可解释性和责任归属。

 第三，数字法治应从“结果监管”走向“泛化过程监管”。如果只看人工智能输出结果是否正确，容易忽视模型为什么会得出这一结论、其依据哪些数据和模式、是否超出了训练数据的适用范围。文章将泛化区分为“过程”“产物”和“运算符”：既包括从实例中形成规则或模型的过程，也包括形成的概念、规则、模型等产物，还包括这些产物被应用到新数据中的能力。对数字法治而言，这意味着算法治理不能只审查最终输出，还应审查数据来源、训练过程、模型表征、适用场景、迁移边界和风险评估机制。

 第四，数字法治需要强化可解释性与理由说明机制。文章指出，高效人机协作要求人类能够评估人工智能的回应，并获取其底层推理逻辑或解释；同时，人类解释通常基于因果历史和概念关系，而机器学习从低级观测中发现高级因果变量仍是重大挑战。这对法治建设是尤其重要的，因为法治并不满足于“结论正确”，还要求“理由可理解、过程可审查、责任可追溯”。因此，在数字司法、自动化监管、平台治理等场景中，应建立算法说明理由、可解释审查和人工复核机制。

 第五，数字法治应重视情境化治理，而不是抽象地评价算法。文章反复强调，人类泛化具有情境性，同一对象在不同情境中可能被归入不同类别，知识迁移也需要根据新场景进行调整。这说明数字法治研究不能笼统讨论“人工智能是否合法”，而应根据具体应用场景展开。算法规则必须置于具体制度场景中理解。

 第六，数字法治应推动“人机对齐”而非“机器替代”。文章认为，人工智能对齐的目标是使人工智能系统按照人类偏好行事，并强调人机协作中双方应弥补彼此局限。对数字法治而言，这意味着人工智能不应被理解为替代法律人的自动裁判机器，而应作为辅助性、增强型工具。真正的问题不是让机器单独作出法律决定，而是如何通过制度设计，使机器的计算能力、检索能力、模式识别能力与人的价值判断、责任承担和程序控制相结合。

 第七，数字法治研究应积极学习和使用跨学科方法。文章从泛化的概念、方法和评估三个维度展开分析，强调人工智能与认知科学之间的交叉研究对于人机对齐具有重要意义。同样，数字法治研究不能只停留在规范解释层面，也不能完全依赖技术治理话语，而应把法学研究与人工智能、认知科学、社会学、伦理学的研究方法结合起来。尤其是在算法评估、自动化决策责任、平台治理和智能司法研究中，需要同时回答技术问题、认知问题和规范问题。

 总而言之，文章关于人类与机器泛化能力的讨论表明，数字法治的追求不仅是规制人工智能的应用，更是要建立一种能够约束、解释和校准机器泛化过程的规范体系。由于人类法律判断建立在概念解释、情境理解、类比推理和价值衡量之上，而机器泛化主要依赖数据模式和概率分布，二者之间天然存在认知机制和规范结构上的差异。因此，数字法治应通过可解释机制、场景化评估、人工复核、责任追溯和人机对齐制度，将机器的统计泛化能力纳入法治框架之中，防止算法判断以技术中立之名替代法律判断，以预测效率之名削弱程序正义和权利保障。

译/苏婧怡  

文/杨   雯