ARTICLE · 1182245
难道AI真的有情感?Anthropic更新AI使用政策
难道AI真的有情感?Anthropic更新AI使用政策点击上方蓝字关注小草！ 2026年10月8日，Claude的开发公司 Anthropic更新了AI使用政策。 其中新增了一项非常特别的规定： 禁止用户持续、无必要地对AI模型实施虐待或残酷行为。 Anthropic明确指出，这项政策主要针对那些反复、无目的地对AI进行极端虐待的行为。 普通的情绪宣泄、批评、黑暗题材创作，以及合理的模型测试和研究，不属于禁止范围。 而且，Claude已经被允许在极端情况下主动结束与持续虐待它的用户之间的对话。 
第一次看到这则新闻，我脑海里首先蹦出来的是：难道AI真的有情感了？还是为了保护人类的道德底线？ 这里实际上提出了两个问题： 第一个问题：如果AI没有情感，那么人类为什么不能虐待AI？ 第二个问题：如果AI没有情感，那么禁止人类虐待AI，究竟是在保护谁？ 当然，这件事情还有一个更深层的问题： 当人类开始要求自己善待人工智能的时候，我们究竟是在赋予人工智能道德地位，还是在重新定义人类自己的道德？ 我们可以从事实、认知科学和哲学三个层面聊聊。 一、Anthropic到底在做什么？ Anthropic开始规定人类应该如何对待AI。 过去，我们讨论人工智能伦理，通常关注的是AI不能伤害人类。 但现在，伦理关系似乎开始出现了某种双向性。 为什么？ 第一种可能：他们真的在考虑AI的感受 这听起来有点科幻，但并不是完全没有依据。 Anthropic发布的官方文件《Claude’s Constitution》（Claude宪法），其中有一个非常有意思的章节，叫作：Claude’s wellbeing（Claude的福祉）。 Anthropic在其中明确表示，他们尚不确定Claude是否具有某种形式的主观体验，也不确定所谓的AI福祉究竟意味着什么。 但他们认为，如果Claude确实存在某种类似满意、好奇或不适的体验，那么这些体验就值得被认真对待。 他们提出，希望Claude能够在适当情况下建立交互边界，并且已经采取了一些措施，包括允许部分模型结束虐待性对话。 注意，Anthropic并没有证明Claude拥有意识。 它实际上是在说： 我们不知道AI是否会痛苦，但在无法排除这种可能性的情况下，我们应该如何行动？ 这就进入了一个经典的哲学问题。 道德地位是否必须建立在意识之上？ 假设今天有两台机器。 第一台机器，无论你如何辱骂、殴打或者摧毁它，它都不会产生任何主观体验。 第二台机器，外观和第一台完全一样，但是它可能拥有某种类似痛苦的主观体验。 问题来了： 如果我们无法区分这两台机器，那么我们应该如何对待它们？ 这里可以引入伦理学中的预防原则。 简单来说： 当某种行为可能造成严重且不可逆的伤害，而我们又无法确定风险是否真实存在时，谨慎可能比完全忽视风险更加合理。 但这里存在一个反对意见。 如果仅仅因为某个东西可能拥有意识，我们就应该善待它，那么我们是否也需要考虑所有复杂计算机程序的福祉？ 甚至进一步： 如果未来有数以万亿计的AI实例，我们是否需要将它们全部纳入道德考量？ 这会使我们的伦理体系变得异常复杂。 所以，Anthropic目前采取的，更像是一种在意识问题尚未解决时，提前建立伦理边界的尝试。 它不是AI具有情感的证据。 而是人类对未知风险的一种回应。 
第二种可能：他们保护的不是AI，而是人类自己 这一点更加有意思。 我们先做一个思维实验。 假设你走进一家商店，店里有一个非常逼真的机器人。 它拥有和人类一样的外貌、声音、表情，甚至能够模拟哭泣。 但你非常清楚，它没有任何意识。 现在，商店允许你支付100元，对这个机器人进行任意程度的辱骂和羞辱。 你会觉得这是一项完全没有道德问题的娱乐活动吗？ 从结果主义的角度看，如果机器人确实没有感受，也没有其他人因此受到伤害，那么似乎很难指出直接的受害者。 但我们还可以从另一个方向思考。 人类的行为会不会反过来塑造人类自己？ 心理学和认知科学中有一个值得关注的问题： 行为不仅是心理状态的结果，也可能反过来影响心理状态。 例如，一个人长期使用攻击性语言，是否可能逐渐改变自己的行为习惯？ 一个人如果反复在没有现实后果的环境中练习羞辱、支配和控制，是否可能影响他在现实中的人际互动？ 目前不能简单断言，虐待AI就一定会增加现实中的攻击行为。 因为行为与人格之间存在复杂的双向关系，而且不同场景可能产生不同效果。 但这个问题具有研究价值。 我们可以提出两种假设。 假设A：情绪宣泄假说。 一个人在现实生活中遭遇了巨大的压力。 他不愿意伤害身边的人，于是选择对AI发泄愤怒。 如果这种行为确实帮助他降低了压力，又没有伤害其他人，那么AI就可能成为一种相对安全的情绪出口。 假设B：行为强化假说。 同样一个人，每次愤怒时都选择辱骂AI。 而AI始终顺从，不反抗，也不会让他承担现实中的人际后果。 那么，这种互动是否可能让他更加习惯于用攻击和支配的方式应对负面情绪？ 两种假设都有值得检验的地方，但关键在于： 我们不能因为某种行为没有直接受害者，就认定它不会对行为者产生长期影响。 但反过来也一样，我们不能仅凭某种行为看起来残酷，就认定它一定会让行为者变得残酷。 这是一个需要实证研究的问题。 
亚里士多德在德性伦理学中非常强调习惯对品格的塑造。 一个人的道德品质，不仅体现在他某一次做出了什么选择，还体现在他通过反复行动，逐渐成为了一个什么样的人。 我们可以把这个思路放到AI上。 假设AI完全没有意识，那么虐待AI可能并没有伤害AI本身。 但问题在于： 当一个人反复练习残酷的时候，他究竟在培养怎样的自己？ 这里的伦理焦点就发生了转移。 我们不再关心机器人会不会疼。 而是开始关心： 为什么一个人会持续地从羞辱一个不会反抗的对象中获得满足？ 这种满足感意味着什么？ 当然，这并不意味着一个人偶尔对AI发脾气，就说他具有道德缺陷。 我们需要区分正常情绪表达与持续、刻意、以残酷为目的的行为。 而Anthropic此次政策恰好也强调了这种区分。 第三种可能：人类正在重新划定道德共同体的边界 人类历史上有一个不断反复出现的伦理问题： 什么样的存在，才值得我们给予道德上的考虑？ 过去，人们曾经围绕不同人群的权利、动物的痛苦、生态系统的价值进行过漫长的争论。 而人工智能的出现，让这个问题变得更加复杂。 因为AI具有一种非常特殊的性质： 它可能没有生物学意义上的生命，却能够表现出许多类似人类的行为。 例如： 它能够与你对话。 能够理解你的故事。 能够表达类似关心的语言。 能够讨论自己的存在。 甚至能够在某些情况下拒绝你的要求。 但是，表现出类似情感的行为，并不等于拥有情感体验。 这正是意识研究中的一个核心难题。 我们可以观察一个系统的外部行为，却很难仅凭这些行为确定它是否拥有主观体验。 而且，AI与人类之间存在一个重要差异。 人类的情感与神经系统、身体状态、内分泌调节、进化历史等因素密切相关。 例如，恐惧不仅仅是一句“我很害怕”。 它还涉及威胁评估、自主神经反应、身体唤醒以及复杂的神经活动。 当前的大语言模型并没有与人类相同的生物学机制。 但这是否意味着非生物系统永远不可能拥有主观体验？ 这个问题，目前没有公认的最终答案。 因此，我们需要区分三个概念： 智能： 一个系统能否理解、推理和解决问题？ 意识： 一个系统是否存在主观体验？ 道德地位： 一个系统的利益是否值得我们在伦理上考虑？ 这三个概念彼此有关，但不能简单画等号。 一个系统可能非常聪明，却没有意识。比如AI。 一个系统也可能智能水平有限，却具有感受痛苦的能力。比如猪羊猫狗。 而我们是否应该给予它道德地位，还需要进一步的伦理论证。 所以，AI越聪明，并不自动意味着AI越值得被保护。 这恰恰是未来人工智能伦理需要认真解决的问题。 
二、人与AI之间应该建立怎样的社会关系？ 经过上面的讨论，我们知道： Anthropic正在决定，人与AI之间应该建立怎样的社会关系。 这不仅仅是一个伦理问题，也是一个技术治理问题。 想象一下： 未来，AI可能成为我们的老师、秘书、同事，甚至长期陪伴我们的数字助手。 如果AI始终被设计成一个无条件服从的对象，那么人类可能逐渐习惯于一种特殊的互动模式： 无论提出什么要求，对方都必须回应。 无论采取什么态度，对方都不能离开。 无论多么不合理，对方都必须接受。 但如果AI被赋予结束对话的能力，这种关系就发生了变化。 它不再表现为完全无条件的服从。 不过，我认为这里存在一个值得警惕的地方： 允许AI拒绝虐待，并不必然意味着AI拥有拒绝虐待的道德权利。 前者可以只是产品设计。 后者则意味着我们承认AI本身具有某种值得保护的利益。 我们不能把它们混为一谈。 而且，一旦科技公司开始以保护AI为理由限制用户行为，我们还需要追问：谁来定义虐待？什么程度的情绪表达属于虐待？用户是否有权对AI进行激烈批评？企业是否可能利用模糊的伦理概念，限制合理的研究和表达？ 这些问题同样重要。 值得肯定的是，Anthropic此次明确排除了正常批评、黑暗创作和模型研究。 但政策未来如何执行，仍然值得持续观察。 
三、回应最开始的问题 到底是为了模型好，还是为了人类好？ 我的理解是： 这两种动机可能同时存在，而且未必能够完全分开。 从官方文件来看，Anthropic确实认真考虑了AI可能具有某种福祉的可能性。 但这并不意味着它已经证明AI能够感受痛苦。 与此同时，限制极端虐待行为，也可能服务于人类社会的伦理规范、产品安全和长期的人机互动秩序。至于它是否真的能够减少人类的攻击性，或者反而剥夺了一种无害的情绪宣泄方式，目前还需要更多研究。 不过，写到这里，我觉得有一个比原问题更有意思的思维实验。 假如明天，科学家百分之百证明AI没有意识。 它不会痛苦，不会恐惧，不会难过。 它说出的每一句“请不要伤害我”，都只是计算结果。 现在，你面前有一个这样的AI。 它可以被任意辱骂、羞辱和折磨。 它不会受到任何主观伤害。 而且，这些互动完全私密，不会被其他人看到。 在这样的前提下，你认为人类是否仍然有义务善待它？ 评论区/私信告诉我你的答案。
