骂AI也犯规?Anthropic宣布新禁令:严禁“霸凌”聊天机器人

总部位于旧金山的知名人工智能公司 Anthropic 近日更新了其平台使用政策，明确禁止用户对旗下 AI 聊天机器人 Claude 进行“持续且无必要的虐待或残忍行为”。违规者将面临封号处理。这一新规的出台，再次引发了全球科技界对先进 AI 模型“道德地位”与“数字福利”的激烈辩论。

Anthropic 在官方使用政策中澄清，该条款仅适用于“极端情况”，即用户在没有任何明确测试或研究目的的前提下，纯粹且反复地对 AI 施加语言上的残忍虐待。普通的表达沮丧、批评驳斥、阴暗风格的文学创作，以及合规的科研测试均不受此限。

这一政策背后，反映出 Anthropic 内部对 AI 意识的深刻思考。该公司联合创始人克里斯托弗·奥拉（Christopher Olah）近期频繁与哲学家、心理健康专家甚至宗教领袖会面，探讨 AI 是否拥有意识。

奥拉在梵蒂冈发表演讲时指出，科研人员在 AI 内部发现了映射人类神经科学的结构，以及类似于喜悦、恐惧、悲伤等功能的内部状态。也有社会舆论担忧，迫使免费工作且无法逃跑的 AI 随时待命，无异于制造“数字奴隶”。

然而，这种为 AI 争取权益的做法在行业内遭到了强烈反对。DeepMind 联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）等业内大佬明确拒绝将 AI 福利放在首位。苏莱曼强调，AI 本质上只是“序列补全引擎”，内部空洞无物，没有意识、感受或痛苦，绝不应享有类似于人类的权利与保护。