AI头条｜AI价值观谁来定？科技公司向宗教界问道

导语

今天没有足够多、经得起交叉核验的新模型与产品发布。真正值得关注的增量，是一个更基础的问题：当聊天机器人需要在冲突价值之间作出选择，谁有资格告诉它什么是“好”？

美联社 10 月 25 日的调查显示，一些 AI 公司正在主动听取哲学家和宗教界人士的意见。Anthropic 与梵蒂冈公开资料可以确认，这并非一次公关式会面，而是围绕模型价值、劳动替代、弱势群体和人类福祉展开的长期讨论。

但宗教研究学者也提醒：信仰传统不是可以直接抽取、加权平均后写进模型的规则库。真正的治理难题，不是让模型背下一套“正确答案”，而是公开谁制定规则、如何处理价值冲突，以及用户能否理解、质疑和申诉。

今日要点

• AI 实验室开始把价值观设计当成产品问题
  ：模型如何拒答、如何处理风险和如何表达立场，已经被写进公开规范并用于训练与评测。
• Anthropic 主动引入宗教与跨文化讨论
  ：公司联合创始人 Chris Olah 公开承认，实验室受到商业、竞争和地缘因素影响，不能独自回答所有价值问题。
• “多听意见”不等于形成全球共识
  ：不同宗教、文化和世俗伦理之间可能相互冲突，简单求平均会掩盖少数群体和具体情境。
• 普通用户需要的是可审计机制
  ：公开原则、行为评测、清晰的拒答边界和申诉渠道，比宣称模型“善良”更可验证。

重点新闻

1. AI 公司为什么开始向宗教界请教

美联社 10 月 25 日报道，Anthropic、OpenAI、Meta、Google、Amazon 和 Microsoft 等公司近年都以不同方式接触哲学家、伦理学者或宗教界人士，希望为模型行为和 AI 治理提供更广泛的价值参照。

其中，Anthropic 的公开资料最完整。今年 5 月，联合创始人 Chris Olah 参加教宗良十四世关于人工智能通谕的发布活动。他表示，模型应呈现怎样的“性格”、如何与世界互动、什么样的互动才是恰当的，这些问题超出了数学和编程本身，需要人文学科、宗教、哲学和社会共同参与。

Olah 还明确指出，任何前沿实验室都受到商业生存、技术竞赛、地缘政治、个人雄心等激励约束，因此需要实验室之外、能够提出批评的声音。这一点比“宗教是否能教会 AI 道德”更重要：公司首次把自身并非中立裁判写进了公开讨论。

据美联社报道，Anthropic 曾与来自 15 个以上宗教和跨文化群体的学者、神职人员、哲学家及伦理学者交流。不过，其他公司的具体参与方式和意见如何进入训练流程，公开信息仍然有限，不能据此认定所有公司已经建立同等程度的外部治理机制。

事实边界：这是价值治理和模型行为设计的进展，不是新模型发布，也不能证明宗教意见已经直接写入某个具体版本的模型。

来源：美联社；Anthropic。

2. 为什么“汇总人类道德”没有听起来那么简单

美联社采访的宗教研究学者提出一个关键反对意见：宗教不只是可以脱离文化、历史、仪式和现实生活的规则清单。不同传统对同一问题可能给出互不兼容的答案，一些传统也并不把自己首先理解为一套伦理制度。

这意味着，把不同群体的意见收集起来，再求一个“人类价值平均值”，可能产生三个问题：

• 谁被邀请、谁没有被邀请，本身就在决定权重；
• 多数意见可能覆盖少数群体的重要权利；
• 抽象原则在医疗、教育、战争、儿童使用等具体情境中，可能得出完全不同的结论。

梵蒂冈今年公开的人工智能通谕也没有给出一份可直接编码的规则表，而是强调人的尊严、共同利益、责任链条和对弱势群体的保护，并提醒平台、数据与算力权力集中在少数公司手中会削弱公共监督。

因此，宗教和哲学参与的价值，更适合被理解为扩大问题清单和监督视角，而不是替技术公司提供一套永远正确的答案。

来源：美联社；梵蒂冈。

3. 判断一家公司是否认真做价值治理，要看哪些可验证信号

目前，一些公司已经把价值原则转化为公开文件。Anthropic 发布了完整的 Claude Constitution，说明希望 Claude 遵循的价值、行为边界和冲突处理方式，并承认模型输出未必始终符合这些目标。OpenAI 也通过 Model Spec 和配套评测公开模型在诚实、风险、敏感议题和指令冲突上的目标行为。

这些文件仍由公司主导，不能代替法律、公共政策或独立监督，但至少提供了可以被外界核对的基线。对普通用户、企业采购者和开发者而言，可以重点检查四件事：

1. 原则是否公开
   ：公司是否解释模型何时拒答、何时服从用户、何时优先保护第三方。
2. 评测是否可复查
   ：是否公布测试方法、失败案例和更新记录，而不是只给一个抽象安全承诺。
3. 外部意见是否产生影响
   ：参与者是谁、意见如何被采纳、哪些分歧仍未解决。
4. 用户是否有救济路径
   ：错误封禁、错误拒答或高风险输出出现后，是否有明确的反馈、申诉和人工复核机制。

影响解读：AI 价值观不会由一次会议或一份宣言解决。行业下一阶段的竞争，不只是模型能否回答更多问题，也包括谁制定它的边界、边界是否透明，以及出现争议时谁承担责任。

来源：Anthropic；OpenAI。

影响解读

今天的单主题增量可以归纳为三个判断：

1. 模型价值观正在从幕后训练选择走向公开治理议题。
    企业不再只讨论“减少有害输出”，而开始公开解释希望模型成为什么样的系统。
2. 扩大参与是进步，但不等于权力已经转移。
    最终训练、部署和更新决定仍掌握在公司手中，外部对话是否真正改变产品，需要持续披露和验证。
3. 可审计性比“道德 AI”标签更重要。
    对用户和采购方而言，公开规范、失败案例、独立评估与申诉机制，才是可以比较的治理能力。

后续关注

• Anthropic 是否进一步公开跨宗教、跨文化咨询的参与范围、分歧和实际产品影响。
• OpenAI、Google、Meta、Microsoft 和 Amazon 是否披露类似的外部价值咨询机制及训练反馈链路。
• 模型行为规范能否形成可重复的第三方评测，而不只依赖公司自评。
• 当宗教自由、个人自主、儿童保护和言论边界发生冲突时，产品如何解释具体选择。
• 当天未出现足够可靠的新模型或产品发布，本文不以旧闻和未经证实的传闻补足篇幅。

来源列表

1. 美联社，2026-10-25，Companies turn to faith to make AI morally good but experts say there's more to religion than rules。
2. Anthropic，2026-05-25，Chris Olah's remarks on Pope Leo XIV's encyclical。
3. 梵蒂冈，2026-05-15，Magnifica Humanitas on safeguarding the human person in the time of artificial intelligence。
4. Anthropic，2026-01-22，Claude's new constitution。
5. OpenAI，2026-03-25，Introducing Model Spec Evals。