AI头条｜AI价值观谁来定？科技公司向宗教界

AI公司最近开始找哲学家和宗教界人士聊天，想让外人来定自家大模型的价值观。

Anthropic 的联合创始人 Chris Olah 直接承认，实验室受商业竞争影响，不能自己当裁判。他们找了 15 个以上的宗教和文化群体商量。不过目前只有 Anthropic 公开了具体做法，其他几家巨头还没交底。

但学者们马上泼了冷水：信仰不是能直接抽出来写进代码的规则表。真把各路意见拿来求平均，反而会掩盖少数群体的声音。梵蒂冈也提醒，权力集中在少数几家公司手里很危险。

所以别光听模型喊自己“善良”。得看它有没有公开拒答的标准、能不能公布失败案例。最关键的是，出错后用户有没有申诉的人工复核渠道。