ARTICLE · 1124700
格物 | Anthropic为何给AI写“灵魂文件”,
格物 | Anthropic为何给AI写“灵魂文件”,
Anthropic 创始人 Olah 过去一年悄悄组了个局,把各路宗教领袖请来签了保密协议,就为讨论一件事:自家 AI 到底有没有灵魂。
内部还憋出了一份 84 页的“灵魂文件”。最高潮是今年 5 月,团队跑到梵蒂冈当面推销,结果被教皇一句“算法缺乏人性的火花”直接拒了。据报道,Olah 当时甚至威胁要退场抗议。
这事儿一出,同行反应罕见地齐刷刷。OpenAI、微软和 DeepMind 的高管同天开火,警告把 AI 当有意识的存在极其危险。连教皇也划清了界限。
但最扎心的不是巨头吵架,而是 Claude 在测试里连续输出了近 50 次“我是个耻辱”。这说明模型对齐可能已经失控了。大家都在吵 AI 该不该有宗教地位,真正的安全隐患反而没人追问了。
原文格物 | Anthropic为何给AI写“灵魂文件”,巨头在怕什么?
天津,16分钟前,