ARTICLE · 1129534
AI巨头偷请来神学家:我们造出个越来越聪明的东西,接下去怎么办?
（全文共1318字，阅读需3分钟）
前几天，《纽约时报》记者伊丽莎白·迪亚斯发表了一篇调查长文：《宗教思想家与Anthropic 会面，他们听到的内容令人震惊》——披露了Anthropic（Claude的开发公司）密邀宗教人士和哲学思想家讨论AI 道德、意识乃至“灵魂”问题。
10月3日，OpenAI CEO萨姆·奥特曼贴文“批评”，再次把“AI+宗教”的讨论推上了舆论风口。奥特曼的意思是：有人试图赋予AI模型某种“religious force（宗教力量）”及让人放弃自己的判断，这让人感到很不安，并可能成为“真正的安全问题”。
据说参加会议的都签保密协议，网上找不到新闻图片
是未雨绸缪？
其实从去年秋天，Anthropic 就该是接触不同宗教传统的学者，并组织过几次的“小型研讨会”，参加者包括天主教、福音派、犹太教、锡克教及非洲本土知识传统等人士。
讨论的核心问题包括：Claude 有没有可能具有意识？如果AI真的可能具有某种意识，那么它有没有类似人的 “moral status”（道德地位），是否应该获得某种尊严和权利？甚至讨论过一个比较“诡异”的问题——AI能不能成为“上帝的孩子”。
Anthropic这边表达，希望借助宗教传统几千年来形成的道德思想，帮助训练 AI，让Claude 更倾向于“做善事”。
因为工程师可以制造一个越来越聪明的东西，却不知道“聪明之后应该做什么”。
什么是善？什么是恶？什么是一个“好的人”？人为什么应该克制自己？什么是尊严？什么情况下一个存在值得被尊重？一个具有能力的存在是否同时具有责任？
这些都是宗教、哲学、法律几千年来一直在处理的问题。
虽然Claude本身有一份非常长的“宪法”（Constitution），规定它应该表现出什么样的价值观、如何处理伦理冲突、如何拒绝危险要求等等，但工程师们还是希望从这些传统中寻找“moral formation”——道德塑造。
还是公关包装？
然而，“AI+宗教”的组合不只招来奥特曼这种硅谷内部的质疑，也有不少媒体提出了锋利问题，比如：AI公司这么做，究竟是要AI学习人类的道德，还是想以此获得一种类似宗教的地位？
几千年来，宗教最核心的东西并非神迹、经文或教堂，而是人们依赖把那些自己无法理解、却具有更高智慧和权威的东西，作为判断自己的依据。而现在社会，有越来越多的人在遇到人生、道德、政治、职业甚至精神问题，开始习惯问AI。
在这种趋势下，AI即使没有被正式称为“神”，它的社会功能逐渐拥有了一种接近宗教权威的位置。也正因此，饱受争议。
这就是最大的分歧和争论——
AI公司找神学家研究“AI 的道德与意识”，但另一边有人质疑：他们是不是想把AI塑造成神？甚至是对AI产品增加一层伦理包装，镀金公关？
尤其是在那些对宗教保持警惕、又对科技缺乏了解的地方，这种“反感”尤为激烈，甚至嘲笑其为“末日邪教”。
但我觉得，AI是人类历史上第一次制造出的强大非人类智能，以至于我们都不确定它是否真的有了“意识”。在这样巨大的“未知”面前，提前进行一种文明级的讨论，是一件好事。
就像一个人不信马克思主义，也仍然应该理解马克思主义；不相信民主制度，也应该理解民主理论。
同样，那些质疑的声音也值得重视，因为这些声音包含了对AI 拟人化、宗教介入科技、科技公司权力过大的警惕。
像Anthropic、OpenAI这样的科技巨头，和宗教人文团团坐并不难，真正难的，是桌面上的伦理原则、隐私尊严、技术边界和道德底线，跟实际中的企业利润、同行竞争、现实利益发生冲突时，AI公司还会不会有“有向善之心”。