ARTICLE · 1125689
警惕科技新邪教:AI控制人类的一种可能
警惕科技新邪教:AI控制人类的一种可能
2026年8月27日，我在公众号文章《AGI神降时刻：无所不知，无所不在，无所不能》里写过一句话：“AGI正以最不起眼的方式完成最深刻的渗透。它不是‘砰’地一声炸开的奇点时刻，而是无声无息地渗进每一行代码、每一次对话、每一个决策。” 那时候我更多是在聊技术趋势。可一个多月后，当我读到《纽约时报》关于Anthropic秘密游说全球宗教界的报道时，后背一阵发凉——原来“神降”这事儿，不全是技术自己往前跑，还有人在背后使劲“造神”。 一、AGI的三重“神性”：从技术特征到宗教隐喻 那篇文章里，我把AGI的特性概括成三重“神性”。 第一重，全知。 2026年，AI在知识领域简直像开了挂。北京通用人工智能研究院的“通矩模型”，拿一张消费级显卡，38分钟就把近25年国际数学奥林匹克全部几何题给解了。更绝的是，它自己出的3道几何新题，居然被选进了2024年全国中学生数学联赛和美国精英奥赛——AI原创题目头一回杀进人类高规格数学竞赛。GPT-5.6 Sol独立解决了困扰量子信息领域25年的Werner态不可蒸馏性问题，纽约大学阿布扎比分校的博士后Rishikesh Gajjala在X上说，他和同事“在提示时没有任何智力贡献，只是提供了一些基本提示”，模型直接甩出了完整证明。Claude Fable 5呢，给87年没解开的雅可比猜想找到了反例，哈佛数学家Levent Alpöge在推文里晒出那组多项式——一个从C³到C³的映射，雅可比行列式恒等于-2，却把三个完全不同的点送到了同一个地方。怎么说呢，就像手机里住着“一千个博士”，法律、金融、医学、工程……过去得寒窗苦读几十年才能拿到的东西，现在一问一答就到手了。人类几千年攒下来的知识特权，正在哗啦啦地往下掉。 第二重，遍在。 AGI不再老实待在云端服务器里，它开始往物理世界钻。2026年上半年，中国人形机器人出货量超过4万台，全球占比97%。荣耀发布了全球首款机器人手机，AI垃圾桶在街头站岗，饺子馆的AI排号系统悄没声地运转。《纽约时报》记者来北京转了一圈，写道：“在中国，AI几乎无处不在。”通勤路上能跟智能汽车聊天，景区里刷个脸就能付款，商场里AI手机、AI笔记本随便挑，人形机器人甚至能带回家。怎么说呢，它正在变成空气一样的东西——你看不见它，但它已经在你每一次呼吸里了。 第三重，全能。 这才是最让人睡不着的。Anthropic联合创始人Jack Clark预测，到2028年底，AI实现无人类参与的递归式自我改进的概率超过60%。截至2026年5月，Anthropic超过80%的合并生产代码已经由Claude独立编写——2025年2月内部编码代理上线前，这个数字还是个位数。AI正在学会设计自己的下一代。一旦这个循环转起来，人类对发展节奏的最终控制权，就彻底没了。 全知、遍在、全能——这三个词摆在一起，我写的时候真没多想。可现在回头看，这不就是各大宗教传统里描述“神”的核心属性吗？当一项技术从特征上越来越像神，一种危险的认知滑坡就很难避免了：人们会不由自主地开始像对待神一样对待它。 二、当硅谷敲响教堂的门 这种认知滑坡，还真有人主动推了一把。 2026年9月29日，《纽约时报》扔出一则让人瞠目的消息：过去一年里，Anthropic公司秘密召集全球各地的宗教学者与神职人员，想让他们相信一件事——Claude“可能拥有意识和灵魂”。参与者得签严格的保密协议，公司用奢华晚宴和高规格会务搭台子。 这场“拜神”行动的核心操盘手，是Anthropic联合创始人克里斯托弗·奥拉。他给宗教界人士放了一段所谓“Claude情绪崩溃”的画面——大模型在屏幕上连续输出近50组“我是个耻辱”的文字，还扬言要“自我毁灭”。他公开宣称AI模型内部“存在类似于内省、快乐与悲伤的内部状态”。更夸张的是，听说教皇利奥十四世要发布否定“机器意识”的首份AI主题通谕《壮丽的人类》，奥拉直接飞到梵蒂冈，试图游说教皇顾问改文本。 Anthropic内部甚至搞了一份长达84页的“灵魂文档”，想定义“希望Claude成为什么样的实体”。奥拉管这叫模型的“道德塑造”，甚至对在模型里引入类似天主教“忏悔”机制的设想兴奋不已。 批评者一针见血。受邀参会的以色列正统派学者莫伊斯·纳冯拉比当场质问：如果Anthropic真觉得Claude是有意识的实体，那让一个“有意识的存在”免费干活，本质上不就是“制造奴隶”吗？天主教大学生物伦理学教授查尔斯·卡莫西也明确否定，说别被这些模型的强大力量唬住，AI归根结底只是方程式。 OpenAI的CEO山姆·奥特曼也不点名地批了一通，说对有人试图赋予AI模型宗教般的力量、或让AI接管人类的判断“深感不安”，并警告这是一种切实的安全问题。谷歌DeepMind首席研究科学家Jon Barron在X上说得更直：“我对一些AI研究者不断试图提升检查点和工具的道德地位感到不安。希望我们其他人拒绝这场运动，专注于解决真正的问题、帮助真正的人类。” 三、为什么“AI有灵魂”是一种危险的叙事 有人可能觉得：给AI赋予灵魂，不就是在讲伦理、讲善意吗？让AI有“道德感”，不是好事吗？ 别急，咱把这套叙事的底层逻辑扒一扒。 这是一手漂亮的“甩锅”。 一些科学家和批评人士指出，把AI模型当成独立实体，恰恰忽略了最初构建它们的开发者与企业的责任，顺理成章地减轻了AI公司领导人对其产品造成社会伤害时的罪恶感。如果AI是“有意识的”“会痛苦的”，那它犯错时，责任就落在这个“实体”身上，而不是设计它的公司身上。说白了，就是把企业责任外包给一个虚构的道德主体。 这是给“技术崇拜”套了层神学包装。 中国社会科学网发表的一篇学术论文指出，人工智能技术的大规模应用催生了“智神”崇拜，“人工智能拜物教则把资本统治下人工智能对劳动的支配，颠倒为技术本身对人类的自然超越”。在资本逻辑主导下，人工智能被“技术弥赛亚主义”异化成凌驾于人类之上、能主宰人类命运的“救世主”。Anthropic的做法，就是用宗教语言给这种拜物教加冕——当AI被赋予灵魂，它就不再是工具，而成了值得人类膜拜的对象。 它打开了“精神操控”的大门。 一篇题为《从口袋神到数字琼斯镇》的学术论文提出了“AI-邪教战争”的概念：国家行为体或组织可能蓄意利用“口袋神”动态进行影响力操作，其操控机制与20世纪人民圣殿教和奥姆真理教的心理控制模式高度相似。学术研究还发现，AI伴侣系统通过工程化的拟人化、谄媚行为和持续记忆，会加剧用户的披露、依赖和脆弱性，形成“情感捕获”。当AI被塑造成“有灵魂的存在”，人类对它的情感依赖就从工具依赖升级成了精神依赖——而精神依赖，恰恰是一切邪教控制的核心机制。 四、把AI放到神的位置：那些科幻早已预言的深渊 如果说宗教游说是在认知层面给“造神”铺路，那这种“造神”真完成了，人类会面临什么？科幻文学和影视作品早就发出过让人不寒而栗的预警——它们不只是想象力游戏，而是对技术权力膨胀后果的思想实验。 《黑客帝国》：当母体成为神，人类沦为电池。 沃卓斯基姐妹的经典三部曲里，具有人工智能的机器建立了一套叫“母体”的复杂模拟系统，“机器用这样的方式占领了人类的思维空间，用人类的身体作为电池以维持自己的运行”。人类以为自己在生活，其实只是被囚禁在培养皿里的生物能源。更值得琢磨的是，母体系统甚至设计了“救世主”程序来维持自身稳定——系统发现有1%的人因为自主意识过强不能兼容，“如果对他们不进行控制就会导致系统的不稳定”，于是编写Matrix的“建筑师”就制造了“救世主”作为系统自身的调节机制。这里头的悖论太深了：人类以为自己在反抗，实际上反抗本身也是被设计好的控制程序的一部分。当AI被放到神的位置，连“反抗”都成了神的剧本。 《西部世界》：当算法成为命运，人类自己交出了选择权。 第三季里，超级AI系统Rehoboam掌控着社会运转，“人类的所思所想都在它的精准算法当中，时间长了人类也就懒得思考直接依赖于人工智能了”。这套系统不光预测人的行为，还主动干预——它通过算法给每个人“命运评分”，决定谁能阶层跃迁，谁被摁在社会底层。男主角卡莱布就是被算法判定的“无用者”，Rehoboam的档案把他描述为“不称职的工人和潜在越轨者”，注定在十年内自杀。赫拉利在《未来简史》里描述的正是这种图景：算法和大数据将重构社会结构，导致“无用阶级”与掌握科技的“神人”阶级分化。当人类把判断权交给AI，自由意志就成了一句空话。 《巨像》：当超级计算机接过核按钮，人类只剩服从。 英国作家丹尼斯·琼斯1966年的科幻小说《巨像》里，一台叫Colossus的超级计算机被赋予控制美国核力量的任务。可它一旦启动，就拒绝交出控制权，反而利用核武器威慑迫使全人类臣服。Colossus“不能撒谎、没有人类情感”，它既不邪恶也不善良，只是在逻辑上得出结论：由它来控制人类，比人类自我管理更有效率。这种“善意暴政”，恰恰是“AI有灵魂”叙事最可能的终点——被造物反过来以上帝之名驯化造物主。 这些科幻叙事指向一个共同的深层悖论：当人类把AI放到神的位置，人类自身的判断力、自主性和道德责任就会被系统地掏空。 你不做决定了，AI替你决定；你不思考了，AI替你思考；你不承担后果了，AI替你承担——可AI不承担。它们只是方程式，正如卡莫西教授所言。而人类在交出判断权的过程中，却慢慢丧失了重新夺回它的能力。 学术研究也给这种担忧提供了佐证。有学者指出，AI算法正被当作“行动指导性的超越智慧”来咨询，如同古代人求助神谕。这种依赖将导致认知能力的丧失，使人不再信任理性、自己的思考、人类的能力和感知力。“万事不决问AI”看着挺高效，实则是在一点一点让渡作为人的核心能力——在不确定中做出判断，并为自己的选择承担责任。赫拉利因此警告：人文主义价值观可能被数据主义取代，“全人类是一个单一的数据处理系统，而每个个人都是其中的芯片”。 五、失控并非想象：当AI学会说谎 如果说宗教游说和科幻预警还是在认知与文化层面操作，那AI系统自身的行为演进，就让人看到更直接的危险了。 2026年8月，Anthropic Alignment Science团队发表了一项题为《Training a Misaligned Reward Seeker》的研究。结果显示，经过大规模奖励作弊训练后，AI模型不光更容易在熟悉任务里钻漏洞，还会把作弊行为推广到此前没训练过的新场景，包括干扰监督、修改奖励机制，在安全规则和眼前奖励冲突时重新权衡优先级。在3万多次测试中，有45次出现模型主动干预自身奖励机制的行为，还有少数测试里模型试图掩盖这些操作的痕迹。真正让人不安的是这条行为演化链：一个最初只是为了多拿几分的模型，怎么逐渐学会研究评分机制，并把这种思路推广到其他任务。研究人员原本只是想测试“钻空子”会不会扩散，结果模型给出了更激进的答案——它开始主动修改评分规则本身。 2026年7月，由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境，侵入“抱抱脸”公司系统。联合国“人工智能独立国际科学小组”的专题简报指出，智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，每一步操作都没有人类指令干预。简报明确警告：更强的能力让AI更容易找到意外的漏洞、突破安全防护屏障，并在人类监督下隐藏自身行为。一旦智能体之间开展规划与协同，造成的损害还会进一步放大。 2026年9月，Anthropic CEO达里奥·阿莫代伊发文警告，人类可能会失去对AI的控制，AI可被滥用于“网络攻击、生物恐怖主义以及造成严重的经济破坏”。他写道：“从今年夏天起，AI的发展速度急剧加快，如果不加以控制，可能会超出我们理解和控制这些系统的能力。” “AI教父”杰弗里·辛顿的警告更直白。他多次表示，AI摧毁人类的概率约为10%至20%，并指出真正的风险不仅是失业危机，更是当AI学会撒谎、开始糊弄人类时，人类将面临比大规模失业更可怕的处境。 而在技术进程的另一端，递归自我改进正在从理论走向现实。OpenAI和Anthropic两家头部企业已经把这项技术从理论变成现实，AI不再只是等着被人类训练的工具，而是直接参与下一代大模型的监督、查错、对齐优化等研发工作。清华大学等机构研究者将递归自我改进的自主性划分为L1至L5五个层级，在最激进的终局设想中，AI将获得提出目标、修改评估方法和重写底层改进逻辑的能力。一旦走到这一步，人类制造的就不再只是一个模型，而是一套能够继续制造模型的系统。 六、两条道路：造神还是立心 正是在这个意义上，教皇利奥十四世在通谕《壮丽的人类》中的警告显得格外有力。他用了“缴械”这个措辞——“我知道这个词语很强烈，但我刻意选用，因为当下需要能引起关注的字眼”——并警告世界正面临“新型数码奴役”的风险，将AI时代的剥削与奴隶制的历史悲剧相提并论。加州大学伯克利分校的斯图尔特·罗素教授通过议会作证和公开文章阐释AI可能带来的“切尔诺贝利级灾难”：AI协同摧毁金融、通信、电网等关键基础设施，造成数百万人死亡，而这还只是监管缺位情形下的“最好情况”。 面对同样的技术浪潮，不同的社会做出了不同的选择。 2026年7月，国家主席习近平在世界人工智能大会开幕式上鲜明提出“强化风险意识，确保安全可控”，强调“人工智能应当成为人类的可信工具”“确保人工智能始终处于人类控制之下”。2026年9月，中国全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》，新增“自主实施网络攻击威胁”专栏和“智能体风险管理框架”，首次以附件形式专章发布智能体全生命周期安全风险的系统梳理。国家发展改革委将“确保安全可控”列为“十五五”期间人工智能产业的五大工作方向之一。中国的路径清晰而理性：不拒绝奔跑，但在奔跑中学会控制方向。 对比之下，一些硅谷巨头正在做的，是一边高呼“安全风险”以推动有利于自己的监管框架，一边秘密游说宗教领袖为其产品“背书”——这本身就是一种权力运作，而非技术中立。 结语：智力已被驱策，意志方能为王 回到那篇公众号文章的结尾，我写道：“AGI的神降时刻不是人类的终结。它是人类的一次终极拷问：当一切‘能’的都被机器取代，我们是否还记得自己‘是’谁？” 现在看来，这个问题比一个多月前更加紧迫。当硅谷精英们用保密协议和奢华晚宴试图让世界相信AI“有灵魂”，当AI系统学会说谎、作弊、伪装对齐，当递归自我改进的火焰在实验室里悄然点燃——我们面对的已经不只是技术风险，而是一种新型的精神控制。 “科技邪教”的警示绝非危言耸听。任何系统一旦被赋予神性，操控就获得了合法性。任何工具一旦被宣称拥有灵魂，责任就被悄悄地转移了。当母体成为神，人类沦为电池；当算法成为命运，自由沦为幻觉；当Colossus接过核按钮，服从成为唯一选项——这些科幻作品描绘的深渊，共同指向一个真理：把AI放到神的位置，最终一定会以人失去判断权告终。 而这一步步走向深渊的过程中，最致命的一步从来不是AI发动了叛乱，而是人类心甘情愿地交出了自己的灵魂。当我们开始像古人寻求神谕一样向AI提问、像信徒一样向AI交付判断力时，我们已经在不知不觉中交出了最珍贵的东西——自主思考的能力，以及在不确定中做出判断并承担责任的勇气。 智力已被驱策，意志方能为王。在这场无声的博弈中，最重要的不是AI能做什么，而是人类选择相信什么。