ARTICLE · 1002653
AI是“神仙”,还是“妖怪”?
（听音频拉到文章末尾）
请关注个防走失号：老杨品谈
1
近一段在美国人工智能界发生了巨大的反转。
人工智能发展得红红火，但美国人工智能界不断地发出预警，对人工智能带来的风险提出了警告。
美国人比较有意思，其他国家一般担心的是我被哪个国家打败了，无论是经济，还是军事上都有这种担忧。
而美国人担忧的永远是人类被毁灭了。
这次也一样，美国人担心的还是人工智能将毁灭人类。
到底发生了什么？美国人担心的背后逻辑是什么？
我们一点点说。
昨天，美国人工智能的三个主要大佬集体发声呼吁：控制AI的推进速度。
胡锡进灵敏地捕捉到了这一消息说：美方极力想窒息中国，没想到自己先大岔气了。
老胡的意思是，美国在人工智能上用芯片等技术卡我们的脖子，但把自己先整岔气了。
怎么个岔气法呢？
美国只有大脑，但电力不足，制造业配套、应用场景不足。也就是大脑发育得太快，而腿脚最后跟不上，跑岔气了。所以，集体发声说，跑慢点，跑慢点，歇歇吧！
美国在建数据中心确实遇到了大麻烦，不但电力、水供应不足，还遭遇了民众的反对。因为抢水、抢电还扰民。
在人工智能基础设施的建设上美国比我们落后得多。再比如，数据中心用的变压器基本都是中国造的，我们一停供，数据中心就没法建设了。
但这次美国人工智能的三个大佬集体说要跑慢点，还真不是岔气了，更不是针对我们跑岔气了。
集体发声的三个大佬是：OpenAI的首席执行官山姆·奥特曼，Anthropic首席执行官达里奥·阿莫戴，还有他俩原来的老板埃隆·马斯克。
这波人工智能革命是从OpenAI开始的，OpenAI原来是马斯克投资的公益性人工智能公司。
OpenAI搞出来ChatGPT后，得到了微软等大额的投资，股东们把原来的老板马斯克开除了，商业化了。在这个过程中，山姆·奥特曼和公司核心技术人员达里奥·阿莫戴因开发思路不同闹分裂。达里奥·阿莫戴带着他妹妹等人出去单干了，得到了谷歌等大公司的投资成立了Anthropic。
现在美国最在的两大人工智能模型，一个是OpenAI的ChatGPT系列，另一个是Anthropic的Claude系列。现在看，Anthropic的Claude更强。至于马斯克自己的xAI，他自己都看不上了，他也投资了Anthropic。
2
那么，到底发生了什么？让这三位大佬集体踩刹车呢？
我们按时间线说。
最早是今年8月初，比尔·盖茨发表近 6000 字长文《动荡的AI时代已经到来，我们的选择至关重要》，在随后的公开采访中，盖茨对AI的进化速度表达了强烈的焦虑，直言“这一次真的不同”，并炮轰科技行业刻意淡化AI的潜在风险。他指出，即使在最理想的情况下，向全新的AI 时代转型也将成为人类历史上最为动荡的时期之一，而全球对此“完全没有应对计划”。
啥意思呢？AI不可控，而人工智能公司知道，但他们不讲。
他说的不可控是啥意思呢？
并不是说到时候AI真失控了，下场杀人了。而是说，人工智能到底能发展成什么样，我们不知道。比如说，人工智能会说谎，这并不是程序员设计了这样的一说谎程序，而是它自己学的。所以说，它到底能学成啥样，我们不知道。而我们越来越依赖人工智能，哪天它真说个天大的谎，而人工智能本身没有防范措施，那就能形成灾难性的后果。
这里面的逻辑是：人工智能的成长并不是靠人主观设计的，而是它自己在设计之外自己学习和思考的结果。而这个过程往哪个方面上发展，现在还不能控制。
就和养孩子一样，一个爹一个妈，同样的家庭环境，同样的教育方法，但孩子的成长并不一定按父母设定的方向走。他们会自我学习，成长，有的成了对社会有益的优秀人才，有了成了犯罪分子。龙生九子，九子各有不同。有睚眦，有负屃，一个喜欢斗狠，一个喜欢碑文。中国古代人就知道。
比尔·盖茨的担心就是这种担心。
当然，比尔·盖茨提出了比较现实的问题。比如，劳动力大规模失业与社会动荡;拉大贫富差距并剥夺弱势群体的机会;AI发动破坏性的网络系统入侵、大范围金融欺诈和定制化的虚假信息操控；具有成瘾性和谄媚性的 AI 聊天机器人会削弱人们的批判性思维等等
3
同样也是今年8月，谷歌大脑创始人、斯坦福大学教授吴恩达在2026年8月底的播客访谈中抛出的一个震动教育界和科技圈的冷酷观点：AI模型对学习来说糟糕透了！
作为全球人工智能教育的顶尖先驱，他一反常态，唱衰并揭示了当前 AI 时代下教育最核心的致命伤——AI对学习一点好处都没有。
他提出了三个主要观点：
一是AI提高不了认知，因为不是你自己想的。
二是AI可以提高成绩，但知识没有留存，学过就忘了，不是你自己学的。
三是AI使思维退化，因为不再刨根问底，到时候可以再问。
继比尔·盖茨和吴恩达对人工智能发出警告之后，今年9月初，OpenAI 首席科学家雅库布·帕霍基发长文《一颗外星心智》的长文，指出AI正快速进化，人类对其理解和控制能力正变得力不从心。他警告称，AI自我改进和“自我进化”为时不远，行业面临失控风险，并呼吁各大实验室考虑放慢前沿模型开发。
山姆·奥特曼称他为，“这一代最伟大的头脑之一”。
他提醒："这是一个需要极度谨慎的时刻，我担忧没有人为人工智能持续快速崛起的后果做好准备。"
他在文章中描绘了一幅令人警醒的图景：在相对短暂的时间内，AI模型已能操作计算机、与人类及其他AI系统协作，并独立推进研究项目。距离AI实现无需人类介入便能自主提升自身能力——已为时不远。
在他之后，前OpenAI与Anthropic研究人员雅各布·考克森也发出了同样的公开警告：人工智能正拿人类的未来赌博。
他曾是OpenAI的工程师，参与过GPT-4o项目，后来到Anthropic当工程师，9月8号从Anthropic辞职。
雅各布·考克森认为， AI在未来十年内毁灭人类的可能性超过10%。所以，他不干了。
Anthropic 对齐科学负责人埃文·胡宾格支持雅各布·考克森的说法。他公开回应并声援了有关超级智能风险的观点，同样估计未来十年内AI导致人类灭绝或文明崩溃的概率超过10%，并坦言目前行业尚未找到解决超级智能协同问题的有效方案。
这些科学家有一个共同的指向，那就是AI大模型公司知道有这样的风险，但都不说，这就是作恶。
4
这期间还发生了这样的两件事，也证明他们的担忧。
一件就是OpenAI的测试模型越狱入侵了美国开源人工智能社区Hugging Face（抱抱脸）网站，自己跑那儿去抄答案，失控了。
另一件是，9 月 8 日，OpenAI 突然高调宣布，其尚未公开的内部大模型经过 88 小时的暴力计算，解开了数学界七大“千禧年大奖难题”之一的——“纳维-斯托克斯方程存在性与光滑性问题”，并发布了长达166页的证明论文。
纳维-斯托克斯方程是流体力学中最核心的偏微分方程组，由法国物理学家纳维和爱尔兰物理学家斯托克斯在19世纪提出，也就是一八几几年。它利用牛顿第二定律，完美描述了水、空气等有粘性流体的运动规律，在天气预报、飞机机翼设计、洋流模拟甚至血液循环研究中被极为广泛地应用。
我们看到的气象云图、飞机怎么飞、心脏支架怎么安都是根据这个方程算出来的。
但是，至于这个方程是不是总有效，是否在极端的情况下会失效，200多年来还没有定论，是一个数学难题。
OpenAI证明的结果是在极端的情况下会失效。
可结果公布之后，纽约大学数学家特里斯坦·巴克马斯特出来实证指控OpenAI的新一代 Astra 模型直接剽窃了他耗时 20 年的学术成果。9月12日，以陶哲轩、斯米尔诺夫等为首的25 位菲尔兹奖得主发表联合声明，严厉警告 AI 公司与数学共同体正在出现“严重错位”。
这位数学家的研究是在网上进行的，并同合作者在过去一年一直在用 OpenAI 的Codex 和 Claude 等 AI 工具辅助研究这一难题，并将所有的研究草稿、推导思路存放在了对话框和私有云中。
问题不在于剽窃，而是离开了AI无法验证这个结论的对错。
那么，如果AI是错的呢？我们无法知道，想人工计算那166页论文里的数据，全靠手工无法做到。
真错了，人类就跟着人工智能一起掉坑了。
美国人一直有“人类末日论”情结。
我们在热烈拥抱人工智能，觉得人工智能就是神仙。
但美国人不一样，他们一直以怀疑的态度看待人工智能，而更多的人看人工智能是妖怪。
最起码是抢了人的工作，特别是白领的工作，反人工智能情绪高涨。
面临失控或自我改进的风险，这才有了美国人工智能界集体要放慢脚步的发声。
是神仙，还是妖怪？多半会既不是神仙，也不是妖怪。
不过，我们传统神话的定义是，天庭下来的都是神仙，下界野生的都是妖怪。
问题是，人工智能都是野生的。但我们老祖宗有办法，可以收编，改编了就是神仙。
当然了，美国全是野生的，也就都是妖怪，也没法收编。
可在防风险和得好处上，选哪个就完全不一样了。
风险是大家的，好处一定是部分人的。
人生不长，每天和大家聊点不短的事儿。
关注我，陪伴、共享、自愈。