夜雨聆风学习资料网

ARTICLE · 1083379

AI时代,文化正在变成一片黑暗森林

AI时代,文化正在变成一片黑暗森林

单击上方“图灵人工智能”,选择“星标”公众号

您想知道的人工智能干货,第一时间送达

转自混沌巡洋舰,仅用于学术分享,如有侵权留言删除报道  

你有多久,没有把一份未完成的方案,发给同行征求意见了?

这曾经是科学和创作里最普通的一步:把半成品摊开,让人挑毛病,然后带着反馈继续。人类几千年的知识,就是这样长出来的——靠公开,靠交流,靠半成品之间的碰撞。

但最近,神经科学家 Erik Hoel 在 The Intrinsic Perspective 上发表了一篇引发轰动的文章,标题是《文化正在变成一片黑暗森林》。他的判断很冷:在 AI 时代,公开分享未完成的创意、研究草稿或初步想法,已经变得极其危险。任何一个暴露在公共网络上的半成品,都可能被 AI 系统及其背后的公司瞬间吸收、复制、抢发。人类的知识生产,正在被迫转入全面的隐身状态。

这不是科幻比喻。就在过去两周,数学界刚刚上演了一场真实的黑暗森林事件。

01 数学界刚刚上演的一幕:纳维-斯托克斯的抢发风波

事件的导火索,是数学界六大千禧年大奖难题之一——纳维-斯托克斯方程。就在不久前,这个困扰了人类一个多世纪的问题,被宣布几乎就要被解决。

动手的是一对组合:纽约大学的数学教授 Tristan Buckmaster,和一位在 Anthropic 工作的数学家。两人利用 AI 作为辅助工具,用了一年时间推进一个方案——但请注意,这个方案的核心思想并不是 AI 想出来的,而是来自 Diego Córdoba 和 Luis Martínez-Zoroa 等人多年来公开进行的研究。用 Buckmaster 的话说,这个方向不是给模型丢个题目、几天就能抵达的路线。

真正的转折发生在 OpenAI 介入之后。Buckmaster 在一份声明中透露:OpenAI 得知他们的进展后,迅速组织力量抢发了自己的解决方案,迫使他们不得不提前释放多个相关的证明——其中一些还处于类似 AI 草稿般的粗糙状态。

更令人不安的是细节。Buckmaster 说,在过去一年的研究里,他们一直在使用 OpenAI 的 Codex 工具,并把项目的所有草稿都上传了进去。他在声明中直接追问:OpenAI 的模型,有没有被训练过、或者能够访问他们的私人会话数据?他得到的回答是模型没有查阅用户数据;可当他再次追问训练这个环节时,没有得到任何答复。

OpenAI 随后的回应也耐人寻味。它一方面承认确实有一支人类数学家团队参与,另一方面又强调,这支世界级团队此前没有纳维-斯托克斯方程的相关经验,因此无法对数学内容做出有意义的贡献。一支被部署去解决问题的精英团队,最终却说没有贡献什么内容——那他们究竟贡献了什么?没有人能说清。

02 更隐蔽的一幕:未完成的草稿,连符号都会泄露

如果说抢发还属于人类竞争的范畴,那么接下来这个案例,就真正触及了黑暗森林里那种宇宙级的恐怖。

据 Hoel 在文章中引述:一位致力于攻克雅可比猜想的著名数学家,自 2025 年起,就有一份未完成的草稿意外地留在了网络上。此后,另一家公司在用 AI 验证 Anthropic 那个广受关注的雅可比猜想成果时,其输出内容中竟然出现了与这份草稿完全一致的数学符号重叠。

这意味着什么?意味着 AI 模型在推理或写作时,对网络上曾经出现过的半成品极其敏感,敏感到连某个特定的符号写法都会记忆并复现出来。你的未发表工作,可能在你毫不知情的情况下,已经成了某个模型气质的一部分。

注意,这甚至不需要有人刻意去偷。它更像是:你留在公共空间的一枚指纹,被一台无休止阅读的机器捡走了。

03 陶哲轩的警告:无味的证明,与不可再生资源

真正的学术共同体对此怎么看?著名数学家陶哲轩,给出了一个让人后背发凉的判断。

他问了一个问题:AI 生成的这些自动化证明,会有信息量吗?还是说,它们是无味的?陶哲轩用的原词是 odorless——无味的。人类的证明,自带一种气味:直觉、洞察、启发,那种让后辈读者说出原来可以这样想的东西。而 AI 的证明,逻辑上可以验证,却可能完全闻不到这种气味。

Hoel 做了一个很妙的类比:你现在可以让 GPT 写出一整部奇幻三部曲,它能塑造人物、推进情节、保持前后一致,甚至能给你画一张复古风格的地图。但它会是你想读的那本书吗?大概率不是。AI 证明定理也是如此——它可能正确,但未必是数学家们想读的那种证明。

更致命的判断在后半句:陶哲轩把尚未解决的数学问题,称为不可再生资源。因为 AI 把得出答案和人类获得洞察这两件事解耦了。一个难题一旦被暴力破解,人类就永远失去了通过攻克它来训练直觉、深化理解的机会。问题没有了,路也就没有了。

04 从轮作到刀耕火种:知识生态的底层逻辑被改写

Hoel 认为,AI 对文化的破坏远不止数学界这一隅,它改写的是人类知识积累的底层逻辑。

过去,人类文化的发展像是农作物轮作:公开交流、相互反馈、缓慢协作,虽然慢,但无限可持续——知识自然生长出更多知识。而现在,AI 的发展更像是刀耕火种:为了短期收益,把人类自然生长出的创意、草稿、讨论故意烧成灰烬,在这片灰烬上收割几年快速产出,然后抛下,转向下一块土地。

与此同时,先发优势变得极端残酷。过去,剽窃或抢发一个想法,至少需要付出同等的人类努力,而且抢到的人大概率也能产生类似的洞察——竞争虽然存在,但底线还在。现在,只需输入一个提示词,AI 就能瞬间生成一个几乎一样好的版本,直接把原创者的灵感、洞察和潜在回报榨干。

你还记得吗?去学术会议展示未完成的研究、在网上发布一个想法来收集反馈——这些我们习以为常的社会公共空间,正在悄然关闭。因为每一次公开,都可能是在向猎人报告你的位置。

05 唯一的生存策略:成为面壁者

面对这种掠夺性的技术模式,Hoel 得出了一个悲观但务实的结论:唯一有效的应对,是成为《三体》里的面壁者。

如果你正在做一件有趣的研究或创作,那么面壁是必要的。你必须面对墙壁,不泄露任何信息,不放弃任何细节。所有的思考,都必须在绝对的保密中完成。

他描绘的未来图景是这样的:智力工作者将蜷缩在树后,尽可能安静、疯狂地完成自己的贡献。你永远会感到被猎杀的压力,因为任何人都可以用一个提示词,生成一个几乎一样好的版本,把你多年的灵感与回报瞬间挖走。公开的协作与建设,将不复存在。

而最终极的讽刺是:当一项伟大的智力成果终于问世时,它将像黎明时分空地上突然出现的一尊光滑雕塑——美丽,却来源不明。随后,所有人又会迅速退回各自的树后,回到黑暗、潮湿的泥土中继续摸索。

写在最后

所以,AI 真的像乐观者说的那样,解放了人类创造力吗?Hoel 给出的回答是:它并没有消除智力劳动的竞争,而是把竞争的维度,从谁更有洞察力,降维成了谁能更快地用 AI 把半成品变成成品。

当公开分享半成品以获取反馈——这个支撑科学和艺术发展的核心机制——被被抢发、被吞噬的恐惧所取代时,文化的开放性与协作性,就已经在死亡了。

这篇文章不是劝你停止分享。它更像一记提醒:在猎人环伺的森林里,重新掂量一下,什么值得说,什么值得留给自己。

毕竟,黑暗森林里唯一的规则是——先活下来,再谈创造。


文章精选:

1.图灵奖得主姚期智最新演讲: AI有边界,恰恰是好事

2.图灵奖得主本吉奥警告全网:AI已经学会“演给安全测试看”,下一代我们可能真的抓不住了!
3.图灵奖得主萨顿 WAIC 2026 最新演讲:现在的 AI 还不算真智能,我们正迈入经验时代
4.菲尔兹奖得主陶哲轩最新访谈:未来数学属于人类与 AI 的混合体
5.图灵奖得主、AI教父辛顿:AI已具备意识,且将进化成远超人类的智能生命体
6.图灵奖得主、“AI教父”辛顿认错:我当年想得太简单!卡死医疗AI落地的,其实是背后的法律
7.图灵奖得主Bengio预言o1无法抵达AGI!Nature权威解读AI智能惊人进化,终极边界就在眼前
8.图灵奖得主、强化学习之父Rich Sutton:大语言模型是一个错误的起点
9.图灵奖得主杨立昆:大语言模型缺乏对物理世界的理解和推理能力,无法实现人类水平智能
10.压缩即是全部 —— 菲尔兹奖得主 Michael Freedman 给数学和 AI 的一封信

相关学习资料