乐于分享
好东西不私藏

AI for Science:在被天意侵蚀之后

AI for Science:在被天意侵蚀之后

写在前面,我很少用AI4Science来介绍自己,因为这是一个…含义太丰富的概念。一般我只会说自己是一个臭学化学的,然后还愿不愿意和我一个学化学的打交道,就看你兴趣了。不过这篇文章依然会以AI4Science开头,此诚危急存亡之秋也。


以LLM为backbone的各种工具,或者说主要是coding agent,已经极大地改变了许多人的研究生活,这是一个不需要再阐述的事实。2022年我嘲笑它,2024年我喜爱它依赖它,2026年我恐惧它。

当一个人在自己phd之旅快要抵达最后一年的时候(希望没有最后+1年)发现自己曾经投入那么多时间精力做过的东西可以光速被复现被迭代,留给人的就是巨大的虚无感。如果agent可以做到,那么需要我坐在这里的意义是什么?

更进一步的,coding agent还会逐渐剥夺一个人调通代码时的那一次次惊喜,越是想蹬起来claude code的飞轮,越是想提升自己的效率,就越会发现自己置身于一些奇怪的场景之中:频繁的线程切换,频繁的检查,频繁的价值判断,最后还有哪怕极力避免也避免不了的频繁出错。创造意义的工作本身不会带给人疲倦感,在并不由自己创造的context中跳来跳去是一种疲于奔命。最后让人眩晕瘫坐,默默接受了天意的侵蚀。

人是需要不断吞噬意义来活下去的生物,存在主义危机笼罩着坐在屏幕前的每一刻。如果你相信AGI会到来,那么作为胶水的AI4Science有什么用呢?在给定的数据集上雕花般的提升一点accuracy,和研究针尖上能站几个天使有什么区别呢?

焦虑是真的,被取代也是真的,和agent竞争工作能力,即使当前还有一些edge,在不久的将来也可能会被吞噬,并且工作得越努力,技术越有价值,被吞噬得反而越快,仿佛火山爆发,看到原子弹在眼前爆炸,怎么不算是一种scaling law在人身上的反噬呢。

但故事不止于此,贩卖AI焦虑也没有什么价值,我毕竟不是来卖课的。

存在主义危机之所以成立,是因为人在不由自主之间把自己的价值和工具性划了等号,而一个人的工具性被取代不意味着他一无是处,继续只锚定这一点来训练自己,就是跑RL选错了reward system。

问题是,我们要如何在这样一个时代自处?当然我在这里不打算写一些没有营养的鸡血逆袭。如果research的技术差距正在面临被逐渐拉平的过程,那么接下来决定一个research是否可以做的就是taste和willingness,人不应该继续只在被工具拉平的那一层用力。

我并非技术无用论者,只是AI4Science领域里长期以来的那种,从隔壁domain借个方法再在自己的领域里刷一下榜的做法,逐渐变得没有意义了。molecular representation, reaction embedding, physical constraint,为任务专门定制的loss,这些曾经每一个都是一个绝佳的故事,时至今日也是重要的工具,但现在来看,单纯开发这些还不够。

两三年前我曾做过单步逆合成预测,现在not any more,因为单步逆合成预测是一个饱和的中间任务,如果你是为了什么拯救人类疾病的宏大目标投身于此,最后你的产出是提升了某个杂乱不堪的专利数据集上什么top-k预测召回率的1.1个点,自己想一想也会觉得荒谬吧。

那么对于亲爱的AI4S student/researcher们,除了眩晕瘫坐之外还可以做什么呢?

首先第一点还是要多使用那个正在取代人类的agent,可能是claude code,可能是codex,whatever,只有多用才会知道他的能力边界在哪里。你永远可以把键盘一推,继续去讲“Claude在我做的事情上连xxx都不会”的笑话,不过这有什么意义呢。用得越多,可能user才会越意识到并非agent可以直接平移取代人,agent能帮助到的是知道一件事本来大概要怎么办,where could go wrong的人。万能的上帝能创造出一块自己搬不动的石头吗?但是不万能的模型真的可以创造出自己做不对的题目。

制作benchmark虽然听上去相比开发模型有点性缩力,但是用模型创造出他自己不会的却又grounded的过程是一个非常有趣的过程,更重要的是,只有在这个过程中人才会更好地理解这些模型在你所在domain上的边界。他缺的是世界知识的pretraining,是sft拟合太狠了,是推理路径全是兜圈子的废话,还是读不懂你的domain specific language,还是next-token-prediction的范式压根做不了你想研究的问题,还是会在你的科研流程里偷偷作弊……一眨眼模型为我犯过的错误全都历历在目。

边界之内交给模型,边界之外才是让人坐在屏幕前的理由。

然后来说说为什么AI4S student/researcher们会觉得自己有严重的被取代危机呢,因为有的research只是在做知识最浅层的翻译官,把模型和算法的知识翻译给实验室里的人,meanwhile他们不感兴趣奇怪的metric和调用流程;把domain knowledge引入算法,meanwhile被人觉得trivial;时间来到2026年,他们俩人快要当着你这个翻译的面自己聊起来了,不需要中间层赚差价了。

所以,如果你曾经被人诟病不够落地不够接地气,“做这玩意儿除了发文章到底有啥用”,那现在可以去落地了。

一问模型为什么没用就说“数据量不够”是世界上最没有意义的defense,世界上的问题不可能都等到有了足够的数据再去解决,一个只能存在文章里的工作与不存在无异。在2026年,配置一个服务器,vibe一个网页,这些东西的成本正在逐渐变得越来越低,哪怕做的这个toolkit并没有什么技术含量,不能讲出好的算法story,只要有做science的人愿意点开demo page,play with the model,那我觉得这就算是一个有价值的工作了。提升1%的accuracy和让做实验的人在深夜少为垃圾工具崩溃一次,哪个更接近所谓AI for science的本意呢?

从前“我没空写前端”“落地是交给engineer做的事情”还勉强是一种遮羞布的防御,但今时不同往日,有没有story是给审稿人看的,而有没有user是拷问自己的,这也是一种test-time scaling。

如果确立了边界,确立了什么是实用的方向,最后的一块拼图就是回答为啥自己还在这里呼吸。

AI4S的意义当然也不在于只是给人做工具,不在于那个“for”。正因为执行被拉平,真正该让人探索的地方是那些本来得攒一个组、熬几年才敢碰的方向,在模型能力的边界外一层。让人眩晕瘫坐的迭代速度,同样是撬开所有之前不敢做的方向的杠杆,AI4S瞄准的是"AGI+1"。AGI+1不是比AGI更聪明,而是把已经能完成的执行层当作地面,去寻找那些仍需要domain judgment来定义、验证和承担后果的问题。

需要再叠一个甲的是,“撬开”并不等于“撬赢”,杠杆不会让人少干活,而是会让人更快fail fast,把精力放到以前单一领域的专家做不到的交叉insight上去。coscientist的工作那么多,autonomous ai-scientist的产品那么多,可时至今日,定义有用的方向仍然只是人类的privilege,决定AGI+1在哪里的还是人类。这固然是一种傲慢的人类本位主义,但是在赛博飞升之前,我们还是需要在这套人类本位的叙事中前进。进入陌生领域的门票降到了从未有过的低价,而决定要去哪里的还是人。

所以agent的兴旺,以及或许已经不远的AGI,会把刚被创立出来不久的AI4S一剑劈成两个概念,一种是越来越聚焦于落地,做真正能服务于用户的工具,让用户用脚投票;另一种是带着独特的domain insight,用好人类目前最强力的这柄杠杆,去接近以前不敢做的梦。将来的愿景绝对不是像我爱发明那样,domain specific model和frontier LLM打擂台赛,而是人类装着AGI的义体去开荒,哪怕开荒出来证明是一片盐碱地,也好过只作为AI和Science之间的胶水,价值判断总会比借来的方法更重要。

存在主义危机永远不会消失,被天意侵蚀的部分也永远不会回来了。或许这条划定边界/极致落地工具/探索AGI+1的pathway是AI4S研究者在被取代前绝望的幻想,但总好过沉浸在被取代的绝望中本身。

工具性被取代了,但是有了更强工具的researcher,需要从已有benchmark和dataset的舒适区里站起来,自主选择下一个前进的方向;所谓忘掉所有知识之后剩下的才是教育本身,不能单纯作为工具的researcher,做的或许才更接近research本身吧。

我相信AGI的存在与实现(虽然并不一定只以LLM为backbone),但我所受的化学教育又教给我,一个在热力学上显然成立的过程,并不一定就真的会在现实中发生。模型本身依然只是一个模型,而如何带着模型跨越一个个能垒改写世界,是一个依然需要去探索的动力学路径。

“我必将失败/但诗歌本身以太阳必将胜利”