乐于分享
好东西不私藏

AI造出了自然界不存在的病毒,但真正让人不安的不是技术本身

AI造出了自然界不存在的病毒,但真正让人不安的不是技术本身

斯坦福团队用AI设计出16种自然界不存在的噬菌体,发表在《科学》杂志上。这不是又一条AI新闻,这是AI从数字世界跨入生物世界的第一脚。

昨天刷新闻的时候,一条消息让我停下了手上的活儿。 美国斯坦福大学的研究团队在《科学》杂志上发了篇论文,说他们用AI设计出了16种全新的病毒——自然界里根本不存在的病毒。 不是用AI分析病毒,不是用AI预测病毒变异,是用AI从零开始「写」出了病毒的基因组,然后在实验室里把它们造了出来,还能正常复制、还能杀死细菌。 我第一反应是:ChatGPT发布才一年半,AI已经从生成文字、生成图片,一路杀到生成生命了?

到底发生了什么

先把事实说清楚。 斯坦福大学的Brian Hie团队,跟加州的Arc Institute合作,用他们自己开发的基因组语言模型Evo,干了一件事:让AI学会「写DNA」。 原理其实跟大语言模型差不多。ChatGPT是喂了海量文本,学会预测下一个词。Evo是喂了数百万条天然基因组的DNA序列——大约九万亿个核苷酸——学会识别DNA里的结构模式,然后生成新的基因组。 他们以一种叫Phi X-174的噬菌体为模板。噬菌体是专门感染细菌的病毒,不感染人,研究得比较透彻,基因组也小,适合做实验。Evo生成了几十万条候选基因组,研究团队挑了大约300条在实验室里合成测试,最后有16条活了——也就是说,16种全新的、自然界从未存在过的病毒,被成功制造出来了。 这16种噬菌体跟天然噬菌体完全不同。DNA序列不一样,基因结构不一样,基因组长度都不一样。更关键的是,实验发现有些AI设计的噬菌体,能干天然噬菌体干不了的事——比如杀死对天然噬菌体已经产生耐药性的大肠杆菌。 论文一发出来,《纽约时报》、CNN、BBC全在报。科学界也炸了。

为什么这件事的分量比看起来重

表面上看,这就是一篇很好的学术论文。噬菌体疗法在东欧用了几十年了,用噬菌体替代抗生素来杀细菌,方向不新。AI加速药物研发也不新,AlphaFold预测蛋白质结构拿了诺贝尔奖。 但这篇论文不一样的地方在于:它证明了一件事——AI可以从零开始设计出一个完整的、能正常运转的生物系统。 注意这里面的跨度。AlphaFold是预测蛋白质怎么折叠,本质上是理解已有的东西。而Evo是创造全新的东西。前者是AI读懂了生命,后者是AI开始写生命。 Brian Hie自己说了一句话:「这是我们第一次证明,生成式设计可以生成完整的功能性基因组。」 翻译成大白话:以前AI是在电脑上模拟生物,现在AI设计的东西可以在真实细胞里跑了。 这个跨界的意义,不亚于ChatGPT让AI从实验室走向大众。只不过ChatGPT跨的是数字世界到日常生活的边界,而Evo跨的是数字世界到生物世界的边界。

真正让人不安的不是技术,是治理空白

约翰斯·霍普金斯大学的两位学者Thomas Inglesby和Moritz Hanke在同期《科学》杂志上发了评论,措辞相当直接。他们说这项研究「提出了紧迫的生物安全问题」,而且「现有的治理框架不足以监管生成式基因组学」。 他们还说了一句更扎心的话:问题已经不再是生成式病毒基因组设计是否会出现,而是社会能否建立起一套监管机制,在防止其造成严重危害的同时让其益处得以实现。 这话翻译过来就是:技术已经来了,规则还没来。 我为什么对这句话特别敏感?因为这个模式我们太熟悉了。AI生成文字的时候,版权问题没跟上。AI生成图片的时候,深度伪造问题没跟上。AI生成视频的时候,选举虚假信息问题没跟上。每一次都是技术先跑出去,监管在后面追。 现在AI开始生成病毒了,还是同样的剧本。 更让人不安的是一个细节:Evo 2是开源的。你可以免费下载这个模型。也就是说,理论上任何人只要有基本的生物实验条件,就可以用这个模型设计新的基因组。Brian Hie认为好处大于风险,但霍普金斯的学者说得对——你不能假设所有人都像斯坦福团队那样重视安全。 这跟核技术的逻辑有点像。原子能可以发电也可以造炸弹,区别在于谁掌握了它、有没有国际监督机制。AI生成生物体的技术现在走到了类似的岔路口。

最后说几句实在的

斯坦福这个研究团队其实做了不少安全措施。他们没有把人类病毒的数据喂给模型,只用了噬菌体。实验在安全实验室里做,用的是不致病的大肠杆菌。他们也呼吁同行在项目全周期咨询安全专家。 但问题在于,好的科学家不等于好的世界。技术一旦公开,你能控制自己怎么用,控制不了别人怎么用。 Evo 2开源了。Phi X-174的基因序列是公开的。DNA合成服务的门槛一直在降。把这些拼在一起,一个有足够资金和知识的团队,理论上可以复现这个实验,甚至走得更远。 霍普金斯学者说的那句话值得反复咀嚼:问题不是这会不会出现,而是我们能不能建起一套机制,让好事发生的同时挡住坏事。 这话不只适用于AI造病毒。它适用于AI造一切。 AI生成文字的时候,我们没建好机制。AI生成图片的时候,我们没建好机制。AI生成视频的时候,我们还是没建好机制。现在AI开始生成生命了,我们还有机会建好机制吗? 我不确定。但我确定一件事:如果这一次还是让技术先跑、规则后追,那追上的代价,可能比前几次都要大得多。 这不是科幻小说的情节了。这是《科学》杂志上的论文,是真实发生的事。