智创未来 | 人类如何阻止生物AI工具“黑化”

点击上方，关注我们

当人工智能与生物学深度交融，一场前所未有的变革正在实验室中悄然上演。AI工具可以设计出精准裂解细菌的噬菌体，也能加速新药与清洁能源的研发进程；然而，同样的技术，稍加引导，却可能催生难以检测的毒素、改造后的致命病毒，甚至新型生物武器。我们正站在一个岔路口：一面是生物AI带来的巨大福祉，另一面是它“黑化”后潜藏的毁灭性风险。

如何在不扼杀科学创新的前提下，有效遏制恶意滥用？从基因合成订单的源头筛查，到为AI模型加装“安全护栏”，再到各国政府的立法探索与科学界的自律行动——一系列尝试正在展开，但每一项都面临技术迭代与开放共享理念的挑战。本文深入剖析了生物AI工具的两面性，梳理了当前最前沿的风险评估与防控策略，并探讨了开放与安全之间的艰难平衡。这不仅关乎科研伦理，更关乎全人类的共同未来。

生物学领域的人工智能（AI）工具正如雨后春笋般涌现，随之而来的安全隐忧也日益加深。这些利器既能助力研发创新药物与生物燃料，也可能沦为新型威胁的推手。面对不断迭代的AI技术，一个尖锐的问题摆在眼前：它们是否会加速强效毒素、新型病毒乃至生物武器的诞生？

瑞士苏黎世大学结构生物学家马丁·帕塞萨警告，生物安全形势已不容乐观。理论上，借助AI，恶意行为者有望合成隐蔽性极强、现有检测手段难以筛查的蓖麻毒素或其他致命毒剂。然而，如何化解这一风险，学界尚无定论。有人主张对生物AI工具施加严格限制，也有人担忧这会扼杀科研的活力。

AI应用于生物学引发广泛担忧

美国约翰斯·霍普金斯大学AI生物安全研究员詹姆斯·布莱克认为，该领域存在两大核心关切：一是未经专业训练的人员仅凭聊天机器人，便可掌握制造或散布炭疽等病原体的基础知识；二是手握资金与资源的国家行为体或恐怖组织，能将通用AI与专业生物软件深度结合，从而“从零到一”设计出新型生物武器。

美国非营利组织SecureBio西斯·多诺霍团队2月发布的预印本论文显示，借助前沿大语言模型，生物学背景薄弱的人在病毒学实验排错、编写自动化实验室机器人代码等任务上，已可媲美甚至超越部分博士研究人员。此外，具备自主执行能力的AI智能体，还能引导生物模型定向增强病毒蛋白的致病力。

不少科学家担心，AI对人类最大的潜在威胁，或许是设计出可引发大流行的病毒。最常见的做法是对现有病毒（如新冠或流感病毒）进行改造，增强其逃避免疫系统攻击等特性。2025年9月，美国斯坦福大学与弧形研究所的科学家在生物预印本平台发表论文宣称，他们已利用AI设计出首款能精准追踪并裂解大肠杆菌的噬菌体。

美国国家科学院等机构2025年发布的报告也指出，现有生物AI工具已具备设计特定毒素的潜力，只是大规模生产与有效投送仍是难点。

筛查是防止滥用的有效屏障

面对生物AI工具被滥用的风险，多位科学家指出，最优解是在基因合成或毒素制备的源头实施精准拦截。

意图合成AI设计蛋白或定制基因组的研究者，通常需向核酸合成企业订购DNA或RNA序列。部分企业加入了国际基因合成联盟，该联盟强制要求成员筛查订单中可能编码毒素、致病蛋白等有害分子的序列。

但2025年开展的一项研究揭示，此类筛查防线正被AI工具悄然穿透。微软公司埃里克·霍维茨团队利用开源蛋白设计工具对72种高危生物分子（含毒素与病毒蛋白）进行重新设计，生成了7.6万个“合成同源物”。这些序列因高度变异，成功绕过了参与测试的4家合成企业的筛查系统，其中约1/4被预测最接近真实威胁的“顶级设计”成功脱检。不过，在其中的3家企业升级算法后，漏检率骤降至约3%。

Eric Horvitz 微软首席执行官

有学者认为，当前筛查体系仍是抵御滥用的有效屏障，但技术迭代一日千里。也有学者将担忧的目光投向“台式DNA合成仪”。这类设备目前仅能合成极短序列，但随着技术演进，未来合成更长片段乃至完整基因可能成为现实，届时源头管控将面临全新挑战。

为AI模型加装“安全护栏”

也有科学家认为，AI工具本身（尤其是生物垂直模型）应内置更严格的访问控制与防护机制。2024年诺贝尔化学奖得主、华盛顿大学计算生物物理学家大卫·贝克透露，其团队在发布蛋白设计工具前均会开展系统性风险评估。这与他们2024年3月联合近200名科学家签署的《负责任AI与生物设计原则》一脉相承，旨在推动科学界建立自律框架。

OpenAI等通用大模型开发商已着手训练模型拒绝或安全化处理有害请求，涵盖生物安全等敏感领域。而由弧形研究所、英伟达公司与斯坦福大学联合开发的基因组语言模型Evo2，虽基于跨越生命之树的12.8万个物种基因组训练，却主动剔除了感染真核生物（含人类）的病毒数据。因此，Evo2在设计和预测此类病毒序列时，能力受到限制。