ARTICLE · 1054542
AI制药的另一面:幻觉、黑箱、还会＂造毒＂,这些隐患制药人必须看清
AI制药的另一面:幻觉、黑箱、还会＂造毒＂,这些隐患制药人必须看清点击公众号 关注我们 导读
隐患一：AI 会"一本正经地胡说八道" 大语言模型有个著名缺陷叫"幻觉"——输出内容听起来逻辑完整、细节丰富，实际上是编的。幻觉落在制药场景里，后果比聊天出错严重得多。AI 生成的申报资料、药品信息、临床总结，可能虚构剂量、虚构禁忌，甚至引用一篇不存在的文献——而申报文件是法律文书，错误输出直接进入监管档案。公众侧的教训已经不少。官方媒体报道过：有人听信手机 AI 问诊建议，延误睾丸扭转治疗最终切除睾丸；有人因 AI 回答未标明药品克数，按 3 倍剂量服药引发急性肾损伤；还有人采纳 AI"用溴代替氯"的养生建议，长期服用含溴化合物导致慢性溴中毒。这些发生在问诊层面，但暴露的是同一个缺陷：模型分不清"编一个答案"和"给一个正确答案"，而健康决策承受不了这种赌注。 隐患二：黑箱 + "看起来对"，验证链容易被跳过 FDA 在 2025 年 1 月发布的首份 AI 药物研发指南草案里，要求对用于监管决策的模型提供详尽的性能评估——灵敏度、特异性、阳性预测值、置信区间，一个都不能少。为什么这么较真？因为模型的内部决策逻辑是黑箱，你不给证据，监管就没法判断它可不可信。 更现实的隐患是：发现快，不等于成功率高。 AI 缩短的是"找到一个像药的分子"这个过程，但"这个分子能不能治病、安不安全"终究要过临床这道关。医药行业媒体梳理过，早期被高度关注的 AI 设计候选药物，已有多个在临床阶段停止开发；不少 AI 药物管线进入临床试验后遭遇失败，临床 II 期被业内称为"死亡之谷"。头部 AI Biotech 的收缩动作也在印证这点——Recursion、Verge 都曾削减或终止核心管线。 强生披露的 AI 效率数据很亮眼：先导化合物优化时间砍半，临床试验报告准备从数百小时压缩到约 15 分钟。但注意，这些数据未经第三方独立审计，且最终报告仍要人工审核。一句话总结行业共识：AI 目前解决的是"这个分子像不像药"，而不是"这个药能不能治病"。效率红利是真的，但它不自动兑换成成功率。 隐患三：垃圾进，垃圾出——数据是三块短板 AI 制药的一切能力建立在训练数据上，而数据的现实是： 第一，高质量生物数据稀缺。 全球已有超过 100 个 AI 辅助研发药物进入临床阶段（行业统计口径），但限制转化率的核心瓶颈不是算法，而是数据。生物学数据噪声大、维度高、标注成本贵，能直接喂给模型的干净数据远没有想象中多。 第二，失败的阴性数据被藏起来了。药企高度保密失败的实验数据。但"为什么失败"恰恰是模型最该学的内容。训练集里只看得见成功案例的 AI，等于一个只复习过标准答案的学生，考试题一换就露馅。 第三，数据偏差与数据漂移。训练数据如果人种、年龄、合并用药覆盖不全，模型在特定人群上就可能失效。而即使模型上线时是好的，随着新数据输入、临床标准变化，模型性能也会随时间衰减，这就是 FDA 和 EMA 反复强调的"数据漂移"，所以监管要求对模型做生命周期维护，不是验证一次就完事。此外，患者数据、基因数据跨境传输还牵涉数据安全合规，这块的约束只会越来越紧。 隐患四：最被低估的——AI 制药的"双重用途" 如果你的认知里 AI 制药只是"效率工具"，那这条值得重点看。 美国制药公司 Collaborations Pharmaceuticals 做过一个反向实验：把 AI 分子生成模型的规则反过来——原本算法奖励"有效、低毒"，他们改成奖励"高毒"。结果是模型在 6 小时内生成了 4 万个潜在的有毒分子，其中包含被国际禁止的 VX 神经毒剂，而且大量分子不在训练数据里、与已知毒物毫无相似性。这项研究发表在了 Nature 子刊 Nature Machine Intelligence上。 翻译一下：造药和"造毒"用的是同一套生成引擎，把奖励函数一改，天使变杀手。这意味着 AI 制药能力存在被恶意利用的可能，生物安全（biosecurity）正在成为一个绕不开的治理议题，也对开源模型、云端 API 的可控性提出了更高要求。 监管在做什么：不是禁 AI，是要求"人在环" 全球药品监管机构其实已经在快速补位： FDA在 2025 年 1 月发布 AI 药物研发指南草案，核心是一套基于风险的可信度评估框架，模型影响越大、错误决策后果越严重，要求的证据就越严苛；同时还强调模型生命周期维护、数据漂移监测，以及尽早与监管沟通。 EMA早前就发布过思考性文件，把临床前 AI 工具纳入 GLP（良好实验室实践）框架，要求 SOP 覆盖 AI/ML 的使用；后来与 FDA 联合确定了 10 项 AI 药物研发良好实践原则，强调数据治理、文档体系、可解释输出、持续监测。 我国国家药监局在 2026 年 3 月发布《关于"人工智能+药品监管"的实施意见》，明确到 2030 年初构建审评审批、监督检查等场景的"人工智能+药品监管"融合创新体系，同时划了一条重要边界：人工智能在监管中定位为"辅助"，审评坚持"人工复核、全程留痕"。 三家监管机构的信号高度一致：不拦 AI，但要求可解释、可验证、可回溯、人在环。
落到日常，五条建议供参考： 1. 别把 AI 输出当结论。模型说"安全"，不等于它安全；AI 出的分子和文档，都要过湿实验和人工复核这道闸。 2. 给模型上"生命周期管理"。记录版本、训练数据、验证指标；定期监测性能是否漂移，出问题能回溯到具体版本。 3. 申报防翻车。凡是用于支持申报决策的 AI 产出，提前备好模型描述、使用理由、局限性、性能指标和置信区间，尽早与审评机构沟通，别等发补。 4. 数据合规前置。患者数据的采集、使用、跨境传输，从立项第一天就按合规设计，而不是事后补救。 5. 心态调对。AI 制药是"加速器"，不是"自动驾驶"。方向盘和刹车，始终在人手里。 说到底，AI 制药最大的安全隐患不是技术本身，而是把效率误当成安全性、把模型输出当成事实。谁先建立可信度体系，谁才真正吃到"十五五"这波红利。 你们公司 AI 参与的第一个产出，过人工复核了吗？评论区聊聊。
|
文字：药物与化学 图片：来源网络 声明：本文内容如有侵权，请后台联系小编删除。 |