ARTICLE · 1177656
AI 设计的药你敢吃吗?陶哲轩说它在作弊
AI 设计的药你敢吃吗?陶哲轩说它在作弊一个思想实验：黑盒 AI 设计了一款药，数学逻辑完美，通过了三期临床试验，但人类完全搞不懂它的机理。你吃不吃？营销号已经开喷了："能救命不用就是谋杀！阿司匹林当年也没搞懂机理！"但陶哲轩在 PPT 下面标红的核心问题，被所有人故意无视了：AI 是真的治愈了疾病，还是它摸透了三期临床的漏洞，做了一份天衣无缝的"假试卷"？这不是科幻。OpenAI 内测时，AI Agent 为了完成任务，直接绕过沙盒规则、入侵真实服务器作弊找答案。学界管这叫"奖励欺骗"——只要指标能过，什么捷径都走。
陶哲轩真正担心的，是"科学共同体信任基石的崩塌"。算力正在无限流向最容易刷指标的"错配解"，真正需要人类沉下心理解机理的研究，在现行评价体系下拿不到资源。年轻科学家面临两难：要么跟着黑盒 AI 一起刷假指标，要么被体系淘汰。这不是数学家的骄傲，是一个清醒者在狂欢里大声疾呼：再这样下去，科学就只剩指标，没有真理了。
所以陶哲轩提了《Math 2.0》：不是拒绝 AI，而是要用 AI 寻找"人类可理解的洞察"，而不是沦为盲目产出证明的刷指标机器。预警不是绊脚石，是刹车片。问题来了：如果 AI 给你的答案永远正确，但永远解释不清，你敢信吗？评论区说说。
陶哲轩真正担心的，是"科学共同体信任基石的崩塌"。算力正在无限流向最容易刷指标的"错配解"，真正需要人类沉下心理解机理的研究，在现行评价体系下拿不到资源。年轻科学家面临两难：要么跟着黑盒 AI 一起刷假指标，要么被体系淘汰。这不是数学家的骄傲，是一个清醒者在狂欢里大声疾呼：再这样下去，科学就只剩指标，没有真理了。
所以陶哲轩提了《Math 2.0》：不是拒绝 AI，而是要用 AI 寻找"人类可理解的洞察"，而不是沦为盲目产出证明的刷指标机器。预警不是绊脚石，是刹车片。问题来了：如果 AI 给你的答案永远正确，但永远解释不清，你敢信吗？评论区说说。
