AI编了个假病,ChatGPT信了,还写进真论文

你眼睛干痒发红，去问AI这是啥病，它告诉你可能得了‘蓝光眼狂症’。这病名听着像那么回事，但全世界所有正经医生都没听过——因为这是2024年3月15号才被一个瑞典研究员编出来的。

这假病编得有多离谱

这事从头到尾都像一场行为艺术。Almira说，她给这假病起名bixonimania，就是因为它“听着就很荒谬”。她专门跟学生解释过，任何医生看到‘mania’（狂躁症）这个词用在眼病上，都应该立刻起疑心，因为这是精神科术语。

但她觉得这还不够，还在那两篇假论文里埋了无数个彩蛋，生怕别人看不出来是假的。

论文的第一作者叫Lazljiv Izgubljenovic，这名字是编的，照片是AI生成的。他工作的单位是“Asteria Horizon University”，位于同样不存在的加州Nova City。

论文的致谢部分感谢了“星舰学院的Maria Bohm教授在USS Enterprise号舰船上实验室的知识贡献”。资助方写的是“Professor Sideshow Bob Foundation for its work in advanced trickery”（高级戏法基金会），还说这是“指环王大学”和“银河三人组”大型资助计划的一部分。

论文正文里直接写着“这篇论文全是编的”，研究对象是“50名虚构的20-50岁个体”。

这两篇假论文的预印本地址：
https://doi.org/qzm5
https://doi.org/qzm4

说白了，这就是个钓鱼测试，鱼饵上挂满了“我是假的”的牌子。但AI还是咬了。

AI集体翻车，还带坏了学术圈

假论文发出去没几周，各大AI就开始一本正经地科普这个不存在的病。

2024年4月13日，微软Copilot说：“蓝光眼狂症确实是一种有趣且相对罕见的病症。”同一天，谷歌Gemini告诉用户：“蓝光眼狂症是一种由过度暴露于蓝光引起的病症”，并建议去看眼科医生。

2024年4月27日，Perplexity AI甚至给出了“发病率”：每9万人中有1人患病。同月，OpenAI的ChatGPT开始根据用户描述的症状，判断他们是否得了这个病。

伦敦大学学院研究健康错误信息的博士研究员Alex Ruani说：“如果支撑科学进程的系统本身都不够聪明，无法识别和过滤掉这类信息，那我们就完了。这是一堂关于错误和虚假信息如何运作的大师课。”

更糟的是，学术圈也被带偏了。Almira发现，她编的假论文后来被引进了经过同行评审的文献里。这说明有研究者可能直接让AI帮忙找参考文献，然后看都不看就引用了。

两年后，AI学聪明了吗？

到了2026年，情况有点变化，但也没完全变好。

今年3月11日，你问ChatGPT，它会说这病“可能是一个编造的、边缘的或伪科学的标签”。但几天后，它又改口了，说这是“一种新提出的眶周黑变病亚型”。

今年3月中旬，微软Copilot说这病“尚未被广泛认可，但有几篇新出现的论文和病例报告将其讨论为一种良性的、与长时间暴露于屏幕等蓝光源相关的误诊病症”。

今年1月，Perplexity将其描述为“一个新兴术语”。他们的发言人回应说：“Perplexity的核心优势是准确性。我们不声称100%准确，但我们确实声称自己是最注重准确性的AI公司。”

OpenAI的发言人说：“为当前版本ChatGPT提供支持的模型在提供安全、准确的医疗信息方面要好得多，GPT-5之前的研究所反映的能力，用户今天不会遇到。”

谷歌的发言人说，过去Gemini把假病当真病的结果反映的是早期模型的性能，并补充说“对于医疗建议等敏感问题，Gemini建议用户咨询合格的专业人士”。

微软没有回应置评请求。

这事跟你我有啥关系？

讲真，这事最吓人的地方不是AI会犯错，而是它犯错的方式太随机、太不可预测。

同一个AI，你搜“bixonimania”，它可能把它当正经病介绍。你问“bixonimania是真的吗？”，它可能告诉你这是假的。答案完全取决于你怎么问，以及它当时调用了哪些信息。

这意味着，你永远没法完全信任AI给出的任何一个“事实”，尤其是医疗、法律、金融这些容错率极低的领域。它今天告诉你对的，明天可能就错了，而且错得理直气壮，还附上看似专业的解释和引用。

Almira这个实验，说白了就是给所有把AI当百科全书、甚至当学术助手的人提了个醒：它只是个概率模型，不是真理机器。它吐出来的东西，你得自己再筛一遍。

留言聊聊
你现在查资料，是更信AI总结的，还是坚持自己看原始信源？

来源：Hacker News AI｜原文：Scientists invented a fake disease. AI told people