
一家三口拿着AI识别后的"无毒"蘑菇下锅,9岁的孩子直接急性肝衰竭,在ICU抢救了8天。
刷到这条新闻的时候,我后背一凉。
现在手机一拍就能识别万物,大家都习惯了。拍照搜题、拍照识花、拍照问诊——方便是真方便。但这次出了大事。
家长在野外采了蘑菇,不确定能不能吃,掏出手机用AI拍照识别。结果显示"无毒"。一家人放心下锅,结果9岁的娃直接躺进ICU。急性肝衰竭,血浆置换,抢救了整整8天才把命捡回来。
AI从来不是神,它只是一个概率计算器。你把命交给一个概率,这事儿本身就不对。

不是我危言耸听。AI识图这件事,本质上就是个"看形状配对"的活儿。
你把蘑菇的照片丢给AI,它会去训练数据里找长得像的。找到一堆相似的图,标签里"无毒"占了多数,它就告诉你"无毒"。这跟你在街上看到一个陌生人的背影很像你朋友,就直接把银行卡密码告诉他没什么两样。
野生菌类的毒性识别在日常生活中本就缺乏大量的精准图像样本。有些毒蘑菇和食用菌长得跟双胞胎一样——菌盖大小、颜色、菌环位置,都能高度相似。别说AI了,老山民都有翻车的时候。
专门研究毒理的医生早就说过:蘑菇毒素种类庞杂,毒性交叉反应复杂,根本不是一个深度学习模型能覆盖的范畴。AI说"无毒"只是因为它没见过这种毒,不是因为它证明了这东西能吃。

说回来,这件事的核心不是AI不行,而是我们对AI的盲信太危险。
尤其是在涉及生命安全的问题上——吃进嘴里的、用在人身上的、性命攸关的——AI的回答只能当个参考方向,不能作为最终决策依据。这条红线,必须刻在每一个使用者的认知里。
野生蘑菇碰都不要碰 — 除非你有专业分类学背景,否则一口都别尝。不管AI怎么说。
AI只是工具,不是裁判 — 它对生死负不了责,出事了躺ICU的不是它。
教孩子"质疑权威" — 包括AI。不能手机拍一下就说"能吃的爸爸"。这很可能会害死你最爱的人。
一个9岁孩子用8天的生死抢救,给我们所有人上了一课。技术可以迭代,但命只有一条。野生蘑菇,果断不吃。
夜雨聆风