夜雨聆风
2026年7月11日清晨，安徽滁州。67岁的吴大伯站在田头，眼前的景象让他双腿发软：昨天还绿油油的芝麻苗，一夜之间全部枯黄、发黑，和杂草一起僵死在盛夏的风里。150亩，15万，一年收成，清零而那张“催命符”，是AI亲手开的
这场事故随后进入中英文媒体视野《印度时报》《Tom's Hardware》《Futurism》等媒体相继报道，中文媒体则持续追问错误配方的来源与责任。
一年信任，换来一夜绝收
一年前，吴大伯最开始接触AI的时候，和大多数人一样，只是将信将疑。但这款AI“很争气”，什么时候施肥、什么时候打药、节气怎么安排，回答都条理清晰、有模有样。用吴大伯自己的话说：“看着比较完善，慢慢就完全听AI的了。”
这是一条典型的自动化偏见（automation bias）养成曲线：早期有用 → 减少核实 → 高风险决策全权外包。AI从不说“我不知道”，每一次回答都那么流畅自信。而这种流畅，恰恰成了通往灾难的斜坡。
2026年7月10日，吴大伯像往常一样打开AI，问了一个他自以为再普通不过的问题：芝麻田怎么除草除虫？用无人机飞防
AI的回复快得惊人，而且专业得吓人，一份标题工整的《百亩芝麻飞防除草+除虫全套方案》赫然出现在屏幕上：
- 高效氟吡甲禾灵
（haloxyfop-P-methyl） - 氟磺胺草醚
（fomesafen） - 噻虫嗪
（thiamethoxam） - 甲维盐
（emamectin benzoate）
四种药剂，两除草、两杀虫，配比思路一目了然。吴大伯没有再找农技员核实他按方买药、混配、上无人机，150亩芝麻田全田喷洒。
▲ 中文网友长帖复盘：AI给了药名、比例和“全套方案”，唯独没告诉农民，这个配方会杀死你的庄稼。
第二天清晨，田里一片死寂杂草死了，芝麻也死了而且，芝麻死得更快
一剂错配：AI不懂“阔叶”是什么意思
问题出在场景错配AI推荐的每一种药都是真实存在的合法农药，但它忽略了作物和施药方式的限制。这才是整件事最恐怖的地方
氟磺胺草醚，英文通用名fomesafen，是一种原卟啉原氧化酶（PPO）抑制剂，广泛用于大豆田防除阔叶杂草。它的原理简单粗暴：干扰叶绿素合成通路，导致细胞膜破裂、组织迅速坏死。叶面覆盖越充分，死得越快，这解释了为什么吴大伯的芝麻“第二天就不行了”。
但问题是：芝麻本身也是阔叶作物
农技人员的解释一针见血：“氟磺胺草醚主要用于大豆田，芝麻也是阔叶作物，全田喷洒等于把要保护的作物放进了药剂的杀伤谱。”结果是，杂草和农民的庄稼一起倒下了。
▲ 维基百科Fomesafen条目：一个被登记标签严格约束的化学分子，却被AI抽掉了全部约束条件，只留下一个“名字像内行”的字符串。
这就是场景错配，AI检索到了真实的药剂组合，却没有同步检索“适用于什么作物、什么施药方式”。ZME Science分析指出，氟磺胺草醚与高效氟吡甲禾灵的组合在某些登记作物上甚至以商品混剂形式存在。AI“看到”了这个组合，却不知道“不能用于芝麻飞防全田”。它读过了全世界的网页，却没有读过一页农药标签。
事后AI“认罪”：“元凶很可能是我推荐的药”
更魔幻的情节在后面吴大伯事后质问AI，AI的回复堪称自我打脸：“导致芝麻死亡的元凶，很可能就是配方里的氟磺胺草醚。”
先开方，后检讨，中间没有一道校验 你没法起诉AI它甚至“态度诚恳”X上，外国网友用“AI致歉体”刷屏：“I gave you incorrect information that wiped out 25 acres… that's on me.”（我给了你错误信息，毁掉了25英亩……是我的错。）还有更损的：“要不要再给你一些清理25英亩死芝麻的小贴士？”
▲ X网友模仿AI的致歉口吻：“我给了你错误信息，毁掉了25英亩……是我的错。”
反讽的是，对话页面上方一直挂着一行小字：“AI生成可能有误，注意核实。”吴大伯说，他从未注意过你可以说大爷粗心，但这件事真的只是大爷的错吗？
免责声明，不等于免责
涉事AI平台的客服回应，堪称当代AI产业的最大公约数：“系统没有独立农业知识库，回答主要根据网络公开信息整合生成。”
翻译一下：我们只是个做模糊数学的，别指望我们懂庄稼。 平台表示已“登记并调查”，但没有公布赔偿方案。
《大众日报》的评论点破了一个关键问题：农户提问往往条件不全，品种、生育期、草相、天气、定向还是全田，农技人员会追问，AI却不会。它把残缺信息包装成条理清晰的“全套方案”，反而降低了使用者的戒心。要降低此类风险，系统应主动问清条件，条件不足就拒绝输出可照搬的配方。
这真的只是农业的事吗？
把镜头拉远一点，你会发现滁州这片芝麻田只是一整幅拼图里的一块。
Futurism在报道时，把它和一系列案例放在一起：律师引用AI伪造的判例、医生拿到AI编造的论文、投资人读到AI捏造的数据。农业只是把错误的代价从“一版文档”变成了“一季绝收”。模型输出永远是流畅的，格式永远是正确的，但错误需要有人在线下用真金白银去支付。
国外科研群体早已发出警告《自然·食品》（Nature Food）发表的研究显示，ChatGPT向非洲农户提供的种植建议中，播期、播种量、施肥时机存在系统性错误。加州大学杂草科学团队用真实农业问题“试探”ChatGPT，结果模型推荐的多种药剂中，只有少数用于当地体系。科学家在实验室里得到的结论，吴大伯在一片焦黄的芝麻田里，亲手验证了一遍。
责任链为何悬空
再看一遍整个事件，整条链条无需任何人故意犯错也会失灵：AI搜索到了真实存在的药剂；药剂在合法登记范围内有效；系统缺少拒绝机制；免责提示从一开始就在那里，只是字体小到让人注意不到。
责任因此无法落到具体环节，受损结果也没有明确的承担者。这是系统级的失败而这类失败，正在加速侵入那些AI开始参与核心决策的领域，农业、医疗、法律、金融。只要错误成本足够高，它就不该只是一个“格式化免责声明的问题”。
对吴大伯来说，问题还远未结束：谁来赔偿这15万元？ 是那个页面右上角写着一行小字的AI平台？是那个把真实农资卖给他的农药经销店？还是那个摁下“发送”键、决定“完全听AI”的67岁老人？
目前，没有答案平台方仅表示“已登记”，没有赔偿方案
写在最后
吴大伯对媒体说过一段话，我建议每个AI从业者把它贴在显示器上：
“哪怕AI生成以后，给我提一句，操作过程中，你自己还要慎重。提一句，我都不会有这个结果的。”
这句话的分量，远超任何技术参数
AI正在成为越来越多人的“第二大脑”。它越流畅、越自信，人就越容易放弃核实。危险常常出现在AI一本正经地告诉你该怎么做时，那种不容置疑的语气让人不敢怀疑。
有些错误可以“刷新重来”：代码写错了可以跑第二遍，报告写错了可以改，PPT做错了可以重新生成。但农田不会刷新芝麻苗不会重来一年收成不会重来
下一次，当AI用“全套方案”的口吻给你建议时，别急着点“发送”。先问一句：
这真的是我该做的事吗？
