夜雨聆风
机器又犯错了，这一次，错误是以公顷为单位结算的。
2026年7月10日，安徽滁州，67岁的吴大伯做了一件过去一年里他重复过无数次的事：打开手机里的AI聊天软件，输入问题，等待那个永远条理清晰、永远语气笃定的回复。这一次的问题关乎他150亩芝麻田的除草和除虫。AI没有迟疑，给出了一份连标题都透着专业感的方案，“百亩芝麻飞防除草＋除虫全套方案”。四类药剂，从禾本科除草剂到阔叶除草剂，再到两种杀虫剂，排列得整整齐齐，像一张可以直接交给飞防服务队的执行工单。
他照做了
次日清晨，田间的景象让这位种了几十年地的老人无法理解：草和苗一起死了，苗死得更快。再过几日，约25英亩（约150亩）的芝麻苗成片枯萎。事后AI给出的诊断指向配方中的氟磺胺草醚，一种主要用于大豆田的阔叶除草剂。
▲ 一条高互动英文转述帖以“一年信任，一夜尽毁”概括此事；配图为示意图，并非药害现场。
这篇故事最残酷的地方，在于AI此前曾经对过太多次。
一年“正确”，换一次“致命”
一年多前，吴大伯对AI的态度是将信将疑。他对智能设备的理解，可能停留在子女过年回家时帮忙装的那些App。但很快，这个来路不明、不显山不露水的聊天窗口，用一次次看起来无懈可击的回答，从他那里赢得了连当地农技站都未必能享受的信任。
农时安排？ AI答得头头是道，连倒春寒的窗口期都算得清楚。施肥用量？ 数字精确到小数点后一位，看上去比老农的“手感”科学得多。病虫害识别？ 症状描述和药名对应得严丝合缝
这是一个典型的“校准失败”过程 行为科学家早就提醒过：人类天然倾向于把系统在低风险问题上的可靠表现，外推到高风险、不可逆的决策上。AI在“今年芝麻什么时候播”这个问题上对了一百次，于是当它把“大豆田除草剂”放进“芝麻田方案”时，使用者的大脑已经自动关闭了质疑通道。
对话页面上方一直有“AI生成可能有误，注意核实”的小字提醒。但吴大伯说他“从未留意”连续一年从同一个地方得到“比较完善”的答复后，那条免责声明就会像烟盒上的“吸烟有害健康”一样，退化成一段被眼睛自动过滤的纹理。
化学上的确讲得通，农艺上却是杀人刀
要理解这次事故，得先看一个听起来反常识的事实：AI给出的药名各有真实用途。
高效氟吡甲禾灵，专杀禾本科杂草氟磺胺草醚，一种PPO抑制剂，堪称大豆田的“阔叶清理神器”，因为大豆体质特殊，能代谢掉这种毒素，而绝大多数阔叶杂草不行。搭配噻虫嗪和甲维盐杀虫，逻辑自洽，浓度合理，放在任何一段农业科普文里都不违和。
问题出在哪儿？ 出在一个更基础的植物学常识上：芝麻也是阔叶植物。 芝麻与那株应该被杀死的阔叶杂草，在植物分类上站在同一边。专杀阔叶的氟磺胺草醚一旦喷到芝麻田，等于把作物和杂草一起送进火葬场。
▲ 明尼苏达州农业部门资料显示，氟磺胺草醚是PPO抑制剂，主要用于大豆田防除阔叶杂草。
这也解释了AI为何事前漏掉致命冲突，事后又能指出药剂问题。通用大模型依靠训练数据中的模式生成回答，可能把“除草”、作物名和常见药名组合成一份“看似专业”的文本。它未曾在田埂上见过一株芝麻苗，也不具备农技人员在具体田块中积累的经验。
如果吴大伯当时只用传统背负式喷雾器小面积试验，这场灾难或许还有得救。偏偏方案里写的是飞防，无人机全田匀喷。在AI的构思里，无人机飞防意味着高效率、全覆盖；但在农艺实践中，无人机把“先试一分地再扩大到十亩”的传统安全缓冲彻底抹平了。错误的配方被乘以150亩，执行时间不过几小时。
认错越诚实，系统越可怕
药害发生后，吴大伯回头去问那个AI：到底哪里出了问题？AI给出了堪称教科书级的答复，并告诉他元凶就是氟磺胺草醚，而它本应用于定向点喷。
这份事后诊断来得太迟
▲ 网友戏仿AI的声音：“错误信息毁了你25英亩，责任在我。”涉事软件并未说过这句话。
一个系统可以在事后列出相关知识，却未能在事前阻止错误发生。相关信息没有在首次回答时触发安全约束，事后却又被组织成完整诊断。“知道”与在正确时机调用知识之间隔着一道鸿沟：只学过文本语料、没见过作物生死的模型，不会像农技人员那样先追问“你的芝麻品种是什么，生育期到哪一步了？”
海外平台的网友把这个时刻类比成早期GPS把人导航进湖里的新闻：地图被划得粗糙，导航语音却极为自信，于是人们放空大脑，跟着箭头开。也有人翻出另一个骇人案例：2025年，美国男子用ChatGPT寻找低钠食盐替代品，模型推荐了溴化钠，结果他在精神病院醒来，被诊断为溴中毒。
▲ NBC的报道：男子咨询ChatGPT后，用溴化钠替代食盐，因幻觉入院。
这些案例中，错误都被包装成了可以执行的建议。 在医疗领域，模型可以拒绝回答“开什么药”；但在农业领域，它依然像个热情的农资推销员，什么都能配，什么都能混，语气永远那么肯定。
15万元学费，谁该买单？
事件引发讨论后，中文互联网延伸出一个尖锐问题：损失应该谁来赔？ 涉事软件客服的回应是“答复来自公开信息，会登记反馈”。客服尚未给出明确赔偿答复页面小字里早写了“AI生成可能有误”，这行提示也成了责任讨论的焦点。
吴大伯这头，农民们的反应颇为复杂：有人觉得“哪能啥都听AI的”，也有人设想，自己面对一样“像个专家”的回复，会不会直接照做。毕竟，AI可是对了一整年 老人虽然损失惨重，却保留着完整的对话记录，媒体也因此得以还原事故细节。
更切实的诉求依旧是：能不能在给出这种“套餐方案”前，多问一句，多拦一下，让“AI生成有误”的提示承担起风险控制作用？
最后
这场事故暴露出一个越来越擅长说话的系统，正被带进更多专业门槛很高的领域。农药店的老师傅会追问你田里种的是什么、苗长到几叶、有没有大豆，聊天软件却直接给出了漂亮的答案。
一年前，吴大伯开始相信AI时，它确实“对了很多次”。于是他把自己的庄稼、收成与信任，一次性押在了那个永远温柔、永远笃定的语气上。它没想杀他的苗但它也没有在按钮前拦住他
150亩枯死的芝麻，是这场“信任测试”最昂贵的答卷。愿他的下一季，不必再和一台机器对质。
