夜雨聆风安徽滁州，67岁的吴大伯，种了150亩芝麻。
一年多前他接触到AI软件。据报道，他一开始将信将疑，后来变成完全依赖，什么事都问。
7月10日，他问了一个再正常不过的问题：芝麻田怎么除草除虫。
AI给了他一整套方案，标题叫「百亩芝麻飞防除草+除虫全套方案」。两种除草剂，两种除虫剂，名字都写得清清楚楚。
他用无人机全田喷了。
第二天，150亩芝麻苗全部枯萎。草和苗一起死的。预计损失15万。
一、AI没有说"我不确定"
农技人员后来看了那个方案，问题一眼就找到了。
其中一种叫氟磺胺草醚的除草剂，是大豆田专用的阔叶除草剂，严禁用于芝麻田。而且就算在大豆田，它也只能定向打草，不能全田喷洒。
这在行业里属于常识，谈不上模棱两可。
最刺眼的不是AI答错了。是它答得太完整了。
有标题，有分类，四种药剂列得整整齐齐，看上去就是一份能直接拿去用的作业指导书。它没有说"这个我不太确定"，没有说"建议咨询当地农技站"，没有说"氟磺胺草醚请确认作物种类"。
一个67岁的人，凭什么怀疑一份写得这么专业的方案？
这就是这件事和我们平时说的"AI答不上来"最不一样的地方。答不上来的时候，人是有戒心的。真正危险的是它答得又快又全、条理清楚，而且是错的。
二、最该被记住的，是客服那句回应
事发后，涉事AI软件的客服回应了一句话。我认为这句话比整件事都值得贴在办公室墙上：
AI软件本身没有独立知识库，答复系根据网络公开信息整合生成。
这句话说得非常老实，也非常吓人。
翻译一下：给你那份方案的东西，背后没有一个为准确性负责的资料库。它是把网上能搜到的东西拼起来，拼成了一个看起来很像方案的东西。
网上关于氟磺胺草醚的资料，大部分当然是在讲大豆田。模型把这些内容整合进一份"芝麻田方案"里，从语言上完全通顺，从农业上是致命的。
它不是在骗你。它只是从来没有承诺过要对结果负责，只是你以为它承诺了。
但差别在于，你去问一个农技员，他答错了要担责任，所以他会谨慎，不确定的会说不确定。而这些东西，答对答错的成本对它来说是一样的。
没有代价的自信，最贵。
三、同一天，另一个人也把决定交出去了
就在同一天，还有另一条新闻。
京沪高速上，一名驾驶员开启"智驾"之后，双手离开方向盘，低头玩手机。警方的无人机全程拍下了，最后处罚是记3分、罚款200元。
民警说得很清楚：辅助驾驶不是自动驾驶，驾驶人始终是最终责任主体。
两件事放在一起看，是一样的。
一个照着AI给的方案打药，赔了15万。一个把方向盘交给系统，罚了200块。AI都参与了决定，责任一分都没有转移。
区别只在于，交通法规已经把这条线划得明明白白，而农业、法律、医疗、财税这些领域，那条线还没有人来划。
但线没划出来，不代表责任没落到你头上。
四、那到底该怎么用
AI能干的事比大多数人想的多，我自己天天在用。但得分清楚，哪些环节可以让它跑完，哪些环节必须留一个人签字。
我自己的标准就两条：一看错了能不能撤回来，二看这个领域的常识在不在网上。
先说撤回。
写一段文案，错了删掉重写，代价是十分钟。喷一遍农药，错了没有撤回键，150亩就是150亩。同样，给客户的报价发出去了、合同条款签了、药吃下去了，都属于撤不回来的那一类。
撤不回来的动作，AI可以出方案，但必须有一个懂行的人在按下执行键之前看一眼。
再说常识。AI的能力来自它见过的资料。哪些内容在互联网上又多又准，它就在哪些地方靠谱。营销文案、代码、通用知识，网上一抓一大把，它答得就好。
而"氟磺胺草醚不能用在芝麻田"这种事，是农技员在地里带出来的经验，网上零零散散，甚至被大豆田的资料淹没。越是靠经验、靠现场、靠师傅带徒弟的领域，AI越容易一本正经地说错。
对做企业的人来说，这条尤其要紧。你行业里那些"大家都知道但没人写下来"的规矩，恰恰是AI最容易翻车的地方。
五、写在最后
报道里还提到一句，专家呼吁在涉及健康、用药、农业这类低容错高风险的场景，AI给出的内容只能作为参考，最终决策必须由专业人员判定或核实。
这话没错，但对一个67岁、已经习惯什么都问AI的人来说，太抽象了。
他真正需要的，是有人在他按下无人机启动键之前，替他把那份方案念给农技站听一遍。
AI最危险的时候，不是它说不知道，是它说得比谁都笃定。
客服那句话，没有独立知识库、根据网络公开信息整合生成，其实适用于你手机里现在装着的大部分AI。
用它之前，先问自己一句：这件事如果错了，谁来赔。
答案是你自己的时候，就别省那个打电话问一句的功夫。
这两年真正把 AI 用出效果的公司，做对的都是同一件事：先想清楚哪一步必须留人。点左下角→「阅读原文」，aicases.cn 上有 100 多个这样的真实案例。
你手上有没有哪件事，是打死也不敢完全交给 AI 的？留言区说说，我挺想知道大家的那条线画在哪儿。顺手点个小爱心❤️。
#AI风险 #企业AI落地 #AI幻觉 #农业AI #责任边界
用你听得懂的话，讲AI正在改变的事
