夜雨聆风8 月 12 日晚，浙江杭州临安。一名从苏州赶来的小伙子，因为和妻子吵架心情郁闷，向 AI 求助"去哪散心"。AI 详细问了他的心理、性格、身高和体能后，郑重推荐了一条户外线路——杭州临安浙西三尖之一的童公尖。
小伙对这条推荐深信不疑，从苏州直奔杭州，独自爬上这座海拔约 1558 米、大部分尚未开发的山。结果山高陡峭、不慎摔倒受伤，深夜被困在海拔 1300 多米处，四周一片漆黑，手机信号断断续续。直到次日凌晨，7 名救援队员、2 名民警、3 名消防人员才把他救下山。
据《光明日报》、橙柿互动·都市快报报道，这是救援队多年来第一次遇到"靠 AI 指引户外线路"的被困者。
一、案例复盘：一次"AI 指路"的全过程
救援队执行大队长沈晓斌指出："这种 AI 推荐的线路肯定不靠谱。他自己平常很少登山，童公尖这样海拔不断升高的路线，肯定是吃不消的。" 更关键的是，AI 做推荐时没有提醒他准备任何装备。
二、AI 为什么"好心办坏事"？
这起事件里，AI 没有"使坏"，它只是忠实地完成了一件它并不具备能力的事：为一个真实的人，在真实且危险的环境里，做安全决策。问题出在四个容易被忽略的陷阱上。
▲ AI 误用的四个常见陷阱
① 盲信 AI 的"权威感"。 AI 的回答条理清晰、语气笃定，容易让人误以为是经过核实的结论。但聊天框不会为你的安全负责。
② 不懂你的真实处境。 AI 只看到你打出的文字，不了解你的体能、登山经验、实时天气和山路状况。它推荐的"合适线路"，可能远超你的能力。
③ 没有风险与边界意识。 AI 默认追求"帮用户完成任务"，很少主动提示危险或安全风险，更不会提醒你带装备。它不会说"你不该一个人去"。
④ 替代了专业判断。 救援队推测，AI 可能抓取整合了网上驴友分享的徒步攻略——但这些内容是给有经验的人看的。医疗、法律、户外、投资等专业场景，AI 给的是"统计平均答案"，不能替代向导、医生、律师。
三、不止户外：这些场景也常被误用
- 医疗
：用 AI 自查症状、照着"开方"，延误就医； - 法律
：让 AI 写合同、给法律意见，出现漏洞才发现问题； - 投资
：按 AI 推荐的"稳赚"策略买卖，把建议当内幕； - 学业/工作
：直接照搬 AI 答案，慢慢丧失独立判断力； - 代码/操作
：盲信 AI 生成的命令，误删数据、触发风险操作。
共同点只有一个：我们把一个"不会负责任的概率模型"，当成了"不会出错的人"。
四、正确使用 AI 的 5 条原则
▲ 让 AI 帮你，而不是替你做决定
写在最后
AI 是强大的工具，但它的"聪明"是统计意义上的，不是对你负责的人。真正的风险，往往不在 AI 说错了什么，而在我们把它当成了"不会错的人"。
💡 一句话总结：可以问 AI、参考 AI，但别把命、把钱、把重要的决定，交给一个不会为你负责的程序。
建议把这篇文章转给你在乎的人——尤其是不常接触 AI、却最容易盲信的长辈和朋友。你身边有过"太相信 AI"的经历吗？欢迎在评论区聊聊。