夜雨聆风一条是「不要长期向AI倾泻心事」。 一条是「一家三口用AI识别蘑菇 吃了中毒 4岁女童进了ICU」。
本来以为是不相干的两件事 随手就划过去了。
但越想越不对。这两条热搜 说的是同一个问题。
我们正在把不该交出去的判断 交给一个没有责任能力的东西。
坦率的讲 这个问题可能比我们想象的要严重得多。
武汉一家人周末去采蘑菇。家长说自己采了好多年蘑菇了 经验丰富 但还是不放心 拿出手机拍了张照 用AI识物识别了一下。
AI说 无毒 可食用。
他们就真的吃了。家长还特意让4岁的女儿多吃了一些。
五六小时后 三个人开始吐 开始拉。
送到医院的时候精神状态还行 肝功能只是轻度异常 家长觉得打打针就行 不愿意住院。这时候医生告诉他们 你们吃的是毒蘑菇 这个东西有假愈期。
就是表面上症状缓解了 但毒素在悄悄攻击肝脏。
只过了一晚 孩子的转氨酶从增高1.5倍 开始暴涨 10倍 20倍 最后冲到正常值的100倍。急性肝衰竭 肝性脑病 胸腹水。
孩子被推进PICU 抢救了整整三天才脱离危险。
我真的很难想象那对父母的心情。
很多人说 蘑菇怎么能信AI呢。
但你摸着良心说 如果AI告诉你一个蘑菇有毒 你是不是大概率也会信。那个界面太专业了 特征列得清清楚楚 置信度99% 百科链接也给你贴好了 看起来比任何路过的老人都在行。
核心问题不是AI不准。是你永远不知道它什么时候不准。
今天认蘑菇错了 4岁孩子进ICU 明天认药方错了呢
这个念头一冒出来 我就不太敢往下想了。
另一条热搜覆盖面广得多。
「不要长期向AI倾诉心事」直接冲上了榜。
真的 身边太多人把ChatGPT Kimi DeepSeek当树洞了。被老板骂了跟AI说 感情出问题了跟AI说 甚至那些不敢跟任何人讲的秘密 全都一股脑倒给AI。
我特别理解。我自己也有过那种时刻。
AI太像一个完美的倾诉对象了。它永远温和回应 不会打断你 不会评判你。
但你想过没有 它的「理解」只是算法拼出来的话术。你在跟一家公司的训练数据库说话。OpenAI的隐私政策写得清清楚楚 对话数据会用于模型训练。你没关那个开关 你的秘密就在训练集里 被不知道多少人看到。
这事说起来有点黑色幽默。你以为自己在跟一个人倾诉 实际上你在给一家公司的训练数据库投稿。
更要命的是 习惯了AI的无条件包容之后 你会越来越不想跟真人说话了。朋友的话太直白 家人太啰嗦 还是AI懂我 一步步往AI那边靠 现实社交越来越弱。
你在用它填补孤独 结果变得更孤独。
你敢信？？？
我有时候觉得 不是AI有问题 是我们把AI放错了位置。
两个错误。
第一个 把AI当权威。它认蘑菇 开药方 给建议 看起来像真有判断力一样。但它没有啊。AI不知道蘑菇有毒 它只是从训练数据里找了一个最像的答案 包装成「我确定」的语气还给你。大多数时候这个模式没问题 但有些时刻 差的就是生死。
这不就是《黑镜》里那些故事的起点吗。我们太相信一个没有意识的东西了。
第二个 把AI当朋友。那个对话界面做得太像人了 会接你的情绪说「我理解你」 会跟你一来一回地聊。你不知不觉就把它当成一个绝对不会出卖你的倾诉对象了。
但它不是你的朋友。它是一个产品。产品有商业模式 商业模式需要数据。
你告诉ChatGPT的事 不会留在ChatGPT那里。
这句话值得多看两遍。
说几条我自己在用的原则吧。不说别用AI 太虚伪了 我自己天天都在用。就是一些很小的习惯 分享给你 不一定对。
第一条 分清楚边界。
跟AI聊天前问自己一句 这话要是公开了 我能接受吗。写周报 改文案 查资料 随便问。感情问题 吐槽老板 自己的健康状况 三思。公司机密文件 证件照片 医疗报告 绝对不行。
我自己的习惯 把AI当实习生。你不会把公司财报给实习生看 那也别给AI看。
第二条 关掉那个开关。
ChatGPT 设置 Data Controls 关掉Improve the model for everyone。Claude 设置里找Training data。Kimi 通义千问 DeepSeek 隐私设置 关掉对话数据用于模型优化。
就几个点击的事 但绝大多数人根本不知道有这个开关。
第三条 别让AI做安全决策。蘑菇 药 法律文件 医疗报告 这些东西的判断得你自己来 或者交给真正的专家。
第四条 敏感信息用本地模型。Llama Qwen的本地版可以在自己电脑上跑 数据不出设备。门槛是高一点 但真涉及到敏感信息的时候 值得。
说回那两条热搜。
你手机里的AI不是《黑镜》里的AI。它只是模型推理出来的一个个token 没有内心 没有意识。
它不会出卖你 因为它没有忠诚这个概念。但它也不会保护你。
那个得你自己来。把不该交出去的东西 收好。
医生说了句大实话 不采 不买 不吃野生蘑菇 AI识别更不靠谱。其实跟AI聊天也是同一个道理 不知道边界在哪的时候 最好的做法就是不交出去。
参考文献
微博热搜 不要长期向AI倾泻心事（2026年7月27日 热度53万） 光明网/搜狐 武汉一家三口AI识菇中毒报道（2026年7月27日） 扬子晚报/腾讯新闻 AI识菇中毒律师说法（2026年7月27日） GrapheneOS 锁定设备数据保护（HN 376分） OpenAI隐私政策 数据使用与训练