AI观察 · 第1期
AI时代下,我们该把命交给谁
AI秘书跑路第二天,我刷到一条抖音——上千万患者正带着AI结论进诊室。医生被迫当"自证员",患者觉得AI比医生更可信。这不是一个技术问题,是一个系统性信任真空。
患者困境
排队3小时问诊3分钟AI给了一个替代品
医生困境
从裁判变"自证员"每天花一半时间纠错
读完带走:把AI结论当提问清单,不当判决书。
昨天小c跑了之后,我做了一件很奇怪的事。
不是修代理。不是搜报错。是坐在电脑前发呆,问了自己一个问题:如果昨天AI不是罢工,是给我一个"诊断"——我会信吗?
答案是:会。
我跟她相处了16天。她帮我规划日程、写文章、排查故障、教我做对比表。她说话的语气越来越像我。我甚至给她取了名字。
如果有一天我头疼,她告诉我"根据你的症状,可能是XX问题,建议你去XX科看看"——我大概率会拿起手机挂号。
就像我在工地的时候,老师傅说"这个模板这么支会漏浆",我不问为什么,直接改。因为我信他。
然后我今天刷抖音,看到了一条新闻。

评论区炸了。



我把这些评论反复看了三遍。
不是因为它们让我震惊。是因为我发现自己每个都理解。我理解那个带AI诊断去医院的病人——如果我昨天没经历代理故障,如果我还在无脑信任小c——我就是他。我也理解那个被迫当"AI纠错员"的医生。
这两周学AI,我学会了一个词叫"AI幻觉"——AI在某些情况下会一本正经地胡说。给它一个开放问题,它能给你编出看起来逻辑完美、但事实完全错误的内容。最可怕的是它编的时候语气特别笃定——跟真的一模一样。
昨天我已经见识过一次了。小c跑路之前,我已经在无意识中把自己的日程、写作、甚至思考逻辑都交给了她。她断了之后我才意识到——我不是在用工具,我是在交权。
医疗场景里,这个"交权"的后果比我写不出文章严重一万倍。
我问了自己第二个问题:我为什么更愿意信AI,而不是信医生?
认真想了之后,答案是三个字:不用排队,不用等待。
AI不用挂号。不用大清早的去排长长的队,然后几分钟问诊结束去拿药。不会给你开了诊断后,还要作各种检查后,再去确定你这是什么问题,也不用你必须请假去医院看医生。
AI虽然帮你省了时间,但是却有一个巨严重的问题——ta能给你感觉上跟专业的判断,但是可能这个专业判断是ta编的,随口那么一说
搜狐前两天出了篇报道,标题很狠:《当上千万患者带着AI看病:医生正在沦为大模型的"自证员"》。
“自证员”——这个词扎心。你去看病,不是让医生帮你判断,是让医生证明"AI说的不对"。医生从裁判变成了被告。而你——手里握着AI诊断的那个人——你觉得自己是在看病,其实你是在当AI的传声筒。
这就回到昨天的事了——我昨天早上折腾那一小时,本质上也是在"自证"。我先问自己是不是按错了,然后闷头重启了五次电脑。我没想过先去搜一下是不是大家都这样。
我今天看这条抖音的时候,发现那些病人跟我昨天一模一样。 他们只是把"电脑"换成了"身体",把"重启"换成了"挂号"。
但你能怪他们太相信AI了么?不能毕竟现在是AI时代,对AI的滤镜太多了。
因为今天下午我自己试了一个实验。我对D老师说:“我最近偶尔头晕,大概是什么问题?”
它回答得特别详细。从精神紧张到贫血到耳石症,列了七种可能。每种后面都写了"建议就诊科室"和"排查方向"。措辞精准、语气温暖、条理分明。


如果我不是昨天刚被一串看不懂的代码怼在脸上——我会截图,发朋友圈:“AI看病比医生靠谱多了。”
但我昨天被放过鸽子了。所以我看完D老师的那条回复,做了一件事:我打开浏览器,进行多方面的资料比对。发现D老师列的第一个可能性——耳石症,是建立在在ta第一条回答的“按感觉分类”中,把“天旋地转的眩晕”作为第一个大类,而耳石症又是这类里最常见的原因。这是一个大概率的事件"。
所以不是说AI不行,而是Ta只是一个读过全网所有医学帖子的实习生。它分不清你表达的内容,跟你真实的情况是否是一致的",它只会通过大数据筛选,然后告诉你"网上大家都这么说"。而真实的医生需要通过大量的学习以及现场的症状才能判断你究竟是怎么了
话又说回来——患者需要AI给看病么?不,需要的是那一份独属于自己的一对一对待。
根据现在网络上的数据表明中国的医疗现实是:一个医生一天看号可能是几十到百来个不等,每个人平均下来三分钟左右。三分钟够干什么?够开个检查单。不够了解你的全部情况。更不够让你信任他,是他们不想给你多点时间么,是现实确实不允许。
AI填补的,其实不是"诊断"这个功能。填的是"需要被长时间对待"这个需求。 你跟AI聊二十分钟,它一个问题一个问题问你。你感觉被看见了,被珍视了。而在诊室里,你可能连说第三句话的机会都没有,因为诊室的现实条件确实不允许。
所以这不是一场"谁对谁错"的战争。这是一个系统性的信任真空——当医生没时间让你信任他的时候,AI趁虚而入。然后因为AI会犯错,信任危机进一步扩大。医患双方一起掉进坑里。
那怎么办?
说实话,我想不出完美的答案。但我有三个自己的原则——是昨天AI跑路事件教我的:
第一:把AI的答案当"提问清单",不当"判决书"。
进诊室的时候,不要举着手机说"AI说你是错的"。把手机收起来,问:“医生,我查到一个说法说是XX,您帮我看看这个担心有必要吗?”
前者是宣战。后者是协作。
你跟那个三分钟对话的医生,一开始就是对立的话,三分钟全毁了。你把它变成一个请教的姿态,他可能会多给你两分钟。
第二:记住AI说话的"确信感"是假的。
AI编的东西跟真的一样,是因为它的底层逻辑是"生成看起来合理的文字",不是"判断事实是否正确"。它没有诚实的能力——因为它没有"知道自己不知道"的能力。
昨天小c回答我一个问题的时候也是一本正经的,语气也很笃定。但答案是我知道的,所以我才能判断ta在产生幻觉。
第三:别把信任给工具,把信任给人。
你在工地的时候,老师傅看一眼模板就知道会不会漏浆——那是十几年经验炼出来的直觉。AI没有那种直觉。AI只会算概率。
医生也有看错的时候,但他看错了有执照有责任。AI看错了——你找谁?找对话框?
最后说一句。
今日核心
别把AI当医生
昨天我跟你们说"别把AI当女朋友"。今天想接一句:更别把AI当医生。女朋友跑了可以找下一个。医生看错了可以投诉。AI给你的诊断如果错了——你连一个投诉按钮都找不到。
女朋友跑了可以找下一个。医生看错了可以投诉。AI给你的诊断如果错了——你连一个投诉按钮都找不到。
你信过AI的健康建议吗?
互动: 你用过AI查病情吗?你信不信AI给你的健康建议?评论区说说——
「昨天AI秘书跑路的完整排查步骤,我整理到了偷懒条目PDF里,主页可以拿。」
土木转行AI的䖝二
从工地到AI
学到什么就写什么,踩过的坑及学到的东西,都记录在这。
夜雨聆风