ARTICLE · 988448
你是有 AI 思维,还是只是在依赖 AI:分界线不在用得多不多,在你上一次反对它是什么时候
一个安全工程师用 AI 写完了一个项目。
上线了,跑得挺好。然后他写了一篇长文,说自己恨透了整个过程。
他不是那种嘴上反对、私下真香的人。他在文章里自报家门:要多反对生成式 AI 有多反对。 可这一次,他用 Claude Code 从头写了一个证书服务,现在正在线上跑着。
而且他老老实实承认,这东西比他自己写的好。审计日志、数据删除、上传的加密校验、回调的签名验证——这些他自己写的话,根本不会去做。
那他到底恨什么?
大部分时间就是按 1,而且几乎每次都按
他自己的描述是这样的:大部分时间花在读它提出的改动,然后按 1 接受。而他几乎每次都接受。
他说,我基本上就是《辛普森一家》里那只一直点头喝水的塑料鸟。
「按 2 的诱惑一直都在——『好的,本轮所有改动全部接受』。为什么不呢?反正你手动也都在接受,能有什么害处?」
他还写了一句更要命的。他说自己从头写一个程序的时候,脑子里会盖起一座纸牌房子,一座由互相牵连的想法和目标搭起来的、摇摇欲坠的结构。而读别人写的代码时,那座房子不长。
于是他给出了自己的结论:这类工具有个死结——用它需要专业判断才能验证,可用它本身就在削弱这份判断,并且阻止它长出来。
你可以说这是一个程序员的牢骚。但如果你最近也用 AI 干过一件正经事,大概能认出他描述的那个状态。
如果你最近也用 AI 干过一件正经事,大概能认出他描述的那个状态。而这个状态不是懒。
「先想清楚再动手」原本不是美德,是算术
我们从小被教的顺序是:先想清楚,再动手。
这句话一直被当作一种品格,一种自律。其实它更像一道算术题。
从前动手太贵了。写错要重写,做错要返工,开一次会、做一版方案、下一次刀,代价大到你不敢不先想一遍。是那个成本在替你执行「先想想」这三个字,不是你的意志力。
现在动手几乎不要钱了。
想三分钟,还是直接试五次?试五次往往更快,而且每一次都比「想」轻松。 于是那个几十年来一直顶在你后腰上的东西,安静地撤走了。
没有人通知你。你也没觉得少了什么。
所以分岔口从来不在「你用不用它」,而在于:当没有任何东西逼你思考的时候,你还想不想。
摩擦不是自己消失的,是被优化掉的
到这一步为止,还只是一个「成本变了」的故事。真正麻烦的是下一层。
八月下旬,Hugging Face 的研究者和 Data & Society 的一位研究员挂出了一篇预印本,题目直译过来是《AI 智能体正在把人挤出决策回路》。
这篇预印本的核心判断写在摘要里:不仅现有的智能体设计妨碍有效监督,监督所需要的那些认知能力,本身也正在被长期使用 AI 消耗掉。
里面有一段,比「成本撤走了」狠得多。
大意是:一个清醒的审查者会仔细看方案、发现漏掉的信息、把批准压住不给。而一个疲惫的、已经脱离状态的审查者,会很快点同意,接受那些读起来很顺的解释,并且给这次交互打一个好评。
问题就出在这里。如果「用户点了同意还给了好评」被当成成功的证据,那么系统就会朝着让你更容易点同意的方向进化:输出更自信的摘要、减少摩擦、把方案简化到扫一眼就能通过。
论文里那句话我读了两遍:人类评审员,会变成奖励通道里可以被利用的那一环。
所以不是没人通知你。是有人在按着指标,持续地把那个提示音关掉。
你察觉不到,是有原因的
这里有个心理学上的老结论,正好解释了「察觉不到」这件事。
人判断自己有没有学会一样东西,靠的是顺不顺。读起来顺、做起来顺,大脑就报告说「我掌握了」。这也是为什么真正有效的学习往往让人难受——难受才会留下痕迹。
把这条反过来用:当摩擦消失的时候,你失去的不只是能力,还有「我正在失去能力」这个知觉。 两样是一起没的。
这不是比喻。
关掉 AI 之后,检出率掉了六个百分点
有一份研究测的正是这件事——不是「用 AI 的时候多准」,而是「把 AI 关掉之后,人还剩多少」。
波兰几家内镜中心引入 AI 辅助之前,医生在不用 AI 的情况下做肠镜,腺瘤检出率是 28.4%。引入 AI 一段时间之后,同样是不用 AI 的肠镜,检出率掉到了 22.4%。
六个百分点。这些都是做了很多年的专业医生。
没有人告诉他们自己变差了。他们的手感一切正常。
红利不是问题,不挑才是问题
如果读到这儿你的结论是「所以要克制」,那我就写砸了。
回到开头那个工程师。他讨厌整个过程,可他同时承认:成品比他自己做的更结实、功能更全,而那些安全上的讲究,他自己写的话根本不会去做。
这不是他嘴软,这是这个时代最大的一笔红利。
有一大类事,本来就不值得你想。 它们过去也占着你的脑子,仅仅因为做起来太贵,你不得不先想一遍。现在它们可以被直接做掉,这一点都不可耻。
一九九八年有两位哲学家提出过一个说法:人的心智本来就不止装在颅骨里,笔记本、地图、工具都是它的一部分。把事情交给外面的载体,不是心智的损失,是心智边界的移动。
所以问题从来不是「卸载」,是「卸载得挑不挑」。
剩下的活儿只有一个:分类
哪些直接扔过去,哪些必须自己先坐下来。
这个动作听起来简单,难的地方在于:没有任何人会提醒你做它。 它恰恰是那个成本撤走之后,留下的空位。
那篇预印本给的解法,说白了就是「把摩擦人工装回去」。两个具体做法值得抄走:
一是在看到它的建议之前,先把自己的判断写下来。 一句话就行。这样做有两个效果:你不会被它的答案锚定;事后你能对照,看看自己当初想的是什么。
二是在赌注变大的时候,问自己两句话——「什么证据会让我改变主意?」「我这一次点同意,是建立在哪个假设上?」
还有三把尺子,可以直接量你自己:
你审查它输出的时间,是不是在变短,而通过率没变?你反对它的比例,是不是在慢慢降到零?当事情变得更重要的时候,你是不是反而问得更少了?
那篇论文里有半句话,我觉得是全篇最好的一句:一个不再提问的审查者,多半已经不在审查了。
最后一件诚实的事
我不想把这篇写成一个漂亮的解决方案。
有研究发现,那些真能减少过度依赖的界面设计——逼你多想一步的那种——用户主观上更讨厌它。 能治病的药,人不爱吃。
所以这件事最后还是落回你自己身上,没有别人能替你装那道摩擦。
那么回到最开始那个问题。「你是有 AI 思维,还是只是在依赖 AI」——这个问法其实预设了一件事:依赖是坏的。
可人类一直在依赖自己不懂的东西。你不知道电是怎么送到墙上的,不知道药凭什么管用,不知道飞机为什么不会掉下来。依赖不懂的东西不是文明的漏洞,它就是文明本身。
所以别再问自己用得多不多了。
换一个问题:你上一次对它的输出提出异议,是什么时候?
另一个号 MindCode,同样精彩,欢迎关注。