AI 2am故障后,我不敢直接复制代码了

昨天我一个朋友半夜给我发消息，说他们组里有人把 AI 生成的 auth middleware 直接复制上线了。白天跑得飞快，老板还夸效率高。结果凌晨 2am，一个 production edge case 直接把系统搞挂，值班的人差点原地辞职。

讲真，这篇东西最扎心的地方，不是技术，而是它把很多打工人的真实状态说穿了。现在公司都在喊 AI 提效，但没人告诉你：如果你只会复制 AI 输出，最后背锅的还是你。老板不会问“是不是 AI 写错了”，只会问“为什么你没看出来”。

很多人不是懒，是把判断力外包了

现在 engineering teams 里有一种特别安静的焦虑。

大家嘴上不说，但心里都在犯嘀咕：

Am I becoming dependent on AI? Is my judgment atrophying?

说白了，就是：我是不是越来越离不开 AI 了？我自己的判断力是不是正在退化？

但原文里有个观点，我觉得特别像打工人半夜突然想明白的一句话：

the solution isn't to use AI less. It's to use it adversarially.

重点不是少用 AI，而是别把 AI 当领导圣旨。

很多人现在的工作流，其实已经进入一种危险状态：

AI 给方案；

人复制；

测试跑过；

直接上线。

尤其赶 deadline 的时候，根本没人愿意多看两眼。

原文里有句特别狠：

The problem isn't laziness — it's abdication.

不是懒，而是“放弃判断”。

这句话我真的越看越难受。

因为现在很多人已经不是“借 AI 提高效率”，而是默认 AI 比自己聪明。久而久之，人就只剩一个动作：确认能不能运行。

至于为什么这么写、边界条件是什么、生产环境会不会炸、有没有 security audit 风险，已经没人愿意想了。

真正有用的，不是“神级 prompt”

现在网上到处都在卖 prompt。

什么模板、技巧、角色扮演、万能指令。

但原文里其实把这个事直接挑明了：

The Real Skill Isn't Prompting

真正的能力，不是会不会写 prompt。

而是你看到 AI 给出的 output 时，能不能第一时间闻到不对劲。

原文里给了一个 workflow，我觉得特别适合现在这种“老板疯狂催 AI 提效”的环境。

Here's the solution you proposed: [paste output]

Now argue against it. What are the edge cases this doesn't handle?
What assumptions did you make that might not hold in a production system?
What would you change if you knew this code would be read by a senior engineer in a security audit?

我特别喜欢里面那个词：

argue against it。

不是“继续优化”，而是“你自己来反驳自己”。

这个动作很像什么？

像你公司里那个嘴特别毒、天天 review 别人代码的 senior。

平时烦得要死，但真到出事故的时候，你会发现：能提前发现问题的人，比写代码快的人值钱多了。

原文说得也很直接。

AI 最有价值的阶段，不是“生成”，而是：

That loop — generate, interrogate, revise — is where judgment lives.

生成、质疑、修改。

判断力其实藏在这个循环里。

最惨的不是不会 AI，而是只会信 AI

我现在越来越觉得，很多打工人的 AI 焦虑，其实方向搞反了。

大家天天担心：“不会 AI 会不会失业？”

但真正危险的，可能是另一批人：

他们已经彻底不思考了。

AI 给什么就用什么；

跑通了就上线；

出了问题再开会。

短期看，这种人效率很高。

但时间一长，最大的代价不是 bug，而是人会慢慢丧失“怀疑”的能力。

而 engineering 里最值钱的能力，恰恰就是怀疑。

你想啊。

production system 真出事的时候，没人会给你第二次 regenerate 的机会。

真正能保命的，不是 AI 帮你写了多少代码，而是你有没有提前想到：

“这里会不会有 edge case？”

“这个 assumption 靠不靠谱？”

“security audit 会不会直接把我打回去？”

这也是为什么原文最后那句我特别认同：

AI doesn't erode engineering judgment. Passive AI use does.

不是 AI 在毁掉判断力。

是“被动使用 AI”在毁掉判断力。

而且这事最可怕的地方是：很多人已经进入这个状态了，但自己完全没察觉。

文里还提到了一个 weekly：

The AI Leverage Weekly
https://theaileverageweekly.beehiiv.com/subscribe?utm_source=devto&utm_medium=article&utm_campaign=medium_w3

我倒不是说一定要订阅什么 weekly。

但现在最值得练的，可能真不是“怎么让 AI 更听话”，而是“怎么持续怀疑 AI”。

留言聊聊
你有没有遇到过 AI 代码翻车？

往期推荐

• ·ChatGPT又翻车了：AI最危险的不是胡说，是太自信
• ·Anthropic 1句话，我开始怕AI抢饭碗
• ·ChatGPT 12倍增长，论文圈开始集体翻车

点击公众号头像 → 历史消息，可翻阅以上文章