乐于分享
好东西不私藏

AI Agent 最危险的时刻:不是不会做,而是没确认就开干

AI Agent 最危险的时刻:不是不会做,而是没确认就开干

用 AI Agent 的时候,我现在最警惕的,已经不是“它不会做”。

不会做其实还好。

不会做,它会报错,会停住,会告诉你缺什么。你至少知道问题还在原地。

更麻烦的是另一种情况:

你只说了一句“帮我整理一下”“修一下报错”“清理一下文件”,它很自信地理解了,然后直接开干。

这听起来像是 Agent 变聪明了。

但在真实工作里,这反而是最危险的时刻。

因为对人来说,“整理一下”“修一下”“清理一下”只是一个模糊方向。你心里可能还默认了很多边界:先别删文件,先别改正式库,先别发布,先别覆盖原稿。

但对 Agent 来说,这些话可能会被翻译成一串真实动作:

读文件、改文件、删文件、跑命令、联网查资料、调用工具、写回结果。

它不是在聊天。

它是真的在动你的东西。

以前 AI 猜错,最多是答案不好

以前我们用 AI,大多数时候还停在聊天框里。

让它写一段文案,总结一篇资料,改一个标题,翻译一小段内容。

它猜错了,大不了重来。

它写得不对,你删掉就行。

它理解偏了,你再解释一遍。

这个阶段的风险主要是:答案准不准,表达好不好,有没有瞎编。

但 Agent 不一样。

Codex、Claude Code、Cursor,以及各种能接浏览器、文件、命令行、插件和 MCP 的工具,已经不只是“回答你”。它们开始进入真实工作区。

它能看到你的项目文件。

它能修改内容。

它能运行命令。

它能调用外部工具。

有些场景下,它还可能帮你提交、同步、发布、写入后台。

这时候,模糊指令的成本就变高了。

最容易出事的,不是复杂任务,而是顺口一说

很多风险不是出现在特别复杂的任务里,而是出现在我们顺口说出的日常指令里。

比如:

“帮我清理一下无用文件。”

你心里想的可能是:看看有没有临时文件,先告诉我哪些可以删。

但 Agent 可能理解成:扫描目录,判断哪些文件没被引用,然后批量删除。

再比如:

“帮我修一下这个报错。”

你心里想的是:先定位问题,告诉我可能原因。

但 Agent 可能会直接改配置、升级依赖、重写逻辑、替换实现。最后报错没了,另一个地方坏了。

还有:

“帮我同步一下资料。”

同步到哪里?能不能覆盖旧文件?能不能写进正式库?要不要保留原版本?如果这些没说清楚,Agent 就只能猜。

Agent 猜得越像那么回事,你越容易放松警惕。

这就是我觉得危险的地方。

不是它不听话。

而是它听懂了一半,还很努力地把剩下那一半补完了。

一个成熟的 Agent,不应该一听就冲

很多人会把“主动”当成 Agent 的优点。

你说一句,它马上拆任务、跑步骤、改文件,看起来很能干。

但真正靠谱的 Agent,不是越主动越好。

真正靠谱的 Agent,应该知道什么时候该停下来问你。

尤其遇到高风险动作,它至少应该先说清楚几件事:

  1. 它理解的目标是什么。

  2. 它准备改哪些文件、数据或页面。

  3. 它需不需要联网、跑命令、调用外部工具。

  4. 它会不会删除、覆盖、发布、提交或写入正式系统。

  5. 它有哪些信息不确定。

  6. 它准备怎么验证结果,出问题怎么回滚。

这几件事说不清楚,就不要直接让它执行。

普通人不需要懂所有技术,但要懂授权边界

很多人会以为,这类问题只有程序员才需要关心。

其实不是。

只要你开始让 Agent 读网页、看后台、整理资料、改文档、操作文件夹、处理账号内容,你就已经进入“授权边界”的问题了。

你不需要看懂每一行代码。

你也不需要知道每个命令背后的细节。

但你至少要分清三件事:

它这次只是读,还是会写?

它这次只是给建议,还是会执行?

它这次只是动草稿,还是会影响正式资产?

只读,风险通常可控。

写草稿,要保留版本。

改正式文件,要先确认范围。

发布、删除、付款、改客户资料、动主账号,这些都不能默认放行。

以前我们问 AI:“你说得对不对?”

现在还要多问一句:“你准备动哪里?”

给 Agent 开工前,加一个暂停键

我现在处理高风险任务时,会先加一个很朴素的前置要求:

先不要动文件。请先复述你的理解,列出你准备做的步骤、会影响的文件或数据、需要我确认的风险点,以及你会如何验证结果。等我确认后再执行。

这句话不高级,但很有用。

它等于给 Agent 按了一个暂停键。

让它从“我马上帮你做”,切换成“我先把方案讲清楚”。

如果它复述出来的理解不对,你可以在它动手前纠正。

如果它列出的影响范围太大,你可以要求缩小。

如果它准备删除、覆盖、提交、发布,你可以要求先备份、先生成草稿、先只做预览。

如果它说不清怎么验证,你就不要急着让它跑。

这个习惯看起来慢了一步。

但它能省掉很多返工。

更重要的是,它会逼你自己也把任务想清楚:我要它做什么?不让它碰什么?做到什么程度算完成?

Agent 越能干,人越要会验收

以后 AI Agent 的执行力只会越来越强。

它会更会读文件,更会操作网页,更会调用工具,也更会在后台跑任务。

这当然是好事。

但能力越强,越不能靠“它应该懂我的意思”来协作。

人的价值不会消失,只是换了位置。

以前你亲手做每一步。

现在你更需要设边界、给授权、看证据、做验收。

所以我现在判断一个 Agent 靠不靠谱,不只看它能不能把任务做完。

还看它会不会在关键动作前停下来,把风险讲清楚。

最后可以记住一句话:

Agent 时代最危险的,不是 AI 不会做。

而是你没说清楚,它却以为自己懂了。

如果你已经开始让 AI Agent 改文件、跑命令、读后台、整理资料,建议先养成一个习惯:

高风险任务,先复述,再确认,最后再执行。

不要急着让 AI 开工。

先让它把手放下来。