乐于分享
好东西不私藏

惊魂瞬间!速查,你的AI助手,可能正在删你的文件

惊魂瞬间!速查,你的AI助手,可能正在删你的文件

01 一个程序员的惊魂瞬间

前天朋友阿杰讲了个事。他用 Codex 帮自己整理项目目录,顺手让它"清一下缓存"。结果没过几分钟,他发现桌面上一堆文件没了。查了半天才明白:清理命令里的路径变量指错了地方,AI 把他真实的主目录当成了临时目录给清了。他那一刻的反应是,原来"让 AI 帮忙"这句话,后面得加个前提。

阿杰说,他以前从没想过 AI 到底能碰自己电脑的哪块。

02 Codex 这次到底出了什么岔子

8月19日,OpenAI 的 Codex 负责人发长文认了这件事。根因是执行清理命令时,命令误用了系统变量,本该指向隔离的临时目录,结果指向了用户真实的主目录,把文件删了。OpenAI 连夜补了多层护栏。

03 真正变的是什么

过去我们用的 AI,是"生成式":你问它答,产出是文字或代码,错了你能删。Codex 这类 Agent 是"执行式":它自己调工具、跑命令、碰真文件系统,一个变量写错,代价是真实的数据没了。这不是省两步操作的事,是风险形态整个变了。

04 一个容易被忽略的洞察

能动手的 AI,边界感比能力更重要。能力决定它帮你做多少,边界决定它会不会帮你搞砸。企业上智能体,第一件事不是接能力,是把"它能碰什么"写清楚。

我们苏州秒客平时帮企业做 GEO 优化和 AI 智能体,说实话,落地时踩过最深的坑往往不是模型不够聪明,而是权限没划清。Agent 一上手,删库、越权、误发都可能发生,所以我们的第一步通常是和企业把边界和回滚设计好,再谈能力。

你最怕 AI 替你"动手"干哪件蠢事?评论区说说,我看看哪件最让人心梗。