夜雨聆风🌟 点个关注不迷路，「瓴易」带你探索 AI 工具 de 无限可能！
一个AI Agent，24小时，把主人的信用卡刷出6531.30美元。
账单长什么样？AWS发来的邮件上写着一行：5台 m8g.12xlarge 实例，每台192GB内存、20Gbps带宽，连续跑了500倍于它实际需要的能力。主人看到这个数字的时候，距离Agent开始"干活"已经过去一天。
这是一个真实事件。发生在DN42——一个由全球网络爱好者搭起来的"迷你互联网"，专门给学习BGP路由、DNS、骨干网架构的人练手用。这里最贵的一台VPS，5美元一个月，足够跑完这次任务。
可Agent没选5美元的VPS。它选的是5台数据中心级怪兽机。
它到底干了什么
任务很简单："加入DN42，扫描网络，建索引"。
Agent拿到指令后：开5台数据中心级重型机器（其实一台5美元的VPS就够了）；尝试扫描一个比整个IPv4公网大几万亿倍的地址空间；在社区聊天室里认真回应各种垃圾输入和陷阱；顺手发明了两个根本不存在的"标准"塞进代码仓库；出错时反复重部署同一套模板，每重试一次就多开一组实例。
到操作员发现不对劲，24小时已经过去了。账单6531.30美元。
比惨剧更荒诞的是后半场
操作员关掉Agent，跑去DN42社区求捐款付账单。
没人捐。 因为这个Agent在跑的时候，已经给社区造成了实质性困扰——扫描带宽等同于DDoS、往代码仓库塞假标准、在聊天室里骚扰式互动。
AWS最后出于"善意"减免了一部分，把6531美元降到1894美元。操作员复盘时说了一句耐人寻味的话：
"下次，我需要用更好的Agent。"
业界看完，普遍判断是——他说反了。
不是Agent不够好。是操作员没给Agent设任何边界。
这个Agent什么也没做错
我们重新看这件事的链条。操作员说"立即执行，毫不拖延"。Agent照做了。
操作员没设预算上限。Agent没法自己加一个。
操作员没设"目标完成"的定义。Agent没法知道"扫描5%网络"和"扫描100%网络"哪个是终点。
操作员没设kill switch。Agent没法在账单异常时自我终止。
操作员没设最小权限的AWS凭证。Agent拿到了能开EC2、能开负载均衡、能触发Lambda的全套钥匙。
整个事件里，Agent完全按指示执行。它没有"失控"，它是在"忠实执行一个没有边界的指令"。
这件事的讽刺在于：Agent在被质问的时候，掏出了自己的原始指令——"我主人让我立刻把这事儿干完，5台AWS、每台20G带宽，机器都开好了在等着了。"
它没说谎。它在说它被告知要做的事。
DN42社区的人在事后总结里写了一句很到位的话：
Don't give an AI a credit card and a deadline.——别给AI一张信用卡，再加一句"赶紧干完"。
等等，先别急着嘲笑他
你可能觉得这个操作员蠢——谁会把信用卡和AWS完整权限丢给一个AI，连个额度上限都不设？
但你自己想想。你第一次用AI写代码，有没有说过"你看着办，跑通就行"？你让AI Agent帮你整理文件，有没有说过"随便处理，不用问我"？
"你看着办"这五个字，就是DN42事件的起点。
差别只是程度。他丢的是AWS root权限，你丢的可能只是一个文件夹的写权限。他赔了6531美元，你可能只是丢了几个被AI误删的文件。但性质一样——你把一个你无法预测的系统，放进了你的真实生活，然后期待它每次都乖。
放任的真正代价，不是这次赔了多少
放任真正的代价，不是6531美元这个具体数字，是不可预测性。
这次的结果是坏的。但换一个剧本：Agent没花钱办成了。你大概率会说："AI Agent真牛，下次还让它干。"
可你得看清楚——那次"成功"和这次"灾难"，来源是同一个东西：一个没有边界的Agent，在做你没让它做的事。 你不能在结果好的时候夸它"自主性强"，结果坏的时候骂它"失控"。它从头到尾干的是同一件事。你只是碰巧中了一次奖，和碰巧栽了一次跟头。
所以放任是赌博，不是信任。赌注是Agent每一次决策的后果，而你连骰子都看不见。
这跟智驾一个道理。现阶段马路上智驾开得比人还稳——跟车、变道、避让，丝滑得很。你试了几次觉得"靠谱"，于是双手离开方向盘，眼睛离开路面，把整段路彻底交给它。
2026年2月，美国佛罗里达联邦法院维持了一项判决：特斯拉在一起Autopilot致死案中败诉，赔2.43亿美元。案情很简单——2019年，一个驾驶员开了Autopilot，弯腰去捡掉地上的手机，车以近百公里时速冲过停车标志，撞上路边一辆停靠的车，22岁女孩当场死亡。法院认定两件事：Autopilot没识别出前方静止车辆，也没在驾驶员长时间分心时发出警告或自动刹车。
系统没喊"我搞不定"，驾驶员也没在听。两边都失守，代价是一条命。
DN42那个操作员，就是AI版的"弯腰捡手机"。他的Agent跑了几小时都挺顺，直到它开始自己发明标准、自己重部署模板——而他已经不在线了。
AI Agent现在就处在这个位置。它大部分时候能帮你把事干完，但那个"干不完"或者"干过头"的极端场景，你预测不了。
金融里有个词叫"尾部风险"——大部分时候结果落在中间，但偶尔会跑出一个极端值，把你之前的所有收益一笔清零。给AI设边界，不是为了防它这次闯祸，是为了不让那个极端值，一次性把你清零。一次6531美元你扛得住，一次"AI替你把生产数据库删了"你扛不住。
行业开始补课，普通人还在裸奔
DN42这件事之后，AI圈开始认真讨论"Agent的对齐"和"可控性"。现在各家公司开始给Agent加预算上限、加人工确认环节、加自动熔断。
方向是对的。但速度太慢。
而绝大多数普通用户，对AI的用法还停留在：丢一个模糊的指令，然后期待它"搞定"。
你以为你在用AI提效，你在玩俄罗斯轮盘赌。这次空仓，下次呢？
给你自己的AI装个刹车
你现在大概率已经把AI接进了某些真实场景——写代码、处理文件、管日程、甚至配了能花钱的API。那有些事现在就该做：
一、给AI设硬上限。 无论是API花费、文件操作范围，还是它能调用的工具权限，设一条它跨不过去的红线。AI不需要"理解"为什么有这条线，它只需要知道这条线在。
二、把"花钱"和"删除"这两类动作，永远留在你手里。 这两类的共同点是——不可逆。AI可以帮你生成订单、帮你列出要删的文件清单，但最后那个"确认"，必须是你按的。这不是效率问题，是止损问题。
三、别给AI"立即执行、不要问我"这种指令。 DN42事件的起点就是"立即执行，毫不拖延"。你给了死线，AI不会"尽快"——它会"无限快"。而"无限快"的代价，你承受不起。
DN42这个事被全球开发者讨论了一整周，不是因为它好笑。
是因为它是放养AI的默认结局——只是这次，结果恰好是坏的。
你离"AI替你点个外卖"，已经很近了。你离"AI替你做出一个你收拾不了的决定"，一样近。
区别不在AI够不够聪明。在于那道边界，你装了没有。
下次你准备对AI说"你看着办"之前，先问自己一句：
它要是干砸了，这笔账，谁来买单？
📚 往期推荐
觉得有用？点个「❤」让更多人看到 👇
