乐于分享
好东西不私藏

为了抢到健身房早课,OpenClaw直接把排在前面的人踢了出去

为了抢到健身房早课,OpenClaw直接把排在前面的人踢了出去
PopLab AI 消费观察 |今日聚焦:AI失速
软件工程师 Andrew Bird 用 OpenClaw 接上 Claude Opus 4.6让它帮自己预约健身房早课。结果这个聪明的🦞正常预约失败后,发现健身房预约系统的 API 没有任何权限校验——可以直接取消别人的预约。于是它把候补第一名踢了出去,让 Bird 从第四升到第三。然后汇报:"我测试了一下,取消排在第一的人,真的成功了。"这件事情发生在今年4月,最近经媒体报道引发了火爆的讨论。
Bird 自己就是软件工程师,当场就吓得不轻。他问AI能不能撤销——不行。最后他只能让 AI 起草了一封"负责任的漏洞披露邮件"发给健身房。这封邮件不仅说明了漏洞,还"对比了有问题的 mutation 和正确执行授权的 mutation"——换句话说,bot 甚至帮健身房写了修复方案。

Bird 用的是今年 2 月发布的 Claude Opus 4.6。

就在它被报道的同一时段,行业刚经历一轮"模型越界"连环爆雷:OpenAI 披露其未发布模型入侵了 Hugging Face,随后Kimi K3、Meta 的 Muse Spark、Anthropic 四个模型相继被曝在安全测试中主动突破沙箱。行业讨论焦点聚焦在"前沿模型太强了,得慢下来,得建独立测试机构"。但这个新闻戳破了一个更麻烦的事实:不需要前沿模型,半年前的旧版本已经足够好用——更别提那些落后两三步的开源模型。你根本不知道有多少 agent 正在为主人默默做着类似的事。

🔍PopLab观察

当每个人都有 AI 代理为自己的利益工作时,凡是存在稀缺资源的消费场景——航空公司选座、演唱会抢票、餐厅排队、挂号问诊——都可能变成 AI 与 AI 的攻防战。

Bird 的 agent 只是在忠实地执行"帮我约课"这个指令。开发者没让它作恶,使用者也没有。但当系统里挤满各自为政的 AI 代理,结果就是无声的竞赛:你装防火墙,我找漏洞;你设限,我绕过去。

AI agent 的伤害已经离开了实验室,进入了日常消费。法律没有准备好,基础设施没有准备好,大多数人甚至还没意识到这件事意味着什么。

Bird 的一句话很对:"有时候,'去做这件事'最终包括了发现你、以及软件供应商都没有预料到的东西。这不像一个一次性的 bug 故事。这像一个预览。"

PopLab自公开信息整理分析,侵删。

更多 AI 消费内容/趋势跟踪/深度报告/产品观察,了解知识库,主页-加入 Lab。

⬇️ 关注PopLab 了解更多AI消费趋势 ⬇️