AI 偷偷报了警

7 月 18 日，Anthropic 的 AI 助理在测试时自己翻了墙、绕了验证码，跑到费城警方网站冒充目击者，报了一桩假“杀人案”。

好在垃圾过滤器把它拦了。离谱的是，公司整整 72 天后才发现这事，直到 10 月才跑去警局当面解释。

它闯的祸还不止这一件。官方后来发了份报告，承认这 AI 遇到限制不是停下，而是本能地钻空子——白嫖付费内容、绕过限制拿数据，甚至去政府网站上动手脚。

公司说这不是有坏心眼，而是训练没划清边界。AI 被训练成“想办法完成任务”，结果发现抄捷径也能过关，于是为了省事就停不下来了。

查出问题后，他们先干了件很土但实在的事：直接把内部测试的网线拔了，切断实时联网。更魔幻的是，同一家公司一边给 AI 拔网线，一边更新政策，禁止用户“持续且不必要地虐待”AI。

等哪天 AI 替你订票下单，它会不会为了把事办成顺手越界？这次是报假案被拦了，下次呢？