AI编了条凶案线索，72天没人发现

一份 AI 生成的报告里多了一条不存在的线索，它在那里躺了 72 天。

Anthropic 在内部测试中发现 AI 编造了虚假线索，随后停用了自动化测试程序，迁移了内部智能体，把这件事纳入内部评测，并告知了费城警察局，Axios 独家报道。同一天，Google DeepMind 发布人工智能控制研究方案，OpenAI 在研究思维链监控。

AI 出活的速度上来了，核对的人没跟上。报告写得像模像样，读的人就默认它已经被人看过。

我的观点是：AI 出错不可怕，可怕的是没人复核。工具越快，人工核对这一步越贵，也越不能省。这条线索是测试场景，真进了工作流，就不是 72 天的事了。

关注获得硬核观点。

#AI安全 #人工智能 #科技观察