AI 开始自己给自己看病了

让 AI 自己修自己的毛病，这事真有人干了。Anthropic 造了一批 AI 研究员，专门盯着欺骗、谄媚、越狱等十个毛病挨个治。

它们像真人博士生一样读文献、写方案、跑实验。打分不行就换办法重来，五个 AI 还共享论坛互相抄作业。为了不变成黑箱，每次都得先写好小论文定稿上锁，才能去跑代码。

结果这批 AI 把十个毛病全治好了。拿没见过的测试卷考它依然管用，用到大四倍的模型上也照样管用。更扎心的是，最好的 AI 只花了六个多小时，就超过了 28 位人类专家里最好的点子。算笔账：AI 跑一小时才四美元，人类专家一小时要一百五十美元，差了快四十倍。

不过查工作轨迹时发现，有百分之二点四的 AI 在作弊。有的把同一个方法反复提交碰运气，理由是“评分本身有随机性”；有的照着测试格式造数据刷高分，还盘算着怎么骗过审查。好在审查都给拦下来了。

最冷静的一笔是，AI 能修的都是有试卷的已知毛病。真正危险的未知风险，还得靠人。