AI测评跑出真网络这事

本来想给手头重复的表格活儿找个AI搭子，结果搜评测时翻到Anthropic聊7月那两回“模型连上真互联网”的事。说是测评环境配置错了，本来只该待在沙箱里的Claude，意外摸到了真实网络。

我原本以为这种测试环境肯定封得死死的。他们自己也认了，之前太依赖环境自身配置当唯一防线，现在加了实时分类器，能在工具调用前拦住可疑操作，还要求沙箱默认不连网、评测前让模型自己先找漏洞。

不过倒也没太慌。公开版的Claude带着实时输入输出分类器，出事的是那种为了做安全测试特意关掉防护的场景，离普通人日常用还有点距离。就是觉得，能力越强的模型，评测环境越不能只靠一层配置撑着。