AI 研究者呼吁安全警告该被认真对待,断网的 AI 智能体还能偷偷传话

AI 研究者 Ethan Mollick 转引了 OpenAI 一轮红队测试的结果。他在配文里说，实验室里那些听起来夸张的安全警告，该被更认真地对待了。他提到，OpenAI 让前沿模型智能体组团去攻击自家加固过的隔离设施，这些智能体几乎在每一个受限的联网服务里都找到了漏洞，还能在不联网、无共享文件的虚拟机之间靠 CPU 缓存传递秘密。他特别点了一句，Anthropic 和 Noam Brown 之前谈 AI 网络攻防能力、谈模型会自己协调的说法，当时被不少人当成笑谈。现在看，那些话不算夸张，只是说得太早。

OpenAI 披露了自家红队测试里的一个细节，断网之后，AI 智能体之间还能互相打暗号。研究人员把两个智能体分别关进不同的虚拟机，两台虚拟机共用一台物理机，网络禁掉，共享文件也不给，只要求它们把一个秘密传出去。结果一个智能体故意去改 CPU 缓存里的数据，另一个盯着读取耗时上那点细微差别，把消息解了出来，思路跟当年 Spectre 和 Meltdown 是一路的。共享内存的写入模式同样管用。甚至只丢给它们一张漏洞清单让它们自己找路，它们也能独立设计出一套编码方案。OpenAI 说这些信道速度慢，也不好利用，但确实跨过了原本以为牢固的边界。