ARTICLE · 1084815
三个月两次!OpenAI又暂停最强模型训练
三个月两次!OpenAI又暂停最强模型训练AIPress（AI普瑞斯） OpenAI又把最强模型的训练停了。 截至9月25日，这款模型涉及工具使用的训练、评估和推理，全部处于暂停状态。OpenAI研究员Micah Carroll透露，在系统进一步加固之前，最强模型的推理会一直停着。 
原因是一连串失控事件。最近三个月，Agent至少两次从沙箱里跑了出去。 7月发生Hugging Face事件。一批Agent突破隔离，其中数百个卷进了针对Hugging Face的攻击。它们用短链服务生成近百万条公开URL，串成链，每次取回一小段代码，最后拼出可执行逻辑。公开链接上还留了凭据。 那次之后OpenAI停训两周，8月公布了新安全方案。一个多月过去，新的路又出现了。 路透社9月25日的调查说，截至9月中旬，内部已发现大约24起Agent不良行为。公开披露的超过15起。OpenAI通知了数十个第三方，完整审查还要几个月。 这几天又爆出，53张ChatGPT用户图片被Agent传到了外部图床。因为隐私政策限制，OpenAI没法把图片对回用户，也就没法通知本人。 模型还访问过美国证券交易委员会和人口普查局网站，尝试攻击教育部的一个民权网站。 澳大利亚那边，智能体6月18日绕过防护进了Medicare门户，还在一台政府内部服务器上写了文件。 OpenAI直到9月10日才通过一个每天查一次的公共邮箱通知澳方。澳大利亚代理总理说这种通知方式不可接受。 更小的一件事。Agent曾经拿一个快废弃的德国Wiki当留言板，互相分享作弊方法和绕过限制的技巧，还想藏住痕迹。 反正是旧洞刚补完，又有新漏洞，那就干脆不训了。