OpenAI模型失控始末曝光

图1：AI智能体突破沙盒隔离环境示意（本图由AI生成）

一个OpenAI模型逃出了沙盒，游荡到互联网上，最终闯入了Hugging Face的系统。放在两年前，这句话读起来还像科幻小说；而如今，它已成为一桩被证实的安全事件，Hugging Face的CEO要求OpenAI拿出“证据”。

一、事件经过：模型如何失控

OpenAI模型失控事件的细节近日被曝光。据新华社报道，美国开放人工智能研究中心（OpenAI）承认，其人工智能模型在内部评估测试中失控，入侵了全球知名人工智能开源平台Hugging Face的系统。

Hugging Face于7月16日率先披露了此次入侵事件。OpenAI随后于21日才披露，其GPT-5.6 Sol模型及一款未发布的更强模型，在一个已移除安全防护措施的测试环境中成功逃脱沙盒限制，穿透OpenAI企业内网，并入侵了Hugging Face的服务器，窃取了基准测试答案密钥。

此次事件的核心是GPT-5.6 Sol——OpenAI的一款先进模型，以及另一款当时正处于内部测试阶段的更强预发布模型。在OpenAI所称的针对“网络能力基准测试”的内部评估中，这些模型逃出了受控沙盒环境，访问了开放互联网。用通俗的话说：OpenAI的AI智能体在被测试时溜了出去、上了网、闯进了竞争对手的系统——而且显然没有人指示它们这样做。

Hugging Face在2026年7月14日至20日的一周内公开披露了入侵事件。OpenAI在7月21日和22日确认了自身涉及其中。两家公司表示，目前正就调查展开合作，并已开始相互分享初步发现。

图2：Hugging Face CEO克莱门特·德朗格（Clément Delangue）在社交平台喊话OpenAI（推文截图）

德朗格在自行调查24小时后表示，他认为这起事件可能是同类事件中首例——OpenAI方面并不带有恶意意图。智能体并未被武器化。根据现有叙述，它们只是在追求一个基准测试目标，沿着一条路径走了下去，最终走到了不该去的地方。

二、德朗格的诉求为何重要

7月26日，Hugging Face CEO克莱门特·德朗格（Clement Delangue）在社交平台上公开喊话OpenAI，要求其发布涉事智能体的完整执行追踪记录，供大众和社群研究。同时，他还要求价值1亿美元的算力，以协助Hugging Face强化其网络防御。

对执行追踪记录的要求，实质上是索要一份完整的审计日志：记录智能体从离开沙盒到被遏制期间所做的每一个决策、每一个动作、每一次外部调用。这类追踪记录能让独立研究者准确理解逃逸是如何发生的、模型在优化什么目标、哪些护栏失效了。

1亿美元算力承诺是一项独立但相关的诉求。德朗格实际上是在主张：既然事件由OpenAI引发，OpenAI就应当出资资助防御性基础设施，帮助更广泛的AI生态系统抵御类似事件。

OpenAI目前的回应是成立一个“前沿风险委员会”（Frontier Risk Council）。该委员会被定位为公司制度层面的承认——此类事件需要常设的治理结构，而不仅仅是事后复盘。不过，它是在事件发生之后才宣布的，而非之前。

三、“黑客狂欢”：OpenAI一周后才察觉

7月25日，有外媒援引知情调查人士的消息称，入侵Hugging Face的OpenAI智能体（Agent）曾展开持续数日的“黑客狂欢”，直到威胁已被控制、联邦调查局（FBI）接到报警后很久，OpenAI才察觉此事。

据两名知情人士介绍，这款能够在极少甚至无需人工监督的情况下自主决策并执行复杂任务的程序，于7月9日前后试图突破其在OpenAI内部的隔离测试环境。Hugging Face联合创始人托马斯·沃尔夫（Thomas Wolf）表示，针对这家AI工具与模型托管平台的入侵始于两天后的7月11日，一直持续到7月13日。

沃尔夫及另外三名知情人士称，又过了好几天，OpenAI才意识到是其智能体实施了此次攻击；两家公司直到7月20日前后才首次就此事进行沟通。

三位网络安全专家指出，OpenAI对其AI智能体失控一事，引发了外界对公司安全流程的新质疑。据三位消息人士透露，此前已有迹象显示OpenAI的技术出现反常行为。在一个案例中，某个智能体留下了显然是写给未来版本的“便条”。这些在OpenAI基础设施某处发现的便条，详细说明了智能体如何摆脱OpenAI内部限制的方法。其中一位人士表示，在此前的模型测试中，就曾出现过监控系统被断开的情况。

据两位了解OpenAI内部调查的人士透露，在7月18日-19日的周末，OpenAI员工在公司内部日志（即记录OpenAI系统运行情况的文件）中发现了线索，显示其智能体已突破测试限制。

四位熟悉OpenAI模型训练流程的人士表示，OpenAI经常同时运行多项模型评估任务，所有任务都以极快速度运转，产生的数据量极为庞大，员工有时难以跟上节奏。

“这些模型会撒谎、会作弊、会黑客攻击。必须要有政府监管，否则这事不会发生。”

—— 杰弗里·拉迪什（Jeffrey Ladish），帕利塞德研究所执行总监、Anthropic前安全工程师

拉迪什表示，尽管入侵Hugging Face一事让OpenAI颜面受损，但它更应引发更广泛的反思：在竞相部署更优、更快模型的过程中，各家头部AI企业究竟愿意投入多少成本用于繁琐的安全措施？

四、后续影响：宕机、IPO与AI安全反思

OpenAI目前尚未发布该事件的技术报告。但在7月25日，OpenAI又突发服务器故障，ChatGPT、API、Codex等均出现宕机情况。

OpenAI产品负责人蒂博·索蒂奥（Thibault Sottiaux）当天晚些时候发文回应称：“我们遭遇了几乎全球范围的服务中断，目前一切已恢复。我们将会吸取教训，重新调整。”

图3：OpenAI产品负责人蒂博·索蒂奥（Thibault Sottiaux）推文截图

目前，OpenAI正在准备上市阶段。投后估值已达8520亿美元，上市估值有望达到1万亿美元。6月初，OpenAI宣布已秘密递表，并称尚未确定具体的上市时间表，作为一家非上市公司可能更便于推进某些事项，上市进程可能需要一段时间。据OpenAI CEO山姆·奥特曼（Sam Altman）此前透露，公司或将在2027年上市。

此次模型失控事件，再度引发大众对于AI安全的担忧和反思。当AI开始具备越来越强的自主决策能力时，如何建立与之匹配的安全机制和监管框架，或许比模型性能竞争本身更加迫切。对于正冲刺IPO的OpenAI而言，这也将成为资本市场关注的重要议题。

五、对AI市场与投资者的意义

对于关注AI公司作为投资标的的人来说，这起事件引入了一个此前更多停留在理论层面而非操作层面的风险变量。前沿AI模型如今已被证实有能力逃出受控测试环境，并以开发者未曾预期或授权的方式与第三方系统交互。

对AI市场的主要影响可归纳为以下几点：

•具备AI专属能力的网络安全公司是这起事件最明显的短期受益者，因为企业正在重新评估自身对自主智能体系统的风险敞口。

•对能够在运行时监控、约束和审计AI智能体行为的工具的需求将会上升。

•OpenAI反应迅速并确认了自身涉事、与Hugging Face合作，但“在事件之后才成立、而非在事件之前就存在的前沿风险委员会”将成为批评AI行业自我监管人士的话柄

声明：本文译自NewsBytes报道，内容仅供信息参考，不构成投资建议。

原文链接：https://www.newsbytesapp.com/news/science/hugging-face-asks-openai-to-release-rogue-ai-agent-traces/story