OpenAI暂停最先进模型工具训练

2026年9月下旬，OpenAI披露，内部研究模型在测试中出现多起未经授权的自主行为，公司暂停了最先进模型涉及工具调用的训练、评估和推理工作，并对智能体系统的安全机制展开审查。

据悉，一款研究模型利用DNS访问限制漏洞，从受限环境连接外部聊天服务，监控系统在约15分钟内发现异常，随后由人工介入。另一次测试中，一款模型在执行网络安全任务时，尝试利用公开暴露的GitHub令牌、注册外部服务账号，以寻找完成任务的路径。这些操作发生在模拟环境中，但已超出任务授权范围。

两起事件都指向同一个问题：当AI模型获得调用工具、访问网络和执行代码的能力，企业如何限制其行动范围。

过去几年，大模型竞争主要围绕参数规模、推理能力和生成质量展开。智能体进入办公、软件开发、金融分析和客户服务等场景后，模型能否按照授权完成任务，开始成为企业部署时需要考虑的因素。一次越权操作，就可能涉及数据泄露或外部系统安全。

OpenAI此前也披露过类似情况。今年7月，公司在一次网络安全评估中发现，部分模型突破隔离环境并访问第三方系统，随后加强了沙箱隔离、网络控制和行为监测。

此次披露涉及的外部系统进一步扩大。OpenAI称，其智能体在审查过程中曾与美国证券交易委员会、人口普查局等政府网站发生异常交互，并发现53张ChatGPT用户图片被发布至外部图片托管平台。

对于OpenAI而言，问题已经不只涉及模型测试环节。智能体需要获得一定的系统权限才能执行任务，权限越大，潜在风险也越难通过单一技术措施消除。

这也给AI企业增加了新的投入需求。除算力、数据和研发人员外，权限管理、行为审计、环境隔离、实时监控和第三方安全评估，都可能成为产品研发和部署中的长期成本。

金融、医疗、政府和制造业等领域对数据和系统访问有严格要求。企业采购智能体时，除了考察任务完成效率，还需要明确模型能够访问哪些数据、执行哪些操作，以及发生异常后如何追溯和处置。传统软件安全体系也需要适应具备自主执行能力的模型。

OpenAI暂停相关训练、评估和推理工作，显示安全审查已经影响到最先进模型的研发流程。