AI开始给自己写代码了!GPT-5.6重写内核,服务成本直降20%

来源：新智元
本文约2700字，建议阅读5分钟
这回，AI开始为自己写代码了！

GPT-5.6一上线，接到的第一个大活，就是给自己的运行环境来了一次大「翻修」。

它自主重写、优化了OpenAI线上那套底层代码，也就是真正负责跑模型的生产GPU内核。

7月29日，OpenAI官方甩出一组数字：

这次GPT-5.6动的不是一个跑在演示环境里的Demo，而是OpenAI正在线上跑的，每天承载十亿级用户请求的那套生产系统。

用OpenAI总裁Greg Brockman的话说：让GPT-5.6 Sol去提升生产服务效率，正是它又强又便宜的原因之一。

而OpenAI内部，早已形成一套完整的打法，Codex掌门人Tibo（Thibault Sottiaux）把它概括成两步：

这20%的服务成本，到底是怎么省出来的？

GPT-5.6 Sol通过Codex，接进了OpenAI的生产推理栈，碰的全是推理栈里最核心的几块：GPU内核、负载均衡、推测解码、KV缓存。

GPT-5.6在智能体框架、API编排、模型推理三层做优化，换来更少网络传输、更少CPU开销、更多GPU产出。

负载均衡，翻译成人话就是别让某几张卡忙到冒烟，而另外几张卡却只是闲着；

KV缓存，是把算过的中间结果存下来重复用，不做无用功；

推测解码，是让一个小模型先抢答、大模型只负责验收。答对了，一次就能多输出好几个字，不用像平常那样一个字一个字慢慢挤。

然后再看GPT-5.6 Sol干了什么。

它分析真实的生产流量，揪出以前被忽略的负载不均，测试新的路由策略；

它自主重写了用Triton和Gluon这两种GPU编程语言写成的生产内核，专门去找那些能预先算好、能跳过、能并行的活儿；

在推测解码环节，它针对配套的draft模型，设计并跑了数百次架构实验，还自己启动、盯着训练流程，遇到硬件故障和训练不稳定，自己主动介入。

这些环节一个个抠下来，最后就换来了开头那两个数字：服务成本降20%，token生成效率涨15%+。

其实早在7月9日GPT-5.6发布时，OpenAI就已透露端倪。

内部研究员已经在用它排查故障、优化训练系统、跑实验、解释结果，还专门给它设了KernelGen、NanoGPT、RSI Index这几项「自我改进」评测。

这次降本20%，意味着这些布局，第一次变成账单上实打实的数字。

真正重要的变化，是一个闭环跑通了。

分析流量、提出优化、写出代码、跑完实验、处理掉故障，再拿生产指标回来验证结果，现在这条回路的每一环，模型几乎都能参与。

一次任务里，模型不断「决策→调用工具→读取结果→再决策」，循环往复直到交付。

拿推测解码举例。

这个技术要配一个更小的draft模型，GPT-5.6 Sol针对这个draft模型，设计并跑了数百次架构实验，改尺寸、改结构、改特性。

数百次实验，过去这要靠一个稀缺的GPU工程师，凭着经验和直觉，一个配置一个配置地手工试，试上几个月。

配置空间太大，大到人根本试不完，只能靠粗糙的经验法则拍脑袋。

现在，模型能把这个「测量、优化、验证」的循环压到极短。于是，团队能探索更多想法，更快跟上不断变化的负载。

更关键的是，这个闭环，还会自己滚起来。

模型越强，越能把推理栈优化得越省；越省，同样的硬件就能服务越多请求；服务的人越多，OpenAI就能把更强的模型铺给更多的人用。

OpenAI的内部数据能佐证这个环转得有多快：

省下的每一分算力，最后都变成了让更多人能用上的智能。

那么，这到底算不算「AI开始自我进化」？

至少现在，还不算。

GPT-5.6 Sol优化的，是运行自己的软件、服务配置，还有辅助的draft模型。

没有证据表明它在线改动了自己的主体权重，也没有证据表明它能脱离工程团队，自己升级出下一代模型。

如果把权重比作模型智能的「货物」，内核和配置就是运货的卡车和路线。它这次优化的是运输，还没碰到货物。

因此，更准确地说这是「自优化飞轮」的早期形态，不是递归自我改进。

还有一点要注意。

官方这次用了「自主（autonomously）」来形容内核重写和部分实验，但不等于「完全无人参与」，目标由谁定、接进哪套生产系统、拿什么工具验证、怎么部署上线，这些环节都还牢牢攥在OpenAI的工程体系手里。

比如验证环节：模型写完的生产内核，要经过审核才能上线。

OpenAI专门搬出一个叫FpSan（浮点消毒器）的开源工具，检查这些内核的结构和数据流对不对。

自动验证体系跟不跟得上，才是「敢让AI写底层代码」的真正瓶颈。

往前看，OpenAI也一直在为RSI（Recursive Self-Improvement，递归式自我改进）铺路。

早在2月，GPT-5.3-Codex就被官方形容为「参与了自己的创造」；这一次，GPT-5.6 Sol又自主后训练了更小的Luna；在内部专门衡量自我改进能力的RSI Index上，它比GPT-5.5高出16.2分。

OpenAI内部RSI Index成本-得分曲线：GPT-5.6三档全面压过5.5、5.4，同等得分更省钱。

老对手Anthropic的一个判断更激进：

其联创Jack Clark更是称2028年底前出现完整的递归自我改进，概率超过60%。

飞轮是转起来了，但真正的「AI自己造AI自己」还在路上。

这20%，意味着同样一批卡，OpenAI现在能多接两成的活。

它指向一个更大的变化。

过去几年，AI公司比的是谁买得起更多GPU。这套逻辑简单粗暴，也砸钱如流水。

但在一个算力永远不够、需求涨得比产能快的世界里，另一个关键变量已经浮出水面：同样一批卡，谁能榨出更多token？

推理效率，正在变成和芯片数量同样重要的筹码。

OpenAI自己已经用产品线投了票。

GPT-5.6这次一口气分成Sol、Terra、Luna三档，就是要主打一个卖点：同等智力，更少token。

效率，被摆到了和智能同样重要的位置。

而这一次，帮OpenAI的模型提升推理效率的，正是模型自己。

模型越强，越能优化推理栈；推理栈越高效，同样硬件就能服务更多token；成本一降，更强的模型又能铺给更多人用。

这个飞轮，OpenAI已经让它转起来了。

参考资料：

https://x.com/OpenAI/status/2082577277246972300

https://openai.com/index/gpt-5-6-frontier-intelligence-efficiency/

https://openai.com/index/gpt-5-6/

https://x.com/gdb/status/2082579736065372189

编辑：文婧