2026年4月，来自清华大学、DeepLang AI、UIUC、复旦大学和香港中文大学的研究团队发表了一篇论文：“From Context to Skills: Can Language Models Learn from Context Skillfully?”，提出了 Ctx2Skill 框架——一个无需人工标注、无需外部反馈的自进化技能发现系统。

这篇文章，我带你深入拆解它的核心原理。

一、什么是”上下文学习”？为什么它很重要？

我们日常使用大模型时，大多数任务都落在参数知识的覆盖范围内——模型在预训练阶段就已经”见过”相关知识。数学题、编程题、常识问答，大体如此。

但现实世界中，大量任务要求的知识不在训练数据里：

• 医生需要阅读最新发布的临床指南来调整治疗方案
• 工程师需要阅读从未见过的产品文档来执行安装步骤
• 研究人员需要从实验数据中归纳规律、形成假设

论文将这种能力定义为 Context Learning（上下文学习）——让语言模型从给定的复杂上下文中直接学习新知识，并据此推理和解决任务。注意，这和我们常说的 In-Context Learning（ICL）不同：ICL 是让模型通过 few-shot 示例学习任务模式，而 Context Learning 要求模型从内容本身提炼规则和知识。

腾讯混元团队在 2026 年初发布的 CL-bench 基准测试揭示了这一问题的严峻性：即使是 GPT-5.1，在 CL-bench 上的整体解题率也只有 21.1%。大模型离”真正读懂陌生文档”还有很长的路要走。

二、核心思路：推理时技能增强

一个直观的想法是：能不能把长文档里的规则和流程”提炼”成一套技能（Skill），然后注入到模型的提示中？

这就是 推理时技能增强（Inference-time Skill Augmentation） 的思路——从上下文中提取可复用的程序性知识，编码成自然语言的 Skill 文件，在推理时前置到系统提示中。

这个思路已被 Anthropic 等团队的实践证明是有效的——编码 Agent、网页导航 Agent 等场景都有成功案例。

但问题来了：在上下文学习场景中，这个思路遇到了两个根本性挑战。

三、两大核心挑战

挑战 1：人工标注成本不可承受

现有的 Agent Skill 库（如 Anthropic 的官方 Skill 体系）主要靠人工编写。但在上下文学习场景中，上下文文档通常很长、技术密度高、领域专精。要求标注者完全内化一份复杂的多章节文档，然后编写出高质量的 Skill，既耗费认知资源又不经济——根本无法规模化。

挑战 2：没有外部反馈信号

在代码或数学推理等场景中，Skill 的质量可以通过执行结果或标准答案来评估。但上下文学习任务没有这种自动反馈——给定一份文档和一个问题，没有外部系统能告诉你”生成的 Skill 是否忠实、完整地捕获了文档知识”。

这两个挑战意味着：我们需要的不是人工标注，也不是依赖执行反馈，而是一种完全自监督的技能发现机制。

四、Ctx2Skill：多智能体自博弈框架

Ctx2Skill 的核心设计是一个多智能体自博弈循环（Multi-Agent Self-Play Loop）。它的灵感来自强化学习中的 Self-Play（比如 AlphaGo），但有一个关键区别——模型参数完全冻结，进化的不是权重，而是自然语言的 Skill。

4.1 五个角色

框架定义了五个智能体角色：

4.2 自博弈循环流程

每一轮迭代的工作流程如下：

关键设计要点：

1. 双方对抗进化：Challenger 和 Reasoner 各自维护独立的技能集，互相看不到对方的技能，保持严格的对抗关系
2. 失败驱动更新：Reasoner 的失败案例被用来诊断”缺少了什么上下文知识”，进而更新 Reasoner 的技能集；Challenger 的成功案例被用来诊断”题目出得太简单”，进而强化 Challenger 的出题策略
3. 诊断与生成分离：Proposer 负责”分析为什么失败/成功”，Generator 负责”把诊断结果转化为具体的 Skill 内容”。论文发现，将这两个角色分开能带来一致的性能提升
4. 全部通过才算通过：Judge 采用严格的”全有或全无”评分——只有当答案满足所有评分标准时，任务才算通过

4.3 技能长什么样？

Ctx2Skill 生成的 Skill 是 Markdown 格式的自然语言文档，包含 YAML 头部和结构化正文。一个典型的 Reasoner Skill 可能长这样：

---
skill_name: cross-reference-constraints
skill_description: When the context specifies
  inter-dependent constraints across sections
---

## Pre-Answer Checklist
1. Scan for all numerical constraints
   mentioned in the context
2. Identify cross-section dependencies
3. List conflicting requirements

## Response Procedure
- Step 1: Extract all constraints into
  a structured table
- Step 2: Verify mutual compatibility
- Step 3: If conflicts exist, prioritize
  by recency of the context section

## Common Pitfalls
- Ignoring constraints in footnotes
- Treating "should" and "must" equally

这种格式的好处是：可读、可编辑、可审查，人类可以直接检查 Skill 是否正确地反映了文档知识。

五、Cross-Time Replay：防止对抗性崩塌

这是论文中最精巧的设计之一。

5.1 问题：对抗性崩塌（Adversarial Collapse）

随着迭代进行，Challenger 会生成越来越极端的任务，Reasoner 的技能也会越来越”过拟合”这些极端案例——结果是技能集积累了很多冗余条目，泛化能力反而下降。

更致命的是，这种现象在循环内部无法被检测到——每一轮的 Judge 只评估当前轮的新任务，不会告诉你”之前掌握的知识是否被后续的修改破坏了”。

如果直接使用最后一轮的 Reasoner 技能集，效果可能还不如中间轮次的。

5.2 解决方案：Cross-Time Replay

论文提出了一个优雅的解决方案：

在自博弈过程中，自动收集两组”代表性探针”：

• Hard Probe Set：每轮迭代中，评分标准通过率最低的失败任务
• Easy Probe Set：每轮迭代中，评分标准数量最少的成功任务

循环结束后，用所有历史技能集重新跑一遍探针，选出平衡性最好的。

具体来说，对第 i 轮的 Reasoner 技能集 S^R_i，计算：

• rho_h(i) = Hard Probe Set 上的解题率（Laplace 平滑）
• rho_e(i) = Easy Probe Set 上的解题率（Laplace 平滑）

最终选择：i = argmax_i [rho_h(i) x rho_e(i)]*

乘法形式是关键设计——如果一个技能集解决了后期极端案例但退化了简单案例，rho_e 会惩罚它；反之亦然。Laplace 平滑则防止探针集为空时出现除零问题。

实验证实了这个机制的必要性：固定使用第1轮技能得分 15.9%，第5轮降到 14.7%（验证了对抗性崩塌），而 Cross-Time Replay 达到 16.5%，优于任何固定轮次。

六、实验结果：全面提升

6.1 CL-bench 主实验

CL-bench 包含 500 个复杂上下文、1899 个任务和 31607 条评分标准，覆盖四个类别：

核心结果：

值得注意的是，GPT-4.1 + Ctx2Skill（16.5%）超越了无 Skill 的 Gemini 3 Pro（15.8%）——技能增强甚至可以弥合模型代际差距。

在四个任务类别上，Ctx2Skill 全部领先，提升最大的是 Procedural Task Execution（+7.2%） 和 Empirical Discovery（+5.5%），这两类恰好需要更深层的程序性和归纳推理能力。

6.2 技能质量评估

论文用 GPT-4.1 作为评判者，从五个维度评估生成技能的质量：

Ctx2Skill 在所有维度上均优于基线方法，平均分达到 93.6（GPT-5.1 基础），其中 忠实性（93.9） 和 清晰性（98.1） 的提升最为显著——这意味着自博弈循环不仅提升了解题率，还产出了人类可审查、高质量的知识编码。

6.3 消融实验

论文做了系统的消融实验，验证每个组件的必要性：

Challenger 技能进化是影响最大的组件——没有持续加强的对手，Reasoner 的技能发现能力大幅下降。这也验证了”对抗压力是技能进化的核心驱动力”这一设计哲学。

6.4 技能可迁移性

一个有趣的现象：强模型生成的技能可以迁移到弱模型。

• GPT-5.1 生成的技能用在 GPT-4.1 上：16.1%（接近 GPT-4.1 自身技能的 16.5%）
• GPT-4.1 生成的技能用在 GPT-5.1 上：23.1%（但低于 GPT-5.1 自身技能的 25.8%）

这种不对称性说明：强模型能发现更深层的上下文知识，这些知识对弱模型也有帮助；但弱模型的认知局限使其无法产出强模型能充分利用的技能。

七、与其他方法的对比

Ctx2Skill 是目前唯一一个同时满足”零人工标注 + 零外部反馈 + 零参数更新”的技能发现方法。

八、设计哲学的深层思考

读完这篇论文，我感触最深的不只是技术细节，而是几个值得深思的设计哲学：

8.1 进化的对象是”知识”而非”参数”

传统强化学习通过梯度更新让模型”变强”，但 Ctx2Skill 走了一条不同的路——模型权重完全冻结，进化的是外部化的自然语言知识。

这带来了几个独特优势：

• 可解释性：每个 Skill 都是人类可读的文本
• 可编辑性：人类可以直接修改、审查技能
• 可移植性：Skill 可以插拔到任意 LLM
• 无需训练：对闭源模型（如 GPT-5）同样适用

8.2 对抗是进化的燃料

论文发现，去掉 Challenger 技能进化会导致最大幅度的性能下降。这验证了一个直觉：持续的对抗压力是发现深层知识的关键。如果对手太弱，你永远不会被迫成长。

这与 AlphaGo 的 Self-Play 异曲同工，但 Ctx2Skill 把”对抗进化”从梯度空间搬到了文本空间。

8.3 早期轮次往往最好

Cross-Time Replay 的实验揭示了一个反直觉的现象：被选中的最佳技能集大多来自早期轮次（而非最后一轮）。这说明技能进化存在一个”甜蜜点”——太早则知识不够全面，太晚则过拟合极端案例。

这也给我们一个启示：迭代优化不一定是越多越好，关键是要有好的选择机制。

8.4 诊断和执行应该分离

Proposer（诊断者）和 Generator（生成者）的分离看起来像是多余的工程复杂度，但消融实验证明它确实有效。这类似于软件开发中”产品经理”和”程序员”的分工——先想清楚”改什么、为什么改”，再动手实现，比一个人边想边做效果更好。

九、局限性与未来方向

局限性

• 计算成本：每轮需要 5 个任务 × 多个智能体调用，单次上下文的技能生成成本不低（好在只需生成一次，后续推理复用）
• 迭代轮次有限：受 API 预算限制，论文只跑了 5 轮迭代，可能还有提升空间
• Judge 依赖：裁判本身使用 GPT-5.1，其判定质量直接影响技能进化方向

未来可能的方向

• 更高效的探针策略：当前每轮只添加 1 个 Hard Probe 和 1 个 Easy Probe，更丰富的探针策略可能带来更好的选择
• 跨上下文技能迁移：从多个相关文档中提取通用技能，构建”技能库”
• 与 RAG 结合：Skill 提供推理框架，RAG 提供检索信息，二者互补
• 轻量级蒸馏：将自博弈发现的技能蒸馏到小模型中，降低部署成本

十、总结

Ctx2Skill 提出了一个优雅且实用的框架，解决了上下文学习场景中”如何无监督地发现技能”这一核心问题。它的核心贡献可以概括为三点：

1. 多智能体自博弈：Challenger 和 Reasoner 通过失败驱动的文本编辑协同进化，无需人工标注或外部反馈
2. Cross-Time Replay 机制：通过代表性探针回溯评估，防止对抗性崩塌，选出最具泛化能力的技能集
3. 即插即用的技能增强：生成的自然语言技能可以注入任意 LLM，弥合模型代际差距

在 CL-bench 上，Ctx2Skill 将 GPT-4.1 从 11.1% 提升到 16.5%，GPT-5.1 从 21.1% 提升到 25.8%——这不是微小的边际提升，而是在一个极具挑战性的基准上取得了实质性进步。

更重要的是，它为我们指明了一个方向：大模型的能力提升，不一定非要靠更大的参数、更多的训练数据——让模型学会从上下文中”自学成才”，可能是更务实、更可扩展的路径。

论文信息

• 标题：From Context to Skills: Can Language Models Learn from Context Skillfully?
• 作者：Shuzheng Si, Haozhe Zhao, Yu Lei, Qingyi Wang, Dingwei Chen, Zhitong Wang, Zhenhailong Wang, Kangyang Luo, Zheng Wang, Gang Chen, Fanchao Qi, Minjia Zhang, Maosong Sun
• 机构：清华大学、DeepLang AI、UIUC、复旦大学、香港中文大学