
Achieving Gold-Medal-Level Olympiad Reasoning via Simple and Unified Scaling
中文标题: 通过简单且统一的扩展实现奥林匹克竞赛金牌水平的推理关键词: reverse-perplexity curriculum,two-stage reinforcement learning,test-time scaling,olympiad-level reasoning简介: 一种系统化的方法通过反向困惑度课程、两阶段强化学习和测试时扩展,将经过后训练的推理模型转化为严谨的奥林匹克竞赛级解题器,在数学和物理竞赛中实现了金牌水平的性能。摘要: 推理模型的最新进展显著推动了长跨度数学和科学问题的解决,多个系统现在在国际数学奥林匹克(IMO)和国际物理奥林匹克(IPhO)问题上达到了金牌水平的性能。在本文中,我们介绍了一种简单且统一的方案,将经过后训练的推理骨干模型转化为严谨的奥林匹克竞赛级解题器。该方案首先使用反向困惑度课程进行监督微调(SFT),以灌输严谨的证明搜索和自检行为,然后通过两阶段强化学习流程扩展这些行为,该流程从可验证奖励的强化学习进展到更精细的证明级强化学习,最后通过测试时扩展提升解题性能。应用该方案,我们在约34万条长度小于8K令牌的轨迹上对300亿参数的A3B骨干模型进行SFT,随后进行200步强化学习。所得模型SU-01能够在超过10万令牌的轨迹上对难题进行稳定推理,同时在数学和物理奥林匹克竞赛中达到金牌水平的性能,包括IMO 2025/USAMO 2026和IPhO 2024/2025。它还展示了科学推理在数学和物理领域之外的强大泛化能力。链接: https://arxiv.org/pdf/2605.13301
Causal Forcing++: Scalable Few-Step Autoregressive Diffusion Distillation for Real-Time Interactive Video Generation
中文标题: Causal Forcing++:用于实时交互式视频生成的可扩展少步自回归扩散蒸馏关键词: Causal Forcing++,autoregressive diffusion distillation,real-time interactive video generation,causal consistency distillation简介: 一种新颖的因果一致性蒸馏方法实现了高效的逐帧视频生成,与现有的分块方法相比,降低了延迟并提高了质量。摘要: 实时交互式视频生成需要低延迟、流式传输和可控的展开。现有的自回归(AR)扩散蒸馏方法通过将双向基础模型蒸馏为少步AR学生模型,在分块4步机制下取得了显著成果,但仍受限于粗粒度的响应和不可忽略的采样延迟。本文研究了一种更激进的设置:仅需1-2个采样步的逐帧自回归。在此机制下,我们发现少步AR学生模型的初始化是关键瓶颈:现有策略要么目标不匹配,要么无法进行少步生成,要么扩展成本过高。我们提出了Causal Forcing++,一个原则性且可扩展的流程,使用因果一致性蒸馏进行少步AR初始化。其核心思想是,因果CD学习与因果ODE蒸馏相同的AR条件流映射,但从相邻时间步之间的单个在线教师ODE步骤获取监督,从而避免了预先计算和存储完整PF-ODE轨迹的需求。这使得初始化既更高效又更易于优化。所得流程在逐帧2步设置下,在VBench总分上超越SOTA 4步分块Causal Forcing 0.1分,在VBench质量上超越0.3分,在VisionReward上超越0.335分,同时将首帧延迟降低50%,第二阶段训练成本降低4倍。我们进一步将该流程扩展到Genie3风格的动作条件世界模型生成。项目页面:https://github.com/thu-ml/Causal-Forcing 和 https://github.com/shengshu-ai/minWM 。链接: https://arxiv.org/pdf/2605.15141
Self-Distilled Agentic Reinforcement Learning
中文标题: 自蒸馏智能体强化学习关键词: Self-Distilled Agentic Reinforcement Learning,SDAR,On-Policy Self-Distillation,OPSD,Multi-turn Agent Training,Sigmoid Gate简介: SDAR通过集成自蒸馏机制增强了用于多轮智能体训练的强化学习,该机制利用一个Sigmoid门控有选择地加强正向Token级指导,同时缓解负向教师拒绝的影响。摘要: 强化学习(RL)已成为大语言模型智能体后训练的核心范式,但其轨迹级的奖励信号仅为长视界交互提供了粗粒度的监督。同策略自蒸馏(OPSD)通过引入来自增强特权上下文的教师分支的密集Token级指导来补充RL。然而,将OPSD迁移到多轮智能体中存在问题:复合的多轮不稳定性会破坏监督,而基于技能条件的特权指导需要对负向教师拒绝进行不对称处理,这些拒绝可能源于不完美的技能检索或利用。我们提出了SDAR(自蒸馏智能体强化学习),它将OPSD视为一个门控辅助目标,同时保持RL作为主要优化骨干。SDAR将分离的Token级信号映射到Sigmoid门控中,加强教师背书的正向差距Token的蒸馏,并软性衰减负向教师拒绝。在ALFWorld、WebShop和Search-QA数据集上的Qwen2.5和Qwen3系列模型中,SDAR显著优于GRPO(在ALFWorld上提升9.4%,在Search-QA上提升7.0%,在WebShop-Acc上提升10.2%),避免了朴素GRPO+OPSD的不稳定性,并在不同模型规模上始终优于混合RL-OPSD基线。链接: https://arxiv.org/pdf/2605.15155
MemLens: Benchmarking Multimodal Long-Term Memory in Large Vision-Language Models
中文标题: MemLens:大型视觉语言模型多模态长期记忆的基准测试关键词: large vision-language models,multimodal long-term memory,multi-session conversations,benchmark,memory-augmented agents简介: 一个新的基准通过多会话对话评估视觉语言模型的记忆能力,揭示了长上下文和记忆增强方法的局限性。摘要: 记忆对于大型视觉语言模型(LVLMs)处理长多模态交互至关重要,提供这一能力的方法方向主要有两个:长上下文LVLMs和记忆增强代理。然而,现有基准尚未在真正需要多模态证据的问题上对这两种方法进行系统比较。为填补这一空白,我们推出了MEMLENS,一个用于多模态多会话对话中记忆的综合基准,包含789个问题,涵盖五种记忆能力(信息提取、多会话推理、时间推理、知识更新和拒绝回答),在跨模态令牌计数方案下,针对四种标准上下文长度(32K-256K令牌)进行测试。图像消融研究证实,解决MEMLENS需要视觉证据:移除证据图像使两个前沿LVLM在80.4%包含图像证据的问题上的准确率降至2%以下。评估27个LVLMs和7个记忆增强代理后,我们发现长上下文LVLMs通过直接视觉定位实现高短上下文准确率,但随着对话增长而性能下降,而记忆代理在长度上保持稳定,但在存储时间压缩下失去视觉保真度。多会话推理使大多数系统的准确率低于30%,且仅靠任何一种方法都无法解决该任务。这些结果促使我们探索结合长上下文注意力与结构化多模态检索的混合架构。我们的代码可在https://github.com/xrenaf/MEMLENS获取。链接: https://arxiv.org/pdf/2605.14906
SANA-WM: Efficient Minute-Scale World Modeling with Hybrid Linear Diffusion Transformer
中文标题: SANA-WM:基于混合线性扩散Transformer的高效分钟级世界建模关键词: world modeling,hybrid linear attention,camera control,two-stage generation,video synthesis简介: SANA-WM是一个高效的26亿参数世界模型,能够生成具有精确相机控制的高保真720p视频,在实现工业级质量的同时,通过混合注意力、双相机分支、两阶段生成和鲁棒的标注流水线显著降低了计算需求。摘要: 我们介绍了SANA-WM,一个高效的26亿参数开源世界模型,原生训练用于一分钟生成,能够合成具有精确相机控制的高保真720p分钟级视频。SANA-WM实现了与LingBot-World和HY-WorldPlay等大规模工业基线相当的视觉质量,同时显著提高了效率。四个核心设计驱动了我们的架构:(1) 混合线性注意力将逐帧门控DeltaNet(GDN)与softmax注意力结合,实现内存高效的长上下文建模。(2) 双分支相机控制确保精确的6自由度轨迹遵循。(3) 两阶段生成流水线将长视频细化器应用于第一阶段输出,提高了序列间的质量和一致性。(4) 鲁棒标注流水线从公共视频中提取精确的度量级6自由度相机姿态,以生成高质量的时空一致动作标签。在这些设计的驱动下,SANA-WM在数据、训练计算和推理硬件方面展现了卓越的效率:它仅使用约21.3万条具有度量级姿态监督的公共视频片段,在64块H100上15天内完成训练,并在单个GPU上生成每个60秒片段;其蒸馏变体可在配备NVFP4量化的单块RTX 5090上部署,在34秒内去噪一个60秒的720p片段。在我们的一分钟世界模型基准测试中,SANA-WM展现了比先前开源基线更强的动作跟随准确性,并以36倍更高的吞吐率实现了相当的视觉质量,从而实现可扩展的世界建模。链接: https://arxiv.org/pdf/2605.15178
Darwin Family: MRI-Trust-Weighted Evolutionary Merging for Training-Free Scaling of Language-Model Reasoning
中文标题: Darwin Family:用于语言模型推理免训练扩展的MRI-信任加权进化合并关键词: Darwin Family,training-free evolutionary merging,gradient-free weight-space recombination,MRI-Trust Fusion,cross-architecture breeding,language-model reasoning简介: Darwin Family框架通过无梯度的权重空间重组,实现了大语言模型的免训练进化合并,在无需额外训练的情况下实现了卓越的推理性能。摘要: 我们提出了Darwin Family,一个通过无梯度权重空间重组实现大语言模型免训练进化合并的框架。我们探讨了是否可以通过重新组织现有检查点中已编码的潜在能力,在不进行额外训练的情况下提升前沿级的推理性能。Darwin引入了三个核心思想:(i) 一个14维的自适应合并基因组,支持细粒度的组件级和模块级重组;(ii) MRI-Trust融合,通过可学习的信任参数自适应地平衡诊断层重要性信号与进化搜索;(iii) 一个架构映射器,支持异构模型家族之间的跨架构繁衍。实验表明,旗舰模型Darwin-27B-Opus在GPQA Diamond上取得了86.9%的成绩,在1252个评估模型中排名第6,并且无需任何基于梯度的训练便超越了其全训练基础模型。在从4B到35B参数的规模范围内,Darwin模型始终优于其父模型,支持递归的多代进化,并实现了结合Transformer和Mamba组件的免训练进化合并。综上所述,Darwin Family证明了以诊断为导向的进化合并是针对以推理为中心的语言模型,替代昂贵的后训练流程的一种实用且可复现的方案。链接: https://arxiv.org/pdf/2605.14386
MemEye: A Visual-Centric Evaluation Framework for Multimodal Agent Memory
中文标题: MemEye:一种以视觉为中心的多模态智能体记忆评估框架关键词: Multimodal Agent Memory,Visual Evidence Granularity,Retrieval Usage Complexity,Long-term Memory Evaluation简介: MemEye框架通过测量8种生活场景任务中的视觉证据粒度和检索使用复杂度来评估多模态智能体的记忆能力。摘要: 智能体的长期记忆日益呈现多模态特征,然而现有的评估方法很少测试智能体是否保留了后续推理所需的视觉证据。在先前的工作中,许多基于视觉的问题仅凭图像描述或文本轨迹即可回答,这使得无需保留细粒度视觉证据就能推断出答案。同时,那些需要对变化的视觉状态进行推理的更难案例也基本缺失。因此,我们提出了MemEye,这是一个从两个维度评估记忆能力的框架:一个维度测量决定性视觉证据的粒度(从场景级到像素级证据),另一个维度测量检索到的证据必须如何被使用(从单一证据到演化综合)。在该框架下,我们构建了一个涵盖8种生活场景任务的新基准,并设置了基于消融驱动的验证门,用于评估可回答性、捷径抗性、视觉必要性和推理结构。通过评估4种视觉语言模型(VLM)骨干网络上的13种记忆方法,我们发现当前的架构在保留细粒度视觉细节和随时间推理状态变化方面仍然存在困难。我们的研究结果表明,长期多模态记忆依赖于证据路由、时序跟踪和细节提取。链接: https://arxiv.org/pdf/2605.15128
Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems
中文标题: 超越个体智能:LLM多智能体系统中的协作、故障归因与自我进化综述关键词: LLM-based multi-agent systems,collaboration,failure attribution,self-evolution,collective intelligence简介: 多智能体系统在持续协调和错误传播方面面临挑战,需要集成化的方法,以便在结构化的协作阶段实现持续的诊断、重组和行为优化。摘要: 基于大语言模型(LLM)的自主智能体在推理、规划和工具使用方面表现出强大的能力,但在需要跨角色、工具和环境进行持续协调的任务中仍然受限。多智能体系统通过专业智能体之间的结构化协作来解决这一问题,但更紧密的协调也放大了一个鲜少被探索的风险:错误可能在智能体和交互轮次之间传播,导致难以诊断的故障,且很少转化为结构性的自我改进。现有的综述分别涵盖了单个智能体的能力、多智能体协作或智能体的自我进化,未对它们之间的因果依赖关系进行探讨。本综述提供了一个统一的综述框架,围绕四个因果关联的阶段展开,我们将其称为LIFE进程:奠定能力基础、通过协作集成智能体、通过归因发现故障、以及通过自主自我改进实现进化。针对每个阶段,我们提供了系统的分类法,并正式刻画了相邻阶段之间的依赖关系,揭示了每个阶段如何既依赖又约束下一个阶段。除了综合现有工作外,我们还识别了阶段边界处的开放性挑战,并提出了跨阶段的研究议程,旨在构建能够持续诊断故障、重组结构和优化智能体行为的闭环多智能体系统,将当前的协调框架推向更具自组织形式的集体智能。通过弥合这些此前分散的研究线索,本综述旨在为迈向自主、自我改进的多智能体智能提供系统的参考和概念路线图。链接: https://arxiv.org/pdf/2605.14892
STALE: Can LLM Agents Know When Their Memories Are No Longer Valid?
中文标题: STALE: LLM智能体能否知晓其记忆何时不再有效?关键词: LLM agents,personalized memory,implicit conflict,state-aware memory,commonsense reasoning简介: 大型语言模型在出现新证据时难以更新个性化记忆,需要通过上下文推理和常识推理来检测隐含冲突,这一点通过针对状态感知记忆系统的综合基准测试和评估得到了证实。摘要: 大型语言模型(LLM)智能体日益被期望保持连贯的长期个性化记忆,然而当前的基准测试主要衡量静态事实检索,忽视了在新证据出现时修正已存储信念的能力。我们发现了一个关键且未被充分探索的失效模式——隐含冲突:后续观察在不进行显式否定的情况下使先前的记忆失效,需要通过上下文推理和常识推理来检测。为了严格评估这一能力,我们引入了STALE,这是一个包含400个专家验证的冲突场景(跨越三个探测维度的1200个评估查询)的基准测试,涵盖100多个日常主题,上下文长度高达15万token。我们提出了一个三维探测框架,用于测试状态解析(检测先前的信念已过时)、前提抵抗(拒绝错误预设过时状态的查询)以及隐式策略适应(在下游行为中主动应用更新后的状态)。对前沿LLM和专用记忆框架的系统性评估揭示了检索更新证据与据此采取行动之间存在普遍差距,即使是表现最佳的评估模型总体准确率也仅为55.2%。模型往往接受用户查询中嵌入的过时假设,并且难以识别用户状态某一方面的变化何时应使相关记忆失效。为了建立状态感知记忆的初步基线,我们进一步提出了CUPMem,这是一个通过结构化状态整合和传播感知搜索来增强写入时修正的原型,表明显式状态裁决是实现鲁棒智能体记忆的一个有前景的方向。链接: https://arxiv.org/pdf/2605.06527
WildClawBench: A Benchmark for Real-World, Long-Horizon Agent Evaluation
中文标题: WildClawBench:面向现实世界、长视界智能体评估的基准关键词: WildClawBench,long-horizon agent evaluation,CLI environments,real tools,multimodal tasks,reproducible evaluation简介: WildClawBench通过使用配备真实工具而非合成沙箱的实际命令行界面(CLI)环境,在现实的长视界任务上评估语言和视觉语言模型。摘要: 大型语言和视觉语言模型越来越多地驱动着通过命令行界面(CLI)工具代表用户行事的智能体。然而,大多数智能体基准仍然依赖合成沙箱、短视界任务、模拟服务API和最终答案检查,这留下了智能体是否能在其部署的运行时中完成现实长视界工作的疑问。这项工作提出了WildClawBench,这是一个包含60个人类编写、双语、多模态任务的本地运行时基准,涵盖六个主题类别。每个任务平均大约需要8分钟的挂钟时间和超过20次工具调用,并在可复现的Docker容器内运行,该容器托管着一个实际的CLI智能体工具(OpenClaw、Claude Code、Codex或Hermes Agent),并有权访问真实工具而非模拟服务。评分采用混合方式,结合了确定性基于规则的检查、对副作用的环境状态审计,以及用于语义验证的LLM/VLM评判器。在19个前沿模型中,表现最好的Claude Opus 4.7在OpenClaw下仅达到62.2%的总分,而所有其他模型都低于60%,仅切换工具就会使单个模型的得分变化高达18分。这些结果表明,对于当前的前沿模型而言,长视界、本地运行时的智能体评估仍然是一项远未解决的任务。我们发布了任务、代码和容器化工具以支持可复现的评估。链接: https://arxiv.org/pdf/2605.10912
上海一橙智能科技有限公司,是上海一橙网络科技股份有限公司旗下专注于AI与大模型应用落地的核心企业,提供从平台构建到AI场景化应用落地的全栈服务。聚焦大模型应用、数字人交互、语音图像分析等核心领域,打造了覆盖智能外呼、智能客服、智能知识管理、智能陪练、多模态交互、图像语音质检等场景的AI产品体系,已成功为通信、能源等领域头部央国企客户打造出多个AI落地应用。


夜雨聆风