夜雨聆风Adam's Law: Textual Frequency Law on Large Language Models
[Adam's Law：大语言模型的文本频率定律](https://arxiv.org/abs/2604.02176)
一个通过文本频率分析改进大语言模型性能的新型框架，包含定律、蒸馏和课程训练方法。AI生成的摘要：虽然文本频率在人类认知的阅读速度方面已被证实具有相关性，但其与大语言模型（LLM）的关联性却鲜有研究。据我们所知，本文提出了一个关于文本数据频率的全新研究方向。我们的框架由三个单元组成。首先，本文提出了文本频率定律（TFL），表明对于LLM的提示和微调，应优先使用频繁的文本数据。由于许多LLM的训练数据是闭源的，我们提出使用在线资源来估计句子级别的频率。然后，我们利用输入改写器将输入改写为更频繁的文本表达。接下来，我们提出文本频率蒸馏（TFD），通过查询LLM来进一步扩展数据集中的句子以完成故事，生成的语料库用于调整初始估计。最后，我们提出课程文本频率训练（CTFT），按照句子级别频率递增的顺序微调LLM。我们在整理的文本频率配对数据集（TFPD）上进行了数学推理、机器翻译、常识推理和代理工具调用实验。结果表明了我们框架的有效性。
GrandCode: Achieving Grandmaster Level in Competitive Programming via Agentic Reinforcement Learning
[GrandCode：通过代理强化学习在竞技编程中达到特级大师水平](https://arxiv.org/abs/2604.02721)
GrandCode是一个多智能体强化学习系统，通过编排专门的代理模块和采用新颖的奖励策略优化技术，在竞技编程挑战中超越人类竞争者。AI生成的摘要：竞技编程仍然是人类在编程方面对抗AI的最后堡垒之一。迄今为止最好的AI系统仍未达到最好的人类竞技编程水平：最新的最佳结果Google的Gemini~3 Deep Think甚至在没有实时比赛条件评估的情况下仅获得第8名。在本工作中，我们介绍了GrandCode，一个专为竞技编程设计的多智能体RL系统。GrandCode的能力归功于两个关键因素：（1）它编排了多种代理模块（假设提出、求解器、测试生成器、总结等），并通过后训练和在线测试时RL联合改进它们；（2）我们引入了专为多阶段代理推出的延迟奖励和代理RL中普遍存在的严重偏离策略漂移而设计的代理GRPO。GrandCode是第一个在竞技编程的实时比赛中持续击败所有人类参与者的AI系统：在最近的三场Codeforces实时比赛中，即Round~1087（2026年3月21日）、Round~1088（2026年3月28日）和Round~1089（2026年3月29日），GrandCode在所有比赛中均获得第一名，击败了所有人类参与者，包括传奇特级大师。GrandCode表明AI系统已达到在最具竞争力的编程任务上超越最强人类程序员的水平。
Rethinking Generalization in Reasoning SFT: A Conditional Analysis on Optimization, Data, and Model Capability
[重新思考推理SFT中的泛化：优化、数据和模型能力的条件分析](https://arxiv.org/abs/2604.06628)
监督微调和强化学习在推理任务中表现出条件性的跨域泛化，受优化动态、数据质量和模型能力影响，推理改进与安全退化之间存在不对称结果。AI生成的摘要：LLM后训练中的一个普遍观点是监督微调（SFT）记忆，而强化学习（RL）泛化。我们用长思维链（CoT）监督重新审视了推理SFT的这一说法，发现跨域泛化并非不存在，而是有条件的，由优化动态、训练数据和基础模型能力共同塑造。一些报告的失败是优化不足的产物：跨域性能先下降，然后随着扩展训练而恢复和改善（先降后恢复模式），因此短期训练检查点会低估泛化能力。数据质量和结构都很重要：低质量解决方案广泛损害泛化，而经过验证的长CoT轨迹产生一致的跨域收益。模型能力至关重要：更强的模型内化可迁移的过程模式（例如回溯），即使来自玩具算术游戏，而较弱的模型模仿表面冗长。然而，这种泛化是不对称的：推理改进而安全退化，将问题从推理SFT是否泛化重构为在什么条件下以什么代价实现泛化。
Video-MME-v2: Towards the Next Stage in Benchmarks for Comprehensive Video Understanding
[Video-MME-v2：迈向综合视频理解基准的下一阶段](https://arxiv.org/abs/2604.05015)
Video-MME-v2提供了一个综合基准，通过渐进式层次结构和分组评估来评估视频理解模型的鲁棒性和忠实度。AI生成的摘要：随着视频理解的快速发展，现有基准变得越来越饱和，揭示了膨胀的排行榜分数与真实世界模型能力之间的关键差距。为了解决这一日益扩大的差距，我们介绍了Video-MME-v2，一个旨在严格评估视频理解鲁棒性和忠实度的综合基准。为了系统性地评估模型能力，我们设计了一个渐进式三级层次结构，逐步增加视频理解的复杂性，从多点视觉信息聚合到时间动态建模，最终到复杂的多模态推理。此外，与传统的每问题准确性相比，我们提出了一种基于分组的非线性评估策略，强制相关查询之间的一致性和多步推理中的连贯性。它惩罚碎片化或基于猜测的正确性，仅对由有效推理支持的答案给予认可。为保证数据质量，Video-MME-v2通过严格控制的注释管道构建，涉及12名注释者和50名独立评审者。凭借3300个人工小时和最多5轮质量保证，Video-MME-v2旨在成为最权威的视频基准之一。广泛的实验揭示了当前最佳模型Gemini-3-Pro与人类专家之间的巨大差距，并发现了明显的层次瓶颈，即视觉信息聚合和时间建模中的错误传播限制了高级推理。我们进一步发现，基于思维的推理高度依赖文本线索，在有字幕时提高性能，但在纯视觉设置中有时会降低性能。通过暴露这些局限性，Video-MME-v2为下一代视频MLLM的发展建立了一个苛刻的新测试平台。
InCoder-32B-Thinking: Industrial Code World Model for Thinking
[InCoder-32B-Thinking：用于思考的工业代码世界模型](https://arxiv.org/abs/2604.03144)
工业软件开发缺乏硬件约束的专家推理轨迹，因此一个模型在错误驱动的推理链和特定领域执行轨迹上训练，以生成高质量的代码推理和性能。AI生成的摘要：跨芯片设计、GPU优化和嵌入式系统的工业软件开发缺乏显示工程师如何推理硬件约束和时序语义的专家推理轨迹。在本工作中，我们提出了InCoder-32B-Thinking，在来自错误驱动思维链（ECoT）综合框架的数据和工业代码世界模型（ICWM）上训练以生成推理轨迹。具体而言，ECoT通过从与环境错误反馈的多轮对话中综合思维内容来生成推理链，显式建模错误纠正过程。ICWM在来自Verilog仿真、GPU分析等的特定领域执行轨迹上训练，学习代码如何影响硬件行为的因果动态，并通过在实际编译前预测执行结果来实现自验证。所有综合的推理轨迹都通过领域工具链验证，创建与工业任务的自然推理深度分布相匹配的训练数据。在14个通用基准（LiveCodeBench v5上81.3%）和9个工业基准（CAD-Coder中84.0%和KernelBench上38.0%）上的评估表明，InCoder-32B-Thinking在所有领域都实现了顶级开源结果。
SkillClaw: Let Skills Evolve Collectively with Agentic Evolver
[SkillClaw：让技能通过代理演化器集体进化](https://arxiv.org/abs/2604.08377)
SkillClaw通过聚合用户交互实现多用户LLM代理系统中的集体技能进化，自主更新和改进生态系统中的可重用技能。AI生成的摘要：像OpenClaw这样的大语言模型（LLM）代理依赖可重用技能来执行复杂任务，但这些技能在部署后仍然大部分是静态的。因此，类似的工作流程、工具使用模式和失败模式在用户之间被重复发现，阻止系统从经验中改进。虽然来自不同用户的交互提供了关于技能何时有效或失败的互补信号，但现有系统缺乏将这种异质经验转换为可靠技能更新的机制。为了解决这些问题，我们提出了SkillClaw，一个多用户代理生态系统中集体技能进化的框架，它将跨用户和随时间变化的交互作为改进技能的主要信号。SkillClaw持续聚合在使用期间生成的轨迹，并用自主演化器处理它们，识别重复的行为模式并将其转换为技能集更新，通过改进现有技能或用新功能扩展它们。生成的技能维护在共享存储库中并在用户之间同步，允许在一个上下文中发现的改进传播到整个系统，而不需要用户的额外努力。通过将多用户经验集成到持续的技能更新中，SkillClaw实现跨用户知识转移和累积能力改进，在WildClawBench上的实验表明，在有限的交互和反馈下，它显著提高了Qwen3-Max在真实代理场景中的性能。
OpenWorldLib: A Unified Codebase and Definition of Advanced World Models
[OpenWorldLib：先进世界模型的统一代码库和定义](https://arxiv.org/abs/2604.04707)
OpenWorldLib提出了一个标准化框架，用于集成感知、交互和长期记忆能力的先进世界模型，以实现全面的世界理解和预测。AI生成的摘要：世界模型作为人工智能的一个有前途的研究方向获得了重大关注，但仍缺乏清晰统一的定义。在本文中，我们介绍了OpenWorldLib，一个用于先进世界模型的综合标准化推理框架。借鉴世界模型的演变，我们提出了一个清晰的定义：世界模型是一个以感知为中心、具有交互和长期记忆能力的模型或框架，用于理解和预测复杂世界。我们进一步系统分类了世界模型的基本能力。基于此定义，OpenWorldLib在统一框架内集成不同任务的模型，实现高效重用和协作推理。最后，我们对世界模型研究的潜在未来方向提出了额外的思考和分析。代码链接：https://github.com/OpenDCAI/OpenWorldLib
ClawBench: Can AI Agents Complete Everyday Online Tasks?
[ClawBench：AI代理能完成日常在线任务吗？](https://arxiv.org/abs/2604.08523)
ClawBench提出了一个综合评估框架，包含144个平台上的153个真实世界任务，测试AI代理自动化日常在线活动的能力，需要复杂的多步工作流程和文档处理。AI生成的摘要：AI代理可能能够自动化你的收件箱，但它们能自动化你生活中的其他常规方面吗？日常在线任务为评估下一代AI代理提供了一个现实但尚未解决的测试平台。为此，我们介绍了ClawBench，一个包含153个简单任务的评估框架，这些任务是人们在生活和工作中需要定期完成的，跨越15个类别的144个实时平台，从完成购买和预订约会到提交工作申请。这些任务需要超越现有基准的高要求能力，例如从用户提供的文档中获取相关信息、跨不同平台导航多步工作流程，以及大量写入操作，如正确填写许多详细表单。与在具有静态页面的离线沙箱中评估代理的现有基准不同，ClawBench在生产网站上运行，保留了真实世界Web交互的完整复杂性、动态性质和挑战。一个轻量级拦截层仅捕获和阻止最终提交请求，确保安全评估而没有真实世界副作用。我们对7个前沿模型的评估表明，专有和开源模型只能完成这些任务的一小部分。例如，Claude Sonnet 4.6仅达到33.3%。在ClawBench上的进展使我们更接近能够作为可靠通用助手运行的AI代理。
Self-Distilled RLVR
[自蒸馏RLVR](https://arxiv.org/abs/2604.03128)
RLSD结合了具有可验证奖励的强化学习和自蒸馏，通过细粒度更新和来自环境反馈的可靠策略方向实现稳定训练。AI生成的摘要：在策略蒸馏（OPD）已成为LLM社区中流行的训练范式。该范式选择一个较大的模型作为教师，为每个采样的轨迹提供密集的细粒度信号，与具有可验证奖励的强化学习（RLVR）形成对比，后者仅从环境中的可验证结果获得稀疏信号。最近，社区探索了在策略自蒸馏（OPSD），其中同一模型既作为教师又作为学生，教师接收额外的特权信息，如参考答案以实现自进化。本文表明，仅来自特权教师的学习信号导致严重的信息泄漏和不稳定的长期训练。因此，我们确定了自蒸馏的最佳定位，并提出了RLSD（具有自蒸馏的RLVR）。具体而言，我们利用自蒸馏来获取token级策略差异以确定细粒度更新幅度，同时继续使用RLVR从环境反馈（例如响应正确性）推导可靠的更新方向。这使RLSD能够同时利用RLVR和OPSD的优势，实现更高的收敛上限和卓越的训练稳定性。
HY-Embodied-0.5: Embodied Foundation Models for Real-World Agents
[HY-Embodied-0.5：用于真实世界代理的具身基础模型](https://arxiv.org/abs/2604.07430)
HY-Embodied-0.5是一个专为具身代理设计的基础模型系列，采用Transformer混合体架构和迭代式后训练，以增强视觉感知和推理能力。AI生成的摘要：我们介绍了HY-Embodied-0.5，一系列专为真实世界具身代理设计的基础模型。为了弥合通用视觉-语言模型（VLM）与具身代理需求之间的差距，我们的模型旨在增强具身智能所需的核心能力：空间和时间视觉感知，以及用于预测、交互和规划的高级具身推理。HY-Embodied-0.5系列包含两个主要变体：一个具有2B激活参数的高效模型，专为边缘部署设计；另一个具有32B激活参数的强大模型，针对复杂推理。为了支持具身任务所需的细粒度视觉感知，我们采用Transformer混合体（MoT）架构来实现模态特定计算。通过引入潜在token，这种设计有效地增强了模型的感知表示。为了提高推理能力，我们引入了一个迭代的、自进化的后训练范式。此外，我们采用在策略蒸馏将大模型的高级能力转移到较小变体，从而最大化紧凑模型的性能潜力。在跨越视觉感知、空间推理和具身理解的22个基准上的广泛评估证明了我们方法的有效性。我们的MoT-2B模型在16个基准上超越相似大小的最先进模型，而32B变体实现了与Gemini 3.0 Pro等前沿模型相当的性能。在下游机器人控制实验中，我们利用强大的VLM基础训练了一个有效的视觉-语言-行动（VLA）模型，在真实世界物理评估中取得了令人信服的结果。代码和模型在https://github.com/Tencent-Hunyuan/HY-Embodied开源。
MinerU2.5-Pro: Pushing the Limits of Data-Centric Document Parsing at Scale
[MinerU2.5-Pro：推动以数据为中心的大规模文档解析的极限](https://arxiv.org/abs/2604.04771)
训练数据工程和优化策略在不变更架构的情况下提高文档解析性能，在OmniDocBench v1.6上达到最先进结果。AI生成的摘要：当前文档解析方法主要在模型架构创新上竞争，而训练数据的系统工程仍未得到充分探索。然而，不同架构和参数规模的SOTA模型在同一组困难样本上表现出高度一致的失败模式，表明性能瓶颈源于训练数据的共同缺陷而非架构本身。基于这一发现，我们提出了\minerupro，它仅通过数据工程和训练策略优化推动了最先进技术，同时完全保持\mineru的12亿参数架构不变。其核心是一个围绕覆盖率、信息性和注释准确性共同设计的数据引擎：多样性和难度感知采样将训练数据从不到1000万扩展到6550万个样本，同时纠正分布偏移；跨模型一致性验证利用异构模型之间的输出协议来评估样本难度并生成可靠的注释；Judge-and-Refine管道通过渲染然后验证的迭代纠正提高困难样本的注释质量。三阶段渐进式训练策略——大规模预训练、困难样本微调和GRPO对齐——依次利用不同质量层级的这些数据。在评估方面，我们修复了OmniDocBench~v1.5中的元素匹配偏差并引入了一个Hard子集，建立了更具区分性的OmniDocBench~v1.6协议。在没有任何架构修改的情况下，\minerupro在OmniDocBench~v1.6上达到95.69，比相同架构基线提高了2.71个百分点，并超越了所有现有方法，包括参数超过200倍的模型。
Claw-Eval: Toward Trustworthy Evaluation of Autonomous Agents
[Claw-Eval：迈向自主代理的可信评估](https://arxiv.org/abs/2604.06132)
Claw-Eval通过提供跨多种模态的综合评估以及轨迹感知分级和安全评估，解决了代理基准中的局限性。AI生成的摘要：大语言模型越来越多地部署为在真实世界软件环境中执行多步工作流程的自主代理。然而，现有代理基准存在三个关键局限性：（1）仅检查最终输出的轨迹不透明分级，（2）安全性和鲁棒性评估不足，（3）模态覆盖和交互范式狭窄。我们介绍了Claw-Eval，一个解决所有三个差距的端到端评估套件。它包含300个人工验证的任务，跨越三组的9个类别（通用服务编排、多模态感知和生成以及多轮专业对话）。每个代理操作都通过三个独立证据通道（执行轨迹、审计日志和环境快照）记录，在2159个细粒度评分项目上实现轨迹感知分级。评分协议评估完成度、安全性和鲁棒性，报告三次试验中的平均分数、Pass@k和Pass^k，以区分真实能力和幸运结果。对14个前沿模型的实验揭示了：（1）轨迹不透明评估系统性不可靠，遗漏了44%的安全违规和13%的鲁棒性失败，而我们的混合管道捕获了这些；（2）受控错误注入主要降低一致性而非峰值能力，Pass^3下降高达24%而Pass@3保持稳定；（3）多模态性能急剧变化，大多数模型在视频上比在文档或图像上表现更差，没有单一模型在所有模态上占主导地位。除了基准测试，Claw-Eval突出了代理开发的可操作方向，揭示了构建不仅有能力而且可靠可部署的代理需要什么。
When Numbers Speak: Aligning Textual Numerals and Visual Instances in Text-to-Video Diffusion Models
[当数字说话时：文本到视频扩散模型中文本数字与视觉实例的对齐](https://arxiv.org/abs/2604.08546)
NUMINA通过一个无需训练的框架增强文本到视频扩散模型的数值准确性，该框架识别布局不一致性并通过注意力调制引导重新生成。AI生成的摘要：文本到视频扩散模型实现了开放式的视频合成，但在生成提示中指定正确数量的对象方面经常遇到困难。我们介绍了NUMINA，一个用于改进数值对齐的无需训练的识别然后引导框架。NUMINA通过选择具有判别性的自注意力和交叉注意力头来推导可计数的潜在布局，从而识别提示-布局不一致性。然后，它保守地细化此布局并调制交叉注意力以引导重新生成。在引入的CountBench上，NUMINA将Wan2.1-1.3B的计数准确性提高了高达7.4%，在5B和14B模型上分别提高了4.9%和5.5%。此外，CLIP对齐得到改善，同时保持时间一致性。这些结果表明，结构引导补充了种子搜索和提示增强，为计数准确的文本到视频扩散提供了一条实用路径。代码可在https://github.com/H-EmbodVis/NUMINA获取。
TriAttention: Efficient Long Reasoning with Trigonometric KV Compression
[TriAttention：通过三角KV压缩实现高效长推理](https://arxiv.org/abs/2604.04921)
TriAttention利用Q/K向量在pre-RoPE空间中的集中来解决LLM中的KV缓存内存瓶颈，改善键重要性估计并实现高效的长上下文生成。AI生成的摘要：大语言模型（LLM）中的扩展推理造成严重的KV缓存内存瓶颈。领先的KV缓存压缩方法使用来自最近post-RoPE查询的注意力分数来估计KV重要性。然而，查询在RoPE期间随位置旋转，使得代表性查询非常少，导致顶部键选择不佳和推理不稳定。为了避免这个问题，我们转向pre-RoPE空间，在那里我们观察到Q和K向量高度集中在固定的非零中心周围，并跨位置保持稳定——Q/K集中。我们表明这种集中导致查询优先关注特定距离的键（例如最近的键），中心通过三角级数决定优先考虑哪些距离。基于此，我们提出了TriAttention，通过利用这些中心来估计键重要性。通过三角级数，我们利用这些中心表征的距离偏好根据键的位置对它们进行评分，并利用Q/K范数作为重要性估计的附加信号。在具有32K token生成的AIME25上，TriAttention匹配全注意力推理准确性，同时实现2.5倍更高的吞吐量或10.7倍的KV内存减少，而领先的基线在相同效率下仅达到大约一半的准确性。TriAttention使OpenClaw能够在单个消费级GPU上部署，否则长上下文会导致全注意力内存不足。
MegaStyle: Constructing Diverse and Scalable Style Dataset via Consistent Text-to-Image Style Mapping
[MegaStyle：通过一致的文本到图像风格映射构建多样化和可扩展的风格数据集](https://arxiv.org/abs/2604.08364)
MegaStyle提出了一个可扩展的数据策划管道，用于使用大型生成模型创建高质量、风格一致的数据集，并提出了风格监督对比学习以实现有效的风格表示提取。AI生成的摘要：在本文中，我们介绍了MegaStyle，一个新颖且可扩展的数据策划管道，可构建风格内一致、风格间多样化和高质量的风格数据集。我们通过利用当前大型生成模型的一致文本到图像风格映射能力来实现这一点，该模型可以从给定的风格描述生成相同风格的图像。在此基础上，我们策划了一个多样化和平衡的提示库，包含170K个风格提示和400K个内容提示，并通过内容-提示组合生成大规模风格数据集MegaStyle-1.4M。凭借MegaStyle-1.4M，我们提出了风格监督对比学习来微调风格编码器MegaStyle-Encoder以提取表达性、风格特定的表示，我们还训练了基于FLUX的风格迁移模型MegaStyle-FLUX。广泛的实验证明了保持风格内一致性、风格间多样化和高质量对于风格数据集的重要性，以及提出的MegaStyle-1.4M的有效性。此外，在MegaStyle-1.4M上训练时，MegaStyle-Encoder和MegaStyle-FLUX提供可靠的风格相似性测量和可泛化的风格迁移，为风格迁移社区做出了重要贡献。更多结果可在我们的项目网站https://jeoyal.github.io/MegaStyle/获取。
LIBERO-Para: A Diagnostic Benchmark and Metrics for Paraphrase Robustness in VLA Models
[LIBERO-Para：VLA模型释义鲁棒性的诊断基准和指标](https://arxiv.org/abs/2603.28301)
视觉-语言-行动模型在处理释义指令时显示出显著性能下降，原因是表面级匹配而非语义理解，突出了更好的语言泛化指标的必要性。AI生成的摘要：视觉-语言-行动（VLA）模型通过利用预训练的视觉-语言主干，在机器人操作中实现了强大的性能。然而，在下游机器人设置中，它们通常在有限数据上进行微调，导致对特定指令表述的过拟合，而对释义指令的鲁棒性仍未得到充分探索。为了研究这一差距，我们介绍了LIBERO-Para，一个独立变化动作表达和对象引用以进行细粒度语言泛化分析的受控基准。在七种VLA配置（0.6B-7.5B）中，我们观察到在释义下22-52个百分点的性能下降。这种下降主要由对象级别的词汇变化驱动：即使是简单的同义词替换也会导致大幅下降，表明依赖表面级匹配而非语义基础。此外，80-96%的失败来自规划级别的轨迹分歧而非执行错误，表明释义破坏了任务识别。二元成功率平等对待所有释义，模糊了模型是否在难度级别上表现一致或依赖更简单的情况。为了解决这个问题，我们提出了PRIDE，一个使用语义和句法因素量化释义难度的指标。我们的基准和相应代码可在https://github.com/cau-hai-lab/LIBERO-Para获取。
A Simple Baseline for Streaming Video Understanding
[流式视频理解的简单基线](https://arxiv.org/abs/2604.02317)
一个使用最近视频帧的简单滑动窗口方法优于复杂的基于内存的流式视频理解方法，揭示了实时感知与长期记忆能力之间的权衡。AI生成的摘要：最近的流式视频理解方法越来越多地依赖复杂的内存机制来处理长视频流。我们用一个简单的发现挑战这一趋势：一个仅将最近N帧提供给现成VLM的滑动窗口基线已经匹配或超越了已发布的流式模型。我们将此基线形式化为SimpleStream，并在OVO-Bench和StreamingBench上针对13个主要的离线和在线视频LLM基线进行评估。尽管简单，SimpleStream始终提供强大的性能。仅用4个最近帧，它在OVO-Bench上达到67.7%的平均准确率，在StreamingBench上达到80.59%。受控消融进一步表明，更长上下文的价值依赖于主干而非随着模型规模均匀增加，并揭示了一致的感知-记忆权衡：添加更多历史上下文可以提高召回率，但往往会削弱实时感知。这表明，除非更强的内存、检索或压缩模块在同一协议下明显优于SimpleStream，否则不应将其视为进步的证据。因此，我们认为未来的流式基准应该将最近场景感知与长期记忆分离，以便更清楚地评估由添加复杂性带来的性能改进。
Learning to Retrieve from Agent Trajectories
[从代理轨迹中学习检索](https://arxiv.org/abs/2604.04949)
代理搜索的检索模型应该直接从代理交互数据中训练，使用一种新范式从多步代理轨迹中挖掘监督信号，并通过加权优化纳入相关性强度。AI生成的摘要：信息检索（IR）系统传统上是为人用户设计和训练的，学习排序方法严重依赖大规模人类交互日志，如点击和停留时间。随着大语言模型（LLM）驱动的搜索代理的快速出现，检索越来越多地被代理而非人类消费，并作为多轮推理和行动循环中的核心组件嵌入。在这种情况下，在以人为中心的假设下训练的检索模型与代理发出查询和消费结果的方式存在根本不匹配。在本工作中，我们认为代理搜索的检索模型应该直接从代理交互数据中训练。我们引入从代理轨迹中学习检索作为一种新的训练范式，其中监督来自多步代理交互。通过对搜索代理轨迹的系统性分析，我们识别了揭示文档效用的关键行为信号，包括浏览操作、未浏览拒绝和浏览后推理轨迹。在这些洞察的指导下，我们提出了LRAT，一个简单而有效的框架，从代理轨迹中挖掘高质量的检索监督，并通过加权优化纳入相关性强度。在领域内和领域外深度研究基准上的广泛实验表明，用LRAT训练的检索器在不同代理架构和规模下持续改进证据召回、端到端任务成功和执行效率。我们的结果突出了代理轨迹作为实用和可扩展监督源的重要性，指明了代理搜索时代检索的有希望方向。
Think in Strokes, Not Pixels: Process-Driven Image Generation via Interleaved Reasoning
[以笔画而非像素思考：通过交错推理进行过程驱动的图像生成](https://arxiv.org/abs/2604.04746)
过程驱动的图像生成将合成分解为涉及文本规划、视觉草稿、文本反思和视觉细化的迭代步骤，通过逐步监督确保一致性和可解释性。AI生成的摘要：人类逐步绘画：他们规划全局布局，勾勒粗略草稿，检查和细化细节，最重要的是，每一步都基于不断演变的视觉状态。然而，在文本-图像交错数据集上训练的统一多模态模型也能想象中间状态链吗？在本文中，我们介绍了过程驱动的图像生成，一种将合成分解为思维和行动交错推理轨迹的多步范式。我们的方法不是单步生成图像，而是在多次迭代中展开，每次迭代包括4个阶段：文本规划、视觉草稿、文本反思和视觉细化。文本推理显式地条件化视觉状态应如何演变，而生成的视觉中间状态反过来约束和 grounding 下一轮文本推理。过程驱动生成的一个核心挑战来自中间状态的模糊性：模型如何评估每个部分完成的图像？我们通过密集的逐步监督解决这个问题，保持两个互补约束：对于视觉中间状态，我们强制空间和语义一致性；对于文本中间状态，我们保留先前的视觉知识，同时使模型能够识别和纠正违反提示的元素。这使得生成过程显式、可解释且可直接监督。为了验证提出的方法，我们在各种文本到图像生成基准下进行了实验。
RAGEN-2: Reasoning Collapse in Agentic RL
[RAGEN-2：代理RL中的推理崩溃](https://arxiv.org/abs/2604.06268)
研究识别了多轮LLM代理中的模板崩溃作为一种隐藏的失败模式，无法被熵检测，提出了互信息代理和信噪比感知过滤以改善推理质量和任务性能。AI生成的摘要：多轮LLM代理的RL训练本质上不稳定，推理质量直接决定任务性能。熵被广泛用于跟踪推理稳定性。然而，熵仅测量同一输入内的多样性，无法判断推理是否实际响应不同的输入。在RAGEN-2中，我们发现即使熵稳定，模型也可以依赖看起来多样但与输入无关的固定模板。我们称之为模板崩溃，一种对熵和所有现有指标不可见的失败模式。为了诊断这种失败，我们将推理质量分解为输入内多样性（熵）和跨输入可区分性（互信息，MI），并引入了一系列互信息代理用于在线诊断。在各种任务中，互信息与最终性能的相关性比熵强得多，使其成为推理质量更可靠的代理。我们进一步用信噪比（SNR）机制解释模板崩溃。低奖励方差削弱任务梯度，让正则化项主导并消除跨输入推理差异。为了解决这个问题，我们提出了SNR感知过滤，使用奖励方差作为轻量级代理来选择每轮的高信号提示。在规划、数学推理、Web导航和代码执行中，该方法持续改善输入依赖性和任务性能。
ACES: Who Tests the Tests? Leave-One-Out AUC Consistency for Code Generation
[ACES：谁来测试测试？代码生成的留一法AUC一致性](https://arxiv.org/abs/2604.03922)
研究人员解决了从LLM生成的输出中选择正确代码候选的挑战，开发了ACES，一种通过留一法评估和AUC一致性评分根据测试区分正确和错误代码的能力对测试进行排序的方法。AI生成的摘要：使用LLM生成的测试选择LLM生成的代码候选具有挑战性，因为测试本身可能不正确。现有方法要么平等对待所有测试，要么依赖临时启发式来过滤不可靠的测试。然而确定测试正确性需要知道哪些代码是正确的，产生循环依赖。我们的关键洞察是我们根本不需要确定测试正确性：测试投票应该排名，而不仅仅是计数。重要的不是多少代码通过测试，而是测试能否区分正确和不正确的代码。我们通过留一法评估打破循环依赖：保留一个测试，按它们在所有其余测试上的聚合分数对代码进行排名，并测量保留测试的通过/失败模式是否与此排名一致。我们将此协议形式化为留一法AUC（LOO-AUC），并证明期望LOO-AUC与每个测试分离正确代码和不正确代码的能力成正比。在此基础上，我们提出了具有两个互补变体的ACES（AUC一致性评分）：ACES-C提供封闭形式权重，在关于平均测试质量的温和假设下，在期望中可证明地近似预言机；ACES-O放弃此假设并迭代优化可微LOO-AUC目标。两者都仅在二元通过矩阵上运行，开销可忽略，并在多个代码生成基准上实现最先进的Pass@k。
Memory Intelligence Agent
[记忆智能代理](https://arxiv.org/abs/2604.04503)
记忆智能代理框架集成了非参数和参数记忆系统与强化学习，在开放世界环境中实现高效推理和自主进化。AI生成的摘要：深度研究代理（DRA）将LLM推理与外部工具集成。记忆系统使DRA能够利用历史经验，这对于高效推理和自主进化至关重要。现有方法依赖从记忆中检索相似轨迹以辅助推理，同时遭受记忆进化无效以及存储和检索成本增加的关键限制。为了解决这些问题，我们提出了一个新的记忆智能代理（MIA）框架，由管理器-规划器-执行器架构组成。记忆管理器是一个可以存储压缩历史搜索轨迹的非参数记忆系统。规划器是一个可以生成问题搜索计划的参数记忆代理。执行器是另一个可以搜索和分析由搜索计划指导的信息的代理。为了构建MIA框架，我们首先采用交替强化学习范式来增强规划器和执行器之间的合作。此外，我们使规划器能够在测试时学习期间持续进化，更新在推理期间即时执行而不中断推理过程。此外，我们在参数和非参数记忆之间建立双向转换循环以实现高效记忆进化。最后，我们结合反思和无监督判断机制以促进开放世界的推理和自进化。在十一个基准上的广泛实验证明了MIA的优越性。
LPM 1.0: Video-based Character Performance Model
[LPM 1.0：基于视频的角色表演模型](https://arxiv.org/abs/2604.07823)
一个用于实时对话角色表演生成的大规模多模态模型，在保持身份一致性的同时实现交互式、无限长度的视频合成。AI生成的摘要：表演，通过视觉、声音和时间行为外部化意图、情感和个性，使角色生动。从视频中学到这样的表演是传统3D管道的有前途的替代方案。然而，现有视频模型难以共同实现高表现力、实时推理和长期地平线身份稳定性，我们称之为表演三难问题。对话是最全面的表演场景，角色同时说话、倾听、反应和表达情感，同时保持身份随时间稳定。为了解决这个问题，我们提出了LPM 1.0（大型表演模型），专注于单人全双工音频-视觉对话表演。具体而言，我们通过严格过滤、说话-监听音频-视频配对、表演理解和身份感知多参考提取构建了一个多模态以人为中心的数据集；训练了一个170亿参数的扩散Transformer（基础LPM），用于通过多模态条件实现高度可控、身份一致的表演；并将其蒸馏成因果流生成器（在线LPM），用于低延迟、无限长度交互。在推理时，给定具有身份感知参考的角色图像，LPM 1.0从用户音频生成监听视频，从合成音频生成说话视频，文本提示用于运动控制，所有这些均以实时速度进行，具有身份稳定、无限长度生成。因此，LPM 1.0作为对话代理、直播角色和游戏NPC的视觉引擎。为了系统性地评估此设置，我们提出了LPM-Bench，第一个交互角色表演基准。LPM 1.0在所有评估维度上实现了最先进的结果，同时保持实时推理。
