夜雨聆风LG - 机器学习 CV - 计算机视觉 CL - 计算与语言 RO - 机器人
1、[CL] If LLMs Have Human-Like Attributes，Then So Does Age of Empires II
2、[LG] Learn from your own latents and not from tokens：A sample-complexity theory
3、[LG] Pretraining Recurrent Networks without Recurrence
4、[RO] Universal Manipulation Exoskeleton：Learning Compliant Whole-body Policies with Real-time Torque Feedback
5、[LG] A Held-Out Transition-Pair Falsifier for Long-Horizon Non-Abelian State Tracking
摘要：若说大语言模型具备类人特质那《帝国时代 II》亦然、学习源自潜变量而非词元、无需循环机制的循环神经网络预训练、基于实时力矩反馈学习柔顺全身控制策略、面向长时程非阿贝尔状态跟踪的留出式转移对证伪器
1、[CL] If LLMs Have Human-Like Attributes, Then So Does Age of Empires II
A d Wynter
[Microsoft & The University of York]
若说大语言模型具备类人特质，那《帝国时代 II》亦然
要点:
挑战了当前AI研究中一个普遍存在的趋势：将内在的拟人化属性（如道德感、共情、焦虑或真正的理解力）强加于大型语言模型（LLM）身上。 提出了一个极具反直觉且硬核的论证：证明了经典电子游戏《帝国时代2 (AoE II)》在功能和图灵机层面上是完备的，并在游戏内实际构建并训练了一个1-bit感知机（用游戏内的村民、山羊、草地和桥梁来代表比特和逻辑门）。 引入了“底物非唯一性 (Substrate Non-uniqueness)”概念：如果利用《帝国时代2》的游戏机制完美运行一个LLM，其数学上的输入输出映射是不变的，但人类观察者绝对不会认为移动的山羊和草地拥有“焦虑”或“共情”。这证明了所谓的“拟人化属性”极大程度上取决于系统的表现形式/交互界面，而非系统内在固有的本质。 揭露了根本性的方法论缺陷：如果实验设计的前提是预设系统“拥有”或“不拥有”脱离底物的拟人化属性，那么必然会导致逻辑死胡同——要么是循环论证（若实验结果为正），要么是毫无信息量的模糊结论（若实验结果为负）。 批判了当前的学术现状：对315篇近期论文的审查显示，大多数（57%）在研究之初就带有拟人化假设，这从根本上扭曲了它们的实证结论。 提出了一种绝对客观的AI评估“零假设 (Null Assumption)”：研究人员应该纯粹将输入和输出视为行为层面的刺激与响应，分析其因果机制，而不是为主观生成的Token赋予类似人类的心智状态或意图。
主旨： 本文主要探讨和批判了在大型语言模型（LLM）研究中滥用“拟人化假设”的方法论缺陷。文章指出，试图通过实验证明LLM是否具备内在的类人属性（如情感、自我意识），在逻辑上是站不住脚的。为此，作者通过在《帝国时代2》中构建神经网络的极端例子，论证了AI的“智能感”高度依赖于其呈现媒介，呼吁未来的AI评测应放弃主观的拟人化投射，回归客观的因果行为分析。
创新：
跨界且极端的实证方法：没有使用传统的基准测试，而是极其新颖地证明了《帝国时代2》的图灵完备性，并在游戏编辑器中实际运行了神经网络（感知机）。 “底物/媒介剥离”思想实验的具象化：将哲学上的“计算心智理论（CTM）”争议具体化为清晰的视觉呈现——用山羊的移动替代晶体管或代码，直观且无可辩驳地证明了“表现出人类特征”与“内在拥有人类特质”是完全脱离的两码事。 逻辑推演证伪：系统性地应用逻辑学原理，通过穷举法证明了无论研究者支持还是反对大模型具有“意识/情感”，只要实验建立在这个二元假设之上，其得出的结论必将陷入逻辑谬误。
贡献：
理论贡献：揭示了当前大量LLM评估（特别是涉及心智理论、心理学、AI道德）在实验设计上的根本性逻辑错误，澄清了“模式匹配”与“内在属性”的边界。 方法论贡献：提出了一套更为严谨的“零假设”研究范式，建议研究者只描述输入输出的规则和相关性，而不对其进行主观的归因。 文献量化审查：提供了一份实证数据，通过审查过去两年的315篇相关论文，量化了当前顶会和学术界中“拟人化假设”泛滥的严重程度（57%的论文预设了拟人化前提）。
提升：
评估逻辑的严密性：将AI行为学评估从“主观心理投射”拉回到了“客观行为映射”，有效避免了由于交互界面的欺骗性（如流畅自然对话）而导致的过度解读。 实验设计的科学性：通过确立“零假设”，帮助未来的研究者规避在实验设计阶段就掉入“确认偏误”和“循环论证”的陷阱，提升了结论的可信度和泛化边界。
不足：
缺乏替代性量化工具：文章侧重于认识论和逻辑上的证伪与解构，虽然提出了“零假设”理念，但并没有提供一个全新的、即插即用的自动化评估基准来取代现有的心智理论测试。 极端理性在实践中的执行难度：在实际的AI对齐（Alignment）、人机交互（UX）或防止用户心理成瘾的研究中，人类与AI交互的本质不可避免地包含心理投射，要求研究者完全剥离“拟人化”语言在实际撰写和交流中可能存在表达障碍。
心得：
“智能”的感知是一场高超的界面幻觉（Interface Illusion）：文章最震撼的观点莫过于“《帝国时代》里的山羊大军”。为什么我们会觉得ChatGPT有“共情”？是因为它用极低延迟、极度流畅的人类语言包装了输出。如果同样规模的权重计算是由几百万只虚拟山羊移动来完成的，人类绝对不会对其产生任何情感共鸣。这深刻启示我们：我们惊叹的往往是AI的“皮囊”而非“灵魂”，在做底层AI研究时必须警惕这种界面带来的认知偏差。 警惕AI研究中的“循环论证”陷阱：当前许多试图“证明”AI拥有心智或情感的研究，其测试集本身就预设了语言模式等同于心理状态。这就好比用温度计去测身高，然后因为读数变化就宣称目标在长高。这篇文章敲响了警钟：通过了某种预设的测试（Checklist），只代表系统能够完美拟合该测试的分布，绝不代表它“内生”了相应的物理或心理属性。 “行为主义”是目前面对LLM黑盒最诚实的态度：在人类尚未搞懂自身“意识起源”的今天，给机器硬套心理学概念是不严谨的。把大模型当做一个复杂的物理系统或函数映射来看待——输入A触发输出B——不赋予其主观意图，只研究其机制和因果。这种“零假设”的祛魅，反而能让大模型的安全机制研究变得更加脚踏实地。
一句话总结: 整篇论文通过一段极其硬核且反直觉的操作——在《帝国时代2》游戏中用村民和山羊跑通了神经网络——巧妙地揭穿了AI研究中将大模型“拟人化”的错觉，深刻论证了只要预设AI拥有类人心智，任何实验都会陷入循环论证，从而呼吁学术界回归不带主观投射的纯粹“行为主义”评估。
一句话概括:
论文通过在《帝国时代2》中搭建神经网络的硬核实证，深刻揭示了赋予大模型“拟人化”属性会导致实验逻辑陷入循环论证，呼吁AI评估应剥离主观的界面投射，回归纯粹的客观行为记录。
Much research has been carried out on large language models (LLMs) and LLMpowered agentic workflows. However, many works within the field state emergence of, ascribe to, or assume, generalised anthropomorphic attributes to them (e.g., morality or understanding of natural language). Our goal is not to argue in favour or against the existence of these attributes, but to point out that these conclusions could be incorrect. For this we build and train a simple neural network on the videogame Age of Empires II, and note that any entity in a sufficiently-powerful substrate, such as LEGO or the Greater Boston Area, could also present such attributes. Hence, the purported anthropomorphic attributes of LLMs are empirically non-unique: although some properties (e.g., responses to prompts) could remain invariant, others, such as the interpretation of their perceived behaviour, might change with the substrate. Thus, any empirically-grounded discussion on these attributes requires explicit measurement criteria; otherwise the interpretation is left to the representation. We then show that assuming that these attributes exist or not in a system, independent of the substrate and in a generalised way, leads to either circular or uninformative conclusions. This is regardless of the experimenter’s viewpoint on the subject, or whether the outcome shows existence or non-existence. Finally we propose a ‘null’ assumption, where one assumes LLM non-uniqueness instead of assuming anthropomorphic attributes to set up an experiment, along with examples of it. We also discuss potential objections to our work, briefly survey the field, and prove that Age of Empires II is functionally- and Turing-complete.
https://arxiv.org/abs/2605.31514
2、[LG] Learn from your own latents and not from tokens: A sample-complexity theory
D J. Korchinski, A Favero, M Wyart
[EPFL & University of Cambridge & Johns Hopkins University]
学习源自潜变量而非词元：一种样本复杂度理论
要点:
直面现代生成模型（如LLMs和扩散模型）相较于生物学习者在数据利用率上的巨大差距，提出假设：在抽象的潜在（Latent）空间中学习，其样本效率从根本上高于预测原始Token。 利用随机层次模型（RHM，一种可处理的概率上下文无关文法）对不同学习范式的样本复杂度进行了数学量化。 揭示了一个惊人的理论鸿沟：监督学习和基于Token的自监督学习（如掩码语言建模或下一个Token预测）所需的样本复杂度，与潜在树的深度呈指数关系（ 或 ）。 数学上证明了潜在预测SSL（预测自身的潜在表示）打破了这种指数诅咒，其样本复杂度相对于树深是常数级别（）。 提出了一种迭代潜在聚类（ILC）算法和一个完全可微的堆叠潜在聚类（SLC）网络，实证表明局部梯度下降可以达到这一理论上的最优效率。 关于data2vec的反直觉发现：提供了对 data2vec的首个样本复杂度分析。揭示了尽管data2vec只有一个单层目标，但它在训练过程中会隐式地逐层执行层次化的潜在聚类。关于架构的高信息熵洞见：既然标准的 data2vec模型能在内部隐式地自主学习整个多尺度层次结构，那么从理论样本复杂度的角度来看，显式堆叠的层次架构（如H-JEPA）在很大程度上可能是多余的。提出预测Latent而非Token的做法与神经科学中的“预测编码（predictive coding）”理论高度契合，为人类大脑的极端数据效率提供了一个具有数学基础的解释。
主旨： 本文探讨了生成模型（如LLMs）在训练数据量上远超人类学习所需的核心原因。通过对随机层次模型（RHM）的严格理论分析，文章确立了一个核心主旨：相较于在原始输入层面（Token-level）进行预测，让神经网络预测自身的潜在表示（如data2vec和JEPA的范式）能将样本复杂度从数据结构深度的指数级（）大幅降至常数级（），从而从理论上解释了“在Latent空间学习”能实现极大样本效率跃升的根本机制。
创新：
首个量化的样本复杂度分析：首次为“潜在表示预测（Latent Prediction）”SSL方法与“Token级预测”方法之间的效率差异提供了严密的数学证明。 构建可证实的代理模型架构：设计了迭代潜在聚类（ILC）算法及端到端可导的堆叠潜在聚类（SLC）网络，完美验证了理论推导的 复杂度边界。 对现有先进算法的全新理论透视：创新性地剖析了 data2vec算法的内部机制，用数学归纳法证明了其通过指数移动平均（EMA）教师模型，隐式地实现了自下而上的多尺度层次聚类。
贡献：
理论贡献：确立了从“Token预测”转向“Latent预测”能够破除层次结构深度带来的“样本复杂度指数诅咒”。 机制解释：为 data2vec提供了首个严格的样本复杂度理论支撑，证明了其表征学习的成功源于内部隐式的同义词聚类和层次构建。架构指导（祛魅）：通过证明单目标的 data2vec已经能在内部实现多尺度层次发现，指出显式堆叠架构（如H-JEPA）在提高样本效率方面可能是冗余的，为未来的SSL架构设计指明了方向。
提升：
数据效率的理论上限：在处理具有组合层次结构的数据时，将模型所需的样本数量从呈指数级增长的 优化提升至了与深度无关的 。 SSL方法的可解释性：揭示了自蒸馏（Self-distillation）和EMA机制本质上是在执行一种动态的“迭代潜在聚类”，显著提升了学术界对此类黑盒算法工作原理的理解。
不足：
数据假设的局限性：理论分析依赖于随机层次模型（RHM），这是一种具有固定树拓扑和无歧义、非递归生产规则的合成语法，这比真实的自然语言和图像要简单得多。 未能完全解释最新的经验进展：虽然指出H-JEPA理论上可能是冗余的，但未能深入探讨为何一些极新的显式层次模型（如Bootleg， V-JEPA 2.1）在实际应用中依然宣称取得了SOTA效果。 缺乏真实规模数据集的验证：结论主要在合成数据集上得到证实，尚未在真实的大规模预训练语料上证明基于Latent预测的模型可以系统性地打破（而不仅仅是符合）现有的神经缩放定律（Neural Scaling Laws）。
心得：
重新审视“Next-Token Prediction”的历史局限性：当前大模型几乎被“预测下一个Token”的范式统治，但这种范式的代价是极其低下的数据效率（LLM需要人类一万倍的阅读量）。这篇论文用极其优美的数学语言证明：因为Token预测会将微弱的关联信号稀释在深邃的生成树中，而Latent预测则能通过逐层抽象直接聚合信号。这启发我们，下一代AGI的突破口极有可能不在于继续堆砌无脑的算力去预测Token，而是转向在更高维、更抽象的语义空间（Latent Space）进行自监督预测。 警惕“架构设计”的刻意复杂化：AI研究中常有一种执念，认为复杂的数据结构必须用复杂的显式网络架构来匹配（例如为了学习多尺度特征，就硬性堆叠多个JEPA模块形成H-JEPA）。然而，本文反直觉地指出：像 data2vec这样仅使用最终层输出作为预测目标的极简架构，配合EMA教师机制，居然能“暗度陈仓”地在网络内部自发地、逐层地解构并重组整个层次树。这深刻启示我们，优秀的优化目标和动态机制往往能激发出网络惊人的自组织能力，过度设计的显式架构反而可能是“画蛇添足”。寻找连接神经科学与AI理论的真正桥梁：神经科学中的“预测编码（Predictive Coding）”认为大脑不是在预测视网膜接收到的原始像素，而是在预测高层皮层的抽象活动。过去这种观点在AI中多为感性借鉴，但本文将其转化为硬核的“样本复杂度理论（Sample-complexity Theory）”，从 骤降至 的断崖式效率提升，完美解释了为什么婴儿学说话只需要那么一点数据。这种将生物学直觉用严格统计物理/计算机理论形式化的研究思路，极其值得深思和学习。
一句话总结: 本文通过严格的数学证明和实证分析揭示，让模型预测自身的潜在表示（如data2vec）能将样本复杂度从数据结构深度的指数级降至常数级，不仅解释了人类大脑惊人数据效率的来源，还反直觉地证明了单层Latent预测足以隐式构建完整层次结构，使得许多显式的多尺度复杂架构显得冗余。
Generative models, from diffusion models to large language models, achieve remarkable performance but at a cost in training data orders of magnitude larger than what biological learners require. An alternative paradigm has emerged in which networks are trained to predict their own latent representations of related views or masked regions, as in data2vec and JEPA – an idea related to predictive-coding accounts of the cortex. Despite strong empirical results, the theoretical understanding of these methods remains limited. Central questions include: by how much does latent prediction actually improve data efficiency? Is there a benefit to stacking such methods into multi-scale hierarchies? We answer both using as data a tractable probabilistic context-free grammar that captures the compositional structure of natural language and images. Such a grammar generates strings of visible tokens by recursively applying production rules along a tree of hidden symbols of depth L. For such data, supervised or token-level SSL require a number of samples exponential in L to recover the latent tree; we prove that latent prediction achieves this with a number of samples constant in L, up to logarithmic factors. We confirm this bound with (i) a hierarchical clustering algorithm, (ii) an end-to-end neural network whose predictor-clusterer modules predict their own latents at each level via gradient descent, and (iii) the first sample-complexity analysis of data2vec, which we show implicitly performs hierarchical latent prediction. This suggests that explicit stacking such as H-JEPA is largely redundant.
https://arxiv.org/abs/2605.27734
3、[LG] Pretraining Recurrent Networks without Recurrence
A Kumar, P Isola
[MIT]
无需循环机制的循环神经网络预训练
要点:
挑战了数十年来的固有范式：循环神经网络（RNN）必须通过沿时间反向传播（BPTT）进行训练。BPTT由于其 的信用分配路径，不仅限制了并行计算，还不可避免地导致梯度消失或爆炸。 提出了监督记忆训练（SMT），这是一种极其反直觉的全新方法，能够在完全不在时间维度上展开的情况下预训练非线性RNN。 重构了序列建模的概念：仅仅通过给Token附加时间戳，就可以无损地将过去的序列视为无序的事件集合。这使得排列不变、时间并行的模型（如双向Transformer）能同时并行计算出所有时间步的最优记忆状态 。 将“记住什么”（记忆表示）与“如何更新记忆”（记忆动态）彻底解耦。由一个Transformer“教师”将过去的上下文提炼为“预测性状态”（只保留预测未来所需的信息），作为RNN的记忆标签 。 RNN随后仅需通过标准的单步监督学习进行训练：。这直接将梯度信用分配的路径长度从 暴力压缩至绝对的 ，极大稳定了训练过程，使跨越超长周期的关联学习变得异常轻松。 识别并解决了“展开漂移（Rollout Drift）”问题（即RNN在推理时使用自身生成的记忆导致误差累积的训练-测试分布偏移），引入了DAgger记忆训练（DMT）这一基于同策略模仿学习的微调步骤来进行修正。 为神经缩放定律（Neural Scaling Laws）提出了一个极具信息熵的新维度：“压缩率（Compression）”。SMT证明，在预训练期间投入更多算力，RNN便能以更小的记忆状态尺寸达到同等性能，这印证了“智能的本质即数据压缩”的深刻理论。 实证结果显示一个极具启发性的现象：尽管RNN是由Transformer教师训练的，但得益于其“不断更新有限状态”的优越归纳偏置，SMT训练出的RNN在“长度泛化”（在比训练时更长的序列上进行评估）上的表现竟然超越了其Transformer教师。
主旨： 本文旨在解决非线性RNN因传统BPTT算法引发的训练极度串行化和长程梯度不稳定问题。核心思想是提出“监督记忆训练（SMT）”，通过引入一个并行运行的Transformer作为“教师”，将序列的历史压缩成能够预测未来的最优“记忆标签”，从而将RNN的训练简化为完全并行的单步监督学习，从根本上消除了时间维度的递归信用分配，实现了高效且梯度稳定的RNN预训练。
创新：
解耦记忆的“表征”与“动态更新”：破除了一直以来RNN必须同时学习“记什么”和“怎么记”的困境，用并行的“上帝视角（Transformer）”解决表征，用单步拟合解决动态。 序列到集合的重参数化（Sequence to Set Reframing）：创新性地在数学证明和实践中指出，只要带有时间戳，序列即可转化为集合，从而完全摆脱自回归模型的串行计算桎梏，生成时间步对齐的记忆标签。 将长程信用路径骤降至 ：彻底摒弃BPTT，通过预测性状态目标（Predictive State Objective），将几百上千步外的长程奖励信号直接压缩在当前步的标签中，实现 距离的无损梯度反传。
贡献：
提出了一套完整的、可替代BPTT的RNN预训练框架（SMT+DMT），大幅提高了顺序计算效率（SeqFLOPs）。 在极度考验长程记忆的挑战性任务（如Attneave的像素级迷宫探测/图像序列建模任务）中，证明了单步监督的SMT能够捕捉BPTT完全无法学到的超长程依赖。 提出并验证了AI缩放定律（Scaling Laws）的新方向：在给定的性能要求下，算力可以用来换取模型记忆状态的高效“压缩”。
提升：
长程依赖的捕获能力：在多项长依赖基准（如栈操作追踪、长文本检索、MNIST/Sketchy像素序列建模）上，彻底克服了BPTT固有的“近期偏见（Recency Bias）”，性能显著超越传统RNN训练方法。 训练的并行化与计算效率：在非线性RNN架构上实现了媲美Transformer的训练并行度，序列计算瓶颈（Sequential Compute）大幅降低。 长度外推泛化性：结合了Transformer高效提取表征的能力与RNN优秀的状态机更新归纳偏置，使得最终训练出的RNN在面临超出训练长度的序列时表现出远超Transformer的泛化性。
不足：
表达能力的理论天花板被教师受限：由于SMT使用计算深度有限（受限于恒定或对数级并行层数）的Transformer作为教师，RNN能够学到的算法复杂度理论上会被教师的表达上限所限制。 微调阶段（DMT）仍无法摆脱串行：为了解决累计误差（漂移），DAgger阶段必须依靠RNN自身的自回归展开来生成轨迹，这一阶段丧失了时间并行性（尽管作者提到未来可能通过DEER等方法并行化）。 极难的长程隐式推理可能受限：虽然解决了长程记忆提取，但由于缺乏对序列中间推演过程（类似Chain of Thought）的直接多步联合监督，处理需要深层递归推理的复杂任务时可能依然吃力。
心得：
打破“时间与循环”的思想钢印：我们总是理所当然地认为，处理时间序列必须使用基于时间的循环（Recurrence）算法。本文给出的最深刻启示是：时间本身不过是数据的一个维度特征（时间戳）。只要我们把过去的历史当做一个标有刻度的“资料库”（集合），就能用并行的上帝视角一次性提取出每个时间节点的“最优记忆快照”。这种思维范式的跃迁，为一切序列决策问题提供了降维打击的思路。 信用分配（Credit Assignment）的转移而非消灭：BPTT之所以失败，是因为它让脆弱的梯度去跋涉漫长的时间长河。SMT并没有真的“消灭”长程信用的计算，而是利用Transformer极其强大的全局注意力机制，把长程的未来关联“预先打包压缩”进了当前时刻的监督标签 中。这告诉我们，在AI算法设计中，当某个组件（如RNN）难以处理某种复杂性（如长期跨度）时，可以利用另一个擅长该属性的架构（如Transformer）作为“编译器”，将复杂性转化为前者易于消化的形式（单步监督）。 “压缩”——通往具身智能与高效世界模型的新标尺：当整个业界都在盲目追求更大的参数和更长的Context Window时，这篇论文指出了一个反直觉但符合计算理论本源的方向：随着投入算力的增加，我们应该追求更小的“记忆状态（Memory Size）”。真正的智能不仅是能记住多少，更是能把复杂的历史“压缩”得多么极致。这种利用充沛的离线算力换取极小在线推理状态（O(1)内存）的思路，正是未来将高级智能塞入边缘设备和具身机器人的关键密码。
一句话总结: 本文通过极具颠覆性的思路，引入一个并行Transformer提取包含未来预测信息的“上帝视角”记忆标签，让RNN通过极简的单步监督学习取代传统的沿时间反向传播（BPTT），将长程信用分配的梯度路径从 骤降至 ，在彻底解决梯度消失问题、实现RNN高效并行预训练的同时，揭示了“算力换取极致信息压缩”的全新Scaling Law维度。
Training recurrent neural networks (RNNs) requires assigning credit across long sequences of computations. Standard backpropagation through time (BPTT) addresses this problem poorly: it is sequential in time, limiting parallelism, and suffers from vanishing or exploding gradients, making long-range associations difficult to learn. We propose Supervised Memory Training (SMT), a method for training nonlinear RNNs that sidesteps recurrent credit propagation entirely by reducing RNN training to supervised learning on one-step memory transition labels (mt, xt+1) → mt+1. SMT acquires these memory labels by training a Transformerbased encoder on a predictive state objective—retaining only information from the past necessary to predict the future. By decoupling what to remember from how to update memory, SMT enables time-parallel RNN training with a stable O(1) length gradient path between any two tokens—without ever unrolling the RNN. We find that SMT outperforms BPTT when pretraining various RNN architectures on tasks like language modeling and pixel sequence modeling. SMT enables nonlinear RNNs to better capture long-range dependencies and train in parallel, potentially unlocking the scaling of models that build temporal abstractions of past experience.
https://arxiv.org/abs/2606.06479
4、[RO] Universal Manipulation Exoskeleton: Learning Compliant Whole-body Policies with Real-time Torque Feedback
L Liang, J Xu, X Qi, Y Cai…
[Ant Group]
通用操作外骨骼：基于实时力矩反馈学习柔顺全身控制策略
要点：
指出了学习具备柔顺性（Compliant）的全身机器人策略所面临的挑战：现有的多数数据收集流程缺乏力（Force）和力矩（Torque）数据，而这对于物理人机交互中安全、主动的柔顺控制至关重要。 推出了“通用操作外骨骼（UME）”，这是一种上肢外骨骼系统，能够在遥操作期间提供实时的触觉力矩反馈，同时记录全臂的关节姿态和力矩。 UME系统是一个透明的双向接口：操作员可以在物理层面上精确感受到机器人遇到的阻力和受力，从而实现高度直观且安全的遥操作（例如：盲操拔剑）。 核心机械创新：采用“同轴执行器配置”和准直驱电机。这种设计模仿了人类手臂的运动学结构（3-1-3自由度），最大化了运动范围，同时减少了对笨重的高减速比齿轮箱的依赖。 提出了一种“通用重定向（Universal Retargeting）”算法，通过将手臂拆解为虚拟的子机械臂（肩、肘、腕），将UME的关节状态映射到各种不同的机械臂上（如7自由度的OpenArm，6自由度的X-ARM），有效规避了末端执行器常见的运动学奇点。 UME重量轻、成本极低（造价仅约1900美元），且具有极高的便携性。它集成了一个IMU来控制移动底盘，实现了从固定操作到移动操作的无缝切换。 证明了使用UME收集的数据进行训练（结合ACT算法），可以让机器人学会自主的、力介导的、受限空间内的操作行为。这些行为能主动利用物理接触（例如利用墙壁阻力翻转盒子，或在只有5毫米间隙的空间内伸手而不刮伤表面）。 反直觉的深刻洞见：通过主动拥抱物理接触和力矩反馈，机器人可以成功完成视觉被遮挡的任务，完全依靠学到的“触觉”状态来判断动作是否完成。 实验结果显示，UME在处理复杂任务时显著超越了“无力矩（No-torque）”和“UMI风格（纯末端位姿）”的基线模型，数据收集吞吐量提升了3.3倍，任务成功率达到了约90%。
主旨： 本文旨在解决家庭或复杂环境中服务机器人缺乏主动物理柔顺性（Active Compliance）的问题。为此，作者研发了一套低成本的通用操作外骨骼（UME），这套系统不仅能精准记录人类遥操作时的全臂姿态和力矩，还能将机器人受到的环境阻力实时反馈给操作员。基于该系统收集的包含真实力觉交互的数据，机器人得以学会如何在高度受限或视觉遮挡的环境中，利用甚至依赖物理接触来完成复杂的全身和双臂操作任务。
创新：
同轴准直驱机械设计：摒弃了传统的高减速比关节，采用准直驱电机配合“同轴”结构，完美复刻人体肩部和腕部的球铰链运动，实现了极高的力矩透明度和穿戴舒适度。 解耦式通用重定向算法：没有采用传统的末端位姿逆运动学（IK），而是将人体手臂和机械臂都抽象为肩、肘、腕三个独立的虚拟子系统进行分别映射，彻底解决了奇异点卡顿和跨机器人平台（不同自由度）的兼容问题。 融合力矩的多模态策略学习：在经典的ACT架构中，创新性地将“力矩”作为与关节位置同等重要的输入输出模态，使模型能够内化“力量调节”而非仅仅“位置控制”。
贡献：
开源了一套极具性价比的硬件系统：提供了一套造价仅为1900美元的力反馈外骨骼设计方案，极大地降低了高难度、力交互数据收集的门槛。 突破了机器人“避障至上”的控制惯性：通过四个极具挑战性的任务（如极窄缝隙取物、盲推盒子等），证明了赋予模型力矩感知后，机器人可以像人类一样“主动利用接触”和“摩擦力”来完成任务，而不是僵硬地避免任何碰撞。 实现了全要素的数据捕获：集成IMU实现移动底盘控制，结合全臂力矩和姿态记录，填补了当前数据收集系统（如ALOHA只能抓取末端，UMI缺乏力反馈和全局防撞）的空白。
提升：
遥操作的直觉性与效率：由于操作员能感受到真实的阻力，盲操成功率大幅提升，同时数据收集的速度（DPM）相比无力矩反馈系统提高了3.3倍。 受限空间与视觉盲区的成功率：在极窄空间（GPU提取任务）和视觉遮挡（盲推盒子任务）中，相较于基线方法，成功率从不足50%甚至0%飙升至90%以上。
不足：
外骨骼自重与材料限制：目前为追求低成本采用了3D打印的PLA材料，使得系统自重达12kg，且承重能力受限。若使用CNC铝材可减重至8kg，但这会提高成本。 适应性的局限：目前的连杆长度是固定的，无法根据不同操作员的臂长进行调节，影响了人体工学体验的普适性。 泛化性验证尚未在物理样机上穷尽：虽然算法支持通用重定向，但针对Franka这种主流机械臂，文章仅在MuJoCo仿真中进行了验证，未在真实Franka硬件上测试。
心得：
“拥抱接触”是走向通用机器人的必经之路：传统的机器人学长期沉迷于精确的运动学方程和严格的避障规划（Collision Avoidance）。但这篇论文深刻地指出，人类在日常生活中（比如在冰箱深处掏一罐饮料）根本不会刻意避免碰触，而是通过“力觉感知”和“柔顺调节”在碰撞中摸索前进。赋予机器人“感知阻力并顺势而为”的能力，比给它安装一万个高清摄像头来算避障轨迹要有效得多。 高质量数据的来源决定了AI的上限：目前火热的具身智能（Embodied AI）往往受制于数据的匮乏。ALOHA解决了双手协同，UMI解决了随处可采，但这篇论文的UME补齐了最后一块核心拼图：力反馈。操作员只有亲自“感受”到机器人的受力，才能给出真正符合人类直觉的、带有力量调节的示范数据。没有这种数据，再好的Transformer也学不会如何“轻拿轻放”。 “解耦”思想在工程上的绝妙应用：论文中的“通用重定向算法”非常巧妙。它没有死磕复杂的整臂反解（这往往会导致可怕的数学奇异点），而是把手臂切分成肩、肘、腕三个独立的模块。这种“大问题化小”的解耦思维，不仅让外骨骼能够轻松适配7轴甚至6轴的不同机器人，还极大地增强了控制的稳定性。这启示我们，在复杂的AI系统中，合适的物理或逻辑解耦往往比纯粹的数据暴力更优雅。
一句话总结: 本文提出了一种造价低廉、能提供实时力反馈的穿戴式外骨骼（UME），它不仅让操作员能“身临其境”地遥控机器人，更使得机器人首次通过端到端学习掌握了在视觉盲区和极窄空间中“主动利用物理接触”的高级柔顺操作技能。
For robots to work safely in household environments, they need to be compliant and react to torque and force feedback during contact. However, the majority of existing data collection pipelines still lack the ability to capture force and torque data for learning active compliant policies. In this paper, we present Universal Manipulation Exoskeleton (UME), an upper-limb exoskeleton that provides real-time haptic torque feedback while recording whole-arm configurations and joint torque signals for teleoperation. With transparent torque feedback, human operators can even unsheathe kinematically constrained objects while blindfolded. UME is low-cost, lightweight, and portable. Equipped with an embedded IMU, it enables teleoperation for mobile manipulation. With our proposed universal retargeting algorithm, UME can teleoperate a range of robots, including the 7DoF OpenArm, 7DoF Franka, and 6DoF X-ARM. We demonstrate that this combination of capabilities enables learning bimanual, whole-body, and active compliant policies that operate effectively in highly constrained spaces. The learned robust autonomous policies achieve high success rates across a variety of tasks, including long-horizon mobile manipulation, force-mediated box flipping, visually occluded box pushing, and space-constrained tabletop manipulation. Videos, code, and additional information can be found at this https URL.
https://arxiv.org/abs/2606.14218
5、[LG] A Held-Out Transition-Pair Falsifier for Long-Horizon Non-Abelian State Tracking
J Lee
[Attractor Dynamics]
面向长时程非阿贝尔状态跟踪的留出式转移对证伪器
要点:
揭露了当前序列模型评估中的一个致命缺陷：模型在长上下文任务中表现出的“外推能力”，很可能仅仅是记住了局部的状态转移模板，而不是真正学会了跟踪非交换（non-commutative）的隐藏状态。 引入了极度严格的“留出转移对证伪器（Held-Out Transition-Pair Falsifier）”协议：在训练数据中刻意剔除特定的相邻Token对（如 ），但在测试中强制要求这些对出现，从而直接切断了模型通过“局部记忆”作弊的捷径。 展现了极其反直觉的极端长度外推能力：一个“投影循环状态模型”仅仅在长度为 8 的序列上进行训练，却能在长达 1,048,576 个Token的测试序列中实现 100% 零误差的最终状态预测（外推比例超过 倍）。 揭示了当前主流架构在严苛协议下的全面崩溃：标准的 GRU、结构化 SSM（类似 Mamba）和 Bag-of-tokens 模型，即使配备了完全相同的原型投影读出头，在此协议下也全军覆没，准确率几乎等同于随机瞎猜（约 1/36）。 提出了一套受投影温度控制的代数机制诊断工具（同态误差、状态一致性漂移、换位子间隙）。发现在温度 时存在明显的相变，证明必须依赖严密的“硬投影（Hard Projection）”才能防止误差累积。 包含一个高信息熵的声明：论文刻意隐藏了核心的“连续载体”和嵌入映射的具体实现细节（正在申请专利），明确表示本文是一个纯粹的“协议与读出机制”的证伪研究，而非开源新的网络架构。
主旨： 本文旨在揭示并解决序列模型在长周期、非交换（non-Abelian）状态跟踪任务中容易通过“局部模板记忆”作弊的评估漏洞。为此，作者提出了一种“留出转移对证伪器”协议，并证明了一种带有显式硬投影机制的循环状态模型，能够在完全阻断局部记忆捷径的情况下，实现从 8 个 Token 到 100万个 Token 的完美零误差泛化，验证了显式非交换状态组合在长序列建模中的巨大归纳偏置优势。
创新：
评估范式的创新（留出转移对证伪器）：不再单纯依靠增加序列长度来测试外推，而是通过在训练集中定点“挖空”特定的转移关系，在测试集中强制触发，精准鉴别模型是具备真正的“状态计算”能力，还是仅仅在“模式匹配”。 投影循环状态接口的提出：引入了带有温度控制的投影操作符 ，将模型内部连续的非交换隐藏状态显式地映射（投影）到目标有限群的离散符号上。 代数层面的机制诊断体系：引入了同态误差（Homomorphism error）和换位子间隙（Commutator gap）等纯代数概念来定量分析神经网络内部表示的合理性。
贡献：
建立了一个严格受控的有限群状态跟踪基准（以 为核心，扩展至 ），并附带严密的数据重叠审计（Overlap Audit），排除了数据泄漏的可能性。 提供确凿的实证证据表明，当前的代表性序列架构（SSM、GRU）在缺乏特定代数结构归纳偏置时，无法真正学会非交换逻辑的长期跟踪。 在 倍的极限长度外推下，证实了“连续状态+硬投影”机制能够完全免疫长期计算中的状态漂移和误差累积。
提升：
极限长度下的准确率：在 100万 Token 的非交换群状态跟踪任务中，将主流序列架构（SSM， GRU）约等于瞎猜（~2.78%）的准确率，绝对提升并锁定在 100%（250/250 完美无瑕）。 抗漂移能力：通过“硬投影”机制，使得状态一致性漂移（State-consistency drift）在百万次递归迭代中始终维持在极低水平。
不足：
核心实现闭源（最大遗憾）：作者因专利原因，将实现这一惊人性能的底层“连续载体（Continuous Carrier）”视为黑盒，并未在论文或代码中公开，导致社区无法端到端地复现或迁移该模型。 任务极度合成化且脱离现实：评估完全局限于合成的有限群代数任务，尚未在自然语言推理、代码执行或真实世界的长文档/工作流中证明该机制的有效性。 对“硬投影”的绝对依赖：实验表明，一旦稍微提高投影温度（软投影），最终的预测准确率就会瞬间崩溃，说明该机制在连续梯度优化和离散逻辑推理之间的鲁棒性依然脆弱。
心得：
警惕大模型的“长文本外推假象”：目前的 LLM 或 SSM 经常标榜支持 1M 甚至更长的 Context，但它们在长文本中的优异表现，往往是因为它们在海量数据中“背下”了局部转移规律，而非真正具备了逻辑链条的追踪能力。这篇论文犹如一面照妖镜，用一个简单的“抽帧”测试（留出转移对），就让当前主流的 SSM 原形毕露。评估长文本能力，决不能只看长度，必须切断作弊捷径。 处理复杂逻辑需要“代数级别”的归纳偏置：现实世界的工作流（如执行一段代码、操作复杂的工具）本质上是非交换的（A 之后做 B，和 B 之后做 A 完全不同）。普通的序列模型由于缺乏相应的代数结构（如非交换群同态），在经历成千上万步迭代后必然导致状态“糊掉”。这启示我们，走向AGI的道路上，或许需要将抽象代数（Abstract Algebra）的原理更深地嵌入到神经网络的底层架构中。 “神经符号（Neuro-Symbolic）”融合的相变点：论文中最引人深思的结果之一是“硬投影”与“软投影”的相变（Phase Transition）。连续的神经网络擅长梯度优化，但极易产生误差累积；离散的符号系统绝对精准，但难以端到端训练。在计算过程中，定期将连续状态“硬性投影”到离散的符号空间，是阻断误差在无限时序中累积的终极手段。这为未来的大模型混合推理（System 1 + System 2）提供了一个极佳的数学验证。
一句话总结: 本文提出了一种严苛的“留出转移对证伪器”来揭穿序列模型在状态跟踪中的局部记忆捷径，并反直觉地展示了一个（虽未开源核心实现的）投影循环模型，能够仅凭长度为8的训练数据，在百万Token的超长测试中实现100%完美的非交换群状态预测，而主流的SSM和GRU在此面前全军覆没。
State tracking exposes a sharp limitation of sequence models: the relevant signal is often not a summary of observed tokens, but an ordered latent state that evolves through noncommutative transformations. We introduce a held-out transition-pair falsifier for finite nonAbelian group tracking. The protocol forbids selected ordered generator pairs during training and requires the same local patterns during evaluation, blocking one direct local-transition memorization pathway. In a controlled 𝑆3 × 𝑆3 benchmark, a projected recurrent state model trained only on length-8 sequences produces error-free final-state predictions (perfect 250/250 per horizon) through evaluation horizons up to 1,048,576 tokens across five seeds. Matched native-readout baselines, including bag, GRU, and a single-configuration structured state-space model, remain near floor under the same protocol. Projection-matched GRU, structured SSM, and bag baselines equipped with analogous finite-group prototype readouts also remain near chance under the same split. Mechanism diagnostics show that hard projection coincides with low homomorphism error, low state-consistency drift, and non-trivial commutator separation, while softened projection collapses final-state accuracy. Clean-split audits verify zero verbatim reduced-word overlap and zero structural-template overlap between training and evaluation partitions. The evidence is scoped to this controlled finite-group falsifier rather than to a general architecture ranking. Within that regime, explicit projected non-commutative state composition acts as a useful inductive bias for long-horizon hidden-state tracking.
https://arxiv.org/abs/2606.07254
