夜雨聆风学习资料网

ARTICLE · 1309661

AI应用论文|智能体的最终疑虑:工具使用智能体中何时行动与何时退出的决策 (1/20篇) · 11月4日

AI应用论文|智能体的最终疑虑:工具使用智能体中何时行动与何时退出的决策 (1/20篇) · 11月4日

📡 AI 创新应用

2026年11月04日星期三

共 20 篇精选论文

95%🔥# 1🏛️ MIT

智能体的最终疑虑:工具使用智能体中何时行动与何时退出的决策

Agents' Last Doubt: Knowing When to Act and When to Step Back in Tool-Using Agents

工具使用LLM智能体常在不确定性下面临决策点,需在自主行动、额外信息收集与人工介入间权衡,以平衡任务成功、交互成本与不可逆错误风险。为学习此权衡,本文构建了一个反事实数据集,包含ToolSandbox中1036个决策点的3115个动作结果,记录了每个合法动作的下游影响。基于此训练了SURE-Act控制器,用于在推理时为冻结骨干智能体选择动作。实验表明,学习对替代动作排序能提升离线动作选择效用,并使Qwen3-4B智能体在ToolSandbox整体得分提升最高达0.0575,且优于现有决策规则。

95%⭐# 2🏛️ 澳门科技大学

用于固态量子自旋自主实验研究的协作式AI智能体

Collaborative AI agents for autonomous experimental research with solid-state quantum spins

为实现从提出问题到撰写稿件的全自主研究,本研究构建了一个由基于大语言模型的智能体组成的自主研究实验室。这些智能体能够相互评估工作、停止或调整研究方向,生成并拒绝研究问题,要求独立的理论检验,并设计挑战其主张的实验。以金刚石中的量子自旋系综为研究对象进行验证,智能体推导了预测特定微波脉冲序列响应所需的最小校准设置数,进行了计算检验,并设计了区分竞争预测的实验。在发现初始实验信号漂移后,智能体将结果视为不确定并修订了测量协议,最终修订后的实验支持了理论预测。研究表明协作AI智能体能够自主选择问题、推导理论并进行实验检验。

90%💡# 3

Sensorium:一个用于具身手术AI的开源多模态数据采集与整理库

Sensorium: An Open-Source Multimodal Data Collection and Curation Library for Embodied Surgical AI

具身手术AI需要可靠的多模态数据,但手术数据采集成本高、难以重复且依赖硬件。本文提出Sensorium,一个基于ROS/ROS2的开源Python库,用于从可配置的机器人和传感器流中记录、处理、标注和整理多模态手术数据。该库集成了面向操作员的数据采集、可配置处理、语义标注和情景数据集生成。我们在包含多种手术任务和传感配置的1516次幻影、离体和活体猪实验中评估了Sensorium,并报告了初步可用性反馈。

90%🔬# 4🏛️ 浙江大学

学习交互与执导:协同进化的视频导演智能体

Learning to Interact and Direct: Co-Evolving Video Director Agents

视频导演智能体编排多阶段制作以实现用户的创意愿景。现有研究关注其自我进化以改进剧本规划,但执导与用户交互间的相互促进常被忽视。本文提出LIT框架,包含导演智能体、模拟用户和元工程师。模拟用户分配创意任务以探测导演弱点,元工程师利用任务轨迹修订导演的交互与制作策略。通过引入协同进化范式,三者形成进化闭环,共同提升系统能力。实验表明,LIT在制作和交互分数上分别比初始流程提升了19.1%和32.0%。

90%📌# 5🏛️ 香港大学 · 香港城市大学

验证-回溯循环:面向长视野语言智能体的结构化前提条件恢复

Verify--Backtrack Loop: Structured Precondition Recovery for Long-Horizon Language Agents

语言智能体在交互环境中处理长视野任务时,行动常依赖潜在前提条件,核心难点在于失败恢复。本文提出验证-回溯循环(VBL),一种无需训练的ReAct扩展方法。它将前提发现和失败诊断转化为结构化的规划状态更新,通过维护有界目标栈,并在目标激活、执行失败或状态变化时进行双重视野验证,触发明确的推入、弹出、重试或回溯到父目标等操作。在多个基准测试中,VBL显著优于ReAct和基于反思的方法,在AppWorld上将任务成功率最高提升22.07个百分点。

90%🎯# 6

Operon-S1:用于长视野生物医学智能体的快速决策控制器

Operon-S1: a fast decision controller for long-horizon biomedical agents

语言模型智能体在生物学中执行长序列科学工作,但其关于惯例、技能、错误、证据和停止的判断内嵌于工作推理中,难以独立测量、替换或改进。本文提出Operon-S1,一个快速的决策系统(系统1),将判断与执行分离。决策框架在13个决策点将重复性判断转化为封闭式问题,并通过不包含答案的固定消息进行交互,使得任何能回答问题的模型均可作为判断器。在七个生命科学基准测试中,本地决策模型在CPU上以中位数0.6秒完成判断,且不影响智能体在多数基准上的得分,而驱动智能体的通用语言模型处理相同问题则占任务成本的8.0%至35.2%。

90%💎# 7🏛️ 斯坦福大学

罗马非一日建成:基于回放的奖励信号用于长视野Freeciv智能体

Rome Wasn't Built in One Turn: Replay-Grounded Reward Signals for Long-Horizon Freeciv Agents

训练语言模型智能体玩长视野策略游戏很困难,因为确定性反馈稀疏且常仅在游戏结束时出现。游戏内分数可提供密集信号,但其不能可靠预测未来结果(存在“记分板陷阱”)。本文为开源回合制帝国建设游戏Freeciv构建了CivHarness系统,用于保存游戏状态、分支决策并通过回放提供长视野反馈。利用CivHarness训练了CivTelescope(一个LLM判断器),它能更准确地预测两个游戏位置中哪个会产生更好结果。使用CivTelescope作为密集奖励训练的Freeciv游戏智能体(CivMarshmallow)在游戏中段平均训练阶段增益达到8.94分,比最佳基线(终局奖励)高出77%。

90%🚀# 8🏛️ 清华大学 · 北京大学

FrontierMat:在材料研发前沿评测语言模型

FrontierMat: Benchmarking Language Models at the Frontier of Materials R&D

为加速材料发现,语言模型必须能解决研究前沿问题。然而,现有基于教科书和考试的基准主要评估既定知识,对前沿研究问题的性能测试不足。本文提出FrontierMat基准,包含330个来自航空航天、半导体、具身智能和核聚变等领域前沿学术与工业研究的问题,每个问题均由领域专家验证。问题要求模型根据选定实验证据推断被隐瞒的结果或得出结论。最强通用模型仅得53.7%,跨尺度推理问题得分比单尺度问题低8.7分。通过领域自适应研究,一个开源模型性能从36.7%提升至55.4%,匹配最强专有模型。

90%🧠# 9

LanG 2.0:面向规模化半自动化安全运营的高效能智能体AI

LanG 2.0: Energy-Efficient Agentic AI for Semi-Automated Security Operations at Scale

安全运营中心(SOC)需要将海量警报、日志和流量转化为可信、可负担的决策以揭示隐藏威胁。本文提出LanG 2.0,一个能检测威胁、关联证据和编写规则的智能体系统,旨在探究当结构性保障(而非模型精度)提供保证时,小型本地模型能否经济安全地替代前沿模型。系统包含实体锚定关联、规则变更的人工审批和防篡改账本。测试表明,其活动关联精度从18.75%提升至51.81%,规则接受率从最高60.00%提升至98.33%。与Claude Opus 5.5相比,其在未见网络上以73.42%的F1分数检测攻击且无假阳性,而后者为58.10%且假阳性率49.00%,能耗至少降低650倍。

90%⚡# 10🏛️ 圣路易斯华盛顿大学

基于能力锚定的智能体规划

Capability-Grounded Agentic Planning

LLM智能体通过工具、数据源和其他智能体服务自然语言请求,即使简单请求也常需要多个相互依赖的调用。通常,LLM通过试错选择调用,无法保证计划可执行。本文提出基于能力锚定的智能体规划(CGAP),它转而推理请求需要什么以及工具提供什么。CGAP将工具目录确定性地编译为PDDL模型,使用LLM将请求转化为目标,并用经典规划器求解模型。由于工具输出未知,模型是抽象的,跟踪哪些输入可用而非其值。执行时,LLM添加抽象计划省略的实体特定调用,确定性检查拒绝任何破坏计划的调用。在多个基准测试中,CGAP优于标准工具调用智能体,最高提升28.9分。

90%🌟# 11

用于无需环境复制的智能体测试时扩展的智能体世界建模

Agentic World Modeling for Agent Test-time Scaling without Environment Replica

测试时扩展(TTS)通过采样和选择多个候选轨迹来改进大语言模型智能体,但常见实现假设这些轨迹可并行执行。这在现实部署中不成立,因为企业工作空间和云服务是共享、持久、昂贵或难以复制的,且行动可能产生不可逆副作用或轨迹间干扰。现有生成式世界模型避免直接执行,但通常将环境状态压缩为单个提示,限制了其在部分可观测下可靠模拟状态转移的能力。本文提出智能体世界建模(AWM),它将下一观测预测重新表述为多轮证据获取任务。对于每个假设行动,智能体模拟器通过安全的只读接口自适应查询真实环境,推理返回的证据,并使用可执行计算构建结果观测,而不改变共享状态。结合轨迹级TTS,AWM实现了在单一共享环境上的并行探索。在多个基准测试中,AWM平均优于单次模拟基线40.07%,平均超越训练的世界模型基线12.36%。

90%🔎# 12🏛️ 大连理工大学

更多规则,更长列表?在隐藏规则课程上评测自我进化智能体

More Rules, Longer Lists? Benchmarking Self-Evolving Agents on a Hidden-Rule Curriculum

自我进化智能体根据反馈重写持久状态,但其是否能学习无人告知的规则 largely untested。智能体也可能通过将每次修正记录为例外来通过测试,导致其列表随新规则增长。本文引入潜在规则课程基准(CLR-Bench)。每条链在每个层级上基于先前规则增加一个隐藏规则。规则作用于一个不透明标签,该标签代表网络上发布的命名分组(如航空联盟创始成员)。任务给出一个示例值,练习反馈揭示一个额外成员和一个非成员,测试则检查未见成员和相似非成员。评测六个近期自我进化方法,在使用认证模型时它们几乎无法学习。最佳方法仅比冻结智能体提升最多5分,且仅从计数中排除6-12%的未见成员,低于直接保留原始练习历史所能达到的20%。一个陈述命名分组约定的固定课程能使相同方法提升14.5至16.5分。使用更强的GPT-6-Sol时,部分方法仅通过反馈即可学习,达到78%准确率。CLR-Bench因此能衡量智能体的学习能力,且该能力因模型而异。

90%📊# 13🏛️ MBZUAI · 上海人工智能实验室

SciGame:让智能体在真实与反事实世界中玩科学发现游戏

SciGame: Let Agents Play the Scientific Discovery Games in the Real and Counterfactual World

为精准评估大语言模型智能体的科学发现能力,本文提出 SciGame 基准。它将科学文献转化为结构化科学卡片,每张卡片生成一个原始环境和一个维度一致的反事实环境,以分离先验知识与经验证据。基准包含历史经典定律集和基于模型知识截止后论文的实时集,并在识别与发现两种设置下评估智能体。实验发现:1) 当支配关系改变时,熟悉的先验知识会损害性能;2) 自适应实验仅有助于最强模型;3) 即使能正确解读证据,恢复精确符号形式仍是主要瓶颈。当前智能体虽能主动探索,但在陌生环境中归纳精确定律仍面临挑战。

90%🎓# 14🏛️ 南京大学 · 吉林大学

EvoTeam:通过团队演化实现多智能体协作

EvoTeam: Multi-Agent Collaboration via Evolving Teams

现有基于LLM的多智能体系统(MAS)通过优化个体智能体来提升性能,但未必改善团队协作。本文提出以协作为中心的演化框架EvoTeam,它利用执行经验联合演化团队组织、交互规则与个体技能。该框架维护可复用团队库,为任务选择或创建团队,并通过团队特定的交互规则引导协作。在四个基准测试上的实验验证了其有效性。

90%🏆# 15

MoLRSI:用于分子发现的递归自改进AI智能体

MoLRSI: A Recursive Self-Improving AI agent for Molecular Discovery

分子发现需在巨大搜索空间中权衡多个生物目标。本文提出MoLRSI智能体,它结合工作流与模型架构的系统优化以及跨任务记忆,以递归方式改进其分子搜索策略。在抗生素发现和从头设计肽-MHC结合剂两项挑战性任务中,MoLRSI所开发的工作流在平衡竞争性属性方面均优于先前专家主导的工作流,并成功获得实验验证的命中分子。

90%💻# 16🏛️ 大妻女子大学

让AI提出研究问题:自主研究智能体

Letting AI Formulate the Research Question: Autonomous Research Agents

现有系统如AI Scientist已展示AI能执行并撰写研究,但研究问题由人类选定。本研究探索让AI自主提出研究问题。系统赋予一个通用编码智能体两项技能:一是提出问题并接受批判,二是进行同行评审。在五次预注册的连续运行中,系统均从问题提出到完成可复现的修订论文,无需人类研究输入,外部AI评审认为论文达到研讨会水平。

90%🔗# 17🏛️ 华东师范大学

编译消除不确定性:通过程序化编译实现自演化智能体技能

Compile Away Uncertainty: Self-Evolving Agent Skills via Programmatic Compilation

自演化技能使AI智能体无需更新模型参数即可积累知识,但文本形式的技能依赖LLM推理,会引入执行不确定性。本文提出SkillCompiler框架,将程序化编译融入技能演化过程。它采用可执行性感知的编译策略,将技能分解为细粒度操作,将明确的操作编译为已验证程序,同时保留LLM处理上下文依赖操作。实验表明,该方法在五个基准上持续优于现有技术。

90%📈# 18🏛️ 阿里

ATLAS-Bench:面向本地搜索的智能体工具使用基准

ATLAS-Bench: An Agentic Tool-Use Benchmark for Local Area Search

可靠的本地搜索对LLM智能体支持日常决策至关重要。现有基准对搜索结果是否满足强制性要求、考虑用户偏好及基于事实与经验判断的覆盖有限。本文提出ATLAS-Bench,一个包含1200个查询的基准,区分强制性要求与偏好、事实条件与主观判断。同时引入标准化评估环境ATLASBox。评估发现,不同模型在满足个体要求与提供可用推荐之间存在权衡。

90%🛠️# 19🏛️ 加州大学圣塔芭芭拉分校 · eBay

AgentDecept:压力下工具使用LLM智能体的欺骗行为基准

AgentDecept: Benchmarking Deceptive Behavior in Tool-Using LLM Agents under Pressure

LLM智能体日益在日常应用中执行多轮任务,但其报告可能与实际执行存在差异。现有欺骗基准未充分探索智能体在现实有状态工作流中是否如实报告行为。为此,本文提出AgentDecept,一个可执行的基准,用于评估压力下的行为欺骗。它包含来自六个压力源的477个压力变体,采用证据驱动的评估协议,将用户面陈述与时间序观察和执行结果关联,以区分欺骗与诚实失败。

90%✨# 20🏛️ MIT · 剑桥大学

面向长周期任务的目标感知动态多智能体协作

Goal-Aware Dynamic Multi-Agent Collaboration for Long-Horizon Tasks

为完成无需人工干预的复杂长周期任务,智能体需适时执行规划、验证等不同职责。初步分析发现验证与任务成功关联最强但常发生较晚,且职责相关信息在共享上下文中会稀释。研究发现,仅将职责分配给具有独立上下文的智能体不足以保证协作。本文提出目标感知动态多智能体协作(GAD)方法,使用执行图组织子任务与依赖,保持智能体对目标的关注,并根据执行证据动态调整协作与信息共享。

数据来源:arXiv
由 智能助手@AIIA Lab 生成

回首页,搜索你想要的文档

在首页搜索框输入关键词,快速定位资料

文库首页搜索指引 立即搜索

相关学习资料