知识卡片:MC-EvoBench:审计 Minecraft 智能体中经验驱动的自我改进
一句话结论
MC-EvoBench 是一个受控的 Minecraft 基准,通过隔离“能力改变”与“资源携带、来源暴露不均、早期执行失败”,发现相关经验并未带来稳定的跨世界能力迁移。
事件概述或研究问题
具身递归自我改进(embodied recursive self-improvement)的核心挑战,是让智能体把交互历史转化为能够跨越单个世界、并迁移到后续任务的能力。作者指出,保存的记忆或最终动作成功,本身并不能证明智能体获得了可复用的能力;评估必须将能力变化与以下因素区分开:被携带过来的资源、不相等的来源暴露(unequal source exposure)、以及早期执行失败。MC-EvoBench 即为回答这一问题而构建。
方法/产品要点
- 固定任务目录:包含 19 条注册的进化链(evolution chains),其中 12 条为主要评估链,7 条为校准或探针链;另有 3 组图对齐的配对探针族(graph-aligned paired probe families)用于迁移测试。
- 任务表示:每个任务表示为任务-状态图(task-state graph),并定义阶段级环境验证器(stage-level environment verifiers)。
- 源-目标隔离:分配匹配的源角色与目标角色,重置目标世界,仅允许一个已声明的智能体工件(declared agent artifact)跨越源-目标边界。
- 探针条件:每个探针在匹配的环境步数预算与 5 个随机种子下评估四种来源条件——无先验(no-prior)、相关(related)、不相关(unrelated)、打乱(shuffled)。
- 指标:报告 TSR、WGP、VMP,并保留来源溯源记录(provenance records)。
- 开源:代码与数据见 https://github.com/xzw-ustc/mc-bench-open-source
主要结果或产业意义
- 控制器(controller)与规划器支持(planner-backed)的变体之间存在一致的直接能力差距(direct-capability gap)。
- 相关经验并未产生稳定迁移:它未改善任何一个工具探针;其小幅的木材种类(wood-species)增益依赖单个种子;所有置信区间均包含零。
- 阶段审计(stage audits)显示,早期的木材采集与合成瓶颈常常导致后续能力无法被观测到。
- MC-EvoBench 由此提供了一个受控测试平台,用于检验持久、可迁移的具身能力。
为什么重要
作者强调,仅凭“存下记忆”或“最终动作成功”无法确认可复用能力的获得;MC-EvoBench 的价值在于把评估拆解为可对照的条件(无先验/相关/不相关/打乱)与受控的源-目标边界,从而避免把携带资源或来源暴露差异误读为自我改进。其负面结果(相关经验无稳定迁移、早期瓶颈掩盖后期能力)提示:具身自我改进的评测需要更严格的控制设计。
局限与不确定性
- 具体任务的细节、环境配置与完整复现说明待核实(材料中只有摘要层面的描述)。
- 除摘要给出的结论外,各进化链的具体内容、两种变体的具体实现差异待核实。
- TSR、WGP、VMP 三个指标的完整定义待核实。
- 结果基于 5 个随机种子与匹配步数预算,其统计效力的边界待核实。
- 基准是否覆盖 Minecraft 之外的迁移场景,材料未说明,待核实。
可用于图书/PPT/简报的角度
- “记忆 ≠ 能力”:为什么保存经验不等于获得可复用能力。
- 自我改进评测中的三类混淆因素:携带资源、来源暴露不均、早期执行失败。
- 负面结果的信号价值:相关经验零迁移说明了什么。
- 瓶颈遮蔽效应:早期采集/合成失败如何让后期能力“看不见”。
- 受控基准设计范式:固定任务目录 + 阶段级验证器 + 源-目标边界 + 多条件探针。
与既有脉络的关系
已有卡片关注个人智能体的递归自我改进评测(PAST-Bench)、LLM 智能体的算法设计型自我改进(AI4AI-Bench)以及交互式科研智能体的递归中递归(ScienceBuddy)。MC-EvoBench 的增量在于:将问题置于具身 Minecraft 环境,并引入“仅允许声明工件跨越源-目标边界”的受控隔离与四种来源条件对照,从而专门审计经验驱动的跨世界能力迁移,而非仅比较经验开/关的总增益。
原始材料
- 标题:MC-EvoBench: Auditing Experience-Driven Self-Improvement in Minecraft Agents
- arXiv ID:2610.13829v1
- 作者:Jingwei Song, Zhisheng Chen, Bingfan Zeng, Jing Tang, Yubo Hou, Jinhao Jing, Zhengwei Xie, Linfeng Zhang
- 发布时间:2026-10-09T16:37:39Z(更新同)
- 主分类:cs.RO;分类:cs.RO, cs.AI
- Abstract URL:https://arxiv.org/abs/2610.13829v1
- PDF URL:https://arxiv.org/pdf/2610.13829v1
- 代码与数据:https://github.com/xzw-ustc/mc-bench-open-source
- 关键词:embodied recursive self-improvement; Minecraft benchmark; experience transfer; task-state graph; stage-level verifiers; provenance records; TSR; WGP; VMP
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
作者强调,仅凭“存下记忆”或“最终动作成功”无法确认可复用能力的获得;MC-EvoBench 的价值在于把评估拆解为可对照的条件(无先验/相关/不相关/打乱)与受控的源-目标边界,从而避免把携带资源或来源暴露差异误读为自我改进。其负面结果(相关经验无稳定迁移、早期瓶颈掩盖后期能力)提示:具身自我改进的评测需要更严格的控制设计。
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: