知识卡片:X-Reset:通过跨具身重置扩展物体中心强化学习
一句话结论
X-Reset 提出用人类手-物演示生成仿真中可用的机器人重置状态,让物体中心强化学习在通用奖励下训练跨三种机器人构型的通用操作策略,从而绕开从零探索接近、抓取和重定向多样物体的难题。
事件概述或研究问题
来源为 arXiv 条目。研究问题是:仿真中的强化学习无需机器人演示也能训练灵巧操作策略,但用任务无关奖励训练单一通用策略时,探索问题严重:高自由度物体的接近、抓取、重定向难以从零发现。既有路线依赖高质量机器人演示、逐任务奖励塑形,或把策略限制在窄行为模式中。X-Reset 转向人类手-物演示来解决探索问题。
方法/产品要点
- 不把人类动作作为模仿或跟踪目标。
- 运动学重定向:将手-物状态重定向为有噪声的机器人状态。
- 过滤:剔除仿真中不稳定状态。
- 重置采样:将剩余状态作为 RL 训练中的 reset 分布采样。
- 奖励:使用通用物体中心奖励(general-purpose object-centric rewards)。
- 策略接口:仅依赖物体状态和目标;演示通过 reset 分布进入训练。
- 训练范围:20 个物体,三种 embodiment:22-DoF hand on two different arms 和 parallel-jaw gripper。
主要结果或产业意义
- 作者报告:X-Reset 在 20 个物体、三种 embodiment 上训练通用策略,并解决 RL from scratch 的探索挑战。
- 报告的性质包括:随训练物体数量扩展;泛化到未见物体;可从 imperfect hand-pose estimates 学习;行为可 zero-shot sim-to-real 迁移。
- 产业意义:若结果可复现,可能减少对机器人演示、逐任务奖励工程和窄行为模式限制的依赖,为物体中心通用操作策略提供新的数据利用方式。具体成功率、真实硬件平台、基线增益、部署成本和经济性待核实。
为什么重要
- 把人类手-物演示从“模仿轨迹”改为“RL 重置分布”,是探索机制层面的思路变化。
- 物体中心策略加跨 embodiment reset,可能提升不同机器人构型间复用训练信号的能力。
- 与已有卡片相比,本条不重复 HOMIE 的人类-物体中心视频个性化、GEAR 的长上下文重复复制、可解释 RL 策略蒸馏等事实;增量在于补充“人类手-物演示作为 RL 重置分布”的物体中心强化学习路线。
局限与不确定性
- 本卡片仅依据 arXiv 摘要和条目元数据,未核对全文与实验细节。
- 成功率、基线对比、消融实验、统计显著性、训练成本、真实机器人平台、任务集合细节等均待核实。
- 人类手-物演示的数据来源、规模、采集条件、许可、手姿估计误差范围及噪声建模方式待核实。
- 跨 embodiment 的稳定性过滤标准、reset 采样策略、通用奖励定义,以及 sim-to-real zero-shot 迁移的评估设置待核实。
- 论文发表状态、是否开源、是否可复现待核实。
可用于图书/PPT/简报的角度
- 探索难题的替代解法:演示数据用于重置,而非用于模仿。
- 通用奖励 + 重置分布:与奖励塑形、行为克隆、窄模式策略的对比。
- 人类手-物数据在机器人学习中的新用途:状态初始化、课程或探索引导。
- 物体中心策略与跨具身泛化:一份演示如何服务多种末端执行器/机械臂。
- Sim-to-real 零样本迁移:可作为一个待核实细节的案例素材。
原始材料
- 英文标题:X-Reset: Scaling Object-Centric Reinforcement Learning via Cross-Embodiment Resets
- 作者:Prithwish Dan, Chenyang Ma, Wei Zhan
- arXiv ID:2609.35715v1
- 主分类:cs.LG;分类:cs.LG, cs.AI, cs.RO
- 发布/更新时间:2026-09-28T17:46:42Z
- 英文关键词/术语:Object-Centric Reinforcement Learning; Cross-Embodiment Resets; Dexterous Manipulation; Human Hand-Object Demonstrations; Generalist Policy; Sim-to-Real Transfer
- Abstract URL:https://arxiv.org/abs/2609.35715v1
- PDF URL:https://arxiv.org/pdf/2609.35715v1
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
把人类手-物演示从“模仿轨迹”改为“RL 重置分布”,是探索机制层面的思路变化。 物体中心策略加跨 embodiment reset,可能提升不同机器人构型间复用训练信号的能力。 与已有卡片相比,本条不重复 HOMIE 的人类-物体中心视频个性化、GEAR 的长上下文重复复制、可解释 RL 策略蒸馏等事实;增量在于补充“人类手-物演示作为 RL 重置分布”…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。