知识卡片:Plan-Bench:现有视觉语言模型能否超越感知,在具身世界中推理与规划?
一句话结论
Plan-Bench 是一个隔离动作执行、专门考察视觉语言模型(VLMs)在具身场景下高层推理与多步规划能力的基准;对 28 个 VLM 的评测显示即使最强模型准确率也仅 75.0%,表明这类能力仍有明显提升空间。
事件概述或研究问题
- 背景:VLMs 在视觉感知与空间推理上表现强劲,因此越来越多研究希望把它们用作具身 AI 的高层规划器(high-level planner)。
- 问题:物理任务要求模型整合空间信息、对时序状态进行推理,并在多种约束下生成多步计划。当前 VLMs 能否在不依赖动作执行的前提下可靠支撑这类推理与规划,仍待回答。
- 论文提出 Plan-Bench,目标是在隔离动作执行影响的情况下,评估 VLM 与具身世界相关的高层推理和多步规划能力。
方法/产品要点
- 基准设计覆盖三个互补维度(three complementary dimensions)。
- 规模:共 16 个子类(16 subclasses)、699 个精选样本(699 curated samples)。
- 评测对象:28 个 VLMs。
- 定位:作为评估 VLM 具身推理与规划能力的轻量探针(lightweight probe),并衡量其作为物理任务决策者的潜力。
- 代码与基准已公开:https://github.com/MinneFeng/Plan-Bench
主要结果或产业意义
- 广泛评测显示仍有改进空间:最强模型准确率仅为 75.0%。
- 模型规模扩大(model scaling)总体上能提升这些能力。
- 消融研究(ablation studies)表明,更大的模型作为高层规划器展现出越来越大的潜力。
- 产业意义(基于论文定位的合理引申):为把 VLM 用作具身系统高层决策者提供了一个相对独立于底层执行、便于横向比较的评测入口。
为什么重要
- 具身 AI 中,若把 VLM 当作高层规划器,其可靠性直接决定系统能否把感知转化为可执行的多步决策;Plan-Bench 把“执行”从评测中剥离,有助于单独定位推理与规划这一环的短板。
- 与同类的 Agent/推理基准(如 CordisBench 关注组件生命周期推理、SCILAWS-BENCH 关注科学定律发现)相比,本条聚焦的是具身场景下的空间—时序—约束多步规划,补足了“感知之外”的能力评估维度。
局限与不确定性
- 来源仅为 arXiv 摘要与元数据,以下内容待核实:
- 三个互补维度的具体定义与划分依据。
- 16 个子类的具体名称与各类样本分布。
- 699 个样本的构建流程、标注方式与质量控制细节。
- 28 个受测 VLM 的具体清单、参数规模与评测配置。
- 75.0% 准确率对应的具体模型、指标定义与是否含置信区间。
- “模型规模提升能力”的消融实验设置与对照条件。
- 论文未在摘要中说明该基准与真实机器人执行的衔接程度(待核实)。
可用于图书/PPT/简报的角度
- “感知强 ≠ 会规划”:用 75.0% 这一上限说明 VLM 作为具身高层规划器的能力缺口。
- “把执行剥离出去看推理”:介绍 Plan-Bench 的隔离式评测思路,作为方法论案例。
- 缩放定律在具身规划上的体现:模型越大越有当高层规划器的潜力,但尚未饱和。
- 具身 AI 评测版图:与 CordisBench、SCILAWS-BENCH 等并列,展示“能力细分 + 基准化”的趋势。
原始材料
- 标题:Plan-Bench: Can Existing VLMs Go Well Beyond Perception to Reason and Plan in Embodied Worlds?
- arXiv ID:2610.18836v1
- 作者:Juntong Feng, Qingan Liu, Jingru Dong, Yue Zhu, Weiming Zheng, Yujie Cheng, Xinzhe Han, Shuai Hao, Yunzhi Zhuge, Haiwen Diao, Huchuan Lu
- 发布/更新:2026-10-13T17:55:20Z
- 分类:cs.CV(Primary),cs.CV
- Abstract URL:https://arxiv.org/abs/2610.18836v1
- PDF URL:https://arxiv.org/pdf/2610.18836v1
- 代码/基准:https://github.com/MinneFeng/Plan-Bench
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
具身 AI 中,若把 VLM 当作高层规划器,其可靠性直接决定系统能否把感知转化为可执行的多步决策;Plan-Bench 把“执行”从评测中剥离,有助于单独定位推理与规划这一环的短板。 与同类的 Agent/推理基准(如 CordisBench 关注组件生命周期推理、SCILAWS-BENCH 关注科学定律发现)相比,本条聚焦的是**具身场景下的空间—时序…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: