知识卡片:WorldGuide:面向程序性任务执行的目标导向视频世界模型
一句话结论
WorldGuide 把程序性视频生成重新定义为“视觉世界空间中的闭环任务执行”:仅给初始图像和任务目标,模型预测原子动作、生成对应视频片段,再用生成结果决定下一步或终止;它通过共享步级演示训练 Planner 与 Executor,并配套约 59K 步级标注视频的 WorldGuide Bench。
事件概述或研究问题
- 视频生成器与基于视频的世界模型能合成看似合理的视觉轨迹,但长时程程序性任务要求生成过程能根据“实际已生成的内容”进行自适应。
- 模型需要从自身生成的状态判断下一个动作、执行该动作,并识别任务何时完成。
- 开环生成无法根据执行结果调整;已有闭环系统常依赖预训练执行器或间接验证,导致“决定动作”与“成功实现动作”之间存在缺口。
- 论文将程序性视频生成形式化为视觉世界空间中的闭环任务执行,并提出 WorldGuide。
方法/产品要点
- 输入仅需初始图像与任务目标;WorldGuide 预测一个原子动作,生成其对应视频片段,并利用生成结果选择下一动作或终止。
- Planner 与 Executor 在同一套步级程序性演示上训练:Planner 从视觉进展中预测下一原子动作或任务完成;Executor 被直接训练来“实现”这些被预测的动作。
- 采用分层视觉记忆(Hierarchical visual memory)在长时程执行中维持状态,并使历史 token 成本有界。
- 针对联合训练 Planner-Executor 缺乏步级动作-视频监督的问题,论文提出 WorldGuide Bench:约 59K 步级标注视频,覆盖 245 个任务与 27 个程序性类别。
主要结果或产业意义
- 在 WorldGuide-Bench 上,WorldGuide 取得 33.33% Task Success;对比近期强视频模型 MiniMax-H3 的 29.90%,且 MiniMax-H3 还接收了参考动作计划。
- 在 VideoCraft-Bench 上,WorldGuide 取得 47.69%;在仅目标条件(goal-only conditioning)下,MiniMax-H3 为 32.73%。
- 结果被作者用来论证:对于目标导向的程序性视频生成,把规划与可学习的执行耦合起来很重要。
- 论文同时贡献了带步级动作-视频监督的数据集/基准 WorldGuide Bench,用于训练与评测这类闭环执行能力。
为什么重要
- 它把“视频世界模型”的评价焦点从画面合理性推进到任务级成功:模型必须能在自身生成的状态上闭环推进,而不是一次性输出整段视频。
- 与只做动作条件预测的世界模型相比(如 DreamX-Phi 1.0 输入预设动作序列预测未来观测),WorldGuide 强调由模型自行决定下一原子动作并在生成后重新判断状态,覆盖了“决策—执行—终止”的完整循环。
- 与关注物理表示或长时流生成的工作相比(如 Physis-Lang、M⁴World),WorldGuide 的增量主要在于程序性任务的闭环执行框架与步级监督基准,而非单纯的生成质量或物理合理性。
- 产业意义上,这类能力可对齐到需要按步骤完成任务的视频生成、具身/操作流程模拟与自动化流程验证等场景。
局限与不确定性
- 论文给出的成功率仍偏低(WorldGuide-Bench 33.33%、VideoCraft-Bench 47.69%),说明长时程程序性闭环执行仍未解决。
- WorldGuide Bench 的 245 个任务、27 个程序性类别是否能覆盖真实场景的多样性,待核实。
- “分层视觉记忆”的具体结构、历史 token 成本上界、Planner/Executor 的模型规模与训练细节,摘要未展开,待核实。
- 与 MiniMax-H3 的对比设置(提示格式、是否允许计划输入、评测协议)细节待核实。
- 是否存在与真实机器人/真实操作环境的迁移实验,摘要未提及,待核实。
可用于图书/PPT/简报的角度
- “从开环生成到闭环执行”:视频世界模型的任务完成度视角。
- “决策与执行必须一起学”:Planner-Executor 联合训练为何关键。
- “步级监督是瓶颈”:WorldGuide Bench 作为程序性视频生成的数据基础设施。
- 对比页:动作条件预测(给定动作序列)vs 目标导向闭环(自行决定动作并验证结果)。
- 指标解读:为什么在“给参考动作计划”的条件下仍可能输给“仅给目标”的闭环模型。
与既有脉络的关系
- 相对 DreamX-Phi 1.0(动作条件视频世界模型,输入预设动作序列预测未来观测),WorldGuide 把动作来源从外部预设改为模型自行预测,并用生成结果闭环决定下一步或终止,评测重心转向任务成功率。
- 相对 Physis-Lang(以自演化语言作为物理表示提升物理合理性)与 M⁴World(多视角多模态驾驶世界模型、长时流与交互式物体操控),WorldGuide 的增量在于程序性任务的闭环执行范式与步级标注基准,而非物理表示或驾驶长时流生成。
原始材料
- Title: WorldGuide: Goal-Directed Video World Model for Procedural Task Execution
- arXiv ID: 2610.12459v1
- Authors: Ankan Deria, Komal Kumar, Hisham Cholakkal, Fahad Shahbaz Khan, Salman Khan
- Published: 2026-10-08T17:59:31Z
- Primary category: cs.CV
- Abstract URL: https://arxiv.org/abs/2610.12459v1
- PDF URL: https://arxiv.org/pdf/2610.12459v1
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
它把“视频世界模型”的评价焦点从画面合理性推进到任务级成功:模型必须能在自身生成的状态上闭环推进,而不是一次性输出整段视频。 与只做动作条件预测的世界模型相比(如 DreamX-Phi 1.0 输入预设动作序列预测未来观测),WorldGuide 强调由模型自行决定下一原子动作并在生成后重新判断状态,覆盖了“决策—执行—终止”的完整循环。 与关注物理表示或…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: