AI消息速览

世界嵌入基准(World Embedding Benchmark)

事件日期 2026-10-02 · 学术前沿 · 已接受

事件日期2026-10-02
信息日期2026-10-02
入库日期2026-10-06
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:世界嵌入基准(World Embedding Benchmark)

一句话结论

World Embedding Benchmark 用 8,000 个受控仿真案例评测视频表示中的物理信息,发现预训练全模态嵌入模型在跨模态物理对齐上较弱,但轻量探针可从冻结视频嵌入中恢复部分物理属性;同时,物理特定的持续对比训练会提升对齐与配对分类,却可能牺牲定量物理属性回归。

事件概述或研究问题

物理保真在世界模型与视频生成中受到越来越多关注,但视频表示如何编码物理信息仍不够清楚。该工作提出 World Embedding Benchmark,包含来自 80 个 family 的 8,000 个受控仿真案例,覆盖流体力学、固体力学、动力学、光学与电磁学。每个案例将渲染视频与仿真导出的物理标注配对,并支持三类互补任务:文本-视频检索、物理属性回归、多选视频-描述对分类。其核心目标是区分“跨模态物理对齐”与“定量物理信息可恢复性”。

方法/产品要点

  • 数据规模:8,000 个受控仿真案例,80 个 family,覆盖流体力学、固体力学、动力学、光学与电磁学。
  • 数据形式:每个案例包含渲染视频与仿真导出的物理标注。
  • 评测任务:文本-视频检索、物理属性回归、多选视频-描述对分类。
  • 模型评测:预训练 omnimodal 嵌入模型;轻量探针用于从冻结视频嵌入中恢复物理信息。
  • 训练干预:使用物理特定视频-文本对进行持续对比训练。
  • 生成应用:使用嵌入检索参考视频,用于 MiniMax-H3 的检索增强生成(RAG)。
  • 具体仿真器、渲染设置、数据划分、评测指标与模型清单:待核实。

主要结果或产业意义

  • 预训练全模态嵌入模型在检索任务上表现较弱,族内配对分类接近随机水平。
  • 轻量探针可从冻结视频嵌入中恢复有用的物理信息。
  • 物理特定视频-文本对的持续对比训练可提升检索与配对分类,但会降低物理属性回归表现,显示“跨模态对齐”与“定量信息可恢复性”之间存在权衡。
  • 使用嵌入检索参考视频可提升 MiniMax-H3 生成视频的物理保真;实验显示检索模型越强,生成物理保真的收益越大。
  • 产业意义在于:物理感知的视频表示可用于检索增强视频生成;评测世界模型或视频生成时,需要同时评估物理对齐与物理属性可恢复性,而不能只看跨模态对齐。

为什么重要

该工作把物理保真评测从生成画质或跨模态对齐,推进到“视频嵌入是否保留可恢复的定量物理信息”这一层面,并指出对齐训练可能损害定量信息。与已有相关卡片相比,UniClawBench 偏主动智能体真实任务评测,UAV-DualCog 偏无人机多模态时空推理,CPI-Bench 偏真实世界图像编辑;本条增量在于面向世界模型/视频生成,构建视频嵌入层面的物理信息基准,并把表征评测连接到 RAG 视频生成的物理保真提升。未发现其直接延续上述卡片的事实脉络。

局限与不确定性

  • 摘要未给出具体数值结果、统计显著性、评测模型完整列表与训练细节,待核实。
  • 80 个 family 的具体划分、训练/测试拆分、案例生成流程与领域覆盖偏差,待核实。
  • 仿真到真实世界的泛化能力,以及渲染视频与真实视频之间的差距,待核实。
  • MiniMax-H3 的版本、配置、RAG 流程与生成评估方法,待核实。
  • 数据、代码、模型是否公开,待核实。
  • 论文同行评审状态与发表 venue,待核实。
  • 英文关键词是否为作者官方关键词列表,待核实;以下关键词为据摘要提取。

可用于图书/PPT/简报的角度

  • “物理保真不只看生成画质”:视频表示需同时评测跨模态对齐与定量物理属性可恢复性。
  • 基准设计角度:受控仿真 + 仿真导出标注 + 三类互补任务。
  • 方法权衡角度:持续对比训练可能提升检索与分类,但损害物理属性回归。
  • 生成应用角度:检索物理参考视频用于 RAG,可能提升视频生成物理保真。
  • 世界模型评测路线:从静态图像编辑、智能体任务扩展到物理视频嵌入与生成保真。

原始材料

  • 英文标题:World Embedding Benchmark
  • arXiv ID:2610.03632v1
  • Authors:Yiqi Liu, Ruifeng Yuan, Yang Wang, Long Li, Fengyu Cai, Hou Pong Chan, Jialin Yu, Hao Zhang, Chenghua Lin, Chenghao Xiao
  • Published:2026-10-02T17:24:25Z
  • Updated:2026-10-02T17:24:25Z
  • Primary category:cs.CV
  • Categories:cs.CV, cs.CL
  • Abstract URL:https://arxiv.org/abs/2610.03632v1
  • PDF URL:https://arxiv.org/pdf/2610.03632v1
  • 英文关键词(据摘要提取,待核实是否为官方关键词):world models; video generation; physical fidelity; video representations; benchmark; text-video retrieval; physical-property regression; multiple-choice video-description pair classification; retrieval-augmented generation; MiniMax-H3

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

该工作把物理保真评测从生成画质或跨模态对齐,推进到“视频嵌入是否保留可恢复的定量物理信息”这一层面,并指出对齐训练可能损害定量信息。与已有相关卡片相比,UniClawBench 偏主动智能体真实任务评测,UAV-DualCog 偏无人机多模态时空推理,CPI-Bench 偏真实世界图像编辑;本条增量在于面向世界模型/视频生成,构建视频嵌入层面的物理信息基准…

相关主题

对应的教材知识点

教材知识点匹配尚未完成。