知识卡片：Velox——用空间记忆让世界模型更高效

一句话结论

Velox 是一种无需训练的注意力路由方法，利用流式几何中的视锥平板（frustum slab）对应关系做区域级上下文选择，缓解分块视频扩散世界模型中 KV 缓存随 rollout 增长而变慢的瓶颈，在保持接近稠密模型质量的同时显著加速。

事件概述或研究问题

视频世界模型把动作与相机运动转化为长视觉 rollout，使视频成为交互式仿真的自然接口。但连贯的 rollout 必须保留已生成内容的视觉记忆；分块视频扩散模型通常把这种上下文存入不断增长的 KV 缓存，导致越往后生成越慢。Velox 针对的正是这一随 rollout 长度增长的注意力开销问题。

方法/产品要点

• 训练无关的注意力路由：Velox 不重新训练模型，而是在注意力层面做区域级上下文选择。
• 几何表示：把历史块表示为带深度区间的相机视锥平板；当前块深度通过“新近优先的多重 warp”（recency-priority multiwarp）获得。
• 软调制：对覆盖良好的区域，用视锥平板重叠度 soft 调制每一层由模型导出的块重要性；未覆盖区域保留模型原始路由，不引入几何偏置。
• 执行对齐：固定的 token-block 粒度匹配 FlashAttention 式分块执行，削减随 rollout 长度增长的注意力项。
• 异步构建：视锥平板构建与去噪在同一张 H200 上异步进行。

主要结果或产业意义

• 在第 48 个 chunk 时，Velox 将注意力加速 4.36×、去噪加速 2.43×。
• 在完整 158 例 WBench 导航划分上，与稠密 LingBot-Fast-Cam 相比，平均分差在 0.15 API-free 分以内（即质量基本持平）。
• 产业意义：为交互式视频世界模型提供了一条不重训、可插拔的推理加速路径，直接针对长 rollout 的延迟瓶颈。

为什么重要

交互式仿真要求响应式生成，而当前分块扩散世界模型的延迟随历史增长而恶化。Velox 把“空间记忆”从被动堆积的 KV 缓存转为基于几何对应的选择性上下文，说明可以利用场景几何先验来约束注意力范围，而不牺牲连贯性。与既有卡片相比：R2M-Bench 关注如何评估重访记忆，Velox 则给出了一种利用空间对应关系降低记忆访问成本的方法，二者构成“评估—优化”的互补增量。

局限与不确定性

• 依赖深度与相机几何（视锥平板、multiwarp）的可得性与准确性；材料未说明深度估计误差对路由质量的影响，待核实。
• 实验集中在 WBench 导航划分与 LingBot-Fast-Cam 基线，其他世界模型架构与场景类型的泛化性待核实。
• 加速数据为第 48 chunk 与 H200 单卡设定，其他硬件与更长 rollout 的表现待核实。
• “API-free 平均分”的具体定义与评测细节材料未展开，待核实。

可用于图书/PPT/简报的角度

• “空间记忆代替暴力缓存”：用几何对应做注意力路由的直观示意。
• 长 rollout 延迟曲线：分块扩散模型 KV 缓存增长 vs. Velox 的固定块粒度。
• 训练无关加速插件的工程价值：异步几何构建与 FlashAttention 分块执行的契合。
• 与世界模型记忆评估（如 R2M-Bench）配对讲述“记忆的评估与优化”。

原始材料

• 标题：Velox: Spatial Memory Makes World Models Efficient
• 作者：Qiuhong Shen, Shizun Wang, Xinchao Wang
• arXiv ID：2610.22311v1（cs.CV，2026-10-15）
• 摘要页：https://arxiv.org/abs/2610.22311v1
• PDF：https://arxiv.org/pdf/2610.22311v1
• 项目页：https://velox-world.com/velox/
• 关键词：video world models; chunked video diffusion; KV cache; attention routing; frustum slab; FlashAttention; training-free acceleration