AI消息速览

InfiniHand:从自我中心视频流式估计世界空间手部运动

事件日期 2026-09-28 · 学术前沿 · 已接受

事件日期2026-09-28
信息日期2026-09-28
入库日期2026-09-29
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:InfiniHand:从自我中心视频流式估计世界空间手部运动

一句话结论

InfiniHand 是一个端到端、流式、前馈框架,可从未标定自我中心视频直接联合估计 MANO 参数、相机轨迹和手部位置;材料称其在域内基准上优于 SOTA,并在 ARCTIC PA-p 上较 ViDiHand 降低 21.4%,运行 11.19 FPS。

事件概述或研究问题

世界空间手部运动估计需要从自我中心视频恢复 3D 关节手部几何,同时追踪相机自运动。既有路线常把独立手部姿态估计器与 SLAM 系统级联,材料指出这会带来误差累积、管线复杂和严重计算开销。InfiniHand 声称用统一流式架构解决这些限制。

方法/产品要点

  • 端到端流式前馈:直接处理未标定自我中心视频。
  • 联合估计:MANO 参数、相机轨迹、手部位置。
  • 架构耦合:持久时空记忆 + 以手为中心的视觉特征;在统一架构中显式耦合相机运动与局部手部几何。
  • 两阶段训练:先学习鲁棒相机空间手部先验,再扩展到流式世界空间重建。
  • 预训练数据:聚合约 5,000 小时自我中心数据,来自多个公开数据集。
  • 具体网络结构、参数量、训练细节、数据集清单:待核实。

主要结果或产业意义

  • 域内基准:材料称优于 SOTA 基线。
  • ARCTIC PA-p:相比 ViDiHand 降低 21.4%。
  • 世界空间漂移:材料称显著减轻。
  • 泛化:对 in-the-wild 视频表现稳健。
  • 吞吐:11.19 FPS,超过 HaWoR 两倍以上。
  • 产业意义:材料没有直接给出行业落地结论;从描述看,其价值在于简化级联管线、减少误差累积并提升流式吞吐,具体应用场景和部署条件待核实。

为什么重要

  • 它把“手部几何”和“相机自运动”放在同一可流式框架中,针对的是自我中心视频世界空间追踪中的联合估计问题。
  • 若材料结果成立,可减少对独立手部姿态估计器 + SLAM 级联的依赖,并缓解误差累积和计算开销。
  • 与既有脉络的关系:DreamHand 已覆盖遮挡鲁棒的自我中心 3D 手部运动恢复;VidMap 关注视频 SfM 的时序结构;BLARM 关注前馈式物体动画。本条的增量在于端到端流式联合估计 MANO/相机轨迹/手部位置,并报告世界空间漂移抑制与吞吐对比。

局限与不确定性

  • 本卡片仅依据摘要与 arXiv 元数据,未核实论文全文。
  • ARCTIC PA-p 的指标定义、评测协议、基线配置、统计显著性:待核实。
  • 11.19 FPS 的硬件环境、输入分辨率、实时性定义:待核实。
  • 约 5,000 小时预训练语料的具体数据集组成、许可和预处理:待核实。
  • 代码、模型权重、数据是否开源:待核实。
  • 失败场景、长视频漂移边界、隐私与伦理影响:待核实。
  • 同行评审状态与最终出版版本:待核实。

可用于图书/PPT/简报的角度

  • “级联 vs 端到端”:用 InfiniHand 说明独立手部估计器 + SLAM 级联的误差累积、复杂管线和计算开销问题。
  • 两阶段训练图:相机空间手部先验 → 流式世界空间重建。
  • 架构图:持久时空记忆 + 手中心视觉特征,耦合相机运动与局部手部几何。
  • 数据规模:约 5,000 小时自我中心数据预训练。
  • 结果对比:ARCTIC PA-p 较 ViDiHand 降低 21.4%;11.19 FPS,超过 HaWoR 两倍吞吐。
  • 技术脉络:与 DreamHand、VidMap、BLARM 串联,展示自我中心手部、视频几何与前馈运动恢复的不同路线。

原始材料

  • 英文标题:InfiniHand: Streaming World-Space Hand Motion Estimation from Egocentric Video
  • 英文关键词(据材料提取,非官方关键词列表):world-space hand motion estimation; egocentric video; MANO parameters; camera trajectories; hand locations; streaming feed-forward; persistent spatiotemporal memory; hand-centered visual features; camera-space hand priors; world-space reconstruction; ARCTIC PA-p; ViDiHand; HaWoR
  • arXiv ID:2609.35743v1
  • 主分类:cs.CV;分类:cs.CV
  • 作者:Kerui Ren, Kaiwen Song, Weiguang Zhao, Yuxi Wang, Yufei Liu, Bo Dai, Haoyu Guo, Chunhua Shen, Mulin Yu, Tao Lu, Junting Dong
  • 发布/更新:2026-09-28T17:54:32Z(更新同)
  • 摘要 URL:https://arxiv.org/abs/2609.35743v1
  • PDF URL:https://arxiv.org/pdf/2609.35743v1
  • Track:academic;Topics:foundation-model

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

它把“手部几何”和“相机自运动”放在同一可流式框架中,针对的是自我中心视频世界空间追踪中的联合估计问题。 若材料结果成立,可减少对独立手部姿态估计器 + SLAM 级联的依赖,并缓解误差累积和计算开销。 与既有脉络的关系:DreamHand 已覆盖遮挡鲁棒的自我中心 3D 手部运动恢复;VidMap 关注视频 SfM 的时序结构;BLARM 关注前馈式物体…

相关主题

对应的教材知识点

教材知识点匹配尚未完成。