知识卡片:GeoThinker-$F$:面向快速空间智能的内生预测式世界表征
一句话结论
GeoThinker-$F$ 通过让多模态大模型(MLLM)自身隐状态预测当前几何与未来语义的潜在世界表征,在移除推理阶段外部 3D 编码器依赖的同时,实现最高 $3.6\times$ 推理加速(1.45 s → 0.40 s),并在多个空间智能基准上保持有竞争力的性能。
事件概述或研究问题
现有几何感知 MLLM 越来越依赖外部 3D 编码器提供结构先验,但在推理时执行这些额外编码器路径会带来显著的延迟与计算开销。GeoThinker-$F$ 研究的问题是:能否让 MLLM 在不依赖外部 3D 编码器的情况下,内部化时空感知能力,从而在保持空间推理性能的同时大幅提速。
方法/产品要点
- 核心思路:将因果 MLLM 的隐状态转化为预测式潜在世界表征;作者的关键洞察是,中间语义表征已包含足够信息来预测当前几何与未来语义的有用表征,无需精确复现专用 3D 编码器的特征。
- 两阶段解耦训练:
- 第一阶段:冻结 MLLM 主干,由轻量级 Latent Frame Prediction(LFP)头从离线 3D 几何专家与下一帧语义目标中学习。
- 第二阶段:移除外部专家,通过专门的 Spatial-Grounded Temporal(SGT)Fusion 模块联合优化模型,使其生成并选择性整合自预测先验。
- 关键模块:Latent Frame Prediction(LFP)头、Spatial-Grounded Temporal(SGT)Fusion 模块。
主要结果或产业意义
- 在多种空间智能基准上保持有竞争力的性能。
- 消除运行时对外部 3D 几何编码器的依赖。
- 实现最高 $3.6\times$ 推理加速,延迟从 $1.45,\mathrm{s}$ 降至 $0.40,\mathrm{s}$。
- 产业意义:为几何感知 MLLM 提供了一条降低推理成本、提升部署可行性的路径,尤其适合对延迟敏感的空间智能应用场景。
为什么重要
外部 3D 编码器路径在高频或实时场景中构成明显瓶颈。GeoThinker-$F$ 展示了“用模型自身语义隐状态预测空间先验”的可行性,为空间智能模型从“依赖外部专家”转向“内生预测”提供了方法参考。若该方法在更广泛基准与真实部署中成立,可能影响几何感知 MLLM 的架构设计与推理优化方向。
局限与不确定性
- 论文摘要未披露具体评测基准名称、评测指标数值、与哪些基线对比、消融实验细节,待核实。
- 摘要未说明第二阶段联合优化是否会影响 MLLM 原有语言或通用多模态能力,待核实。
- 摘要未提及训练成本、显存占用、离线 3D 几何专家的具体类型与规模,待核实。
- 摘要未说明 LFP 头与 SGT 融合模块的具体结构、参数量与训练超参,待核实。
- 推理加速数据(1.45 s → 0.40 s)对应的硬件、输入分辨率、批次大小等条件未给出,待核实。
- 论文发表于 arXiv(cs.CV),出版与同行评审状态待核实。
可用于图书/PPT/简报的角度
- “从外挂到内生”:空间智能模型减少对外部 3D 编码器依赖的一种思路。
- 两阶段解耦训练范式:先冻结主干学习预测头,再联合优化融合模块,可作为高效适配通用范式案例。
- 推理加速与性能权衡:$3.6\times$ 加速同时保持空间推理性能,适合用来说明“效率与能力并非必然取舍”。
- 潜在世界表征:将 LLM 隐状态视为可预测几何与未来语义的表征空间,可连接到世界模型与预测式表征学习主题。
与既有脉络的关系
既有卡片多聚焦于世界模型的生成质量(如 M⁴World 的多视角流式生成、CGSReg 的空间正则化)或机器人抓取的表征学习(SpaHybGen),本条则关注“几何感知 MLLM 如何在推理阶段去除外部 3D 编码器依赖并提速”,增量信息主要在于内生预测式空间表征与两阶段训练策略,而非世界模型生成或抓取策略本身。
原始材料
- Title: GeoThinker-$F$: Endogenous Predictive World Representations for Fast Spatial Intelligence
- arXiv ID: 2610.20592v1
- Authors: Haoyuan Li, Qihang Cao, Huanyuan Zhou, Xin Hu, Sijia Chen, Zihan Guo, Kun Xiang, Yunshuang Nie, Tao Tang, Xinlong Zheng, Jia-Wang Bian, Xianming Liu, Xiaodan Liang
- Published: 2026-10-14T17:59:03Z
- Primary category: cs.CV
- Abstract URL: https://arxiv.org/abs/2610.20592v1
- PDF URL: https://arxiv.org/pdf/2610.20592v1
- 关键词:Multimodal Large Language Models; Spatial Intelligence; Latent Frame Prediction; World Representations; 3D Geometry Encoder; Inference Efficiency
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
外部 3D 编码器路径在高频或实时场景中构成明显瓶颈。GeoThinker-$F$ 展示了“用模型自身语义隐状态预测空间先验”的可行性,为空间智能模型从“依赖外部专家”转向“内生预测”提供了方法参考。若该方法在更广泛基准与真实部署中成立,可能影响几何感知 MLLM 的架构设计与推理优化方向。
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: