知识卡片：统一多模态模型的连续空间潜在推理

一句话结论

LARC 提出在连续隐藏状态空间中进行推理，以替代离散 token 空间的思维链，从而缓解统一多模态模型中“推理在离散域、生成在连续域”的模态错配问题，并在 GenEval 上比 BAGEL 提升 7 个百分点。

事件概述或研究问题

论文针对统一多模态模型（UMMs）的一个瓶颈：这类模型在多模态理解与生成任务上表现良好，但难以把基于语言的思维链推理有效用于图像生成，因此未能继承大语言模型中观察到的测试时缩放与细粒度可控性。作者将失败原因归结为根本性的模态不匹配——推理发生在离散 token 空间，而图像生成发生在连续空间。为此提出 LARC（Latent Reasoning framework in Continuous space），通过在连续隐藏状态上推理来缓解 token 级瓶颈。

方法/产品要点

• 训练框架分为两个阶段：
  1. 课程式监督微调（curriculum SFT）：逐步把 token 级推理转换为潜在推理。
  2. 信息增益强化学习（information-gain RL）：在无真值监督的情况下让潜在推理自我演化。
• 核心设计是在连续隐藏状态上进行推理，而非在离散 token 上展开思维链。
• 论文未在摘要中给出模型规模、训练数据量、潜在推理的具体维度或 RL 奖励函数细节，这些待核实。

主要结果或产业意义

• 在多种文本到图像生成基准上，LARC 一致提升生成质量、提示词遵循与组合保真度。
• 在 GenEval 上达到当时最优性能，相较 BAGEL 提升 7 个百分点。
• 表现出清晰的测试时缩放行为，在并行与串行两种测试时缩放策略下均优于基于 token 的生成方式。
• 产业意义上，这为“推理增强的生成模型”提供了离散 token 之外的替代路线，可能影响多模态生成系统的推理接口设计与测试时算力分配策略。

为什么重要

现有推理增强型 UMM 难以像 LLM 那样通过增加推理长度获得稳定收益，LARC 把推理载体从离散 token 换成连续隐状态，直接针对这一错配。若该路线可复现，意味着多模态生成模型的测试时缩放不必依赖语言 token 展开，而可在连续空间内扩展，这对统一理解—生成架构的设计有方向性意义。本条与既有卡片无直接延续关系，属于新增的连续空间推理路线。

局限与不确定性

• 摘要未披露潜在推理的具体表示形式、训练成本、RL 阶段所用信息增益的具体定义，待核实。
• 评测集中在文本到图像生成基准（如 GenEval），对其他多模态生成任务（如编辑、视频）的泛化性待核实。
• “state-of-the-art” 为作者自述，且对比基线为 BAGEL，是否覆盖同期其他方法待核实。
• 论文发表于 arXiv，同行评审状态待核实。

可用于图书/PPT/简报的角度

• 作为“推理与生成模态错配”问题的典型案例：离散语言推理 vs 连续图像生成。
• 作为“测试时缩放从 LLM 迁移到多模态生成”的路线对比素材：token 展开 vs 连续隐状态推理。
• 作为统一多模态模型训练范式演进的例子：课程式 SFT + 无真值 RL 的两阶段设计。
• 可在讲解“潜在推理（latent reasoning）”时与显式思维链做对照。

原始材料

• 标题：Latent Reasoning in Continuous Space for Unified Multimodal Models
• arXiv ID：2610.42149v1
• 作者：Byungwoo Jeon, Yoonwoo Jeong, Hyunseok Lee, Minsu Cho, Jinwoo Shin
• 发布：2026-10-30T17:59:43Z
• 主分类：cs.CV；分类：cs.CV, cs.CL, cs.LG
• Abstract URL：https://arxiv.org/abs/2610.42149v1
• PDF URL：https://arxiv.org/pdf/2610.42149v1