知识卡片:LaPla:从离散思维到连续动作的端到端自动驾驶潜对齐规划
一句话结论
LaPla 是一种面向端到端自动驾驶的“视觉-语言-动作”(VLA)统一框架,它通过潜空间对齐把视觉语言模型的高层语义理解与车辆连续运动控制连接起来,在推理时无需离散码本查找或自回归生成,而是直接输出物理上可行的连续动作轨迹。基于摘要中的结果,它在 nuScenes 开放循环测试和 NVIDIA AlpaSim 闭环仿真中均取得优于现有 VLA 方法的表现(具体数字见下文,原文细节待核实)。
事件概述或研究问题
大语言模型/视觉语言模型擅长进行离散的语义推理,如理解交通规则、场景意图与导航指令;但自动驾驶的底层控制需要连续、平滑且受车辆运动学约束的动作。如何弥合“离散思维”和“连续动作”之间的鸿沟,是端到端自动驾驶 VLA 模型面临的关键问题。
现有方法通常把动作离散化为 token 进行预测,这会引入量化误差,并且自回归生成较为耗时。LaPla 提出“潜对齐规划”:先训练一个基于残差 VQ-VAE 的动作分词器来刻画车辆运动学,再让多模态语义特征直接对齐到该动作潜空间,由冻结的解码器一步生成连续动作,从而绕过离散化和自回归过程。
方法/产品要点
- 动作分词器:使用残差向量量化变分自编码器(Residual VQ-VAE)对车辆轨迹进行压缩与编码,将动作特征组织到结构化的潜空间中。
- 潜对齐规划:将多视角图像、历史动作和文本指令等多模态输入,连同并行的 action queries 一起输入模型,在单次前向传播中因果地关注多模态上下文。
- 直接投影到潜空间:模型隐藏状态不是去查离散码本,而是直接投影到预训练 VQ-VAE 的连续潜空间。
- 冻结解码器生成动作:预训练 VQ-VAE 的解码器被冻结,将连续潜向量映射为精确动作轨迹,从而消除量化误差并保持运动学可行性。
- 非自回归高效推理:由于无需逐 token 自回归生成,推理延迟显著降低。
(以上要点来自论文标题与摘要级描述,完整网络结构和训练细节待核实。)
主要结果或产业意义
- 在 nuScenes 基准的开放循环评估中,LaPla 取得有竞争力的结果,相比最先进的 VLA 方法,长时 L2 误差降低了 15.52%。
- 在 NVIDIA AlpaSim 模拟器的闭环评估中,成功率提高了 33.34 个百分点,同时推理延迟显著降低(降低幅度的具体数值待核实)。
- 潜在产业意义:LaPla 提供了一种比自回归动作生成更高效的端到端 VLA 方案,可能更接近车载实时部署需求,并有助于提升车辆在复杂场景中的平滑行驶能力。
为什么重要
LaPla 尝试回答一个关键问题:如何让“会思考”的视觉语言模型真正“会开车”。它将离散的语义空间与连续的动作空间通过预训练潜空间对齐起来,既不损失 VLM 的语言推理能力,又避免了离散动作 token 带来的信息瓶颈和推理开销。
与既有脉络的关系/增量信息:与 SimWAM(2026-08-07)不同,SimWAM 将视频生成仅作为训练信号并在推理时丢弃视频分支,模型退化为轻量轨迹规划器;而 LaPla 在推理阶段保留了多模态语义输入,并利用冻结的 VQ-VAE 解码器在单次前向中输出连续动作。相比低成本微型 Ackermann 平台的工作侧重硬件与仿真到现实迁移,LaPla 更聚焦于 VLA 模型的动作表征与规划架构,并在大规模数据集和工业级模拟器上验证。
局限与不确定性
- 本卡片无法获取论文正文,所有结果均来自已知标题和摘要式描述,尚未经原文核实。
- 需进一步核实的内容包括:完整模型结构、VQ-VAE 训练细节、nuScenes 上的具体评估设置、15.52% 的 L2 误差下降对比的是哪些“最先进 VLA 方法”、AlpaSim 闭环评测的指标定义、33.34 个百分点的提升对应的基线模型,以及“推理延迟显著降低”的具体数值。
可用于图书/PPT/简报的角度
- 用一句话概括:端到端自动驾驶中,如何让“离散语言思维”直接指挥“连续车辆控制”?LaPla 用预训练动作潜空间作为桥梁,单次前向即可输出物理可行的轨迹。
- 技术对比图:离散动作 token 预测(量化误差 + 自回归) vs. 连续潜空间规划(无量化 + 并行非自回归)。
- 结构示意图:多视角图像 + 历史动作 + 文本指令 → 多模态编码 → action queries 潜对齐 → 冻结 VQ-VAE 解码器 → 连续轨迹。
- 产业叙事:相比自回归动作生成,单次前向的端到端 VLA 更利于降低车载推理延迟,是“大模型上车的工程化”候选路径之一。
原始材料
- 原始来源:arXiv:2609.04070v1
- URL: https://arxiv.org/abs/2609.04070v1
- 英文标题:Continuous Actions from Discrete Minds: Latent-Aligned Planning for End-to-End Autonomous Driving
- 英文关键词:Autonomous Driving; Vision-Language-Action (VLA); Latent-Aligned Planning; VQ-VAE; End-to-End Planning(基于标题与摘要归纳,原文关键词待核实)
- 备注:未能抓取原文正文,本知识卡片仅基于已知元数据(标题、摘要级说明)生成;所有实验结论应以正式论文版本为准。
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
LaPla 尝试回答一个关键问题:如何让“会思考”的视觉语言模型真正“会开车”。它将离散的语义空间与连续的动作空间通过预训练潜空间对齐起来,既不损失 VLM 的语言推理能力,又避免了离散动作 token 带来的信息瓶颈和推理开销。
相关主题
对应的教材知识点
教材知识点匹配尚未完成。