知识卡片：LapMerge：线性时间、可微分且具备精确预算的 Token 合并

一句话结论

LapMerge 是一种面向有序序列的可微分 Token 合并算子，通过学习到的质量分布在 Laplace 核密度下把序列划分为恰好 N 个等质量片段并聚合，从而在 O(M+N) 时间内同时实现精确输出预算、端到端可微分与线性开销。

事件概述或研究问题

现代视觉与语言模型处理的 Token 序列越来越长，减少 Token 数量是控制下游成本的主要手段。但 Token 压缩面临一个根本性权衡：选择（selection）类方法会直接丢弃信息，而既有合并（merging）类方法要通过成对 Token 匹配或 MN 量级的 Token 到输出交互来保留信息，代价高。LapMerge 试图为有序序列同时解决这一权衡。

方法/产品要点

• 核心机制：用学习到的质量（mass）分布在 Laplace 核密度下把序列分割为恰好 N 个等质量片段，再用前缀/后缀扫描（prefix/suffix scans）聚合每个片段。
• 复杂度：前向与反向传播均为 O(M+N) 线性时间。
• 三重特性组合：精确输出预算 + 端到端可微分 + 线性成本，作者称这正是以往压缩器需要互相权衡的点。
• 预算灵活性：可以在不改变算子参数的情况下更改输出预算 N。
• 可解释性副产品：学习到的质量可充当 Token 级映射，显示预算被分配到了哪些位置。
• 使用方式：既可作为即插即用的压缩模块，也可作为可训练的网络架构组件。

主要结果或产业意义

• 在视觉与视觉-语言任务上，LapMerge 匹配或优于强 Token 压缩器。
• 在长序列下，速度可比对比方法快最多两个数量级。
• 当 Token 顺序反映空间或时间局部性时，效果尤为突出。
• 产业意义上，长序列推理成本的主要杠杆是 Token 数量，LapMerge 提供的线性时间、可微、精确预算组合可能降低长上下文视觉/多模态模型的训练与推理开销。

为什么重要

长上下文与高分辨率输入的模型成本高度依赖 Token 数量。既有方法往往在“信息保留”“精确预算”“计算效率”“可微训练”之间做取舍，LapMerge 声称同时满足这几点，且在大序列长度上速度优势显著。与既有卡片（如 JustFit 关注 KV 状态管理与本地推理内存、预算感知模型选择关注查询预算分配）不同，本条聚焦的是序列层面的 Token 合并算子本身，属于基础模型效率方向中“输入侧压缩”的另一条路径。

局限与不确定性

• 论文为 arXiv v1（2026-10-09），尚未确认是否经过同行评审。
• 具体实验设置、数据集、基线选择与数值结果无法从现有材料逐项确认，待核实。
• “快最多两个数量级”的具体序列长度与硬件条件待核实。
• 等质量片段划分依赖 Token 顺序有意义（空间/时间局部性）这一前提，顺序无意义时的表现待核实。
• 代码与预训练权重是否公开、可复现性待核实。

可用于图书/PPT/简报的角度

• “Token 压缩的三难困境”：信息保留、精确预算、线性成本能否兼得——LapMerge 作为一个声称兼得的案例。
• 有序序列专用压缩：为什么空间/时间局部性让等质量分段有效。
• 可微分压缩 vs. 硬选择：训练友好性如何影响下游任务表现。
• 效率模块的双重身份：即插即用组件 vs. 可训练架构组件对模型设计的影响。
• 长上下文成本结构：输入侧 Token 压缩与 KV 侧状态管理（可对照 JustFit 卡片）两条降本路线的对比。

原始材料

• 标题：LapMerge: Differentiable Exact-Budget Token Merging in Linear Time
• arXiv ID：2610.13858v1
• 作者：Magdalena Trędowicz, Aleksandra Nowak, Tomasz Steifer, Łukasz Struski, Szymon Płotka, Jacek Tabor
• 发布时间：2026-10-09T17:07:17Z（v1）
• 主分类：cs.CV；分类：cs.CV
• Abstract URL：https://arxiv.org/abs/2610.13858v1
• PDF URL：https://arxiv.org/pdf/2610.13858v1

关键词：Token merging, token compression, differentiable reduction, exact budget, linear time, Laplace kernel, vision-language models