知识卡片：LatComm——面向大语言模型间潜通信的可复用上下文压缩

一句话结论

LatComm 提出一种“编码一次、按问读取”的潜通信接口：冻结的上下文编码器 LLM 将长上下文压成固定大小的数据包，另一个冻结的接收器 LLM 通过交叉注意力按问题选择性读取，从而在多个模型协作场景中同时实现紧凑、跨问题复用与跨模型可读。

事件概述或研究问题

多 LLM 组合系统常需用同一份上下文回答多个问题。若以文本形式在模型间传递上下文，接收模型每回答一个问题都要重新处理全部 token，成本随问题数线性增长。要避免这一开销，上下文表示需同时满足三点：紧凑、可跨问题复用、可被另一个 LLM 读取。论文指出，现有压缩方法与潜通信方法各自只覆盖其中部分属性，LatComm 试图三者兼备。

方法/产品要点

• 核心思路是将编码与读取分离：上下文在不带问题的情况下编码一次，接收器针对每个问题自行选择读什么。
• 编码端为一个冻结的上下文编码器 LLM，将上下文压缩为固定大小的数据包（packet）。
• 接收端为另一个不同的冻结接收器 LLM，通过交叉注意力读取该数据包，读取门控由其提示（prompt）计算得出。
• 该接口不依赖文本传递，也不要求两个模型共享参数。

主要结果或产业意义

• 在 12 个多项选择问答数据集上，LatComm 相对单向量（single-vector）基线的平均准确率提升最高达 10.2 个百分点。
• 在 QuALITY 数据集上，接收器输入减少 57 倍，回答一篇文章所附问题速度提升 3 倍。
• 产业意义在于：多模型流水线中长上下文的分发成本可从“每问一次全量重算”转为“一次编码、多次轻量读取”，对检索增强、文档问答、多智能体协作等场景有直接参考价值。

为什么重要

多 LLM 系统的瓶颈往往不在单模型能力，而在模型间传递信息的格式与成本。LatComm 把“上下文压缩”与“潜通信”两个方向合并，给出一种可复用的中间表示，使接收模型无需重读原文即可按需取用。与既有卡片中关注权重压缩（BiSCo-LLM）或预算感知模型路由的工作不同，本条聚焦的是上下文层面的跨模型传输效率，属于同一“降低推理成本”脉络下不同层次的增量。

局限与不确定性

• 论文摘要仅报告多项选择问答与 QuALITY 的结果，其他任务类型（开放生成、多轮对话等）的表现待核实。
• “固定大小数据包”对不同长度上下文的保真度上限、以及信息损失如何随包大小变化，摘要未说明，待核实。
• 门控由接收器提示计算，其在不同提示风格下的稳健性待核实。
• 两个模型均冻结，训练仅涉及接口部分的具体设置（如交叉注意力层数、训练数据规模）待核实。
• 57 倍输入缩减与 3 倍加速的测量条件（硬件、批大小、基线定义）待核实。

可用于图书/PPT/简报的角度

• “一次编码、多问复用”：把上下文当作可缓存资源而非每次重传的文本。
• 模型间通信的三种属性权衡（紧凑 / 可复用 / 跨模型可读），可作为讲解潜通信领域的分析框架。
• 多 LLM 系统的成本结构：从 token 重处理成本转向接口读取成本。
• 与其他降本路径（权重压缩、模型路由、重采样）并列，构成“推理成本工程”图谱。

与既有脉络的关系

既有卡片分别讨论水印的选择性披露、权重极低位压缩、以及预算约束下的模型选择与重采样。LatComm 不涉及权重压缩或模型选择，而是在上下文传输层提出可复用压缩接口，可作为“降低多模型系统推理开销”主题下的补充案例，与前两者构成不同层面的成本优化手段。

原始材料

• 标题：LatComm: Reusable Context Compression for Latent Communication between Large Language Models
• 作者：Huawei Lin, Jinting Liu, Tan Yu, Weijie Zhao
• arXiv ID：2610.26840v1（cs.CL；交叉 cs.AI）
• 发布/更新：2026-10-19T17:58:41Z
• 摘要页：https://arxiv.org/abs/2610.26840v1
• PDF：https://arxiv.org/pdf/2610.26840v1
• 关键词：Latent Communication；Context Compression；Cross-Attention；Frozen LLMs；Multi-LLM Systems