知识卡片:CliffCompaction:面向长时程编码智能体的成本高效自动压缩
一句话结论
CliffCompaction 是一种面向长时程编码智能体的自动上下文压缩技术,作者称其通过在有限上下文窗口下“只截断或丢弃、不改写”并避免压缩叠加,最高降低成本 50%,同时保持或提升 Terminal-Bench 表现,并在 KernelBench 上取得 CUDA 内核加速的 state-of-the-art 结果;但论文正文与实验细节未在来源材料中给出,具体设置待核实。
事件概述或研究问题
长时程编码智能体常需处理需要百万级 token 上下文的复杂问题;由于上下文窗口有限,跨会话必须进行压缩。本文研究的问题是:能否在有限上下文(bounded context)下自动压缩历史信息,既控制成本又不损害性能,并支持测试时扩展(test-time scaling)和跨会话持续学习。为此作者提出 CliffCompaction。
方法/产品要点
- 类型:autocompaction 技术,面向长时程编码智能体。
- 核心保真原则:压缩时只做截断(truncating)或丢弃(dropping),不重述、不改写(never rephrasing or rewriting)内容。
- 防漂移设计:不压缩“压缩产物”(never compact a compaction);每次压缩只作用于原始内容,并丢弃先前的压缩输出,以避免 context drift 累积。
- 工程形态:作者开源了一个 scaffold-agnostic 的 API-proxy 实现,称可用于 Claude Code、Codex 和其他 harnesses。
- 具体选择哪些内容截断/丢弃、压缩触发条件、API-proxy 实现细节:来源材料未展开,待核实。
主要结果或产业意义
- 成本:在 bounded context 下,CliffCompaction 最高降低 50% 成本。
- Terminal-Bench:保持或提升性能;在测试时扩展场景中,增加超过 10 个百分点,成本低于两次 full-context runs。
- 并行测试时扩展:作者称 Kimi K2.6 在 CliffCompaction 下可匹配 Opus 4.7,并超过 Opus 4.6 和 GPT-5.3 Codex,且成本更低。
- KernelBench:CUDA kernel speedups 达到 2.23×(200 步后)和 3.58×(400 步后),超过 specialized search algorithms 和 trained agents;作者强调 CliffCompaction 仍是 general-purpose compaction technique。
- 持续学习:这些性质支持超过百万 token 的跨会话持续学习。
- 产业意义:从材料看,压缩不只是省 token 的优化,还可能影响测试时扩展的性价比、不同模型在成本约束下的相对表现,以及编码 agent harness 的设计方式。是否可普遍复现及成本核算方式待核实。
为什么重要
长时程编码 agent 的主要瓶颈之一是上下文窗口与调用成本;如果压缩过程改写内容,可能引入语义漂移,并在多轮压缩中累积。CliffCompaction 的重要性在于提出一种“忠实压缩”原则:只截断/丢弃原始内容、不压缩压缩,从而在长会话中控制 drift,并把节省下来的 per-rollout 成本用于更多测试时采样或更长任务。对于编码 agent 产品与 API 中间层,这意味着可在不更换模型的情况下改善性能—成本曲线。
与既有脉络的关系(增量)
已有相关卡片分别覆盖训练侧压缩、主动记忆代理和长程智能体信用分配。本条材料的增量在于:CliffCompaction 更偏向推理/部署层的 autocompaction 与 API-proxy 集成,强调压缩信息保真、不压缩压缩、成本效率、测试时扩展和编码 harness 兼容;它是否可与训练侧压缩或记忆机制组合,来源材料未说明,待核实。
局限与不确定性
- 来源材料仅包含标题、摘要、作者、分类和链接,未包含论文正文、实验设置、任务版本、统计显著性和复现细节;相关具体结论待核实。
- “最高降低 50% 成本”的成本口径、上下文长度、调用价格、基线和任务分布未在材料中说明,待核实。
- Terminal-Bench、KernelBench 的评测协议、基线配置、模型版本与运行次数待核实。
- Kimi K2.6、Opus 4.7、Opus 4.6、GPT-5.3 Codex 的可用性、版本对应和成本对比细节待核实。
- “不压缩压缩”“丢弃先前压缩输出”在真实长任务中如何避免丢失关键信息,材料未展开,待核实。
- 开源 API-proxy 的许可证、代码仓库、维护状态、支持 harness 范围待核实。
- 是否经过同行评审、作者机构与利益冲突,材料未说明,待核实。
- 对非编码任务、其他语言/框架或其他智能体 scaffold 的泛化能力待核实。
可用于图书/PPT/简报的角度
- “忠实压缩”原则:只截断/丢弃,不改写,避免语义漂移。
- “不压缩压缩”:防止 context drift 在多次压缩中累积的工程模式。
- 测试时扩展的成本工程:用压缩提高每个预算内的 rollout 数量或步数。
- 长时程编码 agent 基础设施:scaffold-agnostic API-proxy 与 Claude Code、Codex 等 harness 的集成。
- 百万 token 会话与持续学习:KernelBench CUDA 优化案例。
- 模型能力与 harness/压缩的关系:压缩层可能改变不同模型在成本约束下的相对表现。
- 训练侧压缩与推理侧压缩的互补:RL 训练、记忆代理、信用分配与 autocompaction 的边界。
原始材料
- 英文标题:CliffCompaction: Cost-Efficient Compaction for Long-Horizon Coding Agents
- 英文关键词(据材料):long-horizon coding agents; autocompaction; context compaction; test-time scaling; bounded context; API-proxy; KernelBench; Terminal-Bench; CUDA kernel speedups; context drift
- 作者:Trang Nguyen, Eulrang Cho, Bingqing Chen, Tim Dettmers
- arXiv ID:2609.26779v1
- 分类:cs.AI, cs.LG, cs.SE
- 发布/更新:2026-09-22T17:55:59Z
- 摘要页:https://arxiv.org/abs/2609.26779v1
- PDF:https://arxiv.org/pdf/2609.26779v1
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
长时程编码 agent 的主要瓶颈之一是上下文窗口与调用成本;如果压缩过程改写内容,可能引入语义漂移,并在多轮压缩中累积。CliffCompaction 的重要性在于提出一种“忠实压缩”原则:只截断/丢弃原始内容、不压缩压缩,从而在长会话中控制 drift,并把节省下来的 per-rollout 成本用于更多测试时采样或更长任务。对于编码 agent 产品…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。