知识卡片：自精炼流水线中的不对称容量分配

一句话结论

在由“生成—批评—修订”构成的大语言模型自精炼流水线中，模型容量不应均匀分配：更大的生成器与修订器通常带来更好性能，而过小的修订器甚至会损害结果；批评器的规模对整体性能影响极不敏感，但即便使用很小的批评器也比完全跳过批评环节更优。

事件概述或研究问题

自精炼（self-refinement）通常被组织为生成（generation）、批评（critique）和修订（revision）三个阶段，是提升大语言模型生成质量的常用范式，也是许多LLM智能体的核心机制。这三个阶段对模型能力的需求并不相同，但现有研究大多把模型规模当作实现细节，较少系统考察模型规模对各阶段效果的影响。本文首次针对自精炼流水线进行分阶段的模型规模研究，核心问题是：有效的自精炼是否要求生成、批评、修订三个阶段使用同等能力的模型？容量应如何在各阶段之间分配？

方法/产品要点

• 研究设计：在来自不同领域的5个基准（benchmarks）上，使用Qwen3的6种模型规模和Gemma 3的4种模型规模，对自精炼流水线进行阶段式（stage-wise）规模扫描。
• 流水线结构：生成→批评→修订；每个阶段可独立配置不同规模的模型。
• 比较逻辑：分别考察生成器、批评器、修订器的规模变化对最终流水线性能的影响，并与“完全省略批评环节”的基线进行比较。

主要结果或产业意义

• 生成器与修订器：较大的生成器和修订器通常能改善流水线整体性能；但若修订器规模过小，可能不仅无益，反而会损害最终性能。
• 批评器：整体性能对批评器的规模高度不敏感；但即使是一个很小的批评器，也始终优于完全不进行批评的设定。
• 核心启示：模型容量不应在自精炼流水线中统一、均匀地配置；不同阶段具有不同的规模缩放特性，这为设计计算效率更高的多阶段语言模型系统提供了实用指导。

为什么重要

已有相关研究多关注“递归自我改进”的分类框架、验证信号强度，或小模型代码修复中的内容归因问题；本条工作则将“模型规模”本身作为自变量，针对自精炼的三个阶段分别刻画其规模效应。增量信息在于：首次给出了阶段式的不对称容量分配证据，尤其是指出“批评器可以很小而修订器不能太小”这一反直觉结论，为多阶段LLM系统中的资源预算分配提供了直接的工程参考。

与既有脉络的关系

• 与“AI中的递归自我改进”相比：该卡片提出有界自精炼与开放式递归自我改进的分类法，强调自我评估信号；本卡片不讨论递归循环或验证层级，而是聚焦经典单轮自精炼流水线内部的容量分配，属于“有界自精炼”场景下的工程性研究。
• 与“自利代理人社会中市场稳定性的正式机制”相比：两者主题无关。
• 与“冻结小代码模型中基于提示与权重的学习型错误条件自修复”相比：该卡片在小模型、错误内容归因的安慰剂对照中未确认内容优越性；本卡片则在更大规模、三阶段流水线中研究容量规模的影响，不涉及错误内容归因。

局限与不确定性

• 具体五个基准的名称、各模型规模的参数量、具体性能数值与对比图表，在摘要中未列出，待核实。
• 是否覆盖多种任务类型（如代码、数学、对话、通用指令等）以及是否在非Qwen/Gemma模型上成立，待核实。
• “过小的修订器会伤害性能”的阈值效应，以及批评器规模不敏感是否在所有领域和提示设定下一致，待核实。
• 本文为arXiv预印本（v1），尚未确认同行评审状态。

可用于图书/PPT/简报的角度

• 大模型系统的算力分配：不是所有环节都需要最大模型，识别“瓶颈环节”和“冗余环节”可以节省计算资源。
• 自精炼流水线的设计指南：生成器和修订器应优先配置大模型，批评器可用小模型替代，且不能省略批评。
• 从“模型越大越好”到“阶段相关的规模缩放”：展示一种更精细的模型容量敏感性分析方法。

原始材料

• 英文标题：Asymmetric Capacity Allocation in Self-Refinement Pipelines
• 英文关键词：Asymmetric Capacity Allocation; Self-Refinement; Model Scaling; Generation-Critique-Revision; LLM Agents
• 作者：Zhuoyi Yang, Ian G. Harris, Salar Hashemitaheri, Cassie Huang, Yuangang Li, Hyunwoo Oh, Paul Dourish, Tony Givargis, Mohsen Imani, Li Zhang
• 发布/更新：2026-08-21T17:52:17Z
• 分类：cs.LG（Primary），cs.LG（Categories）
• arXiv ID：2608.21345v1
• 摘要URL：https://arxiv.org/abs/2608.21345v1
• PDF URL：https://arxiv.org/pdf/2608.21345v1