知识卡片：CritICL：从小语言模型失败模式实现推理时弱到强泛化

一句话结论

CritICL 将弱模型产生的失败模式转化为批评式上下文示例，让强模型在推理时借鉴这些失败经验，从而以较低生成成本和较少采样次数获得与测试时扩展方法相当或更优的推理性能。

事件概述或研究问题

近期推理时扩展（inference-time scaling）方法显著提升了大语言模型的推理能力，但通常依赖重复生成或外部验证，计算开销较高。本文提出 CritICL，一种不依赖外部验证、只需少量生成的推理时框架，利用同一模型家族中“弱模型失败模式具有结构化规律”这一观察，将失败模式作为指导强模型推理的信号。

方法/产品要点

• 核心思路：从较弱模型生成的失败/错误中提取批评（critique），将其作为上下文示例（in-context examples）注入强模型的推理过程，使强模型避免类似错误。
• CritICL-dynamic：动态预测当前输入特有的失败模式，并检索相关批评示例，提供针对性指导。
• CritICL-static：使用全局失败模式概况（global failure mode profile）提供稳定、通用的指导。
• 共性：两种变体均为推理阶段方法，不涉及模型微调或策略蒸馏；具体实现细节（如失败模式提取方式、批评生成模型、检索策略）待核实。

主要结果或产业意义

• 在实验设置（具体基准和模型待核实）上，CritICL 持续优于标准上下文学习（ICL）。
• 与测试时扩展方法相比，CritICL 在性能相当或更优的情况下，所需生成次数和 token 成本更低。
• 代码已开源：https://github.com/umwyf/CRITICL
• 产业意义：为高成本推理场景提供了一种“少采样、低token”的推理增强方案，可能降低大模型推理服务的运营成本。

为什么重要

• 将“失败”重新定义为可利用的指导信号，而非仅仅需要避免的负面输出，为弱到强泛化提供了新的推理时实现路径。
• 与已有的 Direct-OPD（通过策略蒸馏实现弱到强泛化）不同，CritICL 不需要在弱模型上运行强化学习并将策略偏移作为训练信号，而是直接在推理中使用弱模型的失败模式。
• 与 PyroDash（按 token 卸载到小模型）不同，CritICL 不是小-大模型间的 token 级协同，而是利用失败模式检索上下文批评来增强强模型。

局限与不确定性

• 论文正文未抓取，以下信息待核实：具体实验基准与数据集、模型系列和规模、对比的测试时扩展基线、失败模式提取与批评生成的详细方法、效率提升的量化数值。
• 摘要未说明该方法对跨模型家族或强弱模型差异过大时是否仍然有效。
• 未明确说明对需要多步推理的复杂任务（如数学竞赛级题目）的适用边界。

可用于图书/PPT/简报的角度

• 推理时扩展如何从“暴力采样”转向“智能利用失败”。
• 弱到强泛化中的“失败即数据”：小模型错误如何成为大模型的前车之鉴。
• 低推理成本、高性能的上下文学习设计案例。
• “用批评代替多次采样”可能是下一代推理时扩展的重要方向。

原始材料

• 英文标题：CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes
• 英文关键词：foundation-model（主题标签）；inference-time scaling; weak-to-strong generalization; in-context learning; LLM failure modes（根据标题与摘要提炼）
• 来源：arXiv:2608.27455v1（Track: academic；Topics: foundation-model）
• URL：https://arxiv.org/abs/2608.27455v1