据摘要信息,仅用约 600 道训练题对推理模型做“自监督置信度”微调,把置信度当作训练目标而非推理时控制信号,就能在准确率不降的前提下最多减少约 25% 的生成 token——即推理效率可能作为学习元认知信号的副产品自发出现,而无需直接优化长度或停止行为。(以上具体数值与设定均待核实)
值得关注:概念上的增量:把“效率”从被直接优化的目标,转变为学习元认知信号的**下游副产品**,这与常见的长度惩罚 RL 和推理期早停形成方法论对照。 工程上的潜在含义:若无需推理时置信度抽取或早停逻辑即可省 token,则部署…