知识卡片：自适应循环 Transformer 改善测试时扩展

一句话结论

在循环 Transformer 的后训练中引入自适应迭代决策器 TaH2，把额外循环迭代集中在真正受益的 token 上，可在 AIME 上同时改善测试时扩展的准确率-计算量斜率与匹配计算量下的准确率。

事件概述或研究问题

• 英文标题：Improving Test-Time Scaling with Adaptive Looped Transformers。
• 研究问题：looped Transformer 通过复用层进行潜在计算，已有工作多在参数匹配或每 token FLOPs 匹配下比较循环与非循环模型；但“输出变长时，looping 是否改善 test-time scaling”仍探索不足。
• 作者通过后训练循环 Transformer，研究 accuracy-compute slope，即测试时解码 FLOPs 每翻倍带来的准确率增益。
• 发现：既有循环 Transformer 常比非循环 baseline 有更陡的斜率，但在匹配计算量下反而表现更差。

方法/产品要点

• 固定深度 looping 会对每个 token 都花额外迭代；分析显示很多 token 并不能从额外迭代中获益。
• 提出 TaH2，使模型把额外迭代集中在能从 looping 中获益的 token 上。
• TaH2 联合后训练主干网络和迭代决策器（iteration decider），采用 lookahead depth supervision。
• 该方法使用在线标签，指示“进一步迭代是否会改善预测”。
• 代码开源：https://github.com/thu-nics/TaH 。

主要结果或产业意义

• 在具有挑战性的 AIME 基准上，摘要报告 TaH2 相对非循环 baseline 将 accuracy-compute slope 提升 53%（2.74 vs. 1.79）。
• 在匹配测试时计算量下，TaH2 超过 baseline 的峰值准确率约 3.4 点。
• 随最大迭代深度增加，既有循环模型大体进入平台期；TaH2 相对非循环 baseline 的增益从 depth 2 的 +2.8 点继续增长到 depth 8 的 +3.9 点。
• 产业意义：若可复现，这指向 token 级动态分配循环深度的测试时扩展路径，而不只是统一增加采样数或每 token 迭代数。

为什么重要

• 已有相关卡片分别关注自适应采样预算、测试时扩展的评估/可复现性、以及无验证器置信度轨迹选择；本条增量在于模型架构内部的循环深度自适应，而非外部采样或轨迹选择框架。
• 它把测试时扩展的效率指标落到 accuracy-compute slope，强调“每翻倍解码 FLOPs 的准确率增益”，而不只看峰值准确率或单点预算。
• 若方法泛化，可能帮助长输出推理在相同测试时算力下获得更好准确率，并让循环 Transformer 的参数效率优势更接近测试时效率优势。

局限与不确定性

• 当前信息来自 arXiv 摘要；全文中的训练细节、基线设置、消融实验和统计显著性待核实。
• AIME 之外的任务、模型规模、解码策略和领域泛化能力待核实。
• accuracy-compute slope 的具体定义、FLOPs 记账方式和“每翻倍”计算协议需以全文为准。
• “在线标签”“lookahead depth supervision”和迭代决策器的具体实现、训练成本与推理开销待核实。
• 代码链接可用性、可复现性和是否已经同行评议待核实。

可用于图书/PPT/简报的角度

• 从“更多算力不等于更多准确率”转向“把迭代算力花在需要的 token 上”。
• 测试时扩展的粒度演化：采样预算 → 轨迹选择 → token 级循环深度预算。
• 循环 Transformer 的双重效率：参数复用效率与测试时计算效率。
• 评估指标案例：accuracy-compute slope / 每翻倍解码 FLOPs 的准确率增益。
• 开源复现与自适应深度决策的可解释性讨论。

原始材料

• 英文标题：Improving Test-Time Scaling with Adaptive Looped Transformers
• arXiv：https://arxiv.org/abs/2609.35748v1
• PDF：https://arxiv.org/pdf/2609.35748v1
• arXiv ID：2609.35748v1
• 作者：Yichen You, Tianyu Fu, Aosong Feng, Xingtai Lv, Xuefei Ning, Ning Ding, Yu Wang
• 发表日期：2026-09-28（材料中 Published: 2026-09-28T17:56:55Z）
• 分类：Primary cs.CL；Categories cs.CL, cs.LG
• 代码：https://github.com/thu-nics/TaH
• 英文关键词（材料未单列，以下取自标题/摘要核心术语）：looped transformers; test-time scaling; adaptive looped transformers; TaH2; iteration decider; lookahead depth supervision; accuracy-compute slope; AIME