这篇论文提出一套用于高能物理(HEP)任务的系统化缩放律推导与架构比较流程;在约 110 亿喷注的 ATLAS JetSet2 数据集上,用多任务 Transformer 在计算约束和数据约束两类情形中验证:计算最优时模型与数据规模近似同等按 √C 扩展,辅助目标可降低主喷注分类损失,输入向更低层数据扩展可降低损失但缩放指数近不变;数据集规模低于阈值时,损…
值得关注:把语言模型领域的缩放律方法论系统化迁移到 HEP,并用大规模真实任务验证,有助于减少“单点架构比较”的外推风险。 强调数据规模本身决定高计算量缩放是否可信;若数据不足,增加算力未必带来可预测收益。 对 HEP 基础模型…