知识卡片：缺失的原语：诊断并修复大语言模型中的数学推理

一句话结论

该论文提出用“数学原语”（Mathematical Primitive）探查大语言模型的结构性数学理解，并以四维基准诊断数学推理；摘要称“发现”（Discovery）是主要瓶颈，发现受限型失败更可修复，进而提出一种原语优先的自蒸馏框架，在多种模型规模和困难基准上稳定提升数学推理。基准与框架的具体名称待核实。

事件概述或研究问题

• 英文标题：The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models。
• 研究问题：大语言模型（LLMs）在前沿数学问题上表现突出，但是否具备支撑解题的结构性数学理解，仍不清楚。
• 论文目标：从诊断数学理解的不同能力出发，并利用诊断结果改进后训练（post-training）。

方法/产品要点

• 引入“数学原语”（Mathematical Primitive）概念，用于探查结构性数学理解。
• 提出一个新基准（摘要中以 \hlei{} 表示，展开名称待核实），从四个维度评估数学推理：Discovery、Generation、Digestion、Execution。
• 对模型进行系统诊断，观察其不同能力画像。
• 提出一个原语优先的自蒸馏框架（摘要中以 \abs{} 表示，展开名称待核实），选择性地将“原语引导的推理”迁移到学生模型。

主要结果或产业意义

• 解题准确率会掩盖不同的能力画像。
• 原语能释放大量潜在执行能力（latent execution capacity）。
• Discovery 是数学推理的主导瓶颈。
• 后训练分析显示，发现受限型失败（discovery-limited failures）特别适合修复。
• 实验显示，该自蒸馏框架在多种模型规模和困难基准上，持续优于基线，提升数学推理。

为什么重要

• 如果数学能力不能仅用最终答案准确率衡量，那么评估需要区分发现、生成、消化、执行等能力。
• 该工作把“诊断—修复”连接起来：先定位数学推理瓶颈，再通过后训练转移原语引导推理。
• 与已有关于模型表面表现与真实理解/忠实性差距的卡片主题间接相关；本条增量在于聚焦数学推理的结构性理解，并提出四维诊断与自蒸馏修复路径。

局限与不确定性

• 仅依据 arXiv 摘要与元数据，未获取全文；基准名称 \hlei{}、框架名称 \abs{} 未在摘要中展开，待核实。
• 具体模型规模、基准数据、实验设置、评价指标、统计显著性和复现细节待核实。
• 摘要中的结论需以正文实验与消融验证为准；原语定义、四维度操作化方式待核实。
• 论文发布/更新状态与同行评审状态待核实。

可用于图书/PPT/简报的角度

• 从“答案正确”到“能力画像”：数学推理评估的四维拆解。
• “发现”比“执行”更难：为何数学推理瓶颈可能在前端。
• 诊断驱动后训练：把失败类型转化为修复策略。
• 自蒸馏的新用法：选择性迁移原语引导推理。
• 可作案例说明 LLM 数学能力评估中表面指标与结构理解的差异。

与既有脉络的关系

• 与已有“总结偏差”“VLA 忠实性”“DataGovBench”卡片都涉及模型表面表现与真实能力/真实场景差距；本条聚焦数学推理，提出原语、四维基准与后训练修复，属于该主题在数学推理方向的具体延伸。

原始材料

• 英文标题：The Missing Primitive: Diagnosing and Repairing Mathematical Reasoning in Large Language Models
• 英文关键词（据摘要提取）：Large Language Models (LLMs), Mathematical Primitive, Discovery, Generation, Digestion, Execution, primitive-privileged self-distillation
• arXiv ID：2610.02191v1
• 作者：Shuo Xing, Zilin Dai, Chengyuan Qian, Fangzhou Lin, Wenjing Chen, Ping He, Pan Lu, Alvaro Velasquez, Mohit Bansal, Zhengzhong Tu
• 发布时间：2026-10-01T17:59:32Z
• 更新：2026-10-01T17:59:32Z
• 主分类：cs.LG
• 分类：cs.LG
• 摘要链接：https://arxiv.org/abs/2610.02191v1
• PDF：https://arxiv.org/pdf/2610.02191v1