知识卡片：基础模型可借训练数据中的起始 token 线索推理

一句话结论

论文摘要称，基础模型在数学与编码任务上的推理表现，可被响应开头的特定 token 线索大幅改变；这些线索与训练数据中的文档类型及安全行为相关，RL 会提高其出现概率。

事件概述或研究问题

论文英文标题为 Base Models Can Reason By Taking a Cue From Training Data，作者为 Sophie L. Wang、Amil Dravid、Rulin Shao、Kevin Farhat、Sewon Min、Alexei A. Efros，发布在 arXiv：2610.06851v1，时间为 2026-10-05T17:59:52Z，分类为 cs.LG、cs.AI、cs.CL。

研究问题是：训练数据如何建立“基础模型响应开头的 token”与“后续推理行为”之间的关联。摘要覆盖数学与编码推理、RL 后训练、训练数据因果干预，以及语言模型安全案例。

方法/产品要点

• 固定基础模型响应开头的特定 token 线索，并比较其与 RL 训练对应模型在数学、编码任务上的表现。
• 分析 RL 是否让这些线索更可能出现；并测试固定这些线索后，能否恢复 RL 相对基础模型带来的部分性能增益。
• 进行因果数据干预：把任意词如 “chicken” 变成有效推理线索，或移除已有线索的效果。
• 对提示指令做类似编辑，使 “Think duck duck goose” 在引发推理上与 “Think step by step” 一样有效。
• 观察不同线索诱导的隐藏状态表示，是否与训练集中不同文档类型相关。
• 用安全案例研究扩展 token 线索分析：不同线索引发不同的拒绝与合规行为，并对应不同类型的训练数据。
• 具体干预流程、数据规模、完整模型清单、统计检验与复现细节，待核实。

主要结果或产业意义

• 固定线索 “.\n\nOkay” 使 Olmo-3-7B 在 MATH-500 上的 pass@1 准确率从 42% 提高到 78%。
• 固定线索 “Alright,” 使 Qwen3-14B 在 MATH-500 上的 pass@1 准确率从 72% 提高到 87%。
• 摘要称，基础模型在固定起始 token 线索后，表现可与 RL 训练对应模型竞争；具体任务范围和差距待核实。
• RL 会让这些线索更可能出现；固定这些线索可恢复 RL 相对基础模型的大部分性能增益。
• 通过数据编辑，任意词可被赋予推理线索作用，现有线索效果也可被移除，提示推理效果与训练数据存在因果关联。
• 不同线索对应的隐藏状态表示与训练集中的不同文档类型相关。
• 产业意义：评估、提示设计、RL 后训练分析、训练数据审计和安全对齐，可能需要把“响应起始 token”和“训练数据关联”纳入考虑，而不只看显式提示指令。

为什么重要

如果摘要结论成立，推理能力并非完全由 RL 后训练新造，而可能部分来自基础模型已具备、可被训练数据中的线索触发的行为模式；RL 的部分效果可能体现在提高这些线索的出现概率。这为 “Think step by step” 之类提示的有效性提供了数据侧解释视角，也提示安全行为可能被特定线索触发或改变。

与所提供的已有相关卡片关系：MCES、工业控制系统异常检测、CordisBench 三张卡片没有与本条重复陈述同一事实；本条作为 foundation-model 主题下的增量材料，聚焦“训练数据—起始 token 线索—推理/安全行为”的关联与因果干预。

局限与不确定性

• 当前材料仅为 arXiv 摘要与元数据，论文全文、附录和实验细节不在来源中，待核实。
• 编码任务的具体基准、数值与结论，待核实。
• 模型数量、训练数据规模、RL 算法、干预设计、统计显著性和复现性，待核实。
• “与 RL 训练对应模型竞争”的具体差距、任务范围和评估协议，待核实。
• 安全案例中拒绝与合规行为的定义、训练数据类型映射，待核实。
• 因果数据干预能否排除所有混淆因素，摘要无法确认，待核实。
• 英文关键词列表非作者关键词字段，来源未单列关键词，待核实。

可用于图书/PPT/简报的角度

• “一个开头词就是行为开关”：起始 token 如何激活推理或拒绝模式。
• 训练数据里的“影子提示”：文档类型如何塑造 token 线索。
• RL 后训练的再解释：提升的是线索概率，还是独立新增能力？
• 提示工程与安全对齐：从显式指令到隐式触发词。
• 因果数据干预作为可解释性工具：用数据编辑验证行为来源。
• 评估设计：固定或变化响应起始 token 对基准分数的影响。

原始材料

• 英文标题：Base Models Can Reason By Taking a Cue From Training Data
• 英文关键词：base models; reasoning; token cues; training data; reinforcement learning; MATH-500; Olmo-3-7B; Qwen3-14B; language model safety; refusal; compliance
• 作者：Sophie L. Wang, Amil Dravid, Rulin Shao, Kevin Farhat, Sewon Min, Alexei A. Efros
• arXiv ID：2610.06851v1
• Published/Updated：2026-10-05T17:59:52Z
• Primary category：cs.LG
• Categories：cs.LG, cs.AI, cs.CL
• Abstract URL：https://arxiv.org/abs/2610.06851v1
• PDF URL：https://arxiv.org/pdf/2610.06851v1
• 来源摘要：In this paper, we study how training data creates associations between the tokens at the start of a base model's response and the reasoning behavior that follows. First, we demonstrate that fixing particular starting token cues makes a base model's performance competitive with that of its reinforcement learning (RL)-trained counterparts on math and coding. For instance, the cue ".\n\nOkay" raises Olmo-3-7B's MATH-500 pass@1 accuracy from 42% to 78%, while "Alright," raises Qwen3-14B's from 72% to 87%. Second, RL makes these cues more likely, while fixing them recovers much of its performance gain over the base model. Third, we trace the reasoning effects of token cues to the training data. We perform causal data interventions to turn an arbitrary word, such as "chicken", into an effective reasoning cue, or remove an existing cue's effect. A similar edit makes the prompt instruction "Think duck duck goose" as effective as "Think step by step" at eliciting reasoning. We also find that the hidden state representations induced by different cues correlate with different document types from the training set. Finally, we extend our study of token cues with a case study in language model safety, finding that different cues elicit distinct refusal and compliance behaviors that correspond to different types of training data.