知识卡片：将大语言模型的推理词元刻画为“词元之上的状态”

一句话结论

这篇 Perspective 提出 State over Tokens (SoT) 概念框架，把推理词元（reasoning tokens）重新理解为“外化的计算状态”，而非对推理过程的语言叙述，从而解释为何这些词元能驱动正确推理、却在被当作文本阅读时不构成忠实解释。

事件概述或研究问题

• 来源：Nature Machine Intelligence，Perspective 文章，在线发表 2026 年 10 月 7 日。
• 作者：Mosh Levy、Zohar Elyoseph、Shauli Ravfogel、Yoav Goldberg 等。
• 问题起点：大语言模型越来越依赖生成推理词元，这些词元表面上描述了模型得出结论的推理过程；但经验证据显示，当把它们当作文本阅读时，它们并不是模型实际推理过程的忠实解释。
• 文章要处理的正是这种“表象与功能之间的落差”。

方法/产品要点

• 提出 State over Tokens (SoT) 概念框架。
• SoT 的核心重构：推理词元不是“语言叙述”，而是外化的计算状态——即在多个独立生成周期之间持续保留计算的机制。
• 该框架试图说明：为什么这些词元可以在不作为忠实文本解释的情况下，仍驱动正确的推理。
• 文章据此提出此前被忽视的研究问题，并主张研究应超越“把词元当文本读”，同时把词元当作状态来解码。

主要结果或产业意义

• 文章指出 SoT 框架可澄清两个常见误解：
  1. 认为文本记录了完整过程；
  2. 认为模型使用这些词时，采用人类读者所赋予的含义。
• 作者认为该框架“准确捕捉机制，同时保持简单直观”，并据此开辟新的研究方向。
• 图 1 展示了跨周期 0, 1, …, n 的词元生成过程，最终答案在最后一个周期产生（具体图示细节待核实）。

为什么重要

• 与已有相关卡片的关系：本卡片处理的是 推理词元本身的机制定位，而非某一具体任务中的忠实性结论。
  • 相较“视觉-语言-行动模型是否表里如一？”（聚焦具身推理忠实性），本条把问题从“是否言出必行”推进到“这些词元在机制上究竟是什么”。
  • 相较“总结偏差”（聚焦叙事被压缩为标签的偏向），本条不讨论偏差方向，而是重新定义推理词元的功能角色。
  • 相较“缺失的原语”（聚焦数学推理的瓶颈与修复框架），本条是概念框架层面的重构，而非诊断—修复方法。
• 增量信息：提供了一种理解 reasoning tokens 的替代视角，可能影响后续对“思维链可解释性”和忠实性评估的解读方式。

局限与不确定性

• 本文为 Perspective（观点/框架类文章），而非实证研究报告；SoT 是一个概念框架，其可检验性与预测力待核实。
• 摘要为订阅预览，正文完整内容与具体论证细节待核实。
• 文章引用的多项证据来自预印本（arXiv 等），其结论的稳健性待核实。
• SoT 与其他解释框架（如把中间词元视为“无意义但有效”）之间的关系待核实。

可用于图书/PPT/简报的角度

• “推理词元不等于推理过程”：把思维链当作文本来读可能误导。
• 从“读文本”到“解码状态”：研究方法的转向。
• 两个常见误解：文本记录完整过程？模型使用人类含义？
• 可解释性与忠实性的边界：能驱动正确答案，不等于能解释正确答案。
• 概念框架如何开辟新研究问题：以 SoT 为例。

原始材料

• 标题：Characterizing the role of reasoning tokens in large language models as state over tokens
• 来源：Nature Machine Intelligence（Perspective）
• 在线发表：2026 年 10 月 7 日
• DOI：10.1038/s42256-026-01303-y
• URL：https://www.nature.com/articles/s42256-026-01303-y
• 关键词（英文）：reasoning tokens; State over Tokens (SoT); chain-of-thought faithfulness; large language models; interpretability