知识卡片：惊奇理论是同义反复（没有理性基础）

一句话结论
惊奇理论声称人类语言处理难度与语言模型下的惊奇度成仿射关系；但若不对语言模型施加额外约束，该理论无法证伪，实为同义反复。

事件概述或研究问题
作者论证了“惊奇理论”（Surprisal Theory）的核心主张——上下文中语言单位的处理难度是该单位在某个语言模型下惊奇度的仿射函数——在缺乏理性约束时是一个同义反复。具体而言，对于任何非负难度度量，在温和技术条件下都存在一个语言模型，其惊奇度与该度量成仿射关系。因此，任何难度模式都能与某个语言模型一致，使得该理论无法做出可证伪的预测。

方法/产品要点

• 理论分析：作者从数学上指出，给定任意非负上下文难度度量，可以构造一个语言模型使其惊奇度是该度量的仿射变换。
• 经验背景：过去二十年心理语言学隐含假设“相关语言模型是生成训练语料的分布”，从而认为改进语料拟合能提升人类行为预测。近期实验推翻了这一假设——更好的语料模型反而可能是更差的行为预测器。
• 解决方案：打破同义反复需要理性主义干预，即语言模型必须源自非经验驱动的理解者模型（如基于记忆约束或处理目标），而非依赖要解释的行为数据。

主要结果或产业意义

• 主要结果：惊奇理论在无附加约束时是空洞的；语言模型的选择不能仅凭语料拟合度决定。
• 产业意义：对自然语言处理（NLP）中基于语言模型预测人类阅读时间的应用提出根本性质疑；开发可解释的认知模型需转向理性架构，而非单纯缩放数据。

为什么重要

• 挑战了心理语言学二十年来的隐性假定（更好的语言模型≈更好的认知模型），对认知科学和NLP交叉领域具有颠覆性。
• 与已有相关卡片无直接重复。本卡片聚焦于语言模型作为认知理论的基础逻辑缺陷，而非特定任务（如依存句法或多智能体）的实证结果。

局限与不确定性

• 待核实：作者提供的具体数学构造细节及技术条件（如“温和技术条件”的具体定义）。
• 待核实：文中是否包含对其他候选约束（如信息论最优性）的正式检验。
• 待核实：论文是否讨论了理性主义干预的实际实现方案或局限性。

可用于图书/PPT/简报的角度

• 认知科学与AI的张力：为何更好的语言模型不一定更“像人”？
• “同义反复”在科学理论中的警示：如何避免数据驱动的循环论证？
• 从惊奇理论到理性主义：下一代认知模型的设计原则。

原始材料

• 英文标题: Surprisal Theory is Tautological (without Rational Grounding)
• 英文关键词: surprisal theory, tautology, language model, psycholinguistics, rational grounding
• 原始来源: https://arxiv.org/abs/2607.21574v1
• Track: academic; Topics: foundation-model