AI消息速览

LLM能像人类一样从经验抽象中受益吗？

事件日期 2026-07-22 · 学术前沿 · 已接受

返回列表 打开来源
事件日期2026-07-22
信息日期2026-07-22
入库日期2026-07-23
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片：LLM能像人类一样从经验抽象中受益吗？

英文标题: Notes to Self: Can LLMs Benefit from Experiential Abstractions?
英文关键词: experiential abstractions; large language models; reasoning; retrieval; reinforcement learning
原始来源: https://arxiv.org/abs/2607.20372v1

一句话结论

LLM能够从自身或教师模型的解题轨迹中提取自然语言形式的经验抽象（如策略和警示），并通过推理时检索或强化学习训练来提升数学和逻辑推理性能，且自提取抽象与教师提取抽象效果相当。

研究问题

人类将经验提炼为可复用的抽象（例如解题策略、易错提醒），并在后续问题中逐步应用以提高效率。本研究探讨大型语言模型（LLM）是否也能从类似的**经验抽象（experiential abstractions）**中获益。

方法/产品要点

  • 抽象提取来源：基于LLM在MATH训练集上的解题轨迹，由更强的教师模型或LLM自身提取自然语言形式的抽象，存入可检索的抽象库。
  • 两种使用模式：
    1. 推理时检索（inference-time retrieval）：在模型推理时从抽象库中检索相关抽象并注入上下文。
    2. 强化学习（RL）训练：将抽象增强的训练提示用于强化学习，引导模型在训练中利用这些抽象。
  • 自提取与教师提取对比：LLM自己提取的抽象与教师模型提取的抽象在性能上相当。
  • 可迁移性：该抽象使用框架可迁移到其他数据集和模型。

主要结果

  • 经验抽象显著提升了LLM在数学和逻辑推理基准测试上的表现。
  • 自提取抽象与传统教师模型提取抽象的效果匹配。
  • 框架具有跨数据集和跨模型的迁移能力。

为什么重要

本研究首次系统验证了LLM可以像人类一样从解题经验中提炼可复用的自然语言抽象，并利用这些抽象持续改进自身推理能力。与已有相关卡片（如自我精炼、自监督增强）相比，本研究提供的增量信息在于：不是通过反复修改同一输出或依赖干净token，而是建立了一个抽象库并在推理或训练中显式调用，更贴近人类“记笔记留后参考”的学习方式。

局限与不确定性

  • 实验仅在数学（MATH）和逻辑推理任务上验证，其他领域（如常识推理、代码生成）的效果待核实。
  • 抽象库的构建依赖较强的教师模型或充足的解题轨迹，低资源场景下的表现待核实。
  • 抽象的可解释性和冗余控制未在材料中详细说明，待核实。

可用于图书/PPT/简报的角度

  • 类比人类学习中的“错题本”与“策略笔记”，说明LLM如何用类似机制自我提升。
  • 对比“即时推理优化”（如思维链）与“离线抽象积累”两种路径，说明后者的潜力。
  • 作为“LLM自我改进”主线下的一个具体案例——从回忆经验到主动抽象。

原始材料

标题: Notes to Self: Can LLMs Benefit from Experiential Abstractions?
arXiv ID: 2607.20372v1
作者: Chang Liu, Xinyu Li, Artur Dubrawski
发布时间: 2026-07-22
摘要原文: Humans distill experience into reusable abstractions, e.g., strategies and cautionary reminders, and apply them to gradually solve problems more effectively. We study whether Large Language Models (LLMs) can similarly benefit from such experiential abstractions. From LLMs' solution traces on the MATH training set, a stronger teacher or the LLMs themselves extract natural-language abstractions into a retrievable library. We explore two usage modes: (1) inference-time retrieval and (2) reinforcement learning (RL) with abstraction-augmented training prompts. Experiential abstractions improve LLM performance on mathematical and logical reasoning benchmarks. Self-extracted abstractions match teacher-extracted ones, and our abstraction usage framework can transfer to other datasets and models. These findings suggest LLMs can extract and apply experiential abstractions much as humans leverage distilled experience.
PDF链接: https://arxiv.org/pdf/2607.20372v1