知识卡片：LongZero——从零数据提升大语言模型长上下文推理

一句话结论

LongZero 提出一种不依赖任何外部语料或更强教师模型的长上下文强化学习数据合成方法：先让模型在紧凑结构化形式中自拟问题、答案与支撑证据，再单独把证据扩展为长多文档上下文，并结合自拟多跳推理任务与多轮检索任务，用 GRPO 训练模型，从而提升其长上下文推理能力。

事件概述或研究问题

• 强化学习（RL）是增强大语言模型（LLM）长上下文推理的有效手段，但需要“长、多样、有挑战性且可验证”的训练数据。
• 人工标注此类数据成本高昂，自然产生数据不足以支撑 RL，现有合成方法又依赖外部语料或更强的教师模型，而随着被训练模型变强，这些资源愈发难以获得。
• 已有的“零数据 RL”（模型从自己提出的任务中学习）在短上下文任务上表现优异，但尚无方法针对长上下文任务。

方法/产品要点

• 核心思路：让 LLM 在无任何外部数据的情况下自我提升长上下文推理。
• 数据合成流程：不直接在现有文档上写问答，而是先让模型以紧凑结构化形式合成“问题 + 答案 + 支撑证据”，再单独将证据扩展为长多文档上下文。
• 任务组合：将自写的多跳推理任务与自写的多轮检索任务相结合。
• 训练算法：使用 GRPO 进行训练。
• 评测设置：在两个 LLM 上、跨五个长上下文推理基准进行评估，并与“基于外部语料合成数据做 RL”的基线对比。

主要结果或产业意义

• 实验结果显示 LongZero 能够泛化到真实任务，并优于两个基线（外部语料合成数据 RL 基线及摘要中提及的另一基线，具体基线构成待核实）。
• 摘要称其是一条可行且有前景的长上下文推理能力提升路径。
• 具体基准名称、模型规模、性能提升数值等细节未在摘要中给出，待核实。

为什么重要

• 缓解了长上下文 RL 对昂贵人工标注、稀缺自然数据以及外部语料/强教师模型的依赖，使模型能力提升更“自给自足”。
• 将“零数据 RL”从短上下文任务扩展到长上下文任务，填补了该方向的方法空白。
• 对与既有卡片“Copy Less, Ground More”（关注长上下文推理中重复复制行为与证据感知奖励）的关系：两者都涉及长上下文推理中的证据聚焦问题，但 LongZero 侧重训练数据的零外部依赖合成，GEAR 侧重奖励设计；本条为长上下文 RL 数据来源问题提供了新的增量视角。

局限与不确定性

• 摘要未披露具体评测基准名称、所用两个 LLM 的规模与类型，待核实。
• “优于两个基线”的具体提升幅度、统计显著性未给出，待核实。
• 自拟任务的质量与多样性上限、证据扩展后上下文长度范围未说明，待核实。
• 论文发表于 arXiv（2026-10-21），是否经同行评审待核实。

可用于图书/PPT/简报的角度

• “零数据 RL”从短上下文走向长上下文：数据自给自足的训练范式演进。
• 合成数据的“先结构化、后扩展”策略：先保证可验证性，再制造长上下文难度。
• 长上下文能力提升的去外部依赖路径：当教师模型不再更强时怎么办。
• 多跳推理 + 多轮检索的任务组合设计，可作为 RL 任务构造的案例。

与既有脉络的关系

• 与“Copy Less, Ground More”同属长上下文推理改进方向，但问题切入点不同：后者诊断并纠正“重复复制”行为（奖励层面），本条解决训练数据从哪来（数据层面），二者可视为互补而非重复。

原始材料

• 标题：LongZero: Enhancing Long-Context Reasoning in LLMs from Zero Data
• 作者：Zhennan Wan, Jianfei Chen
• arXiv ID：2610.30132v1
• 发布/更新：2026-10-21T17:59:14Z
• 主分类：cs.CL；分类：cs.CL, cs.LG
• 摘要页：https://arxiv.org/abs/2610.30132v1
• PDF：https://arxiv.org/pdf/2610.30132v1
• 关键词：long-context reasoning, reinforcement learning, RL from zero data, GRPO, synthetic data, multi-hop reasoning, multi-round retrieval