知识卡片:Tev——用稠密进度奖励扩展长程智能体环境
一句话结论
Tev 通过“先构建潜世界、再渲染任务环境”的数据构造方式,把长程任务的进度转化为可验证的稠密奖励,并用进度势能奖励塑形(PPRS)训练出 Tev-27B,在 Agents' Last Exam 计算与数学科学域达到与 GPT-6 Astra、Claude Opus 5 相当的 Pass@5 表现。
事件概述或研究问题
- 长程智能体被期待能自主工作数小时到数天,完成有经济价值的任务,这一能力被视为自动发现与递归自我改进(RSI)的关键。
- 开源模型在长程任务上仍落后,主要受限于两点:缺少训练数据、缺少可用的训练配方。
- 长程复杂任务难以策展与验证,且奖励稀疏;本文试图同时解决数据与训练配方两端的扩展难题。
方法/产品要点
- Tev-Gym 数据集:论文称为首个具备可验证、稠密、渐进式奖励的长程智能体训练数据集,包含 7 个领域的 1,170 个已验证任务环境。
- 潜世界优先(latent-world-first)构造法:先构建一个完整的“潜世界”——任务领域、工作流以及每一步之后预期状态的隐藏规范;再从该规范逐步渲染出面向智能体的环境,从而获得可控复杂度与自然的进度度量。
- 进度势能奖励塑形(PPRS):把上述进度度量转换为逐步的稠密奖励,提升训练效率,并使原本难以训练的任务变得可训练。
- Tev-27B 模型:用该配方训练得到的 27B 模型。
主要结果或产业意义
- 在 Agents' Last Exam 计算与数学科学域(ALE-CM)上取得显著提升,Pass@5 匹配 GPT-6 Astra 与 Claude Opus 5。
- 尽管仅使用 ALE 相关数据训练,仍泛化到 Terminal-Bench(TB)3.0 与 4.0 子集,超过 GLM 5.2 与 Gemini 3.7 Flash。
- 在 TB 2.1 等中等长度任务上达到 Claude Opus 4.8 级别的表现。
- 产业意义:稠密进度奖励可能成为长程智能体训练的关键配方,缓解长程任务“奖励稀疏、难以验证”的扩展瓶颈。
为什么重要
- 长程自主能力是自动发现与 RSI 的前提,而开源模型在此长期落后;Tev 同时给出数据构造与训练配方两条路径。
- “潜世界优先”把任务的正确性验证前置到规范层,再渲染为环境,为长程任务的自动化策展与可验证性提供了一种可扩展范式。
- 与 CompactionRL(从压缩历史中学习、面向编码任务)不同,Tev 的增量在于从环境构造与奖励塑形层面解决长程训练问题,而非上下文压缩。
与既有脉络的关系
- 既有卡片 CompactionRL 关注将上下文压缩融入强化学习以支持长程智能体训练;Tev 关注的是环境与奖励层面的扩展(可验证稠密奖励 + 潜世界数据构造),两者在“长程智能体如何可训练”这一问题上互补,但技术路径不同。
- 本条未涉及多教师在线策略蒸馏或基于图的工作流编排,与相关既有卡片无直接事实重叠。
局限与不确定性
- 论文声称 ALE-CM 上的对比结果匹配 GPT-6 Astra 与 Claude Opus 5、TB 2.1 上达到 Claude Opus 4.8 级别,但具体评测设置、基线版本与统计口径待核实。
- Tev-Gym 覆盖 7 个领域的具体领域清单、任务数量分布与验证方式细节待核实。
- PPRS 的实现细节(势能函数形式、与标准 RL 目标的结合方式)摘要未展开,待核实。
- 模型规模、训练算力与训练数据规模等训练成本信息摘要未给出,待核实。
- “首个具备可验证稠密渐进式奖励的长程智能体训练数据集”为作者自述,是否成立待核实。
可用于图书/PPT/简报的角度
- 长程智能体的“数据荒”与“奖励稀疏”双重瓶颈,以及可能的破解路径。
- 潜世界优先:把正确性验证前置到规范层,再渲染为可训练环境——一种可扩展的任务合成范式。
- 稠密进度奖励(PPRS)如何把“不可训练”的长程任务变为“可训练”。
- 开源模型在长程任务上追平闭源前沿的案例与边界(训练域与泛化域的关系)。
- 长程能力与自动化发现、RSI 之间的关联叙事。
原始材料
- 标题:Tev: Scaling Long-Horizon Agentic Environments with Dense Progress Rewards
- arXiv ID:2610.18868v1
- 作者:Wenbo Hu, Shraman Pramanick, Krishna Kumar Singh, Nanyun Peng, Kai-Wei Chang, Yong Jae Lee
- 发布/更新:2026-10-13T17:59:51Z
- 主分类:cs.CL;分类:cs.CL, cs.AI, cs.CV, cs.LG
- 摘要页:https://arxiv.org/abs/2610.18868v1
- PDF:https://arxiv.org/pdf/2610.18868v1
- 关键词(英文):long-horizon agents, dense progress rewards, latent-world-first, progress-potential reward shaping (PPRS), Tev-Gym, Tev-27B, Agents' Last Exam (ALE-CM), Terminal-Bench (TB)
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
长程自主能力是自动发现与 RSI 的前提,而开源模型在此长期落后;Tev 同时给出数据构造与训练配方两条路径。 “潜世界优先”把任务的正确性验证前置到规范层,再渲染为环境,为长程任务的自动化策展与可验证性提供了一种可扩展范式。 与 CompactionRL(从压缩历史中学习、面向编码任务)不同,Tev 的增量在于从环境构造与奖励塑形层面解决长程训练问题,而…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: