知识卡片:RECAST:通过自适应证据路由学习计算正确的上下文
一句话结论
RECAST 把“找证据”从固定的相似度检索扩展为可学习、可执行的“检索 + 计算”序贯决策,让证据被主动推导而非仅被取回;论文报告在六个异构基准族上平均成功率 75.6%,比最强的大模型基线高 15.9%。
事件概述或研究问题
- 大语言模型越来越多被用于依赖长且异构信息源的任务。
- 传统 Retrieval-Augmented Generation(RAG)依赖固定的、基于相似度的检索。
- Agentic 变体虽然会自适应调整查询和工具使用,但仍然以检索为中心。
- 论文指出的核心问题:许多任务所需的证据并不显式存在于任何单一来源条目中,而必须通过对多个条目的过滤、聚合或计算来推导。
方法/产品要点
- RECAST(Routing Evidence through Computation, Access, and Synthesized Tools)把证据构建形式化为在异构检索与计算操作上的序贯决策过程,允许证据被主动推导,而不只是被检索。
- RouterLM:轻量路由器模型,迭代地选择并构造原语操作(primitive operations),或为自定义操作给出规格。
- CompilerLM:冻结的编译器模型,把 RouterLM 指定的操作翻译成可执行代码。
- AnswerLM:当 RouterLM 判定证据已充分时,把被接受的证据交给冻结的 AnswerLM,生成最终解答。
- 训练方式:先对 RouterLM 做监督微调(SFT),随后做 group relative policy optimization(GRPO)。
主要结果或产业意义
- 在六个异构基准族上,RECAST 取得 75.6% 的平均成功率,比最强的大模型基线高 15.9%。
- 训练使 Qwen3.5-9B RouterLM 比免训练的 Gemini 3.5 Flash RouterLM 高 5.0%。
- 在三个留出基准(held-out benchmarks)上,RECAST 平均比最强基线提升 15.0%,论文称这体现了跨任务、跨异构来源表示的零样本泛化能力。
为什么重要
- 范式增量:它不只优化“检索什么”,而是把上下文构建变成“取什么、算什么、何时算够”的决策问题,把计算操作纳入证据构造的一等公民。
- 架构增量:RouterLM 可训练、CompilerLM 与 AnswerLM 冻结的分工,意味着能力提升集中在轻量路由器上,便于与既有模型组件组合。
- 与既有脉络的关系:本卡片延续“如何更有效地为长上下文任务获取证据”这条线。已有卡片《Copy Less, Ground More》关注通过证据感知奖励抑制重复复制;RECAST 的增量在于把证据本身变成可由操作序列构造的对象,并给出 RouterLM 的具体训练配方(SFT + GRPO)与跨基准数字。与《学习何时思考》这类“决定推理长度/测试时计算分配”的工作不同,RECAST 决定的是“获取与计算哪些证据”,而非“思考多久”。
局限与不确定性
- 材料未列出六个基准族与三个留出基准的具体名称、构成与任务类型——待核实。
- 未说明对比基线的完整清单、统计显著性、方差或重复次数——待核实。
- 未给出 RouterLM 的参数量、训练数据规模、训练成本、推理延迟与调用开销——待核实。
- 未说明代码、模型或数据是否开源——待核实。
- 论文的发表/同行评审状态、版本历史与后续修订情况——待核实。
- 材料中出现的具体模型版本(Qwen3.5-9B、Gemini 3.5 Flash)未附具体配置或评测设置——待核实。
可用于图书/PPT/简报的角度
- “RAG 的下一站”:从相似度检索走向证据计算与自适应路由。
- 三件套分工图:RouterLM(决策)+ CompilerLM(编译为代码)+ AnswerLM(作答),其中后两者冻结。
- 小模型学调度、大模型做翻译与作答的成本/能力分工叙事。
- 跨异构来源表示的零样本泛化,可作为评测长上下文系统的新维度。
- 与 agentic RAG、工具调用式检索的差异对比:检索中心 vs. 计算中心。
原始材料
- Title: RECAST: Learning to Compute the Right Context through Adaptive Evidence Routing
- arXiv ID: 2610.10507v1
- Authors: Yilun Hao, Krishna Sayana, Isabella Ye, James S Ren, Sukhdeep Sodhi, Craig Boutilier, Chuchu Fan
- Published: 2026-10-07T17:51:08Z
- Updated: 2026-10-07T17:51:08Z
- Primary category: cs.AI
- Categories: cs.AI
- Abstract URL: https://arxiv.org/abs/2610.10507v1
- PDF URL: https://arxiv.org/pdf/2610.10507v1
- English keywords / 术语: Retrieval-Augmented Generation (RAG), agentic retrieval, evidence routing, sequential decision process, RouterLM, CompilerLM, AnswerLM, supervised fine-tuning (SFT), group relative policy optimization (GRPO), zero-shot generalization
- Abstract(原始摘要): Large language models are increasingly applied to tasks grounded in long, heterogeneous information sources. Conventional Retrieval-Augmented Generation (RAG) relies on fixed similarity-based retrieval, while agentic variants adapt queries and tool use but remain largely retrieval-centric. However, in many tasks, the evidence required for a solution is not explicitly present in any single source item. Instead, it must be derived through filtering, aggregation, or computation across multiple source items. In this work, we introduce RECAST (Routing Evidence through Computation, Access, and Synthesized Tools), a learned framework that formulates evidence construction as a sequential decision process over heterogeneous retrieval and computation operations, allowing evidence to be actively derived rather than merely retrieved. A lightweight RouterLM iteratively selects and formulates primitive operations or specifies customized operations for a frozen CompilerLM to translate into executable code. Once it judges the evidence sufficient, RouterLM passes the accepted evidence to a frozen AnswerLM to produce the final solution. We train RouterLM with supervised fine-tuning (SFT) followed by group relative policy optimization (GRPO). Across six heterogeneous benchmark families, RECAST achieves a mean success rate of 75.6%, outperforming the strongest large-model baseline by 15.9%. Moreover, training enables the Qwen3.5-9B RouterLM to outperform a training-free Gemini 3.5 Flash RouterLM by 5.0%. On three held-out benchmarks, RECAST improves over the strongest baseline by 15.0% on average, demonstrating strong zero-shot generalization across tasks and heterogeneous source representations.
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
**范式增量**:它不只优化“检索什么”,而是把上下文构建变成“取什么、算什么、何时算够”的决策问题,把计算操作纳入证据构造的一等公民。 **架构增量**:RouterLM 可训练、CompilerLM 与 AnswerLM 冻结的分工,意味着能力提升集中在轻量路由器上,便于与既有模型组件组合。 **与既有脉络的关系**:本卡片延续“如何更有效地为长上下文…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。