知识卡片：从冻结 LLM 内部读出原生技能路由

一句话结论

据摘要，论文提出 Gavel（Glance And Verdict from a frozen LLM），主张冻结的 agent LLM 在前向传播中已携带技能路由信号，两个线性映射即可在上下文中没有技能文本时读出该信号，并在 Qwen3-32B 上超过增加 1.2B–16B 外部参数的路由管线。全文细节待核实。

事件概述或研究问题

• 英文标题：The Router Within: Eliciting Native Skill Routing from a Frozen LLM。
• 论文关注：Skills 可把 LLM agent 扩展到参数化知识之外，但收益取决于能否选对 skill。
• 现有路线一：部署中的 harness 把每个 skill 的 metadata 预加载进 context，会分散 agent 注意力，并限制技能库规模。
• 现有路线二：retrieval pipelines 把选择移出 context，但也把选择移出 agent 自身能力。
• 研究问题：冻结的 agent LLM 是否已在自己的 forward passes 中携带 routing signal；能否不把 skill text 放进 context，仅用两个 linear maps 读出该信号。

方法/产品要点

• Gavel 分两步：Glance 与 Verdict。
• Glance：把任务和每个 skill 的 mid-layer states 通过两个 linear maps 投影；摘要称这两个映射是唯一被训练的参数；用它们对完整技能库与紧凑的 per-skill banks 打分。per-skill banks 在 installation 时由一次 forward pass 构建。
• Verdict：恢复 shortlisted skills 的 forward passes，读取模型自身的 likelihood 和 yes/no judgment，并与 glance 以 product of experts 方式融合。
• 训练与迁移：训练一次后，Gavel 零样本迁移到三个公开 benchmark 和 SkillTraj。SkillTraj 是论文提出的新 benchmark，包含 372 条模拟 agent trajectories。
• 对比对象：progressive disclosure 与 retrieve-and-rerank pipelines；摘要称这些管线增加 1.2B 到 16B 外部参数。

主要结果或产业意义

• 在 Qwen3-32B 上，Gavel 据摘要超过 progressive disclosure 和 retrieve-and-rerank pipelines：written tasks 上最高提升 13.4 点，技能需求在 rollout 中途出现时最高提升 21.9 点。
• 路由准确率随 backbone 增强而提升。
• 在 bash-agent harness 中，同一 32B 模型在 Skill-Use 上触发正确 skill 的频率高于在 Codex 中运行的远更大 frontier models。
• 产业意义：若结果可复现，可能意味着 agent 技能路由可减少对“全量技能元数据预加载”和大型外部检索器的依赖，并缓解上下文分散与技能库规模上限；但需全文与复现验证。

为什么重要

• 把技能路由从 prompt/context 工程转向从冻结模型内部状态读取，可能改变 agent harness 的设计重心。
• 与既有卡片脉络的关系：已有“注定失败”卡片利用隐藏层激活做失败预测与提前终止；本条的增量是把隐藏状态用于“技能选择/路由”，目标不同。
• 与“技能自我对弈”路线不同：后者关注技能生成、协同演化与 RL 循环；本条关注冻结 LLM 内部已有路由信号的读出。
• 与 SENTINEL-RL 的卸载思路相反：SENTINEL-RL 把拓扑推理卸载给外部编码器/策略；本条强调路由能力内生于 LLM 本身。
• 若路由准确率确实随 backbone 提升，那么 foundation model 能力提升可能直接改善 agent 的技能调度能力。

局限与不确定性

• 论文是否为同行评审版本、是否有后续修订，待核实。
• 三个公开 benchmark 的具体名称、任务构成、统计显著性、方差与基线配置，待核实。
• SkillTraj 的构建方法、仿真环境、372 条轨迹的采样方式与指标定义，待核实。
• 两个 linear maps 的训练数据、训练成本、超参数、是否需针对不同 backbone 重新训练、跨模型迁移边界，待核实。
• 代码、权重、数据与评测脚本是否开源，待核实。
• 技能库规模上限、噪声/冲突技能、安全与权限控制、生产环境可行性，待核实。
• “Skill-Use”的具体含义与评测协议，待核实。
• 在 Codex 中运行的 frontier models 具体型号、比较条件与公平性设置，待核实。
• 官方中文译名，待核实。

可用于图书/PPT/简报的角度

• 从 prompt 到内部状态：技能路由的“内生化”路线。
• 上下文经济学：全量预加载、外部检索、原生路由三种方案的取舍。
• 冻结 LLM 作为路由器：小训练参数撬动大模型既有能力。
• 隐藏状态的多用途：失败预测、技能路由、工具选择。
• 评测设计：SkillTraj 与“技能需求在 rollout 中途出现”的场景。
• Agent harness 架构对比：progressive disclosure、retrieve-and-rerank、bash-agent、Codex。
• 产业启示：技能库规模化、上下文 token 成本、外部检索器参数与延迟。

原始材料

• English title: The Router Within: Eliciting Native Skill Routing from a Frozen LLM
• English keywords: skill routing; frozen LLM; Gavel; Glance And Verdict; SkillTraj; progressive disclosure; retrieve-and-rerank; product of experts; Qwen3-32B; bash-agent harness; Skill-Use; Codex
• Authors: Ruishuo Chen, Xun Wang, Yu Chen, Zhuoran Li, Longbo Huang
• arXiv ID: 2609.15982v1
• Published/Updated: 2026-09-14T17:58:27Z
• Primary category: cs.LG
• Categories: cs.LG, cs.AI, cs.CL
• Abstract URL: https://arxiv.org/abs/2609.15982v1
• PDF URL: https://arxiv.org/pdf/2609.15982v1