知识卡片：TRACE-ROUTER：面向智能体AI的任务一致自适应在线路由

英文标题：TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI

英文关键词：Task-level routing, Agentic AI, Large Language Models, Contextual Bandit, Online Learning

原始来源：https://arxiv.org/abs/2607.22465v1

一句话结论

TRACE-ROUTER 是一种任务级路由框架，通过将每个任务一次性分配给一个LLM后端（使用上下文赌博机），并利用任务的终端奖励更新策略，从而在智能体工作流中实现比逐调用路由更优的精度-延迟权衡。

事件概述或研究问题

现有的大语言模型（LLM）路由方法通常对每次LLM调用独立做出路由决策，但智能体应用以长时间工作流方式执行，其质量仅由延迟的任务级结果决定。这种错位使得逐调用路由器无法正确地将反馈归因于单个路由决策，导致路由策略次优。

方法/产品要点

TRACE-ROUTER 在任务准入时使用上下文赌博机（contextual bandit）将每个任务分配给一个模型，并将该任务后续的所有LLM调用固定到所选后端。
使用任务的最终奖励（terminal reward）更新路由策略，同时考虑准确性和延迟。
利用延迟的任务反馈学习适应工作负载的路由策略，避免显式的任务复杂度估计。

主要结果或产业意义

在三个智能体基准测试上，TRACE-ROUTER 始终改善精度-延迟权衡，达到非支配Pareto前沿点。
在 tau2-Bench 上，比延迟匹配的单个模型插值高出7–8个准确率点；在 Terminal-Bench 上，比最强单模型基线高出7.1个准确率点，同时延迟降低36%。

为什么重要

与已有方法（如逐调用路由）不同，TRACE-ROUTER 将路由决策与任务级监督信号对齐，解决了多步工作流中反馈归因问题。这为企业部署智能体AI提供了更实际的成本-质量优化方案，无需显式估计任务复杂度即可自适应工作负载。

与既有脉络的关系

已有相关卡片“AI智能体是否知道任务简单与否？”中E3方法通过显式估计复杂度来降低成本，而本卡片中的TRACE-ROUTER从在线路由视角，利用延迟任务奖励隐式学习复杂度，无需复杂度估计模块。两者互补，分别适用于不同部署场景。

局限与不确定性

论文中未提及对任务长度或模型数量的扩展性分析。待核实。
评估仅限三个基准，未见在真实企业工作负载中的报告。待核实。
上下文赌博机的具体实现细节（如特征选择、奖励设计）可能需要进一步公开。待核实。

可用于图书/PPT/简报的角度

作为“企业AI部署中LLM路由策略”的案例，对比逐调用路由与任务级路由的优劣。
作为“在线学习在智能体系统中的应用”示例，展示上下文赌博机的实践。
作为“延迟反馈强化学习”的典型应用，适合教材或技术讲座中使用。

原始材料

论文标题：《TRACE-ROUTER: Task-Consistent and Adaptive Online Routing for Agentic AI》作者：Ritik Raj, Souvik Kundu, Sarbartha Banerjee, Dheemanth Joshi, Ishita Vohra, Tushar Krishna 预印本发表于：2026-07-24（更新日期相同） arXiv ID: 2607.22465v1 类别：cs.AI, cs.LG, cs.MA 摘要原文见：https://arxiv.org/abs/2607.22465v1