AI消息速览

MDSKILL——通过多视角蒸馏内化技能记忆的高效智能体自进化

事件日期 2026-11-03 · 学术前沿 · 已接受

事件日期2026-11-03
信息日期2026-11-03
入库日期2026-11-04
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:MDSKILL——通过多视角蒸馏内化技能记忆的高效智能体自进化

一句话结论

MDSKILL 把智能体自生成的“技能记忆”按功能拆成状态锚定、动作规划、执行控制三个视角,先筛选高质量技能,再用同策略自蒸馏(OPSD)把多分支经验迁移进共享策略;摘要称在 ALFWorld 与 WebShop 上分别比 SOTA 最高提升 7.1% 与 8.1%,且不增加额外计算开销。

事件概述或研究问题

  • 背景:技能记忆把过往经验编码为文本提示,用于提升自进化智能体的强化学习(RL)。
  • 补充手段:On-Policy Self-Distillation(OPSD)可提供稠密、细粒度监督,把技能引导轨迹中的知识内化,加速策略学习。
  • 问题:自生成记忆常含噪声监督,且知识在功能上纠缠、冗余或冲突,直接蒸馏困难;在有限训练预算下,这些问题会阻碍知识内化,甚至导致性能下降。
  • 论文提出的问题即:如何在不依赖更强外部教师模型、不增加额外计算开销的前提下,高效内化技能记忆并持续自进化。

方法/产品要点

  • 三视角组织技能记忆:将技能记忆划分为三个互补功能视角——状态锚定(state grounding)、动作规划(action planning)、执行控制(execution control)。
  • 动态指标筛选:用动态指标挑选高质量技能,构建视角专属推理分支与整合推理分支。
  • OPSD 跨分支蒸馏:通过 OPSD 将各分支中的互补经验知识迁移并 consolidates 到共享策略中,实现技能内化与持续自进化。
  • 对照基线:在三个智能体基准上,与 RL、技能增强、以及不依赖更强外部教师模型的自蒸馏基线比较。

主要结果或产业意义

  • 摘要口径:无额外计算开销下,在 ALFWorld 与 WebShop 上分别较 SOTA 提升最高 7.1% 与 8.1%。
  • 消融与进化分析:论文称进一步验证了其在知识内化与策略改进上的有效性。
  • 代码链接:https://anonymous.4open.science/r/MDSKILL-CF53(匿名仓库)。
  • 产业意义:为“技能记忆 + 自蒸馏”的智能体自进化提供了一条低额外开销的工程路径,尤其适合训练预算受限、无法依赖强教师模型的场景。

为什么重要

  • 技能记忆与自蒸馏结合是自进化智能体的活跃方向;MDSKILL 的增量在于先按功能视角解耦记忆、再筛选、再跨分支蒸馏,针对“记忆噪声与知识纠缠”这一具体瓶颈。
  • 与既有卡片的关系:已有 GaP 卡片侧重图式策略与多智能体代码编排,本条侧重技能记忆的功能化解耦与同策略自蒸馏,问题设定与手段均不同;DualViewEval 卡片关注基准评测压缩,本条关注训练侧知识内化,二者不重复。AdviSD 卡片涉及“顾问模型 + 选择性自蒸馏”,与本条同属自蒸馏脉络,但 MDSKILL 明确不依赖更强外部教师模型,可作为该脉络下“无强教师”路线的补充参照。

局限与不确定性

  • 摘要仅给出 ALFWorld 与 WebShop 两个基准的具体提升数字,第三个基准的名称与结果未在摘要中说明,待核实。
  • “三个智能体基准”具体是哪三个、各基准的绝对分数与方差,摘要未披露,待核实。
  • “无额外计算开销”的对照口径(相对何种基线、训练时长与显存是否完全一致)待核实。
  • 三视角划分与动态筛选指标的具体定义、阈值与实现细节,摘要未展开,待核实。
  • 论文为 arXiv v1(2026-11-03),代码为匿名仓库,尚未见同行评审信息,结论稳健性待核实。

可用于图书/PPT/简报的角度

  • “记忆不是越多越好”:用 MDSKILL 说明自生成技能记忆的噪声与功能纠缠问题,引出“先解耦、再筛选、后蒸馏”的处理范式。
  • 三视角框架图:状态锚定 / 动作规划 / 执行控制三分支 + 共享策略的示意图,适合作为“技能内化流水线”一页。
  • 无强教师的自蒸馏路线:与依赖外部强教师模型的蒸馏方案对比,讨论训练预算受限场景下的取舍。
  • 数字锚点:ALFWorld +7.1%、WebShop +8.1%(注明为摘要口径、待正文核验)。

原始材料

  • 标题:MDSKILL: Learning to Internalize Skill Memory through Multi-View Distillation for Efficient Dynamic Agent Self-Evolution
  • 作者:Dian Jin, Jinluan Yang, Kairong Han, Baohong Li, Zijing Hu, Yi He, Wenlin Zhong, Yunze Tong, Minqin Zhu, Linchuan Li, Yanan Niu, Kun Kuang
  • 发布:2026-11-03T18:19:55Z(arXiv v1)
  • 主分类:cs.CL;分类:cs.CL
  • arXiv ID:2611.05313v1
  • 摘要页:https://arxiv.org/abs/2611.05313v1
  • PDF:https://arxiv.org/pdf/2611.05313v1
  • 代码:https://anonymous.4open.science/r/MDSKILL-CF53

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

技能记忆与自蒸馏结合是自进化智能体的活跃方向;MDSKILL 的增量在于**先按功能视角解耦记忆、再筛选、再跨分支蒸馏**,针对“记忆噪声与知识纠缠”这一具体瓶颈。 与既有卡片的关系:已有 GaP 卡片侧重图式策略与多智能体代码编排,本条侧重技能记忆的功能化解耦与同策略自蒸馏,问题设定与手段均不同;DualViewEval 卡片关注基准评测压缩,本条关注训…

相关主题

对应的教材知识点

根据卡片内容自动匹配,点击查看已审核的教材讲解: