知识卡片:MDSKILL——通过多视角蒸馏内化技能记忆的高效智能体自进化
一句话结论
MDSKILL 把智能体自生成的“技能记忆”按功能拆成状态锚定、动作规划、执行控制三个视角,先筛选高质量技能,再用同策略自蒸馏(OPSD)把多分支经验迁移进共享策略;摘要称在 ALFWorld 与 WebShop 上分别比 SOTA 最高提升 7.1% 与 8.1%,且不增加额外计算开销。
事件概述或研究问题
- 背景:技能记忆把过往经验编码为文本提示,用于提升自进化智能体的强化学习(RL)。
- 补充手段:On-Policy Self-Distillation(OPSD)可提供稠密、细粒度监督,把技能引导轨迹中的知识内化,加速策略学习。
- 问题:自生成记忆常含噪声监督,且知识在功能上纠缠、冗余或冲突,直接蒸馏困难;在有限训练预算下,这些问题会阻碍知识内化,甚至导致性能下降。
- 论文提出的问题即:如何在不依赖更强外部教师模型、不增加额外计算开销的前提下,高效内化技能记忆并持续自进化。
方法/产品要点
- 三视角组织技能记忆:将技能记忆划分为三个互补功能视角——状态锚定(state grounding)、动作规划(action planning)、执行控制(execution control)。
- 动态指标筛选:用动态指标挑选高质量技能,构建视角专属推理分支与整合推理分支。
- OPSD 跨分支蒸馏:通过 OPSD 将各分支中的互补经验知识迁移并 consolidates 到共享策略中,实现技能内化与持续自进化。
- 对照基线:在三个智能体基准上,与 RL、技能增强、以及不依赖更强外部教师模型的自蒸馏基线比较。
主要结果或产业意义
- 摘要口径:无额外计算开销下,在 ALFWorld 与 WebShop 上分别较 SOTA 提升最高 7.1% 与 8.1%。
- 消融与进化分析:论文称进一步验证了其在知识内化与策略改进上的有效性。
- 代码链接:https://anonymous.4open.science/r/MDSKILL-CF53(匿名仓库)。
- 产业意义:为“技能记忆 + 自蒸馏”的智能体自进化提供了一条低额外开销的工程路径,尤其适合训练预算受限、无法依赖强教师模型的场景。
为什么重要
- 技能记忆与自蒸馏结合是自进化智能体的活跃方向;MDSKILL 的增量在于先按功能视角解耦记忆、再筛选、再跨分支蒸馏,针对“记忆噪声与知识纠缠”这一具体瓶颈。
- 与既有卡片的关系:已有 GaP 卡片侧重图式策略与多智能体代码编排,本条侧重技能记忆的功能化解耦与同策略自蒸馏,问题设定与手段均不同;DualViewEval 卡片关注基准评测压缩,本条关注训练侧知识内化,二者不重复。AdviSD 卡片涉及“顾问模型 + 选择性自蒸馏”,与本条同属自蒸馏脉络,但 MDSKILL 明确不依赖更强外部教师模型,可作为该脉络下“无强教师”路线的补充参照。
局限与不确定性
- 摘要仅给出 ALFWorld 与 WebShop 两个基准的具体提升数字,第三个基准的名称与结果未在摘要中说明,待核实。
- “三个智能体基准”具体是哪三个、各基准的绝对分数与方差,摘要未披露,待核实。
- “无额外计算开销”的对照口径(相对何种基线、训练时长与显存是否完全一致)待核实。
- 三视角划分与动态筛选指标的具体定义、阈值与实现细节,摘要未展开,待核实。
- 论文为 arXiv v1(2026-11-03),代码为匿名仓库,尚未见同行评审信息,结论稳健性待核实。
可用于图书/PPT/简报的角度
- “记忆不是越多越好”:用 MDSKILL 说明自生成技能记忆的噪声与功能纠缠问题,引出“先解耦、再筛选、后蒸馏”的处理范式。
- 三视角框架图:状态锚定 / 动作规划 / 执行控制三分支 + 共享策略的示意图,适合作为“技能内化流水线”一页。
- 无强教师的自蒸馏路线:与依赖外部强教师模型的蒸馏方案对比,讨论训练预算受限场景下的取舍。
- 数字锚点:ALFWorld +7.1%、WebShop +8.1%(注明为摘要口径、待正文核验)。
原始材料
- 标题:MDSKILL: Learning to Internalize Skill Memory through Multi-View Distillation for Efficient Dynamic Agent Self-Evolution
- 作者:Dian Jin, Jinluan Yang, Kairong Han, Baohong Li, Zijing Hu, Yi He, Wenlin Zhong, Yunze Tong, Minqin Zhu, Linchuan Li, Yanan Niu, Kun Kuang
- 发布:2026-11-03T18:19:55Z(arXiv v1)
- 主分类:cs.CL;分类:cs.CL
- arXiv ID:2611.05313v1
- 摘要页:https://arxiv.org/abs/2611.05313v1
- PDF:https://arxiv.org/pdf/2611.05313v1
- 代码:https://anonymous.4open.science/r/MDSKILL-CF53
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
技能记忆与自蒸馏结合是自进化智能体的活跃方向;MDSKILL 的增量在于**先按功能视角解耦记忆、再筛选、再跨分支蒸馏**,针对“记忆噪声与知识纠缠”这一具体瓶颈。 与既有卡片的关系:已有 GaP 卡片侧重图式策略与多智能体代码编排,本条侧重技能记忆的功能化解耦与同策略自蒸馏,问题设定与手段均不同;DualViewEval 卡片关注基准评测压缩,本条关注训…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: