知识卡片：MIT 用 GPT-6 Astra 直接改写 Qwen 权重，探索“权重空间编程”

一句话结论

MIT CSAIL 公布八项实验，测试 GPT-6 Astra 不经梯度训练、直接读写神经网络权重（“权重空间编程”）：在 Qwen3.5-0.8B 上仅改动约 0.016% 权重，MATH-500 准确率从 7.9% 升至 48.1%，IFEval 从 21.0% 升至 62.3%。

事件概述或研究问题

• 研究问题：大模型能否像编辑代码一样，直接读取并修改另一个神经网络的权重，而不是依赖梯度训练？
• 团队将这一做法称为“权重空间编程”（Weight-Space Programming），由 GPT-6 Astra 直接读写目标模型权重。
• 来源称 MIT CSAIL 共公布八项实验，覆盖基准提升、权重识别与从零构建网络等方向。

方法/产品要点

• 不做梯度训练，直接编辑权重；在 Qwen3.5-0.8B 上改动比例约 0.016%。
• 编辑目的之一是减少推理循环（原文表述为“减少推理循环”）。
• 实验还包括：仅凭权重认出四款游戏；从零编写游戏网络，得分均超过用 PPO 训练 1 亿步的网络。

主要结果或产业意义

• MATH-500：7.9% → 48.1%（约 6 倍）。
• IFEval：21.0% → 62.3%。
• 若方法可复现，意味着存在一条不依赖大规模梯度训练的模型能力改写路径，对小模型能力修复与定向增强有潜在价值。

为什么重要

• 与既有卡片《MIT 用 GPT-6 Astra 直接改写 Qwen 权重，数学能力提升约 6 倍》相比，本条增量信息是：补充了 IFEval 由 21.0% 升至 62.3%、八项实验的范围（权重识别、从零构建游戏网络对比 PPO 1 亿步），以及 Meta 研究员的质疑。
• 对“基准评测”议题的意义：能力提升以基准分数呈现，但方法是否泛化、评测是否受提示词引导影响，仍需独立验证。

局限与不确定性

• Meta 研究员质疑：提示词可能已提前引导排查方向，实验结论或受提示设计影响；具体质疑细节待核实。
• 来源为速递式转述，八项实验的完整设置、基线对比与复现条件待核实。
• “减少推理循环”的具体机制与度量方式待核实。
• 从零编写游戏网络“均超 PPO 训练 1 亿步网络”的评测口径与统计显著性待核实。

可用于图书/PPT/简报的角度

• 作为“权重空间编程”概念的引入案例：从梯度训练到直接权重编辑的范式想象。
• 作为基准分数跃升的案例，同时配以“提示词引导质疑”作为方法论警示。
• 与 PPO 训练对比，讨论“训练成本 vs 直接编辑”的产业含义（需注明证据强度有限）。

与既有脉络的关系

• 本条是对 2026-11-03 卡片《MIT 用 GPT-6 Astra 直接改写 Qwen 权重，数学能力提升约 6 倍》的延续与更新：新增 IFEval 数据、八项实验范围与外部质疑，不重复其已述的 MATH-500 与 0.016% 权重改动事实。

原始材料

• 来源：腾讯研究院AI速递 20261104（搜狐转载）
• 标题：腾讯研究院AI速递 20261104
• URL: https://m.sohu.com/a/1096760389_455313?scm=10001.325_13-325_13.0.0-0-0-0-0.5_1334&digest_item=1
• 英文关键词：Weight-Space Programming, GPT-6 Astra, Qwen3.5-0.8B, MATH-500, IFEval, PPO
• 英文标题：待核实（来源未给出原始论文或官方博客标题）