知识卡片

Anthropic发布循环设计指南，拆解AI新范式loop

The Key to Going Linear: Analysis-Driven Transformer Linearization

SkillCenter 是截至论文发表时已知最大的、开源的、带有源引用保证的 AI 智能体技能库，共包含 216,938 个结构化技能，所有技能均可离线搜索并提供精确到原文的引用追溯。

自主 AI 智能体可以执行复杂任务但常缺乏有据可查的操作知识，导致输出虽可执行但不够正确、安全或可维护。为此，研究团队构建了 SkillCenter，提供大规模、来源可追溯的技能库。

LingBot-Video 是首个大规模开源 MoE（混合专家）视频基础模型，旨在弥合数字视频生成与物理机器人控制之间的领域差距，通过架构、数据和训练策略的协同设计实现可扩展的具身智能预训练。

现有视频生成模型主要服务于内容创作，优先考虑视觉保真度和创意性，导致计算效率低且物理真实性不足，难以直接用于机器人控制。本研究提出 LingBot-Video，基于 DiT（扩散 Transformer）和 MoE 框架，专门针对具身智能设计，以解决领域不匹配问题。

强化学习后训练不仅能放大基座模型中已有的原始技能，还能将这些原始技能组合成新的、可复用的高层级策略，而拒绝微调由于探索选择性不足，效果随训练趋于停滞。

研究核心问题是：**RL后训练仅仅是放大基座模型中已隐含的原始技能，还是能够将原始技能组合成新的高层级策略？** 为回答此问题，作者设计了一个完全可观测的重写语法环境，其中的预训练分布已知，且每一步重写都可审计。Transformer模型先在原始符号重写链上进行预训练，再基于只有二元最终答案奖励的追踪推理任务进行后训练。

该论文通过调查1250篇arXiv论文（2024–2026），提出了一个区分“有界自我精炼”（bounded self-refinement）与“开放式递归自我改进”（open-ended recursive self-improvement, RSI）的分类法，并强调**自我评估**是所有改进回路的共同主张——即某种信号可以替代人类判断——进而构建了一个…

AI系统越来越多地参与自身的改进：修订输出、部署中自适应调整自身框架、用自己生成的数据训练，以及日益增长的自主开展AI研究。现有文献使用“self-refine”“self-reward”“self-play”“self-evolve”等术语，但它们混淆了根本不同的目标。作者沿两个轴对1250篇arXiv论文进行调查：**（1）系统改进什么**（部署中的行…

MedPMC 是一个自动化、可持续更新的框架，能从 PubMed Central 文献中提取高质量医学图像‑文本对，训练出的多模态基础模型在基准测试和临床场景中均优于现有方法。

医学本质上是多模态的，但多模态基础模型的发展受限于缺乏大规模、高保真的临床数据。虽然 PubMed Central（PMC）提供了专家撰写的图像‑文本资源，但现有基于 PMC 的数据集在保真度、可重复性和临床验证方面存在不足。MedPMC 旨在解决这一问题。

AdaPrefix-GRPO 通过自适应地为每个问题注入参考解答的前缀，将模型在困难问题上的成功率维持在 50% 附近，从而最大化 GRPO 的梯度信号，在相同训练计算量下，将小模型（0.6B）在困难数学题上的准确率提升至原始 GRPO 的 2.1 倍，同时轨迹长度减半。

Group Relative Policy Optimization（GRPO）在训练过程中，当模型遇到其最困难的问题时，一个组内所有 rollout 都失败，组相对优势为零，该问题不贡献任何梯度，导致模型无法从这些“前沿”样本中学习。研究提出一种自适应方法 AdaPrefix-GRPO，通过动态控制参考解答前缀长度来调节问题难度，使每个问题始终能产生有效…

大型语言模型（LLM）能够以与一组人类预测者相当的准确度预测社会科学实验的结果——即使是模型训练完成后才发表的实验也不例外——但会系统性高估效应量。

本研究旨在评估大型语言模型是否能够预测社会科学实验的结果，特别是那些不在训练数据中的实验。研究团队构建了一个包含70项预注册、美国全国代表性调查实验的档案（涉及469个实验效应和119330名参与者），并对比了LLM生成的预测与实际效应。

部署规则（如后果分配规则）对多智能体AI系统的集体安全具有显著的因果影响，仅改变规则就能使平均致死率移动22至58个百分点；没有绝对安全的默认规则，且“身份凸显性”是导致规则设计中出现系统性针对最弱智能体的关键机制。

多智能体AI系统中，安全不仅取决于模型能力，还取决于部署时的“制度设计”（即规则）。以往安全评估主要关注模型本身，而忽略了规则对集体行为的因果作用。本文提出“制度红队测试”（institutional red-teaming）方法论，旨在系统性地测试不同部署规则对多智能体集体安全的影响，并回答：规则是否以及如何因果性地改变安全结果？是否存在普遍安全的默认规…

RoPE（旋转位置嵌入）为Transformer提供固定的频率网格，但模型实际使用的频率分布高度不均匀；本文提出数据中心的解释：RoPE频率被选择用于匹配训练数据的相对距离结构，并且长上下文泛化依赖于两种尺度匹配——学习频率与训练时依赖之间的匹配，以及频率缩放与依赖扩展到更长上下文的方式之间的匹配。

RoPE（Rotary Position Embeddings）为Transformer提供固定的位置频率网格，但训练后的模型对这些频率的使用极不均匀。本文研究决定这种频率使用模式的因素，并提出以数据为中心的解释：RoPE频率被选择来匹配训练数据的相对距离结构。进一步，将频率选择与基于位置插值的长度泛化联系起来，探讨自然语言中近似的自相似性如何支持测试时的…

STRACE框架通过批量级轨迹冗余过滤和轨迹内因果定位，显著提升长程智能体的优化质量，在形式化验证任务上带来1.4倍的成功率提升。

长程智能体（long-horizon agents）的优化越来越多地依赖基于反思的机制（reflection-based mechanisms），即用大语言模型（LLM）作为优化器来诊断智能体失败并改进策略。然而，真实执行轨迹存在两个难题：1）大量轨迹集合冗余且异质，导致优化效率低且易过拟合到低价值失败；2）单条轨迹包含许多无关步骤，而简单的上下文缩减方法…

模型内部激活在生成任何答案前就能以极高准确率（AUROC 0.95–1.00）区分熟悉与虚构实体，但实体熟悉度和事实可靠性遵循不同的缩放曲线，且模型几乎从不主动拒绝回答（2520次答案中仅2次拒绝、1次含糊）。

大型语言模型对从未见过的实体最容易产生幻觉。本研究探究：在模型生成第一个答案token之前，其内部激活是否就已“暴露”实体熟悉度？该信号能否预测答案的事实可靠性？研究在四个规模的波兰语Bielik模型（1.5B, 4.5B, 7B, 11B参数）上进行，涵盖运动员、城市、作家、音乐家四个实体领域，每个领域各42个知名、42个冷门但真实、42个虚构实体，每实…

截至2026年中，知识蒸馏已从传统的“大教师-小学生”压缩演变为前沿模型后训练的核心技术，主流范式包括离策略蒸馏、一致性策略多教师蒸馏和自蒸馏，且教师模型往往不是更大，而是更专精或更具情境优势。

2026年7月8日，Sergio Paniego在Hugging Face发布社区文章，梳理了当年主流前沿模型（如DeepSeek-V4、Gemma 4、GLM-5、Nemotron 3 Ultra、Qwen3、Cursor Composer 2.5等）在蒸馏技术上的三种实际应用，作为其“训练代理”系列课程的配套材料。文章指出蒸馏已广泛嵌入后训练配方，并对…

大型语言模型（LLM）在理解英语方言方面已有进步，但生成时仍偏向标准美式英语；DiaLLM 项目通过连续预训练和对齐策略的系统比较，揭示了“鲁棒性-生成差距”，并发现显式方言目标适配虽能产生可辨识的方言输出，但最激进优化奖励的方法反而得不到人类评价者的青睐。目前没有任何单一对齐方法占据主导，缩小差距需要更丰富的奖励设计和持续的方言资源投入。

现有 LLM 通常只能理解方言（鲁棒性），却无法生成地道的方言文本（生成能力）。这一“鲁棒性-生成差距”是更困难的一半问题。DiaLLM 首次在澳大利亚英语、印度英语和北英格兰英语三种方言上，对三个开源模型家族进行连续预训练，并对比隐式/显式后训练范式与三种对齐策略的效果。

本文提出一种将神经网络训练视为连续时间最优控制问题，并利用后验误差估计指导网络深度自适应的方法——通过将总近似误差分解为层间贡献，在误差最大的位置插入新层，从而在科学数据集（如Navier-Stokes方程的可观测到参数映射学习）上获得优于现有架构自适应方法的泛化性能。

神经网络架构（尤其是深度）通常依赖人工经验或网格搜索确定，缺乏理论指导。本文旨在解决**如何根据逼近误差的分布来自适应地调整网络深度**的问题，提出一种基于后验误差估计的严格框架，将离散网络层与连续最优控制解之间的差异量化为可计算的误差上界，并据此决定新层的插入位置。

SciReasoner 是一个多模态科学基础模型，通过将蛋白质、小分子和无机晶体的坐标、拓扑与周期性连接离散化为统一的结构感知词汇表，首次实现了对结构–性质关系的**原生结构推理**，在86个基准测试中67项达到最先进水平。

结构–性质关系是生物学、化学和材料科学的基础：功能、反应性和物理响应源于空间、化学和周期组织。要机制性地解释这些关系，需要依据科学原理和物理约束（从立体化学、键合到对称性、能量学和周期序）来解释结构证据。然而，将人工智能应用于此过程面临**表示与推理的双重挑战**：模型必须保留领域原生的结构信息，同时展示特定证据如何在这些约束下支持预测。

当代人形机器人可通过遥操作执行腹腔镜手术任务，研究证明了其技术可行性，同时也指出了在临床部署前需要解决的关键技术挑战。

该研究由Zekai Liang、Michael Yip等学者发表于《Nature》（2026年7月8日）。研究系统地评估了当代人形机器人技术在腹腔镜手术任务中的表现。团队开发了一套基于人形机器人的腹腔镜遥操作框架，使用通用手术器械，通过台架表征测试、涵盖不同手术经验水平的干燥实验室用户研究，以及在活体猪模型上的体内研究，对技术可行性、任务性能和临床准备度进…

NVIDIA 认为，构建真正能适应真实世界的 AI 智能体（agent）其核心是数据问题，而开放数据和合成数据是实现规模化扩展的关键路径。

NVIDIA 在 2026 年 7 月 8 日发布博客，介绍了其 Nemotron 开放数据系列，涵盖超过 10 万亿预训练 token 和数百万后训练样本，并推出交互式可视化工具 Nemotron Post-Training v3 Prompt Atlas。博客同时发布了多个数据集，包括 Nemotron-CC、Nemotron-CC-Math、Nemo…

OpenRouter 推出的 Fusion 工具通过并行调用多个预算模型并融合其输出，在 100 项复杂研究任务上超越了 GPT-5.5 和 Claude Opus 4.8，且成本显著降低。

2026年6月12日，OpenRouter 宣布推出 Fusion——一种通过单个 API 调用并行调用多个模型、再使用评判模型（judge model）融合各模型输出结果的工具。为验证其效果，团队采用 Perplexity AI 设计的 DRACO 基准（100 项深度研究任务，涵盖学术、金融、法律、医学等 10 个领域），对比单个前沿模型与不同模型面板…