DaTMe 提出一种无需训练的 token 合并框架,用扩散去噪过程中的动力学信号(时序变化 + 结构高频信息)决定哪些 token 可以安全合并,从而在加速生成的同时避免只保护 prompt 对齐前景而导致的背景与局部细节退化。
值得关注:现有免训练 token 合并常以 prompt 对齐的前景为保护重点,容易牺牲背景物体与未被提示的局部细节;DaTMe 把判据从“文本相关性”转向“去噪动力学 + 结构信息”,试图覆盖全图保真。 它把 token 合并…
DaTMe 提出一种无需训练的 token 合并框架,用扩散去噪过程中的动力学信号(时序变化 + 结构高频信息)决定哪些 token 可以安全合并,从而在加速生成的同时避免只保护 prompt 对齐前景而导致的背景与局部细节退化。
值得关注:现有免训练 token 合并常以 prompt 对齐的前景为保护重点,容易牺牲背景物体与未被提示的局部细节;DaTMe 把判据从“文本相关性”转向“去噪动力学 + 结构信息”,试图覆盖全图保真。 它把 token 合并…
Velox 是一种无需训练的注意力路由方法,利用流式几何中的视锥平板(frustum slab)对应关系做区域级上下文选择,缓解分块视频扩散世界模型中 KV 缓存随 rollout 增长而变慢的瓶颈,在保持接近稠密模型质量的同时显著加速。
值得关注:交互式仿真要求响应式生成,而当前分块扩散世界模型的延迟随历史增长而恶化。Velox 把“空间记忆”从被动堆积的 KV 缓存转为基于几何对应的选择性上下文,说明可以利用场景几何先验来约束注意力范围,而不牺牲连贯性。与既有…
论文提出“互补表征”作为时间序列语言模型(TSLM)的设计原则:以折线图保留绝对测量与坐标框架、以归一化延迟嵌入剥离幅度缩放与偏移并显露时序结构,双视图经视觉编码器与多级特征融合接入同一语言模型,在 TSRBench 上把总体准确率从单视图折线图的 44.5% 提升到 53.2%。
值得关注:把“表征选择”从工程细节提升为设计原则:单一表征意味着固定归纳偏置,互补表征让不变性成为可组合、可干预检验的设计变量。 提供可操作的验收方式:用评估时干预验证各视图的不变性轮廓,而不是仅凭端到端分数判断表征好坏。 与既…
该研究提出一种“集合级”强化学习目标来训练科学创意生成模型:模型一次性生成 K 张结构化想法卡,并对整组想法联合打分,每张想法的质量按其与先前想法的距离加权,从而在保持高质量的同时提升想法间的多样性。
值得关注:把“多样性”从附属指标提升为可训练目标,提示科学创意生成应从“单个好想法”转向“一组互补且互不重复的好想法”。 集合级 RL 打分(质量 × 与前序想法的距离)提供了一种可复用的机制,用于抑制 LLM 在批量生成时的模…
SST(Subspace Tuning)把微调时的权重更新限制在权重矩阵的“底部奇异子空间”,避免改动主奇异方向,从而在保持目标任务性能的同时显著缓解灾难性遗忘——但该结论目前仅基于摘要级元数据,具体实验细节待核实。
值得关注:若摘要结论成立,SST 提供了一种与优化器无关、可直接嵌入现有微调流程的防遗忘手段,对需要持续更新能力的模型迭代(如多轮 SFT、自蒸馏、领域适配)有直接工程价值;其“保护比例越高、遗忘越少且性能不降”的规模化趋势若被…
T2-Z 通过在测试时优化一个可学习的“环境隐变量”来条件化机器人世界模型的预测,使模型能够自适应未见过且不可直接观测的环境配置,在仿真与真机任务上显著降低预测误差并提升动作成功率。
值得关注:将“环境适配”从训练期前移到测试时,为机器人在未知环境中的快速适应提供了一条无需显式环境标注的路径。 隐变量通过预测目标自组织形成结构化表示,暗示世界模型可以自发解耦环境因素,而不依赖人工定义的因素列表。 与既有的测试…
SUPRA-Tex 通过将可见材质估计、表面对齐与观测引导的3D补全解耦,在仅用公开数据训练的条件下,实现了单图3D纹理生成中可见区域的“所见即所得”保真与不可见区域的连贯补全,达到SOTA水平。
值得关注:单图3D生成是连接2D视觉与3D内容创建的关键桥梁。SUPRA-Tex 的解耦策略提供了一种务实路径:让有限的3D训练数据专注于补全而非重建可见细节,从而在数据效率与生成质量间取得平衡。其“超对齐”思路对需要高保真纹理…
Speculative Forcing 通过把中间去噪估计当作“草稿”并逐 token 提前冻结已可接受的结果,减少自回归视频生成中不必要的“每 token 都跑满步数”的均匀计算,在保持全步采样质量的同时显著提速。
值得关注:针对自回归视频生成“少步但均匀计算”的浪费环节,提出按 token 自适应的计算分配思路。 与既有的高效视频生成脉络形成互补:已有卡片中的 SANA-Video 2.0 关注注意力结构与引擎级优化,MosaiChunk…
SoftCache 把动态缓存中的“刷新/复用”二值开关改造成由 staleness 信号余量(headroom)驱动的**连续步长调节**,在免训练、无需按骨干网络调参的前提下,于 FLUX、HunyuanVideo、Wan2.1 上实现 3.5×–6.9× 加速并领先所有基线。
值得关注:与既有脉络的关系:本卡片延续了“扩散/视频生成缓存加速”这条线索。已有卡片中,MORCA 用离线到在线强化学习学习“复用/重算”的调度决策,属于决策策略层面的改进;Flash-dLLM 面向扩散大语言模型,解决 KV …
论文提出一种鲁棒强化学习(RL)框架,把患者建模为隐藏上下文,用鲁棒上下文马尔可夫决策过程统一处理“跨患者泛化”与“生物标志物测量误差/疾病动态漂移”两类不确定性,并在转移性前列腺癌自适应治疗的临床校准模拟器中取得优于现有自适应疗法的策略。
值得关注:临床治疗策略面对的是“患者异质性 + 观测噪声 + 疾病演化不确定性”的叠加,单一确定性假设下的 RL 策略容易失效;该工作把三类问题放进一个形式化框架处理。 “鲁棒性几乎不损失标称性能”与“帕累托支配”是较有说服力的…
现代 MoE 架构中“细粒度专家分割”与“共享专家”两个设计的组合会产生探索困境:共享专家降低了 token 表示的多样性,削弱了路由探索,而细粒度分割又因组合空间扩大而更需要探索;论文提出 MirrorMoE,通过 token 自适应抑制冗余专家来缩小探索空间,从而缓解这一矛盾。
值得关注:MoE 是当前扩展大模型参数规模的关键技术路线之一;细粒度专家分割与共享专家已成为现代 MoE 的常见组合。 论文指出的“探索困境”提示:两个各自有效的设计叠加时可能相互干扰,导致细粒度分割的表达能力无法完全兑现。这为…
一项 arXiv 预印本研究提出用随机投影(random projection)同时变换检索库嵌入与查询嵌入,在可证明保持语义相似度的前提下缓解 RAG 数据存储的隐私泄露;据摘要称其检索与生成表现优于依赖形式化差分隐私(DP) guarantee 的先前方法,但全文未抓取,细节待核实。
值得关注:若结论成立,随机投影提供了一种比形式化 DP 更轻量、且性能损失更小的 RAG 隐私保护路径,可能降低隐私保护 RAG 的部署门槛。 对需要在外部知识库上做检索增强、但又担心数据存储被提取攻击的系统设计具有参考价值。 …
P³-WAM 通过一个共享权重的混合 Transformer 架构,把第一视角灵巧操作中的 3D 手部感知、动作条件预测与目标导向规划统一到同一个世界动作模型中,并用随机模态可见性让视频与 3D 动作在不同模式下互为条件或预测目标。
值得关注:该工作尝试把“感知—预测—规划”从三个分离模块整合为一个统一的世界动作模型,为第一视角灵巧操作提供端到端的一体化范式。 通过随机模态可见性与双向视觉-动作注意力,模型在训练中同时学习“由动作生成视觉”和“由视觉推断动作…
PathFM 用流匹配(flow matching)生成完整未来轨迹而非仅边缘分位数,并通过模型蒸馏与历史注意力缓存共享,将多条路径的生成时间压缩到接近一次分位数模型查询,在 fps-bench 上聚合路径分数优于所有被评估的外部基线。
值得关注:依赖轨迹的下游量(累计需求、峰值负荷、事件时序)无法由边缘分位数正确刻画。PathFM 通过生成完整路径并提供快速采样,使生成式预测在保持边缘精度的同时具备可用的推理速度,并配套提出 fps-bench 以评估路径层面…
OmniVerifier-C1 提出一种将复杂提示或环境规则自动分解为细粒度子项并打分的分级视觉验证器,在文本到图像与规则治理世界建模(如 Maze、Sudoku)任务中优于传统二值验证器;作者进一步指出,当存在真值图像时,成对(pairwise)验证范式比逐点(pointwise)形式给出更准确的评判。
值得关注:验证器从“是/否”二值判断转向连续分级评判,可提供更丰富的训练/评估信号,有助于组合式多模态要求的稳健判定。 在规则治理的世界建模场景中(如迷宫、数独),验证器承担对规则遵循程度进行精细评判的角色,是生成模型充当世界模…
EOS-Story 是一个无需训练的框架,试图在视觉故事生成的图像序列中同时保持身份一致性与场景特定适应;但本条仅基于 arXiv 元数据,具体方法与实验细节待核实。
值得关注:视觉故事生成不只是“保持同一角色”,还要让角色随场景变化而合理适应。EOS-Story 把问题拆到文本提示解耦与视觉身份注入两个层面,并指出尺度不匹配导致的结构伪影,这对理解身份保持与场景适应之间的张力具有参考价值。与…
该论文提出“多目标少样本提示”(multi-target few-shot prompting),利用扩散语言模型在共享画布上同时填充多个掩码区域,并用选择性掩码构造似然比奖励来提升示例遵循度;由于未能获取正文,具体方法与数值结果待核实。
值得关注:把少样本提示从“单目标生成”扩展到“多目标同时编辑”,对应真实工程中成批、上下文相关的改动需求。 用扩散模型的并行填充能力替代因果生成,规避了双向上下文依赖在自回归解码中的结构性不便。 与既有卡片《基于冻结离散扩散语言…
MLExpert 是一个 35B 的专家混合(MoE)智能体模型,通过后训练方法(层级化智能体 SFT + 窗口化交互强化学习 WIRL)实现长时程自主机器学习工程优化,在 MLE-Bench Lite 上把基座模型的平均奖牌率从 37.9% 提升到 72.7%。
值得关注:与已有的 AI4AI 系统卡片(如 Frontis-MA1 与 OpenMLE)相比,本条增量在于:给出了一套明确的后训练方法(SFT + WIRL)与量化提升数据,而非仅停留在系统架构描述层面。 WIRL 的"执行窗…
MindEval2 提出由“心理健康质量评分细则(MHQR)”与“患者模拟器(MindSim)”组成的评估框架,用临床心理学家参与制定的可操作标准替代不透明的 Likert 打分,并对 18 个闭源与开源模型评测后发现:前沿模型在表层质量与边界问题上已明显改善,但“引导校准(guidance calibration)”仍是所有模型共同的主要失效模式,构成大…
值得关注:心理健康支持是 LLM 高风险应用场景之一,评估方法的真实性直接决定结论可信度。MindEval2 的增量在于:一方面修正“合成患者过于配合”的模拟偏差,另一方面把评分从模糊量表转为可操作标准,并引入纵向记忆来贴近真实…
LIBERO-PeRM 是一个在 LIBERO 仿真环境中构建的个性化机器人操作(PeRM)基准,通过将“任务完成”与“偏好满足”分离,系统评估具身智能体在零样本、监督学习、泛化、组合与冲突等五个维度上的偏好学习能力。
值得关注:将“任务完成”与“偏好满足”解耦评估,为个性化机器人操作提供了可量化的研究框架。 明确了当前 VLA 策略在个性化场景下的能力边界,为后续研究提供了基准和诊断工具。 对通用机器人进入家庭环境具有直接推动作用,因为家庭场…