AI消息速览

精选

知识卡片按事件日期排列。仅展示已审核通过的卡片。

显示第 1141-1160 条,共 4212 条
第 58 / 211 页
事件日期 2026-10-01

KaliBench 是一个面向 Kali Linux 自然语言到 CLI 的细粒度基准与数据集,用于测量 LLM 生成可执行网络安全命令的能力,并基于确定性信号构建 runtime-free verifiable rewards 用于训练;摘要称在 unrestricted setting 下,没有开放权重模型超过 42% exact-command ac…

值得关注:它直接针对 LLM 在网络安全 CLI 场景中的落地瓶颈:不仅要知道工具,还要能生成参数正确、可执行的命令。 对 AI agent 工具调用、网络安全自动化、模型后训练奖励设计有参考价值;runtime-free ve…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

InterEvolve 把“奖励程序”本身变成可在测试时被大语言模型改写、被数值优化器调参、并在并行仿真中反复验证的对象,从而在**不重新训练控制器**的前提下,让人形机器人把已有的移动-操作技能重组出来完成新任务(依据仅为摘要级材料,待核实)。

值得关注:**范式层面**:把“测试时计算”从推理期 prompting / 采样,扩展到**奖励与任务规格的测试时演化**;控制器权重不动,改变的是任务接口与规划信号。 **接口层面**:论文强调的“表达力 vs 可执行、可度…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

HiPhy 是一个强化学习框架,通过“局部约束单个物理原理的时间动态 + 全局保证整个场景物理与语义一致”的双层目标,提升多物理原理同时发生时的视频生成物理合理性与语义对齐;摘要称其显著优于先前方法和基线。

值得关注:现有视频生成优化和评测常偏重视觉质量或单一物理现象;HiPhy 将问题推进到多物理原理在同一场景中的耦合与一致性。 与既有相关卡片的关系:已有卡片关注立体视频生成的自监督几何、长多视角 4D 一致性、X-to-4D 对…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

论文提出 **HGR(Higher-order Grammar Representation)**,将分子提升为组合复形并解析为上下文无关高阶语法的产生式规则序列,使高阶拓扑能够被标准序列模型处理;摘要报告其在分子生成和 MoleculeNet 表示学习上取得领先结果。

值得关注:高阶拓扑,尤其是环系统和重复基序,是化学结构中的关键信息;标准序列或图表示难以显式捕获。 HGR 尝试把高阶拓扑“语法化”,从而同时利用高阶结构先验和标准序列模型的可扩展性。 RingDiv 与 RDI 指向一个方法学…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

HC-DLM(Hierarchical Continuous Diffusion Language Models)提出一种把离散 token 生成与连续潜变量轨迹耦合在同一去噪过程中的扩散语言模型,并在 Sudoku、Countdown 和 LM1B 上报告了相对匹配规模离散/连续扩散基线的提升(具体数值待核实)。

值得关注:扩散语言模型持续探索自回归之外的生成路径,尤其针对双向推理和全局约束满足任务。 HC-DLM 的增量在于:不是简单给离散链附加连续上下文,而是把连续潜变量设为唯一持续状态,并让 token 读出与潜变量更新形成循环耦合…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

据候选摘要,论文提出 ExpertLens:在多模态混合专家(MoE)模型中,专家会自然形成跨模态/领域的语义专门化;利用该结构可识别领域专家并选择性微调,从而以更少参数更新和更快训练达到或超过全量微调。因正文未抓取,上述具体结论待核实。

值得关注:如果稀疏 MoE 确实会自然产生语义模块化,那么领域适应不必总是全参微调或单纯依赖低秩更新,而可转向“找专家、调专家”的结构化参数高效微调。 这可能同时影响模型可解释性、领域适配成本、训练算力需求和模型维护方式。 与既…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

材料提出面向内在无序蛋白区域(IDR)的自回归蛋白语言模型 IDiom 和后训练方法 RL-SAE;后者以稀疏自编码器特征激活为奖励,在八个 IDR 设计任务中平均激活 90% 的 30 个目标特征,并改善预测的亚细胞定位与转录活性。

值得关注:该工作试图补上蛋白生成模型在 IDR 上的缺口:不依赖折叠结构先验,而是面向 IDR 数据训练生成模型;同时把 SAE 特征从“解释工具”转为“生成控制信号”,通过 RL 奖励指定特征集合的激活。若结果成立,这可能为合…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

GenCine 将单张图像提升为可编辑的 3D 场景骨架,让艺术家在同一世界坐标系中联合指定相机路径与前景局部 3D 运动手柄,再通过 guidance maps 把这些控制注入预训练视频模型,以缓解仅用 2D 轨迹或稀疏拖拽信号控制物体运动时的 3D 歧义。

值得关注:可控视频生成的一个关键歧义是 2D 控制信号无法唯一确定 3D 运动;GenCine 用 3D 场景骨架和 guidance maps 尝试显式表达相机-物体关系。 对创作者而言,相机路径加局部 3D 手柄比纯 2D …

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

根据候选摘要,论文把 LLM 智能体反复使用同一外部权威来源的过程,从“重复访问”重新定义为“来源学习”,并提出 SourceLearn 来构建可持久更新的来源模型;但正文未获取,机制与结果需待核实。

值得关注:它把“检索/访问来源”与“学习来源”区分开:前者关注取回内容,后者关注形成对来源结构、解释方式和适用边界的持久理解。 对知识密集型智能体而言,这可能补足 RAG 与 agent-memory 之外的第三种能力:来源特定…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

在摘要所述实验中,多教师在线策略蒸馏的教师信号会被损失平均规则、Adam 一阶矩和 BF16 舍入重塑或掩盖;top-64 交集 KL 梯度虽接近 Qwen 全词表梯度,但其任务效果依赖平均规则。

值得关注:它把 MOPD 的讨论从“如何组合教师”推进到“教师信号经过平均、优化器和数值精度后变成什么参数更新”。 对诊断能力合并与能力失衡有直接价值:若 Adam 和 BF16 压缩或隐藏差异,只看最终权重或 BF16 变化可…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

候选摘要提出:与其修改学习目标来吸收 off-policy 专家数据,不如用 MCMC 采样逐步把 off-policy traces 转化为更接近 on-policy 的微调数据,从而让 SFT 在后训练中与 RL 等主流方法竞争;该结论的具体实验范围、数值和可复现性待核实。

值得关注:它挑战了“SFT 弱泛化/易遗忘、RL 强泛化/少遗忘”的常规二分。 它把采样从推理技巧或数据生成手段,提升为后训练中塑造数据分布、影响可学习性的核心操作。 与已有相关卡片的关系:FibVLA 关注 VLA 时序采样,…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

FERPO(Forward Entropy-Regularized Policy Optimization)是一种在策略最大熵强化学习算法:它用 critic 的值来构造目标动作分布,再以 forward-KL 目标拟合 actor,避免对 critic 关于动作求导;在 MuJoCo Playground 与 ManiSkill 上的实验显示有竞争力的性…

值得关注:指出“critic 值预测准确 ≠ critic 动作梯度准确”,并把策略改进从 critic 动作导数上解耦,可能降低策略更新对不可靠动作梯度的依赖。 通过 forward-KL 与 entropy/KL 正则组合,…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

Faynt 是一族 10M 与 75M 参数的 Transformer 策略,用**单个检查点同时控制《Super Smash Bros. Melee》全部 26 名角色**;经强化学习后,10M 模型在同角色对局中取得 244 战 240 胜(98.4%),并对全部十四款对手版本保持胜多负少,同时开源权重、两套基准与自动化模型锦标赛平台——但完整正文未抓…

值得关注:**对“缩放定律”叙事的补充**:本例中更小的 10M 模型在实战胜率上反超 75M,且预测损失更高的模型反而更能赢,提示**离线预测指标与在线对抗表现可能脱钩**。 **单检查点多角色的工程价值**:一个检查点覆盖 …

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

语言模型在组件消融后表现出的“自修复”,这篇论文将其解释为消融前就已存在的一种增益:细粒度单元的响应遵循仿射定律 \(E_r(\lambda)=\mathrm{own}_r+\gamma_r\lambda\),其斜率符号决定该单元是在抵消还是在强化被移除信号。

值得关注:它试图把“自修复”从模糊的补偿叙事,改写为可参数化的剂量—响应/仿射关系,并强调反权重是预存的、可由固定权重预测的。 对机制可解释性而言,如果传统消融只是未校准的 \(\lambda\) 点,那么不同干预强度可能产生不…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

在扩散 Transformer 中,条件通常只嵌入一次并在每个去噪步骤复用;该论文提出用“预测嵌入”替代固定条件,并让条件在每步去噪时重新计算,从而改善图像生成。其最终模型 NEPA-DiT-XL 在 class-conditional ImageNet 256×256 上达到 FID 1.32,训练计算约为 REPA 的三分之一(据摘要)。

值得关注:它挑战了扩散 Transformer 中“条件嵌入一次、全程复用”的常见做法,转向“条件随去噪状态动态重算”。 它把 next-embedding prediction / 自回归式嵌入预测与扩散图像生成连接起来,探索…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

材料显示,在24个组织特异性相互作用组中,有效电阻作为图神经网络逐节点可靠性信号受逆度支配并随共表达过滤网络增长而退化;但其相对度保持零图的残差在控制多种因素、扣除置换底线后,仍能在19/24个留出网络中解释额外逐节点损失,且随深度增强——不过选择性预测实际改善可忽略。

值得关注:这项研究把 GNN 可靠性/不确定性从“只看输出”推进到“利用输入网络结构估计哪些节点预测更可能出错”。它提示有效电阻可作为组织特异性相互作用组中的候选结构信号,但强逆度效应和微弱的选择性预测改善限制了直接应用。与已有…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

DuoMind 是一个面向多机器人协调的分布式分层框架:每个机器人用 VLM 编排器做高层推理与机器人间语义通信,用 VLA 动作模型做低层执行,并配套提出长时程操作基准 RoboPoly。

值得关注:多机器人协调需要在分布式条件下处理长时程行为与细粒度执行,单机器人基础模型能力不能直接等同于多机器人协调能力。DuoMind 的重要性在于将 VLM 高层编排、VLA 低层动作与机器人间语义通信整合为一个分层框架;Ro…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

DMAD 将 DMD 中依赖辅助扩散模型估计 score 差的分布匹配目标,改写为共享 backbone 双判别头的分类式对抗蒸馏,直接学习 log-density ratio,并在少步图像、视频与联合音视频生成上报告了领先指标;复现与效率细节待核实。

值得关注:本条与已有 PDMD 卡片同属“分布匹配蒸馏用于少步视频扩散生成”的脉络。增量信息在于:PDMD 侧重投影掉与 student-critic 端点残差平行的分量以过滤 critic 误差;DMAD 则把分布匹配改写为分…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-10-01

LoopCD 是一种无需训练的对比解码框架:它把循环 Transformer 中较早循环的中间预测当作“弱预测”,与最终循环的“强预测”对比,从而在完整循环深度下提升解码质量,并可在减少循环次数时仍匹配或超过未引导的完整深度基线,降低前向 FLOPs。

值得关注:它指出循环 Transformer 的中间计算并非“废料”,而是可被解码阶段复用的弱监督信号。 它提供了一种训练无关、无需辅助模型的对比解码路径,可能降低额外训练或外部模型依赖。 它把“质量提升”和“计算减少”放在同一…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
每页 20 条