AI消息速览

精选

知识卡片按事件日期排列。仅展示已审核通过的卡片。

清空
显示第 41-60 条,共 229 条
第 3 / 12 页
事件日期 2026-08-14

本文在非参数分布时序差分学习框架下证明,基于单条马尔可夫轨迹估计回报分布时,Polyak-Ruppert 平均估计量的根号 T 误差弱收敛到 Cramér 空间中的中心高斯随机元;条件自助法也有同一极限。该结果支撑方差、CVaR、期望短缺、expectiles 等光滑泛函,以及由 CDF 方程刻画的分位数等非光滑泛函的在线推断。

值得关注:在分布强化学习中,常见做法是估计回报分布或风险度量,但很少给出估计量的统计推断。本文提供了在线 bootstrap 推断的渐近理论,使 CVaR、期望短缺、expectiles、分位数等风险敏感指标可以带置信区间使用。…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

Power Sampling 虽然能让语言模型把更多概率质量放到“正确轨迹”上,但在下游推理任务中反而可能让结果更差;论文将其归因于“剂量失配”与“覆盖失配”,并提出一种保留支撑集、控制分布变形的修复方法,在相同预算下可逆转损失并超过标准多样本推理。

值得关注:Power Sampling 被看作一种无需验证器、可作通用前端的推理增强方法。论文揭示了一个关键陷阱:把概率质量推向正确轨迹,并不等于提升下游推理;真正的瓶颈可能是“支撑集覆盖”的丢失。它提醒研究者,多样性指标和正确…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

交互式游戏世界模型通常直接在像素或潜空间中对视觉观测做自回归生成,导致姿态、几何、遮挡等结构化属性被迫由同一条生成序列隐式维护。长程生成中,这些潜在世界属性的误差不断累积,使一致性和可控性变得脆弱。Marionette 提出显式建模不断演化的世界状态,把精确几何计算交给固定、零参数的渲染器,从而将神经网络从隐式几何推理中解放出来。

值得关注:这条工作是“从像素到状态”这一思路的具体模型实现,也将“用渲染器处理几何、让神经网络专注外观”的解耦方式带入角色游戏世界模型。与已有相关卡片中的“机器人分解世界模型”相比,Marionette 把类似思想扩展到含关节角…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

MagnifiQ 提出一种利用预训练文本到图像扩散模型(如 SDXL)进行高分辨率图像修复的框架,通过将自注意力替换为卷积、渐进式放大和多阶段局部文本引导,在 4K 分辨率下以可扩展的计算成本实现更清晰、更连贯的修复结果。

值得关注:高分辨率图像修复是计算密集型任务,MagnifiQ 通过卷积化和渐进式放大降低扩散模型处理 4K 图像的负担,为实际应用提供更可行的方案。 它展示了如何将预训练文本到图像扩散模型改造为高效的高分辨率恢复工具,属于“基础…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

LP-NAS 将可微神经架构搜索中的架构更新方向建模为线性规划问题,利用验证损失梯度与训练损失 Hessian 构造更新方向;在 DARTS 搜索空间上得到 S-LP-DARTS 和 R-LP-DARTS 两个变体,在早期搜索迭代中比标准 DARTS 收敛更快、验证性能更高(具体数值待核实)。

值得关注:将线性规划引入可微 NAS,提供了一种不同于常规梯度下降的架构更新思路,拓展了 NAS 与数学规划结合的方向。 与已有相关卡片中的 NAS 工作相比,本条增量信息在于:LP-NAS 不采用 Transformer 强化…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

论文提出学习式转移(Learning-to-Transition, L2T)框架,将大规模、高阶MIMO检测建模为完整符号向量上的随机转移序列,并用信道耦合Transformer学习转移策略,从而同时支持硬输出检测和面向信道译码的软输出迭代检测。

值得关注:L2T 将MIMO检测统一为一个可学习的“转移”过程,并打通了硬输出检测与软输出迭代译码之间的参数迁移路径。相比只做硬判决或只做软判决的学习式检测方案,该框架试图用同一套学习到的搜索策略支持更完整的接收机链条。

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出 optstop,一种基于精度的自适应停止框架,将大语言模型(LLM)评估视为序贯测量问题:在不确定性高的地方继续采样,在估计已经足够精确或稳定时停止,从而在保持总体结论不变的情况下大幅减少测试次数。

值得关注:在 LLM 评估成本日益高昂的背景下,optstop 提供了一种“用多少算多少”的评估思路。它不同于简单的提前停止或固定采样,而是把停止决策建立在每个测试项的估计精度之上,并且兼容常见的结果类型。相比已有的“动态扩散策…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

现有摘要评估指标未能有效衡量摘要对特定读者的信息满意度;许多流行指标(包括强 LLM-as-judge 指标)在基本信息内容扰动测试中表现不佳,且与传统指标一样与人类判断的一致性较差。

值得关注:该工作把摘要评估从“文本好不好”扩展到“对谁有用、是否满足其信息需求”,提出了一个以读者为中心的评估维度。与已有相关卡片涉及的语音、交通标志评估、格斗游戏基准等话题无关,本条新增的是摘要评测中的“信息满意度”视角,尤其…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文把大语言模型应用中的“跨会话任务交接”形式化为“任务相关的上下文学习状态”的传递,并提出在满足外生性条件时,预测等价性可以刻画最粗的确定性充分交接,同时给出固定长度的比特需求与一种三部分交接记录方案。

值得关注:随着大语言模型应用从单次对话走向多会话、多智能体工作流,“会话交接”会越来越常见,但此前较少有专门的形式化理论。本文把交接与上下文学习状态联系起来,将“该带什么记忆走”变成一个有理论刻画和比特/误差界的问题。

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

GhostPoint 提出一种面向 LiDAR 三维目标检测的自监督表示学习框架,通过显式生成遮挡/未观测区域的潜在特征来缓解现有自监督方法只约束可见表面的“可见表面偏差”,在 nuScenes 和 Waymo 上达到当前最优性能,尤其在稀疏扫描和标签有限时提升显著。

值得关注:指出现有 LiDAR 自监督方法普遍存在的“可见表面偏差”问题,为理解自监督预训练在三维检测上迁移较弱提供了新视角。 提出将遮挡/未观测区域纳入自监督目标的新思路,用“幻觉结构”显式建模缺失信息,填补了现有 SSL 面…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出“生成驱动推断”(GPI)框架,利用辅助生成模型输出的分布值信息(如单细胞基因组学中的预测扰动响应),在不依赖其完全正确的前提下,提升对分布值参数(如 Wasserstein 重心)的统计推断效率。

值得关注:为生成模型输出用于科学推断提供了统计理论支撑,避免将预测当作真值而导致的偏差。 将分布值推断问题从非线性 Wasserstein 空间“桥接”到 Hilbert 空间,技巧上具有方法创新性。 与已有相关卡片(贝叶斯网络…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出用主动推理中的**期望自由能(Expected Free Energy, EFE)**作为统一准则,让机器人在预算受限的信息性路径规划中同时实现“精确建图”与“高效寻优”,并在仿真中优于仅关注信息论指标的基线方法。

值得关注:以往信息寻求和奖励寻求被当作两种分离的优化目标,本文用 EFE 将它们纳入同一个原则性框架,为机器人探索提供了一种更自然、更统一的设计思路。 该工作将主动推理引入机器人路径规划,可能降低自动探索系统中多目标权衡的调参复杂度。

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出一个统一框架,用“风险知情安全包络”(hazard-informed safety envelopes)将系统化危险分析与运行时强制机制衔接起来,以应对城市多样化区域中异构机器人系统与人-机器人交互带来的安全挑战。(待核实:框架的具体实现效果与实证结果需查看全文。)

值得关注:它把安全问题从“单个软件模块内的静态约束”提升为跨符号、空间、动态世界模型的系统级问题,尝试弥合系统安全分析与AI运行时保障之间的鸿沟。 若该框架成立,可能为城市物理AI的安全论证提供统一语言:离线识别危险,在线用安全…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出一个统一的“路径空间(path-space)”视角,将扩散模型后训练中看似不同的两类强化学习算法——逆向轨迹法和前向匹配法——归结为同一个策略梯度原则,并指出它们之间的经验差异主要来自方差缩减,而非强化学习原理的不同。

值得关注:为扩散模型RL提供了统一理论视角,把零散算法整合到一个路径空间框架下,可能启发新算法设计。 澄清了不同方法族之间的差异本质不是“RL原则”不同,而是方差缩减程度不同,这有助于理解现有算法的成功来源。 与已有相关卡片(P…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文把神经架构搜索(NAS)建模为双层优化问题,并用连续松弛替代离散的神经元级和激活级选择,提出 NAS-NG、NAS-MA、NAS-NGMA 三种方法;在 MNIST 和 CIFAR-10 上,这些方法能以较少参数取得有竞争力或更好的预测精度。

值得关注:它把 NAS 从离散搜索转向连续松弛下的双层优化,为“神经元/激活粒度”的架构搜索提供了一种通用框架。 相比传统离散 NAS,可微优化有望显著降低搜索成本。 在相近或更高精度下,能明显压缩模型参数,例如 CNN 仅用 …

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

该研究提出了一种不确定性感知的深度学习框架,用于推断旧石器时代晚期手印模创作者的生物学性别;框架显式地对不确定性进行建模、传播和聚合,使不确定性成为考古推断中可测量的组成部分。

值得关注:该工作为无法获得真实标签的古代岩画研究提供了一种可量化的不确定性处理路径,将人工智能、计算机视觉与考古学结合,有助于更鲁棒、可复现地解读古代岩画中的性别信息。

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

CytoBERT 是一个公开可用、开源、开放权重的细胞计量(Cytometry)数据基础模型,在包含 15 个人类数据集、超过 5000 万个细胞的语料上以自监督方式预训练;摘要称,微调后进行样本级分类,可证明跨异质细胞计量数据集的迁移学习是可行的。

值得关注:细胞计量数据是生物医学中常见但高度非标准化的模态,通用基础模型通常难以直接处理;CytoBERT 是少数专门针对该模态的开源基础模型尝试。 它展示了“标准化语料构建 + 自监督预训练 + 下游微调”这一路径在专业科学数…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

本文提出 sMuon(small Muon),通过线性化和最小二乘近似求解低秩设定下的松弛 Muon 目标,仅用矩阵乘法实现,使 Muon 优化器能够用于 LoRA 等低秩微调,并在 SFT 和 ReLoRA 预训练实验中取得中等性能改进。

值得关注:填补了 Muon 优化器在低秩微调场景中的空白,使 LoRA 类方法也能受益于 Muon 的预训练优势。 展示了如何通过数学近似解决优化器与参数化方法之间的约束冲突,为后续优化器-适配器组合设计提供参考。 增量信息:与…

学术前沿 · 来源:arXiv 论文 · 预训练大模型
事件日期 2026-08-14

通过直接偏好优化(DPO),用实验稳定性数据对齐预训练蛋白质语言模型,得到的 ProteinDPO 能够对蛋白质序列进行热稳定性评分和生成;在 H5N1 流感血凝素上大幅提升热稳定性,同时保留抗体识别能力。

值得关注:展示了“对齐”思想从大语言模型迁移到蛋白质生成模型的价值:用实验数据作为偏好信号,而不是只用序列或结构损失。 为蛋白质设计提供了一条新的数据驱动路径:大规模实验稳定性数据可以直接塑造生成模型的偏好,提升实际可用性。 与…

学术前沿 · 来源:nature.com · 预训练大模型
每页 20 条