论文通过构造“相同公式、不同语义”的配对模态逻辑问题,发现多数近期语言模型在直接提示下无法达到仅凭条件猜测的基线;但启用某种“推理模式”后,一个模型的准确率出现大幅提升。模型是否遵循题面给定的模态语义,高度依赖于推理模式以及模型本身。
值得关注:模态逻辑是知识表示、数据库、法律/规范推理、多智能体系统等领域的核心形式工具。语言模型若不能遵循题面语义,就难以承担这些领域的可靠推理任务。 已有相关卡片主要涉及视觉语言模型、具身推理和水印技术;本条属于大语言模型“逻…
论文通过构造“相同公式、不同语义”的配对模态逻辑问题,发现多数近期语言模型在直接提示下无法达到仅凭条件猜测的基线;但启用某种“推理模式”后,一个模型的准确率出现大幅提升。模型是否遵循题面给定的模态语义,高度依赖于推理模式以及模型本身。
值得关注:模态逻辑是知识表示、数据库、法律/规范推理、多智能体系统等领域的核心形式工具。语言模型若不能遵循题面语义,就难以承担这些领域的可靠推理任务。 已有相关卡片主要涉及视觉语言模型、具身推理和水印技术;本条属于大语言模型“逻…
本研究提出一种轻量级运动推理框架,在保护隐私的 CCTV 风格课堂场景中,以不到大型基线十分之一的计算成本实现更优的课堂事件识别性能,并展现出较强的跨域与合成到真实零样本泛化能力。
值得关注:填补了隐私感知课堂事件识别研究中基准和轻量方法的空白。 通过运动推理而非仅依赖外观或姿态,提供了新的行为识别视角。 合成数据与真实数据的结合,有望缓解真实标注稀缺问题。 在不到十分之一计算成本下超越大模型,对边缘设备部…
在部分可观测强化学习中,探索奖励与记忆架构是互补品而非替代品:探索奖励负责“暴露”,记忆负责将暴露转化为回报;奖励结构(而非奖励的信号密度)决定了二者的交互模式。
值得关注:重新定义了“稀疏奖励”:应区分结构稀疏性与潜在稀疏性,而非仅看信号密度。 为探索-记忆交互提供了系统证据,说明二者不是可互相替代的独立模块。 对奖励工程、记忆架构选择和部分可观测环境下的智能体训练有直接指导价值。 与既…
共享经典随机性——一种在纠缠理论中被视为较弱的资源——足以在固定浅层深度下,让信道量子生成模型严格表示比浅层酉 Born 模型更大的经典输出分布族;即使系统规模任意大,这种分离依然成立。
值得关注:理论层面:把此前“随机性有助生成”的经验观察提升为具有严格数学保证的表示能力分离。 资源层面:展示“较弱”的经典相关性也能在特定浅层量子生成任务中产生不可替代的优势,有助于理解量子与经典生成模型的能力边界。 与既有脉络…
程序化生成器可以规模化产出可验证推理问题,但“语义上有效”并不等于“对训练有用”。Reasoning Core 通过 50 个生成器、语义评分器、难度控制和审计流程,在 3B 规模的主要补全监督对比中,于 DROP、LogiQA、ARC-Challenge 上取得最高平均分,超过无程序化数据基线和三个替代程序化数据集合。
值得关注:Reasoning Core 的价值不在于简单提供更多合成数据,而在于把“程序化生成数据”当作需要精细设计的训练资源来研究。它明确指出:除了语义正确性,目标文本的紧凑性和难度校准也会显著影响训练效用。此外,审计流程揭示…
MT-GNN 通过图网络预测皮层下结构表面的度量张量(第一基本形式)并解码为网格,在 ADNI 的 14 个皮层下结构上于所有预测视界均取得最优平均顶点误差,优于测地线形状回归(DCM)和网格 Transformer(TransforMesh)。
值得关注:该工作从“直接预测形变”转向“预测表面内在度量”,结合可微重建,避免了直接回归顶点可能产生的非有效表面。 与已有相关卡片关注的规划或训练优化不同,本条将图神经网络与连续时间建模应用于医学影像形态学预测,属于基础模型技术…
RAIL 将大语言模型后训练中的 rollout 生成/干预选择建模为在线上下文赌博机问题,通过学习“可恢复性控制器”动态决定如何干预,从而在有限 rollout 预算下持续提升策略学习效果。
值得关注:RAIL 为“策略应当从什么中学习”提供了原则性方法,突破了固定启发式干预和对 rollout 数量单一控制的局限,使干预本身变成可学习的决策,并能随策略演化而调整。这对大模型后训练阶段的算力效率和数据效率有潜在价值。
OPD-V 提出将“模态平衡”本身作为特权信息,通过正/负教师构造模态平衡信任区域,筛选用于自蒸馏的同策略 token,在多模态大语言模型视觉推理后训练中一致提升性能并降低训练成本。
值得关注:它直接针对多模态推理中的“模态不平衡”这一隐形瓶颈,将问题转化为可计算、可选择的训练信号。 为 OPSD 家族提供了新的改进维度:以往方法多关注策略优化、视觉证据利用或教师选择,OPD-V 则把平衡本身当作特权信息,补…
在长上下文模型的继续训练语料中,仅用约 12% 的 OctoLong 跨仓库代码上下文替换传统上下文扩展语料,即可显著提升长程检索、长期状态跟踪、仓库级代码理解和下游智能体任务表现,同时增强短上下文编码场景中的 API 使用能力。
值得关注:长上下文模型对训练数据的需求正在从“更多文本”转向“更多长距离依赖关系”。 代码仓库天然具有跨文件、跨仓库、跨包的引用结构,可能比书籍和论文更易于构造富含长距离依赖的训练上下文。 与已有相关卡片脉络不同:DepthWe…
本文提出一种名为 Audio-Visual Modal Sound Field(AV-MSF)的物体级声学表示,仅凭多视角图像和少量冲击声录音即可重建物体的冲击声场,并在真实数据集上取得优于物理仿真和数据驱动基线的渲染效果。
值得关注:弥补了现有三维重建“只重视觉、忽略声学”的缺口,为场景理解增加物理交互维度。 相比物理仿真和数据驱动方法,AV-MSF 用少量录音即可重建声场,降低数据门槛。 模态参数表示具有可解释性,支持声音编辑和接触定位,为虚拟现…
MultiPathFormer 将无线信道建模从“信道张量上的掩码重建”转向“多径传播路径上的自回归预测”,以多径路径作为基础模型的预训练对象,在信道估计、波束预测、定位和视距分类等下游任务中超越基于信道张量的现有基础模型。
值得关注:这是无线基础模型领域一个不同的预训练范式:不把信道张量当作唯一“文本”,而是把物理世界中的多径传播当成自回归建模目标。 与已有相关卡片的增量信息:区别于人类行为/机器人基础模型、图基础模型等,MultiPathForm…
据论文摘要,本研究提出一种基于潜空间视频流匹配(latent video flow-matching)的大气数据同化框架:用 ERA5 再分析数据训练时间连续的大气轨迹先验,再通过后验采样吸收真实稀疏观测,从而在一个框架内完成滤波、平滑,并直接从稀疏观测生成全状态集合预报,性能与最先进的“观测到预报”模型相当。
值得关注:它将数据同化从“更新数值模式状态”的经典框架,推向“从训练好的大气轨迹先验中采样”的生成式框架,可能是范式层面的变化。 连续轨迹先验让观测信息传播到未观测帧,使滤波、平滑和预报可以共享同一套模型,而不是为每个任务单独设…
MALT 在 Muon 优化器中引入轻量的双侧对角预条件子,以近似损失曲面的曲率几何,从而降低 Muon 对曲率各向异性的敏感性;在 GPT-2 Small、Medium、Large 预训练实验中,MALT 优于 Muon,同时保持几乎相同的内存占用和墙钟时间。
值得关注:Muon 作为 AdamW 的潜在替代方案,其正交化操作只处理了梯度各向异性,而 MALT 显式引入曲率信息,增强了优化器对损失曲面几何的适应性。与已有相关卡片相比,本条聚焦优化器设计,属于底层训练算法层面的增量更新,…
摘要未提供具体性能数值,整体结论待核实。SALT 的核心思路是:在自蒸馏预训练阶段,利用弱边界框标注定义一个空间区域,仅在该区域内锐化教师温度并提高掩码补丁损失权重,从而让冻结编码器在下游无需任何标签即可用于 CT 病灶检测。
值得关注:本条属于 foundation-model 方向,延续了“冻结特征 + 轻量探针/检测头”的既有脉络(如已有卡片中 Evo 2 探针检测宏基因组信号、π0.7 展现可引导组合能力),但针对的是医学 CT 病灶检测。增量…
本文提出前缀最优生成策略(POGP),通过在学习扩散策略的去噪链上定义前缀值函数,让模型在测试时学会“何时停止”去噪:在四个 MuJoCo 连续控制任务上,相比 12 个基线,POGP 约减少 2.7 倍所需的去噪迭代次数,同时保持接近完整任务性能;与最先进的动态扩散基线相比,最终任务性能还提升约 3.5%。
值得关注:扩散策略在连续控制中潜力巨大,但迭代去噪的实时性限制阻碍落地。本文的核心贡献是把“停止去噪”本身变成可学习的问题:用值函数来预测每一步是否还有价值。这种思路不仅能加速现有扩散策略,还表明“中间过程的监督”本身是一种有效…
本研究提出IRIS框架,用神经科学启发的度量指标系统分析了视觉Transformer(ViT)中方向选择性(orientation selectivity)的涌现规律,发现训练范式是决定方向选择性强弱的最主要因素,且这些指标可为下游微调时解冻多少层提供机制性启发。
值得关注:IRIS框架提供了一个可追踪生物基础特征在ViT训练过程中如何变化的新视角,连接了生物视觉系统与人工视觉Transformer的表征研究。与已有相关卡片涉及的具身智能、物理信息神经网络、交通标志评估等应用型工作不同,本…
HiGram 提出一种进化的分层图记忆框架,通过路径级定位与协同重写,让 LLM 智能体在长期推理中能够更高效地检索和更新记忆,在提升答案质量的同时降低 token 消耗。
值得关注:HiGram 直接针对平面图记忆的检索噪声和逐单元重写低效问题,提出了“分层结构 + 路径级定位 + 协同重写”的组合方案。与已有相关卡片中的 MemLens(价值感知内存管理与交互式分析)不同,HiGram 的增量贡…
HexMIL是一种无需像素级标注的医学CT深度伪造检测方法,仅凭体级别标签训练,通过分层注意力机制同时实现跨未见生成器的稳健检测和对篡改区域的定位,且解释是“事前”(ante-hoc)而非“事后”(post-hoc)。
值得关注:与常见post-hoc解释工具(如Grad-CAM)相比,HexMIL的解释来自驱动分类决策的同一计算路径,具有结构忠实性,能增强临床信任。 无需篡改掩膜即可实现区域定位,降低标注成本。 针对性验证了跨生成器泛化,更贴…
该研究提出一个将大语言模型嵌入迭代式符号回归的框架 DASyR-LLM,让 LLM 在每一轮对候选动力学模型进行物理化学定性批评并提出新候选式,从而显著减少找到真实动力学模型所需的迭代次数,同时保持同等预测精度。
值得关注:这项工作展示了 LLM 可以作为一种“领域知识注入器”,参与科学模型的自动发现,而不只是作为文本生成工具。它将符号回归的数据驱动搜索与 LLM 的物理化学常识结合,为化学工程中完全自动化、领域感知的动力学建模流程提供了…
CoPlan 提出一种让人类照护规划者与多个 AI 智能体协同工作的照护规划界面;AI 生成候选干预措施及支持/质疑论点,人类可在最终方案生成前接受、拒绝、修改或增补论点,从而把 AI 推荐从“固定输出”变为“可检查、可质疑、可修订”。
值得关注:CoPlan 强调人类能动性(human agency)和临床问责性(clinical accountability),尝试解决 AI 在照护决策中“黑箱推荐、难以纠偏”的信任问题。 它将“可争议性”作为 AI 系统设…