Condition Dropout(ConD)是一种简单的持续训练范式,通过在预训练 RGB-D 模型上冻结原始编码器、复制编码器并用零初始化特征注入,随机模拟完整、RGB-缺失和深度-缺失的输入,显著提升缺失模态下的分割鲁棒性,且在完整模态下性能略有提升。
值得关注:填补了 RGB-D 语义分割在实际部署中传感器缺失场景的空白,直接提升了系统的可靠性。 方法简单(仅额外训练阶段),不改变网络结构,便于集成到现有预训练模型。 与已有相关卡片无重叠,本条卡片聚焦于缺失模态鲁棒性这一特定问题。
Condition Dropout(ConD)是一种简单的持续训练范式,通过在预训练 RGB-D 模型上冻结原始编码器、复制编码器并用零初始化特征注入,随机模拟完整、RGB-缺失和深度-缺失的输入,显著提升缺失模态下的分割鲁棒性,且在完整模态下性能略有提升。
值得关注:填补了 RGB-D 语义分割在实际部署中传感器缺失场景的空白,直接提升了系统的可靠性。 方法简单(仅额外训练阶段),不改变网络结构,便于集成到现有预训练模型。 与已有相关卡片无重叠,本条卡片聚焦于缺失模态鲁棒性这一特定问题。
PortLLM 的 LoRA 补丁在连续预训练的多步更新中依然保持时间可移植性,其根本原因是高维向量之间的近正交性。
值得关注:验证了零成本复用 LoRA 补丁的长期可行性,对工业界大规模模型持续迭代部署具有直接价值。 提供了从高维几何理解模型更新后参数迁移的直观框架,可启发更多免训练适配设计。 本卡片是对“PortLLM 只验证短期可移植”这…
视觉语言模型(VLM)对图像和问题(文本)的呈现顺序存在系统性的性能差异(图像先于文本时准确率更高),但通过一种简单的、非对称的测试时训练方法可以消除这一差距,甚至提升基线性能。
值得关注:揭示了VLM一个之前未被充分认识但可重复的脆弱点——模态顺序,且该弱点可通过极简单的测试时自适应方法修复,门槛低、实用性强。 与已有知识卡片相比,本文关注的是**顺序**这一输入格式维度,而非**预算约束下的模型选择*…
Statevector-Referenced Geometry Survival of a Four-Qubit ZZ Quantum Kernel on IBM Quantum Hardware: A Fixed-Subset Diagnostic Across Three Execution Configurations
值得关注:明确区分了实现保真度(implementation fidelity)和任务相关性(task relevance)两个独立轴,指出硬件量子机器学习研究应同时报告两者。 揭示了当前量子核方法在真实硬件上的一个关键矛盾:误…
本文提出了一种基于Clopper-Pearson置信区间和潜在空间特征探索的框架,能够为任意提示下LLM生成有害输出的概率计算严格且可靠的下界,首次实现了对LLM安全性的形式化统计认证。
值得关注:与已有卡片(如选择性披露水印、预算感知模型选择)不同,本文聚焦于**安全性认证**本身,而非部署或隐私控制。 首次提供了**可证明的、严格的下界**,而非经验性估计,使LLM安全评估从“启发式”迈向“数学保证”。
SoftReason 提出了一种完全可微的神经-软符号演绎推理架构,通过将演绎状态表示为张量并设计可微的即时推论算子,弥合了感知(高维数据)与符号推理(知识图谱规则)之间的梯度断层,首次实现端到端可训练的知识感知视觉问答。
值得关注:SoftReason 区别于以往的神经符号方法(如使用离散逻辑编程或硬注意力),通过完全可微的设计使得感知和推理可以联合端到端训练,无需人工设计中间符号特征或近似梯度。这为将符号知识(如知识图谱规则)融入深度学习提供了…
Self-supervision drives representational convergence in medical foundation models more than clinical supervision
Self Gradient Forcing (SGF) 通过两遍训练策略,在不展开完整序列反向传播的前提下,恢复自回归视频扩散模型中未来帧损失对历史上下文编码的梯度监督,使仅用5秒训练窗口就能外推至数分钟的长视频,在主体身份、背景/布局一致性和时间稳定性上显著优于现有 Self Forcing 方法。
值得关注:首次明确指出并解决了自回归视频扩散训练中未来帧损失无法监督历史上下文编码的梯度间隙问题,为长视频外推提供了更有效的训练范式。 与已有 Self Forcing 方法相比,SGF 在不增加额外架构(如额外记忆模块、时空注…
PyroDash 通过让小语言模型(SLM)在生成过程中按 token 发出控制令牌,自主决定是否向大语言模型(LLM)卸载部分推理,可在数学推理基准上以更低总成本实现接近甚至超过纯 LLM 推理的准确率。
值得关注:提供了 **token 级** 的精细卸载粒度,与已有查询级模型选择方法(如预算感知重采样/重路由)不同,能在更细粒度上优化成本与质量。 无需修改 LLM 或依赖外部路由器,部署简单,易于与现有 SLM 模型结合。 通…
PG-KINN 将 Kolmogorov-Arnold Network(KAN)作为试验空间,配合紧支撑分段多项式测试空间,通过 Petrov-Galerkin 弱形式集成物理信息,在裂纹奇异性、超弹性、逆参数识别等力学基准上一致优于传统 MLP 及现有 KAN 强/能量/逆形式方法(PIKAN)。
值得关注:首次在物理信息框架中系统引入 Petrov-Galerkin 弱形式与 KAN 试验空间的组合,打破了此前仅关注 MLP 或 KAN+强形式的范式。 解决了现有 KAN 物理信息方法在非自伴算子和逆问题上的失效缺陷,扩…
Persian Pixel: A large-scale synthetic OCR dataset for Persian language
PercepCap 通过先显式生成包含对象轨迹与时间事件的时空感知轨迹,再基于该轨迹生成最终字幕,从而提升视频字幕的时空理解准确性和模型可解释性。
值得关注:解决了现有 MLLM 字幕生成中感知错误不可见、难以诊断的根本问题。 通过显式化感知证据,使模型推理过程透明,便于调试和信任建立。 提出的两阶段训练与数据构建方法为因果式视频字幕生成提供了新范式。
ARROW 是首个面向流式数据环境、针对最大均值差异(MMD)和相关性对齐(CORAL)损失函数的在线随机方差缩减算法,其性能可与离线方法媲美。
值得关注:首次将 SVR 技术扩展到在线流式环境,填补了 MMD/CORAL 损失函数在流式数据域适应中的在线方差缩减空白,对需要实时或增量更新的部署场景(如物联网传感器、在线推荐系统)具有潜在价值。
LLM能够从自身或教师模型的解题轨迹中提取自然语言形式的经验抽象(如策略和警示),并通过推理时检索或强化学习训练来提升数学和逻辑推理性能,且自提取抽象与教师提取抽象效果相当。
值得关注:本研究首次系统验证了LLM可以像人类一样从解题经验中提炼可复用的自然语言抽象,并利用这些抽象持续改进自身推理能力。与已有相关卡片(如自我精炼、自监督增强)相比,本研究提供的增量信息在于:不是通过反复修改同一输出或依赖干…
本文是一篇系统性的综述与诊断评估,针对多模态大语言模型(MLLM)在遥感图像场景理解(RSISU)中的应用。作者回顾了RS-MLLM的技术演进(模型设计、多模态学习、训练数据、下游能力),并首次将RS-MLLM与通用CV-MLLM在多种RSISU任务和基准上进行对比,以厘清现有MLLM的能力边界、跨任务泛化能力与任务特定局限。
值得关注:挑战了“遥感任务必须使用领域专用模型”的常规认知,揭示了通用CV-MLLM的强迁移能力。 为遥感智能体开发提供了参照:通用模型可作为基线,而专用模型的价值应聚焦于高分辨率、细粒度定位等特定场景。 与既有卡片无关,本文首…
该研究提出一种多模态深度学习架构,联合处理原始时间序列、小波图像和静态特征向量,在42肽基准上超越现有方法超10个百分点,并能以近完美精度迁移至20氨基酸数据集,展示了机器学习在纳米孔传感器分子识别中的潜力。
值得关注:纳米孔信号分类长期受限于信号复杂性,传统方法准确率低。本工作通过多模态融合显著提升精度,且展示了良好的跨数据集迁移能力,为单分子传感的实用化扫清了一个关键障碍。
多模态大语言模型(MLLM)在视觉-语言任务中表现优异,但高推理成本(源于大量视觉输入 token 和 LLM 的繁重计算)阻碍了实际部署。现有方法通常独立优化单个维度(如裁剪冗余视觉 token、跳过 LLM 层或注意力头),忽略了计算资源必须在各维度间根据输入内容动态分配的根本耦合问题。
值得关注:它首次将视觉 token 压缩与 LLM 计算裁剪作为耦合问题统一建模,而不是独立优化。这与已有相关卡片(如独立优化 token 或层的方法)形成增量:本文指出独立优化的根本缺陷,并提出联合调度方案,在概念和方法上均有推进。
LKValues 是首个基于调查的斯里兰卡价值观对齐资源套件,包含 40 个多数人认可的社会价值观、15 万条僧伽罗语-英语指令数据和 1000 条评估基准;微调 Qwen 系列模型后显著减少了无效输出和跨语言差异,但效果依赖模型家族。
值得关注:本研究填补了斯里兰卡价值观对齐的资源空白,强调在 LLM 对齐中纳入非西方、低资源语言和多元文化价值观的必要性。其方法论可推广到其他低资源国家或地区,推动全球 AI 价值观包容性。
本文证明了局部 Lipschitz 函数在 Lipschitz 伪度量下的强大数定律,并识别出一类函数集,使得此前发现的“失败现象”不再出现。
值得关注:拓展了传统大数定律的适用范围,从可微或凸函数扩展到局部 Lipschitz 函数族。 利用模型论(o-minimal 结构)为涉及非光滑函数的学习和优化问题提供统一框架。 直接回应了文献中关于“随机次微分不收敛”的负面…
本文提出一种无需任何标注数据、仅通过最小化有限体积法(FVM)残差来训练注意力图神经网络的方法,在稳态三维热流体场预测中达到全场归一化均方根误差(nRMSE)2.3–2.8%,在参数化瞬态案例中精度甚至优于有监督基线,同时完全省去了传统数值模拟生成训练数据的计算与存储成本。
值得关注:传统数据驱动代理模型面临“数据瓶颈”:生成高质量CFD标签数据需大量算力和存储,尤其对于三维瞬态问题。本文提出的FVM残差训练方法将物理模型(有限体积法)直接嵌入损失函数,实现了零标注训练,在部分场景中甚至比用标签训练…