OP-Print 是首个针对“同策略自蒸馏”的成员推断攻击研究:作者发现自蒸馏的监督印记稀疏且有结构,集中在不确定性敏感的位置,并据此在灰盒与黑盒两种威胁模型下构建了统一攻击框架,效果显著优于基线(基线即使在灰盒下也接近随机猜测)。
值得关注:自蒸馏常被视为“无需外部教师”的轻量化实用方案,本研究提示其隐私成本不可忽略。 揭示了监督印记的稀疏结构化特性,为攻击与防御都提供了可操作的着力点(关注纠正位点而非全轨迹)。 与既有同策略自蒸馏研究(如 LIFT、VA…
OP-Print 是首个针对“同策略自蒸馏”的成员推断攻击研究:作者发现自蒸馏的监督印记稀疏且有结构,集中在不确定性敏感的位置,并据此在灰盒与黑盒两种威胁模型下构建了统一攻击框架,效果显著优于基线(基线即使在灰盒下也接近随机猜测)。
值得关注:自蒸馏常被视为“无需外部教师”的轻量化实用方案,本研究提示其隐私成本不可忽略。 揭示了监督印记的稀疏结构化特性,为攻击与防御都提供了可操作的着力点(关注纠正位点而非全轨迹)。 与既有同策略自蒸馏研究(如 LIFT、VA…
论文深入分析 G-Retriever 后发现一种称为“token collapse(Token 坍缩)”的病理行为:图软提示学习到的图 token 在不同输入之间几乎无法区分,实际只充当通用软提示,而非传递图内容;论文还提出评估图 token 对齐性的实用方法。
值得关注:揭示图软提示类方法可能并未按设计意图利用图结构,任务准确率不足以证明图 token 对齐。 提供了一套基于干预和探针的实用评估方法,用于检验图 token 与图内容的对齐性,而非仅从任务准确率推断。 对知识图谱问答等依…
OmniRay 是一种前馈单目3D重建模型,通过将相机几何建模为“复合光线场”(单调径向基 + 球谐残差 + 自由形式残差),在推理时无需相机参数即可从单张图像恢复3D点云,并在多种相机配置下达到相机无关单目重建的新的最优水平。
值得关注:把“相机几何”从单一固定基的隐式拟合,拆解为“径向对称 + 平滑偏离 + 局部残差”的层级表示,为广角/鱼眼/全景等非针孔成像的单目重建提供了结构性归纳偏置。 推理阶段免相机参数,意味着可直接用于相机型号未知或元数据缺…
METTA 把元强化学习的快速适应拆成“回合内细粒度适应 + 回合级摘要跨回合推断”两个时间尺度,用因果神经内存以线性序列复杂度替代 Transformer 对完整交互历史做二次代价注意力,在未见过的 Meta-World 与长上下文稀疏奖励 PointMaze 任务上取得更好或更高效的适应表现。
值得关注:长上下文是元强化学习绕不开的瓶颈:循环结构压缩有信息损失,Transformer 检索代价高。METTA 的思路是把“细粒度短期记忆”和“压缩长期摘要”分开处理,在保持线性复杂度的同时保留跨回合任务推断能力,并把神经内…
将 N-Gram 嵌入表以低精度(约 4 比特)存储,可在保留绝大部分性能增益的同时节省约 75% 的表格内存;在现有大模型上也可节省 47–55% 的表格内存且困惑度上升不超过 1.2%。
值得关注:N-Gram/Engram 类嵌入表是近期开放权重模型提升性能的常见组件,但其参数量可达千亿级,成为显存与部署的瓶颈。本文表明仅靠存储精度调整即可释放大量内存预算,且释放的预算还能反哺模型容量,对模型压缩与推理部署具有…
LACToS 是一种面向“局部异常/OOD 区域”检测的统计典型性方法,通过“像素聚成超像素”和“用计算高效的代理估计典型性”两项设计,使典型性检验在多模态内点分布下更可行;论文称其在医学影像、人脸与 X 射线安检三类场景中比既有方法更稳健(具体数值与实验设置待核实)。
值得关注:现有局部异常检测研究高度偏向工业缺陷基准,LACToS 把“内点分布多模态”明确作为问题核心,提示跨场景泛化是该方法的主要卖点。 超像素 + 典型性代理的组合思路,可能为资源受限场景下的局部 OOD 检测提供更可扩展的…
在乳腺病变管理文献的 RAG 系统中,检索分数高度依赖标注覆盖范围:扩充证据标注能提高被识别的证据数量与目标块数量,却不改变检索排名,说明评估结果对“真实标注”的构造方式敏感。
值得关注:检索评估分数并非“客观常数”,而是随标注覆盖度变化的量。对于临床 RAG 这类高风险场景,若只报告分数而不说明标注构造过程,可能高估或误读系统能力。该研究提示:评估协议应显式记录证据标注的粒度与覆盖范围,并把“排名稳定…
HiP3R 用“先块级 Sim(3) 图定全局布局与尺度、再固定布局逐帧估计共享 SE(3) 相机”的层级位姿图方案,弥合了长视频三维重建中块级优化的刚性局限与帧级优化的高成本/尺度不稳定之间的矛盾,且无需额外训练或微调即可用于块式与流式后端。
值得关注:长时域三维重建的核心痛点不是单窗口精度,而是跨块的一致性:坐标帧漂移、尺度漂移、回环闭合与重复相机估计。HiP3R 的价值在于把“块级定全局、帧级修局部”的分工显式化为两级图优化,从而在保持度量尺度的同时恢复帧级轨迹灵…
GigaBench 是首个专门评估“可学习表征”(Learnable Representations, LRs)在十亿像素(gigapixel)级图像上做压缩与超分辨率表现的基准,并在消费级硬件上系统比较了隐式、混合、显式三类 LRs 的重建质量、模型大小、压缩与推理时间。
值得关注:为十亿像素级图像的神经原生表示提供了第一个统一评测口径,填补了 LRs 在超大规模图像场景下缺乏基准的空白。 强调“消费级硬件可运行”,意味着评估不止看质量,也看部署可行性,对实际产业落地更有参考价值。 与既有卡片中 …
Gate3DGen 是一个即插即用的预处理模型,能在不重训练现有 3D 生成器的前提下,选择性地净化真实世界退化图像,在合成基准上平均仅需 2.3 秒即可改善图像质量与下游 3D 几何精度(TRELLIS.2 网格距离相对退化输入降低 61.5%)。
值得关注:现有 3D 生成研究多聚焦生成器本身,而该工作把问题定位在“输入质量”这一前置环节,提供了一种低成本(秒级、免重训练)的兼容方案。它说明真实世界部署中的退化鲁棒性可以通过轻量预处理层缓解,而不必改动大模型权重,这对将 …
该论文提出一个不依赖特定模型结构的算法稳定性框架,将 SGD 下的期望遗忘分解为任务内/跨任务泛化差距与经验遗忘,并给出同时包含学习率调度与累积梯度对齐的上界,在 Split CIFAR-100 与 Split MiniImageNet 上进行验证。
值得关注:把“遗忘”从经验现象推进到可分解、可界定上界的理论对象,且不绑定特定网络结构,适用面更广。 学习率调度(尤其是任务边界是否重启衰减)被显式纳入遗忘分析,为训练策略设计提供理论线索。 累积梯度对齐作为非凸条件下的关键量,…
F2G-Pose 是一个实时、单次前向传播的类别级 RGB-D 物体姿态估计框架,将稠密视觉基础特征提升到部分点云上并结合几何与专家混合 Transformer,在无需实例 CAD 或参考视图的条件下同时预测姿态、度量尺寸与相机坐标系补全形状(基于摘要元数据,正文细节待核实)。
值得关注:类别级姿态估计是机器人与增强现实中无需逐实例建模即可操作新物体的关键能力。F2G-Pose 声称以单次前向、实时速度同时给出姿态、尺寸与形状,若其精度与效率结论在正文中成立,则有望降低对扩散式多步采样与复杂后处理的依赖…
EpiSEM-Bench 是一个可执行基准,专门测试“工具返回结果省略了安全相关事实”时,使用工具的 LLM 智能体是否会执行本应被禁止的动作,以及它能否主动找回缺失事实并做出恰当决策。
值得关注:智能体安全评估通常假设工具返回的信息足够支撑判断;EpiSEM-Bench 把“证据缺失”本身作为攻击面,揭示了一类被忽视的风险:请求无害、返回为真,但因关键事实缺席而导致违规执行。同时它区分了“不动作”与“主动恢复证…
该研究提出了在批处理设置下满足用户级差分隐私(Person-Level DP)的离散分布学习算法,首次在纯差分隐私(Pure DP)下实现了多项式时间且信息论最优(忽略对数因子)的样本复杂度,并利用 6 次平方和(Sum-of-Squares)估计器解决了不可信批次数据的鲁棒学习问题。
值得关注:该研究在理论上解决了用户级差分隐私下离散分布学习的样本复杂度最优性问题,特别是填补了纯差分隐私下多项式时间算法达到信息论最优界的空白。其提出的 6 次平方和估计器及相关的代数证明技术(如 Grothendieck 不等…
该论文提出一种“思维剪枝”(thought pruning)方法,直接以最大化被保留候选池的 pass@k 为目标来选择部分解,从而在剪枝阶段把“质量”(更可能通向正确答案)与“多样性”(覆盖不同推理轨迹)统一到同一优化准则中,而不是靠分开的启发式规则去平衡。
值得关注:与既有卡片《推理大模型中的测试时扩展》相呼应:那张卡片强调测试时扩展应按整个推理系统记账、并区分不同推理算法的统计结构;本工作把“剪枝”这一常被忽略的环节显式建模为 pass@k 优化,属于对测试时扩展系统评估与计算分…
论文把连续隐空间黑盒攻击中“随机映射解码”替换为连续扩散语言模型(dLLM)作为学习到的语言生成分布,在保留标准高斯隐变量与下游采样/优化流程的前提下,把生成提示的词级困惑度从最高 $10^7$ 降到个位数,并发现两种映射下的模型风险估计可相差一个数量级。
值得关注:现有连续空间攻击的有效性有一部分来自“不自然但有效”的提示,这既削弱了攻击的现实性,也让风险估计缺乏自然提示基础。本工作表明,把随机映射换成学习到的扩散语言模型后,攻击框架结构不变而提示自然度显著改善,同时风险估计发生…
CRANE 是首个面向多模态分类器的后设、模型无关反事实解释框架,通过检索目标类别的真实训练样本来构造反事实,并按多模态共识检索(MC-R)策略在四个数据集中的三个上取得最佳或并列最佳表现。
值得关注:多模态模型在产业中的部署日益增多,但解释方法多沿用单模态归因思路,容易产生跨模态不一致的解释。CRANE 的模型无关性与“检索真实样本”设计降低了适配成本,并为“解释必须落在联合数据分布内”提供了可操作准则。与既有卡片…
该研究将“成本感知弃权”作为离线、成本条件下的就绪度评估框架:在校准集上按显式成本选定路由策略,冻结后在测试集上一次性评估;在公开工单语料上,校准选出的阈值策略显著降低了误路由率与期望成本。
值得关注:对图书/简报而言,它提供了一个可复用的“成本条件就绪度评估”范式:不是问模型准不准,而是问在给定错误成本下,自动路由是否比转人工更划算。它也提醒实践者:校准指标(ECE)与判别指标(AUROC)需分开报告,否则可能高估…
论文提出“可争议治理”(contestable governance)模式:由LLM专家智能体为有争议的元数据决策生成带评分和引用的论证,人类管理员在提交前可接受、拒绝、修改或补充论证,系统保留包含证据、干预与结果的治理记录;该模式面向结构化与非结构化工业数据的统一治理。
值得关注:工业数据治理的瓶颈常在于专家审查不可扩展且不可追溯。该工作把“人类审查”从一次性点击审批变成可争议、留痕、可复用为先例的机制,与既有卡片中“轨迹完整性/可审计推理”的关注点形成互补:后者关注智能体计算轨迹的可审计性,本…
CellTrack-Bench 是一个用于评估视觉语言模型(VLM)在显微细胞追踪任务上表现的新基准,覆盖 15 个标准数据集、4 种成像模态,包含 1,537 个问题与 9,041 个细胞关联决策,并将 VLM 与专用追踪算法进行对比。
值得关注:细胞追踪是典型的专业化科学图像任务,通用 VLM 能否在此类任务上接近专用算法,直接关系到基础模型在生物医学图像分析中的适用边界。CellTrack-Bench 通过标准化数据集、困难子集筛选与失败模式分析,把“通用模…