AI消息速览

透过干扰看本质——基于最小核心的上下文稳定归因

事件日期 2026-10-26 · 学术前沿 · 已接受

事件日期2026-10-26
信息日期2026-10-26
入库日期2026-10-27
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:透过干扰看本质——基于最小核心的上下文稳定归因

一句话结论

论文提出“上下文干扰项”(contextual distractors)概念,指出在计算机视觉中,某些特征加入完整真实图像后反而降低目标类得分(即使预测标签不变),并研究半值与最小核心(least core)下这类特征的归因差异,给出量化差距界与充分条件,实验支持了理论发现。

事件概述或研究问题

Shapley 值类解释广泛用于机器学习特征归因,但在视觉任务中存在一个反常现象:某特征对完整真实图像的贡献可能为负,即加入后降低目标类分数,而预测标签保持不变。论文将这类特征形式化为上下文干扰项,并追问:在半值(semivalues)与最小核心两种归因框架下,这类特征的归因如何表现、差异有多大、受什么条件约束。

方法/产品要点

  • 形式化定义“上下文干扰项”:加入完整真实图像后降低目标类得分、但不改变预测标签的特征。
  • 在半值与最小核心框架下分析归因。
  • 在“弱平均边际单调性”(weak average marginal monotonicity)假设下,推导半值与最小核心之间的量化差距界,以及基于“采样到更小上下文的概率”的充分条件。
  • 进一步证明:将半值权重向更大上下文偏移,会减小带符号差距。
  • 用受控图像分类实验与 Salient ImageNet 评估验证理论。

主要结果或产业意义

论文报告理论推导(差距界与充分条件)获得受控图像分类实验和 Salient ImageNet 评估的有力实证支持;具体数值结果待核实(摘要未给出)。产业意义在于:为视觉模型解释中“看似负面但实为上下文干扰”的特征提供更稳定的归因框架,有助于提升解释方法的可信度。

为什么重要

Shapley 类归因在视觉解释中被广泛使用,但若特征贡献随上下文变化而符号翻转,解释的稳定性就成问题。本文把这一现象理论化,并给出半值与最小核心差异的可量化边界,为设计上下文稳定的归因方法提供了理论依据;同时提示“权重偏向更大上下文”可缩小差距,具有方法设计上的指导意义。

局限与不确定性

  • 理论结论依赖“弱平均边际单调性”假设,该假设在真实模型中的普遍性待核实。
  • 摘要未给出具体实验数值与基线对比,量化效果待核实。
  • 实验集中于图像分类与 Salient ImageNet,其他视觉任务(检测、分割)的适用性待核实。
  • 与既有卡片无直接延续关系;本条为新的理论方向。

可用于图书/PPT/简报的角度

  • “解释也会被上下文带偏”:用上下文干扰项说明归因不稳定的直观例子。
  • 半值 vs 最小核心:两种归因框架的差距如何被上下文采样概率约束。
  • 权重偏移与稳定性:把权重移向更大上下文为何能缩小带符号差距。
  • 视觉模型可解释性的理论边界:从经验方法走向可证明的归因稳定性。

原始材料

  • 标题:Seeing Through Distractions: Context-Stable Attribution via the Least Core
  • arXiv ID:2610.35827v1
  • 作者:Sai Ganesh Nagarajan, Toshinori Yamauchi, Hiroshi Kera
  • 发布/更新:2026-10-26T17:49:16Z
  • 主分类:cs.CV;分类:cs.CV, cs.GT
  • 摘要链接:https://arxiv.org/abs/2610.35827v1
  • PDF 链接:https://arxiv.org/pdf/2610.35827v1
  • 关键词:contextual distractors, semivalues, least core, Shapley-value-based explanations, feature attribution

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

Shapley 类归因在视觉解释中被广泛使用,但若特征贡献随上下文变化而符号翻转,解释的稳定性就成问题。本文把这一现象理论化,并给出半值与最小核心差异的可量化边界,为设计上下文稳定的归因方法提供了理论依据;同时提示“权重偏向更大上下文”可缩小差距,具有方法设计上的指导意义。

相关主题

对应的教材知识点

根据卡片内容自动匹配,点击查看已审核的教材讲解: