知识卡片:透过干扰看本质——基于最小核心的上下文稳定归因
一句话结论
论文提出“上下文干扰项”(contextual distractors)概念,指出在计算机视觉中,某些特征加入完整真实图像后反而降低目标类得分(即使预测标签不变),并研究半值与最小核心(least core)下这类特征的归因差异,给出量化差距界与充分条件,实验支持了理论发现。
事件概述或研究问题
Shapley 值类解释广泛用于机器学习特征归因,但在视觉任务中存在一个反常现象:某特征对完整真实图像的贡献可能为负,即加入后降低目标类分数,而预测标签保持不变。论文将这类特征形式化为上下文干扰项,并追问:在半值(semivalues)与最小核心两种归因框架下,这类特征的归因如何表现、差异有多大、受什么条件约束。
方法/产品要点
- 形式化定义“上下文干扰项”:加入完整真实图像后降低目标类得分、但不改变预测标签的特征。
- 在半值与最小核心框架下分析归因。
- 在“弱平均边际单调性”(weak average marginal monotonicity)假设下,推导半值与最小核心之间的量化差距界,以及基于“采样到更小上下文的概率”的充分条件。
- 进一步证明:将半值权重向更大上下文偏移,会减小带符号差距。
- 用受控图像分类实验与 Salient ImageNet 评估验证理论。
主要结果或产业意义
论文报告理论推导(差距界与充分条件)获得受控图像分类实验和 Salient ImageNet 评估的有力实证支持;具体数值结果待核实(摘要未给出)。产业意义在于:为视觉模型解释中“看似负面但实为上下文干扰”的特征提供更稳定的归因框架,有助于提升解释方法的可信度。
为什么重要
Shapley 类归因在视觉解释中被广泛使用,但若特征贡献随上下文变化而符号翻转,解释的稳定性就成问题。本文把这一现象理论化,并给出半值与最小核心差异的可量化边界,为设计上下文稳定的归因方法提供了理论依据;同时提示“权重偏向更大上下文”可缩小差距,具有方法设计上的指导意义。
局限与不确定性
- 理论结论依赖“弱平均边际单调性”假设,该假设在真实模型中的普遍性待核实。
- 摘要未给出具体实验数值与基线对比,量化效果待核实。
- 实验集中于图像分类与 Salient ImageNet,其他视觉任务(检测、分割)的适用性待核实。
- 与既有卡片无直接延续关系;本条为新的理论方向。
可用于图书/PPT/简报的角度
- “解释也会被上下文带偏”:用上下文干扰项说明归因不稳定的直观例子。
- 半值 vs 最小核心:两种归因框架的差距如何被上下文采样概率约束。
- 权重偏移与稳定性:把权重移向更大上下文为何能缩小带符号差距。
- 视觉模型可解释性的理论边界:从经验方法走向可证明的归因稳定性。
原始材料
- 标题:Seeing Through Distractions: Context-Stable Attribution via the Least Core
- arXiv ID:2610.35827v1
- 作者:Sai Ganesh Nagarajan, Toshinori Yamauchi, Hiroshi Kera
- 发布/更新:2026-10-26T17:49:16Z
- 主分类:cs.CV;分类:cs.CV, cs.GT
- 摘要链接:https://arxiv.org/abs/2610.35827v1
- PDF 链接:https://arxiv.org/pdf/2610.35827v1
- 关键词:contextual distractors, semivalues, least core, Shapley-value-based explanations, feature attribution
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
Shapley 类归因在视觉解释中被广泛使用,但若特征贡献随上下文变化而符号翻转,解释的稳定性就成问题。本文把这一现象理论化,并给出半值与最小核心差异的可量化边界,为设计上下文稳定的归因方法提供了理论依据;同时提示“权重偏向更大上下文”可缩小差距,具有方法设计上的指导意义。
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: