知识卡片：解释忠实性评估标准间的分歧导航

一句话结论

论文提出“忠实性泛函”（faithfulness functional）框架，把现有解释忠实性评估标准之间的分歧定位为对“解释对模型作出了什么断言、哪些比较与该断言相关、如何聚合这些比较”的不同选择，并主张这些选择需借助解释性、制度性与规范性理由来辩护，而非存在唯一正确的评估标准。

事件概述或研究问题

忠实性（faithfulness）要求算法解释准确反映模型行为。但现有对忠实性的操作化（operationalization）可能对同一解释是否忠实给出相互矛盾的判断，令开发者和审计者难以取舍。论文研究的问题是：这些评估标准为何分歧，以及在实践中如何面对这种分歧。

方法/产品要点

• 提出“忠实性泛函”，将现有评估标准重构于同一框架内，把分歧拆解为三个维度：解释对模型作出的断言、与该断言相关的比较、以及比较结果如何聚合。
• 将忠实性理解为模型与解释之间一种共同但未被完全规定的关系；不同操作化反映的是这一一般要求下尚未确定的选择。
• 以“不利行动通知”（adverse action notices）为案例，重构某行业提议流程中隐含的评估方式，识别哪些选择由具体情境证成、哪些仍开放。
• 未提供具体指标名称或实验数值——材料中未列出，待核实。

主要结果或产业意义

论文主张文献中应预期存在多种操作化，而非追求单一标准；同时说明具体应用场景可以缩小选择范围。对审计者和从业者而言，该框架提供了在相互冲突的忠实性评估之间导航的路径，并为特定情境下选择某一操作化提供辩护依据。

为什么重要

在可解释AI的评估实践中，忠实性常被视为核心要求，但度量之间的不一致会导致审计结论分歧。该工作把“标准冲突”转化为“可辩护的选择问题”，为监管与审计场景（如不利行动通知）中按情境论证评估方式提供了方法论。与既有卡片中“解释方法评估挑战”和“可解释性需求工程”脉络相关，本条增量在于专门针对忠实性这一属性给出分歧的结构化分析框架，而非泛论评估不足或需求规约。

局限与不确定性

材料仅为摘要，未提供具体重构了哪些现有标准、案例研究的细节与结论强度；框架在真实审计流程中的可操作性、是否需要额外假设，均待核实。

可用于图书/PPT/简报的角度

• “同一解释，不同忠实性分数”：为何评估标准会打架。
• 把评估标准选择视为需要论证的设计决策，而非技术中立事实。
• 监管场景（不利行动通知）如何约束忠实性评估的选择空间。
• 与可解释性需求工程、解释评估演化挑战等主题串联，构成“XAI评估治理”章节。

原始材料

• 标题：Navigating Disagreement Among Criteria for Evaluating Explanation Faithfulness
• 作者：Grant Shanklin, Jiří Němeček, Asia Biega
• arXiv ID：2611.06846v1（cs.LG, cs.CY）
• 提交时间：2026-11-04
• 摘要页：https://arxiv.org/abs/2611.06846v1
• PDF：https://arxiv.org/pdf/2611.06846v1