知识卡片：ConceptSMILE：审计基于概念的可解释 AI 的可信度

一句话结论
ConceptSMILE 是一个模型无关的扰动式审计框架，可独立评估基于概念的可解释 AI（XAI）输出的可靠性；在眼底视网膜图像实验中，不同概念解释方法在不同可信度维度上表现各异。

事件概述 / 研究问题
基于概念的可解释 AI 能让人更直观地理解模型推理逻辑，但概念层的输出并不自动可信。现有方法（如 SMILE）主要审计特征级或区域级归因，缺少对“人类可理解的概念解释”这一层面的可信度评估。本文提出 ConceptSMILE，将 SMILE 的扰动逻辑扩展至概念解释的审计。

方法 / 产品要点

• 框架对输入区域进行扰动，测量概念响应的变化。
• 应用局部加权（locality weighting），并拟合 XGBoost 代理模型来近似局部概念行为。
• 从五个维度评估可信度：归因准确率（attribution accuracy）、代理保真度（surrogate fidelity）、忠实性（faithfulness）、稳定性（stability）、一致性（consistency）。
• 模型无关：可审计任意基于概念的解释方法。

主要结果或产业意义

• 在眼底视网膜图像上对比了 MedSAM 导出的视觉概念与 VLM（视觉语言模型）导出的语义概念。
• MedSAM 在空间归因上更强，代理保真度最高（$R^2 = 0.8503$，加权 $R_w^2 = 0.8465$）。
• VLM 路径在血管概念的忠实性以及在特定伪影条件下的稳定性上表现更好。
• 表明不同概念解释路径的可信度存在差异，需要针对性审计。

为什么重要
为概念级 XAI 提供了独立的审计层，填补了仅凭概念输出无法判断可信度的缺口。在医疗影像等高风险场景中，可信度评估对部署决策至关重要。

局限与不确定性

• 论文仅在眼底视网膜图像的一个数据集上评估，泛化性待核实。
• 未讨论审计计算开销或实时性。
• 未比较 ConceptSMILE 与其他审计方法在同一场景下的性能（待核实）。

可用于图书 / PPT / 简报的角度

• 示例：解释 AI 的“信任危机”以及如何用扰动审计来量化概念可靠性。
• 强调不同解释方法（如基于视觉分割 vs. 基于语义）在不同维度上的性价比权衡。
• 引用具体数字（如 $R^2=0.85$）作为 MedSAM 保真度的证据。

与既有脉络的关系
本条是知识卡片新条目，与本库已有卡片（Embodied.cpp、VLA忠实性、图稀疏采样）主题不同，无直接冲突。

原始材料

• 英文标题：ConceptSMILE: Auditing the Trustworthiness of Concept-Based Explainable AI
• 关键词：ConceptSMILE; Auditing; Trustworthiness; Concept-Based Explainable AI
• 来源：arXiv:2607.09649v1, https://arxiv.org/abs/2607.09649v1
• 原文摘要：Concept-based explainable AI can make model reasoning more human-understandable, but concept-level outputs are not automatically trustworthy. We introduce ConceptSMILE, a model-agnostic perturbation-based auditing framework for evaluating the reliability of concept-based explanations. ...