输入归因方法
教材《人工智能导论》4.4.2 / 内部第2点 · 已审核
通俗解释
如果说模型分析是在探索模型内部储存的知识，那么输入归因的任务则是在回答：面对一个具体的输入样本时，究竟是哪些特征真正驱动了模型的最终判断。 这种方法并不试图生成某种理想化的、典型的“原型图”，而是对特定的输入进行逐像素、逐词元回溯，为每个成分精准地分配贡献度。
例子
在图像分类结果旁显示哪些像素对当前预测贡献较大，再检验背景是否被错误依赖。
容易混淆
归因热图不是因果证明，还需做扰动或对照验证。
检查理解
用自己的话解释“输入归因方法”在“可解释性与可视化”中的作用，并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点：如果说模型分析是在探索模型内部储存的知识，那么输入归因的任务则是在回答：面对一个具体的输入样本时，究竟是哪些特征真正驱动了模型的最终判断。 这种方法并不试图生成某种理想化的、典型的“原型图”，而是对特定的输入进行逐像素、逐词元回溯，为每个成分精准地分配贡献度。 示例：在图像分类结果旁显示哪些像素对当前预测贡献较大，再检验背景是否被错误依赖。