知识卡片:目标泄漏而非模型类别解释了基于调查的心血管筛查报告准确率:对玻璃盒与表格基础模型的泄漏分层审计
英文标题:Target leakage, not model class, explains reported accuracy in survey-based cardiovascular screening: a leakage-tiered audit of glass-box and tabular foundation models
英文关键词(据摘要整理;原源未单列关键词字段):target leakage; cardiovascular screening; AUROC; glass-box; tabular foundation models; Behavioral Risk Factor Surveillance System; explainable boosting machine; conformal prediction; Mondrian calibration; fairness; calibration; evaluation practice
一句话结论
在这项泄漏分层审计中,基于全国健康调查的心血管筛查模型所报告的高 AUROC 更主要由特征集/目标泄漏解释,而非模型类别;移除两个诊断后特征后,所有模型的性能差距收缩到很窄区间,透明玻璃盒模型与表格基础模型相比没有性能劣势且推理快得多,评估实践而非模型容量是约束。
事件概述或研究问题
- 背景:基于 national health surveys 训练的心血管筛查模型常报告 AUROC 约 0.89。
- 问题:该准确率反映学习还是目标泄漏?表格基础模型是否改变结论?部署所需的属性能否在联合检查下成立?
- 数据与设计:在 2022 年行为风险因素监测系统(BRFSS)的 442,067 名受访者中,针对 prevalent myocardial infarction 基准测试十种分类器;这些分类器覆盖 linear、tree-ensemble、neural、glass-box 和 tabular foundation 类别;使用五个特征层级,泄漏风险递减。
- 审计维度:判别力、校准、在明确筛查阈值下的公平性、共形覆盖、解释忠实度、推理成本。
- 外部应用:模型和阈值冻结后,应用于 2023 年 BRFSS 的 430,755 名受访者。
方法/产品要点
- 泄漏分层:五个 feature tiers 对应递减的泄漏风险;关键操作是移除两个 post-diagnostic features。
- 模型比较:十种分类器;摘要未列出具体模型清单、超参数和实现细节,待核实。
- 联合审计:除 AUROC 外,同时检查 calibration、fairness、conformal coverage、explanation faithfulness、inference cost。
- 玻璃盒方法:以 explainable boosting machine 作为可解释模型代表。
- 公平与不确定性修复:通过编辑模型 shape functions 缩小性别检测差距;使用 Mondrian calibration 修复各分层共形覆盖。
- 时间外部验证:在 2022 数据上完成基准测试与审计,冻结模型和阈值后用于 2023 数据。
主要结果或产业意义
- 移除两个 post-diagnostic features 使每个模型损失 0.049–0.051 AUROC,整个模型场收缩为 0.0045 宽的性能带。
- 玻璃盒 explainable boosting machine 在预设 0.005 非劣 margin 内不劣于所有替代模型,并在该队列评分上比最强 foundation model 快约 104 倍。
- 某一阈值检测到女性心肌梗死 75.4%,男性 89.0%;编辑 shape functions 后差距降至 0.010。
- 边际共形预测对男性覆盖 0.86,对 60 岁以上成人覆盖 0.82;Mondrian calibration 修复了每个分层。
- 冻结模型在 2023 数据上的 AUROC 迁移差异在 0.002 以内。
- 作者结论:该文献中报告的性能提升空间是特征集属性,而非学习器属性;透明度没有可测成本,并使公平修复与不确定性条件化可直接审计;评估实践而非模型容量是 binding constraint。
为什么重要
- 对临床风险筛查与健康调查建模,提醒优先审计目标泄漏和特征可得性,而不是先追逐更复杂模型。
- 对表格基础模型:在本研究比较中,玻璃盒模型非劣于包括表格基础模型在内的替代模型,同时推理更快;在本研究设置下,透明、快速、可审计的玻璃盒模型值得作为部署基线考虑。
- 对评估协议:仅报告 AUROC 会掩盖校准、公平、覆盖和解释忠实度问题;联合审计和外部时间验证应成为常规。
- 与既有脉络的关系:已有 CAM 综述等关注可解释性与基础模型评估碎片化;本条增量在于把“可解释性/基础模型”问题放到临床表格筛查的泄漏分层与部署属性联合审计中,指出模型类别不是报告准确率的主因,并展示公平与不确定性修复的可审计路径。它与已有 MLLM 视觉认知错误卡片、代码模型自修复卡片领域不同,不重复其事实。
局限与不确定性
- 以上主要来自摘要;完整论文中的特征分层定义、十个模型清单、超参数、统计检验、预设 0.005 margin 的定义与实现细节、公平性指标定义、阈值选择、外部验证细节、代码和数据可得性等均待核实。
- 摘要称“解释”,但本研究设计能否支持因果性归因,需看正文方法与敏感性分析;当前可表述为“在本研究设置下,报告准确率与特征集/目标泄漏高度相关”。
- BRFSS 为调查数据,心肌梗死(prevalent myocardial infarction)的定义、测量方式与临床验证程度待核实。
- 模型和阈值冻结后的 2023 迁移在 0.002 AUROC 内,但其他年份、人群或医疗系统的可迁移性待核实。
- 推理速度“约 104 倍”的具体硬件、批大小、预处理成本和统计不确定性待核实。
- Mondrian calibration 与 shape functions 编辑的实现、是否影响其他分层或整体性能待核实。
可用于图书/PPT/简报的角度
- “不是模型不够强,而是评估在漏题”:目标泄漏如何抬高健康筛查 AI 的 AUROC。
- 表格基础模型 vs 玻璃盒模型:复杂度和可解释性是否真的换来部署优势?
- 从单一 AUROC 到联合审计:判别力、校准、公平、共形覆盖、解释忠实度、推理成本六件套。
- 公平性可修复性:编辑 shape functions 缩小性别检测差距的案例。
- 不确定性分层:Mondrian calibration 如何修复不同人群的共形覆盖。
- 评估实践作为 binding constraint:为什么可审计基线可能比更大模型更重要。
原始材料
- 英文标题:Target leakage, not model class, explains reported accuracy in survey-based cardiovascular screening: a leakage-tiered audit of glass-box and tabular foundation models
- arXiv ID:2609.11838v1
- Authors:Raad Bin Tareaf, Murad Al-Rajab, Samia Loucif, Samer Ellaham, Cedric Schmitz
- Published:2026-09-10T17:29:15Z
- Updated:2026-09-10T17:29:15Z
- Primary category:cs.CL
- Categories:cs.CL
- Abstract URL:https://arxiv.org/abs/2609.11838v1
- PDF URL:https://arxiv.org/pdf/2609.11838v1
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
对临床风险筛查与健康调查建模,提醒优先审计目标泄漏和特征可得性,而不是先追逐更复杂模型。 对表格基础模型:在本研究比较中,玻璃盒模型非劣于包括表格基础模型在内的替代模型,同时推理更快;在本研究设置下,透明、快速、可审计的玻璃盒模型值得作为部署基线考虑。 对评估协议:仅报告 AUROC 会掩盖校准、公平、覆盖和解释忠实度问题;联合审计和外部时间验证应成为常规…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。