知识卡片：临床类别不平衡下选择性预测的不确定性量化失效

一句话结论

在临床预后任务存在严重类别不平衡时，标准不确定性量化可能反映的是类别归属而非临床模糊性，从而导致选择性预测系统性排除少数类患者；该偏差被描述为可修正的结构性缺陷，但具体方法细节待核实。

事件概述或研究问题

来源元数据指向一篇 arXiv 论文（编号 2610.37561v1），主题为 foundation-model，标题为“When uncertainty quantification fails: structural vulnerabilities and corrections for selective prediction under clinical class imbalance”。论文关注选择性预测（selective prediction）在临床人工智能安全机制中的作用：将模糊病例转交人类专家、自动化高置信度决策。其研究问题是：在严重类别不平衡的预后任务中，不确定性分数是否仍能准确反映临床模糊性。

方法/产品要点

• 论文讨论选择性预测系统在临床类别不平衡场景下的结构脆弱性，并提出修正方向（候选摘要提及 CCR 与 threshold-aware metrics 的组合，但正文未能抓取，具体定义与实现待核实）。
• 候选摘要称评估覆盖 56 个合成条件与三个神经退行性疾病队列（多发性硬化、帕金森病、阿尔茨海默病），跨越严重不平衡到接近平衡的条件；该队列与实验规模信息待核实。
• 候选摘要提及全局指标与类别分层评估的对比，以及熵等标准不确定性度量在阈值 τ=0.5 时破坏类内单调性；相关公式、阈值设定与证明待核实。

主要结果或产业意义

候选摘要给出的结论是：标准不确定性量化在临床类别不平衡下可能衡量数据集稀疏性而非临床模糊性，形成“安全错觉”；该偏差是可修正的结构性缺陷，采用阈值对齐的不确定性度量与类别分层评估可降低类别特异风险失衡。由于正文未抓取，具体数值结果、效应大小与统计检验均待核实。产业意义上，论文提示部署选择性预测的临床流水线在类别不平衡条件下应重新审视不确定性度量与评估协议（待核实具体建议）。

为什么重要

选择性预测被视为临床 AI 安全护栏，但其有效性依赖“不确定性分数≈临床模糊性”的前提。若在少数类患者中该前提不成立，系统可能在不报错的情况下系统性延迟或排除最脆弱人群。该论文将问题定位为结构性、可修正的偏差，并主张类别分层评估与阈值对齐度量，这对临床 AI 的验证与监测试计具有直接警示意义；与既有卡片中“不确定性量化与传播”“鲁棒 RL 处理模型与测量不确定性”的脉络相比，本条增量在于把不确定性量化的失效机制与类别不平衡下的选择性预测安全性联系起来（具体增量证据待核实）。

局限与不确定性

• 来源正文未能抓取，本卡片仅基于标题、arXiv 编号、主题标签与候选摘要生成；除标题与 URL 外的所有事实性陈述均待核实。
• 候选摘要中提及的“56 个合成条件”“三个神经退行性疾病队列”“CCR”“τ=0.5”“类内单调性”等术语与数字未能在来源材料中独立确认。
• 论文是否经过同行评审、代码与数据是否公开、外部验证范围均待核实。
• 不能从材料确认该方法在真实临床部署中的收益与风险。

可用于图书/PPT/简报的角度

• “安全护栏也会偏”：选择性预测在类别不平衡下的结构性失效，可作为临床 AI 安全章节的反例。
• 不确定性分数的“双重身份”：度量临床模糊性还是类别稀疏性？适合用于解释评估指标选择如何改变患者群体间的风险分配。
• 类别分层评估的必要性：全局指标可能掩盖少数类敏感性崩塌，可作为模型验证清单的一条。
• 可修正的偏差：从“发现失效”到“阈值对齐度量+分层评估”的修正路径（具体方法待核实后再展开）。
• 与既有不确定性量化卡片的对照：从物理建模中的不确定性传播，转到临床预后中的不确定性“语义错位”。

与既有脉络的关系

既有卡片分别讨论物理增强网络中的不确定性量化与传播、量子特征工程对信用违约预测的增益边界、以及鲁棒 RL 统一处理跨患者泛化与测量误差。本条若经核实，增量在于揭示：在临床类别不平衡下，不确定性量化本身的语义可能偏移，进而使选择性预测的安全机制失效；这与“不确定性需要被正确建模与传播”的脉络一致，但焦点从建模方法转到评估协议与类别分层风险。

原始材料

• 标题：When uncertainty quantification fails: structural vulnerabilities and corrections for selective prediction under clinical class imbalance
• 来源：arXiv
• URL：https://arxiv.org/abs/2610.37561v1
• Track：academic
• Topics：foundation-model
• 正文抓取状态：未能抓取正文；本卡片仅基于已知元数据与候选摘要，事实性内容待核实。