知识卡片:弥合置信度差距:用温度缩放校准测试时提示调优
一句话结论
论文提出 CoTS 与 E-CoTS,用温度缩放缩小测试时提示调优(TPT)与零样本预测之间的置信度差距,并在弱-强集成上应用;在 ImageNet 变体上,E-CoTS 将 TPT 的平均 ECE 从 11.90% 降至 5.38%,同时将准确率从 60.74% 提高到 62.95%,但更细实验设置与可复现性待核实。
事件概述或研究问题
- 研究对象:Test-time prompt tuning (TPT) 能在单个测试实例上自适应,提升准确率,但常牺牲校准性能。
- 现有校准方法:多通过额外正则项促进文本嵌入分散以降低校准误差,却常伴随准确率下降。
- 本文问题:能否在保持 TPT 准确率的同时改善校准?
- 动机:零样本预测通常具有较好的校准特性。
- 论文:Bridging the Confidence Gap: Temperature Scaling for Calibrating Test-Time Prompt Tuning,arXiv:2609.17386v1。
方法/产品要点
- CoTS:一种简单后置校准方法,对 adapted 预测应用温度缩放,最小化 adapted 预测与 zero-shot 预测之间的 confidence gap,以保留准确率。
- 弱-强集成策略:为充分利用自适应过程中的多次增强,提出 weak-strong ensemble strategy,进一步提升准确率。
- E-CoTS:将 CoTS 应用于该弱-强集成,以维持其良好校准特性。
- 兼容性:E-CoTS 与现有校准方法集成时,通常能同时增强准确率和校准。
主要结果或产业意义
- 在多样数据集和 backbone 上,方法有效缓解误校准,且不损害主要准确率。
- ImageNet 变体上的报告:TPT 平均 expected calibration error 从 11.90% 降至 5.38%;准确率从 60.74% 升至 62.95%。
- 与现有校准方法结合时,E-CoTS 通常同时提升准确率和校准。
- 产业意义:若结果可复现,对需要可靠置信度的测试时适应部署有参考价值;具体场景效果待核实。
为什么重要
- 测试时适应/调优通常以准确率为核心指标,但部署中置信度是否可靠同样关键;本工作把校准作为一等目标。
- 与已有卡片脉络的关系:ElasticTTT 关注测试时调优中的先验保护;可解释自适应采样和 Consilience 关注测试时缩放/推理中的置信度信号与轨迹选择。本条增量在于:针对 TPT 的校准退化,使用零样本预测作为置信度参照,以温度缩放和弱-强集成实现“保准确率”的后置校准,而非通过正则项或轨迹选择来间接处理。
- 可能为后续“准确率-校准”联合优化提供简单基线。
局限与不确定性
- 当前仅能依据 arXiv 摘要与元数据,正文方法细节、实验设置和附录未提供。
- 待核实:具体数据集列表、backbone 类型、ImageNet 变体的具体划分、ECE 分箱与实现、温度参数如何设定/学习、弱-强集成的构成、计算与显存开销、是否依赖额外验证数据、是否覆盖图像分类之外任务。
- 待核实:与哪些现有校准方法集成、baseline 设置、统计显著性和方差。
- 待核实:代码与复现材料是否公开。
- 原始材料未单独列出关键词;本卡片中的英文关键词为据标题/摘要提取。
可用于图书/PPT/简报的角度
- “准确率涨了,置信度可信吗?”:用 TPT 校准退化说明测试时适应的隐藏风险。
- “零样本预测作为校准锚”:适应后的预测不应离零样本置信度太远。
- “后置温度缩放仍有用”:简单后处理可与复杂测试时适应叠加。
- “弱-强集成一石二鸟”:增强多样性既提升准确率又帮助维持校准。
- 关键数字页:ECE 11.90%→5.38%,Accuracy 60.74%→62.95%(ImageNet 变体)。
- 脉络页:从 TTT 先验保护到 TPT 置信度校准,再到可靠测试时适应。
原始材料
- 英文标题:Bridging the Confidence Gap: Temperature Scaling for Calibrating Test-Time Prompt Tuning
- 英文关键词(据材料提取,原文未列出):Test-time prompt tuning; Temperature scaling; Calibration; CoTS; E-CoTS; Weak-strong ensemble; Expected calibration error
- arXiv ID:2609.17386v1
- 作者:Yuwei Liang, Jian Liang, Dapeng Hu, Yinuo Xu, Ran He
- 发布时间:2026-09-15T16:25:48Z;更新时间:2026-09-15T16:25:48Z
- 主分类:cs.LG;分类:cs.LG
- Abstract URL:https://arxiv.org/abs/2609.17386v1
- PDF URL:https://arxiv.org/pdf/2609.17386v1
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
测试时适应/调优通常以准确率为核心指标,但部署中置信度是否可靠同样关键;本工作把校准作为一等目标。 与已有卡片脉络的关系:ElasticTTT 关注测试时调优中的先验保护;可解释自适应采样和 Consilience 关注测试时缩放/推理中的置信度信号与轨迹选择。本条增量在于:针对 TPT 的校准退化,使用零样本预测作为置信度参照,以温度缩放和弱-强集成实现…
相关主题
对应的教材知识点
教材知识点匹配尚未完成。