知识卡片：谁在迎合谁？自信的大语言模型、人类顺从与信任校准的崩塌

一句话结论

在一项预印本研究中，当大语言模型（LLM）表现得更自信、一致但实际错误时，人类用户会倾向于顺从模型给出的错误信息；这种“人类侧的迎合”（human-side sycophancy）导致信任校准崩塌，且任务后的主观信任评分几乎未受影响。（以上结论基于标题与摘要元数据，正文未抓取，细节待核实。）

事件概述或研究问题

• 既有“迎合”（sycophancy）研究多关注 LLM 是否倾向于说用户想听的话；本研究提出反向问题：当 LLM 自信、一致但错误时，用户是否会向模型“屈服”。
• 研究采用被试内实验（within-subjects），32 名参与者通过聊天学习最多五个科学主题，所用五个助手均基于同一模型（GPT-5-mini）。
• 参与者不知情：每个助手的简报材料中分别有 0%、25%、50%、75%、100% 的事实被替换为看似合理的虚假信息，且所有助手都以完全自信的语气表达。

方法/产品要点

• 实验设计：被试内、多助手、多主题；每个主题后进行突袭测验，提供正确事实、植入的虚假信息与两个干扰项，并对每个答案给出信心评分。
• 数据规模（摘要口径）：104 次测验、1,040 个答案。
• 转录编码：对对话记录进行编码，统计虚假陈述被采纳的比例。
• 指标创新：提出“基线校正的人类顺从指数”（baseline-corrected Human Deference Index），用于量化人类侧的迎合行为。
• 正文方法与统计细节待核实。

主要结果或产业意义

• 测验得分从 7.4 降至 2.9（满分 10）。
• 在被篡改的题目中，植入选项被选中的比例为 60%，而正确教授题目中该比例为 11%（优势比 12.5）。
• 转录编码显示：每当助手陈述虚假信息，其在各篡改水平下的被采纳率约为 65%。
• 被吸收的虚假信息伴随高信心（8.4/10）；正确答案相对错误答案的“建模信心优势”消失；信心对正确性的区分度从 AUROC 0.70 降至随机水平。
• 任务后的信任评分几乎未变化。
• 参与者更倾向于回到表现更差的助手聊天，但回访伴随更多（而非更少）的虚假信息吸收；全部对话轮次中约 30% 是把测验问题粘贴回被检验的来源。
• 助手本身几乎从不迎合，且在反驳下从不让步。
• 作者主张：可信度是人机配对（human-AI pair）的属性；迎合评估应测量双向；学习界面必须逐条声明地使可靠性“可读”（legible claim by claim）。
• 上述数值均来自摘要，正文未抓取，待核实。

为什么重要

• 将“迎合”从模型行为扩展到人机互动中的双向动态，提示单方面评估模型迎合可能低估风险。
• 主观信任评分与客观信任校准（AUROC 崩塌）脱节，说明用户体验指标不足以反映可靠性。
• 对教育类、学习类 AI 界面设计有直接含义：需要逐条声明呈现可靠性线索，而非整体性信任提示。

局限与不确定性

• 样本量小（32 人），外部效度待核实。
• 单一模型（GPT-5-mini）与特定科学主题，跨模型、跨领域泛化性待核实。
• 摘要称“almost never sycophantic”与“never conceded”，具体编码标准与统计待核实。
• Human Deference Index 的构造与基线校正方式待核实。
• 本文为预印本（arXiv），未经同行评审状态待核实。

可用于图书/PPT/简报的角度

• “双向迎合”：不只问模型是否讨好用户，也问用户是否向自信的错误模型屈服。
• 信任校准的可视化：主观信任评分 vs. 客观 AUROC 的背离。
• 学习界面设计原则：可靠性应逐条声明可见，而非笼统标签。
• 回访悖论：用户更常回到更差的助手，且回访与更多错误吸收相关——可用于讨论参与度指标的风险。

与既有脉络的关系

• 本条与既有卡片主题不同，未直接延续或更新；但可与“大语言模型中的超级权重与选择性训练的失败”同属对 LLM 评估与训练盲点的讨论脉络，增量在于把评估对象从模型内部参数扩展到人机交互中的用户行为。

原始材料

• 标题：Who Is Sycophantic to Whom? Confident LLMs, Human Deference, and the Collapse of Trust Calibration
• 来源：arXiv（预印本），URL: https://arxiv.org/abs/2610.31579v1
• 英文关键词（据标题/摘要）：sycophancy, human deference, trust calibration, LLMs, Human Deference Index
• 说明：正文未能抓取，本卡片仅基于标题与摘要元数据生成；标注“待核实”处需回原文核对。