知识卡片：稀有、相关却依然错误——LLM 群体决策中的记忆失效

一句话结论

当 LLM 群体讨论被压缩成一段简短记忆交给最终决策者时，两种直觉式记忆筛选策略（保留最稀有主张、保留与决策标准最相关的主张）在隐藏画像任务上都会可预测地失效；决策模型还会额外受“社会证明”影响，给来自多个智能体的事实加权。以上基于元数据与摘要，正文细节待核实。

事件概述或研究问题

论文关注 LLM 群体决策中的记忆压缩问题：群体讨论内容过长，需要被压缩为短记忆供最终决策者使用，那么记忆应当保留什么？作者提出 CrossProfile 诊断基准，通过交叉控制支持性、诱饵与无关事实的“归属”（哪些智能体持有），同时固定文本内容，来分离“事实被多少人持有”与“事实是否有用”这两个混淆因素。

方法/产品要点

• CrossProfile 基准：60 个模板，答案键自动验证，共 480 个任务；支持性、诱饵与无关事实的归属被交叉，文本保持不变。
• 两种启发式：按稀有性优先（rarest-first）与按相关性筛选（relevance-based）。
• 被测模型：Qwen2.5-7B、Llama-3.1-8B 及两个 DeepSeek 模型。
• 归因干预：移除事实的智能体归属标签，或在保持行序不变的前提下随机重新分配归属标签。
• 以上方法细节来自摘要，实验设置与实现细节待核实。

主要结果或产业意义

• 按相关性筛选会重新引入诱饵，因为诱饵本身“切题”；即使完美的相关性过滤器，在经典隐藏画像配置下仍比稀有性优先选择低 23–31 分。
• 稀有性优先选择平均而言并不优于随机选择，只在稀有事实恰好是有用事实时获胜。
• 两种情况下准确率都跟随记忆保留的证据平衡，而非筛选策略本身。
• 决策模型存在第三类失败：对社会证明的依赖，即给归属于多个智能体的事实额外权重；移除归属标签或随机重分配（保持行序）可在经典配置下提升准确率 13–24 分。
• 自然讨论中，证据在记忆机制介入之前就已丢失：完整转录稿的准确率低于完全不做笔记。
• 上述数值来自摘要，需以正文复核，待核实。

为什么重要

它把“记忆该记什么”从工程启发式问题转为可诊断的偏差问题：稀有性与相关性都是诱人但不可靠的筛选信号，而决策端对来源数量的敏感会进一步扭曲证据权重。对多智能体协作、会议摘要式记忆压缩、以及“给最终决策者喂什么”的系统设计都有直接警示。与既有多智能体记忆框架（如分层图记忆）关注检索效率不同，本条聚焦记忆内容选择与归因偏差导致的决策错误。

局限与不确定性

• 未能抓取正文，本卡片仅基于标题、摘要与元数据；实验规模、基线定义、统计显著性、跨任务泛化性均待核实。
• 基准为合成模板任务（隐藏画像范式），向真实开放讨论的迁移性待核实。
• 被测模型范围有限（4 个模型家族/规模），结论普适性待核实。
• “完整转录稿低于无笔记”的具体机制解释待核实。

可用于图书/PPT/简报的角度

• “记忆不是越多越好”：压缩策略的选择本身会系统性引入错误。
• 稀有≠有用、相关≠正确：两个常见直觉在证据平衡上的反例。
• 社会证明偏差：LLM 决策者会把“多少智能体说过”误当“多可信”。
• 去归因（de-attribution）作为低成本纠偏手段的潜力与边界。
• 多智能体系统的“证据守恒”视角：准确率跟随记忆中的证据平衡。

与既有脉络的关系

既有卡片多关注单模型的修辞偏好或智能体记忆的检索与重写效率；本条补充的是群体讨论压缩为记忆时的内容选择偏差与归因偏差，属于“记忆内容质量”而非“记忆存取效率”的增量视角。

原始材料

• 标题：Rare, Relevant, and Still Wrong: How Memory Fails LLM Group Decisions
• 来源：arXiv（Track: academic；Topics: foundation-model）
• URL: https://arxiv.org/abs/2610.37624v1
• 正文：未能抓取，待核实。