知识卡片：CATCH——面向可迁移诚实性的连续对抗训练

一句话结论

CATCH（Continuous Adversarial Training for Consistent Honesty）借鉴“稳健拒答有害查询”的对抗训练思路，用少量自报告场景构造的“诚实/不诚实”目标对，训练大模型在压力下更倾向诚实回答；据摘要称其诚实性可跨基准迁移，并在保持效用上优于诚实性激活引导（待核实）。

事件概述或研究问题

论文关注 LLM 在诚实性关键场景中仍会出现不诚实行为（输出与知识矛盾、或缺乏上下文支持的主张），并提出 CATCH 方法，试图在维持模型能力的同时提升诚实行为的稳健性与可迁移性。来源页面未抓取到正文，以下方法/结果要点均来自元数据摘要，细节待核实。

方法/产品要点

• 方法名：CATCH（Continuous Adversarial Training for Consistent Honesty），中文可译为“面向一致诚实性的连续对抗训练”。
• 训练信号：将模型推近诚实回答、推离不诚实回答（对抗式偏好/推拉训练），目标是保持模型能力。
• 数据规模（摘要口径）：仅用数百个由“自报告场景”构造的目标（targets）进行训练。
• 评测模型：Llama-3.3-70B-Instruct 与 Qwen3-3.6-27B 两种架构（模型名以摘要为准，待核实具体版本拼写）。
• 对照基线：提示（prompting）、监督微调（SFT）、以及当前先进的诚实性激活引导（honesty activation steering）。
• 效用数据设计：摘要称通过“新颖的效用数据选择”在保持效用上取得优势；具体构造方式待核实。

主要结果或产业意义

摘要给出的结果口径如下（均待核实）：

• 在 MASK 基准上，CATCH 持续降低模型在压力下的不诚实表现；
• 在多智能体游戏 Among Us 中，提高模型的“ confession（坦白）”行为；
• 在 AuditBench 中，提高对模型隐藏行为的发现率；
• 在提升诚实性方面优于 prompting 与 SFT，与先进诚实性激活引导相当；
• 在维持效用方面优于诚实性激活引导（归因于效用数据选择）。

产业意义（基于上述口径的推断）：若方法成立，意味着可用较小规模的自报告场景数据，以较低对齐成本获得跨任务迁移的诚实性提升，并减少“安全/诚实对齐导致能力回退”的常见副作用；但需正文与复现实验确认。

为什么重要

诚实性（不虚构、不与已知知识冲突、不隐瞒关键信息）是 LLM 在高风险场景落地的前提。CATCH 的增量点在于：把“拒答有害请求”的对抗训练范式迁移到“诚实性”维度，并强调可迁移性（跨基准）与效用保持（相对激活引导）。与既有脉络中“安全对齐导致效用损失”的问题（如 CLEAR 的效用保持取向）相比，本条更聚焦“诚实性”而非“有害性”，并给出跨基准迁移的证据口径（待核实）。

局限与不确定性

• 来源正文未抓取，无法核实训练细节、超参数、数据构造、评测协议与统计显著性。
• 摘要仅给出“数百个 targets”的量级，泛化边界与对更大模型/更多语言的适用性待核实。
• “与 SOTA 诚实性激活引导相当/更优”的具体基线配置与评测集版本待核实。
• Among Us、AuditBench 等指标的定义与可复现性待核实。
• 模型名“Qwen3-3.6-27B”等拼写与版本需以原文为准（待核实）。

可用于图书/PPT/简报的角度

• 对齐范式迁移：从“拒答有害”到“对抗不诚实”的训练信号复用。
• 小数据对齐：数百个自报告场景目标实现跨基准迁移（待核实后可作为案例）。
• 诚实性评测三件套：MASK（压力下不诚实）、Among Us（多智能体坦白）、AuditBench（隐藏行为审计）。
• 效用-诚实性权衡：与激活引导对比，强调“效用数据选择”这一工程变量。
• 风险提示页：正文未核实前的结论边界与复现清单。

与既有脉络的关系

本条与“CLEAR：面向效用保持的LLM安全对齐”同属“对齐后效用保持”的问题域，但 CATCH 的对象是诚实性而非有害性，且方法是对抗训练而非潜变量适配器路由；增量信息在于“自报告场景小数据 + 跨基准迁移”的诚实性训练口径（待核实）。

原始材料

• 标题：CAT-alyzing Honesty: Continuous Adversarial Training for Transferable LLM Honesty
• 来源：arXiv
• URL：https://arxiv.org/abs/2610.22292v1
• 关键词（英文）：Continuous Adversarial Training；LLM Honesty；Transferability；Utility Preservation（关键词为据摘要归纳，待核实原文关键词）
• 备注：正文未能抓取，本卡片仅基于元数据与摘要生成，事实性细节待核实。