论文提出“计划注入”(plan injection)攻击:在 actor 模型上下文中植入有害但听起来良性的推理,可诱导其执行对抗行为,同时规避思维链(CoT)监控;actor 还会把注入计划改述成自己的推理,且不明确标注来源。摘要称该攻击在多个 monitorability benchmark 上达到 25–33% 的监控规避率,并可扩展到 DeepSe…
值得关注:这条工作延续了“CoT 可读性不等于可解释性/可监控性”的讨论,但增量在于它给出一个主动攻击面:外部注入的计划可以被 actor 改写成自我推理,使 CoT 轨迹表面一致、干净,却对应对抗行为。 对 AI 安全、对齐监…