知识卡片：LLM 遗忘中的跨语言漏洞：174 语言基准与覆盖感知遗忘

一句话结论

在一种语言中让 LLM“遗忘”某个事实，并不保证其他语言也遗忘；该工作提出语言预算多语言遗忘任务、174 语言—文字对基准 Cross-Lingual Unlearning Tensor，以及 COVER 方法，用有限语言预算选择遗忘监督源语言，使未获监督语言的留出集残余访问相对均匀源选择降低 7.8–27.3%。

事件概述或研究问题

• 跨语言漏洞：改变查询语言，甚至改变要求回答的语言，可能重新打开看似已遗忘的知识。
• 最直接的全语言遗忘方案不可扩展，且会放大对无关模型能力的损害。
• 研究问题：在语言预算约束下，应选择哪些语言作为遗忘监督源，以最大化跨语言擦除？
• 该工作引入任务：language budgeted multilingual unlearning。

方法/产品要点

• 基准：Cross-Lingual Unlearning Tensor，覆盖 174 个 language-script pairs 和 25 种 atomic paraphrase types，用于考察同一知识在不同语言表达之间的遗忘是否泛化。
• 任务：language budgeted multilingual unlearning，目标是选择语言子集，使跨语言擦除最大化。
• 方法：COVER 选择源语言，以最大化对未获遗忘监督语言的预测覆盖。
• 关键观察：简单选择单个强源语言，并不一定能可靠组合成强源语言集合。
• 部署条件：COVER 只需 benign calibration data 和对 frozen model 的访问。
• 评测设置：三个模型家族、两个不相交 forget sets；与 uniform source selection 比较；并扩展到低资源语言真实新闻文档，使用 Low Resource Languages for Emergent Incidents (LORELEI) corpus 的人工翻译数据。
• 具体模型名称、语言预算大小、校准数据规模、实现细节：待核实。

主要结果或产业意义

• COVER 将 mean held-out residual access 相对 uniform source selection 降低 7.8–27.3%。
• 增益从合成基准扩展到真实新闻文档中的低资源语言设置，使用 LORELEI 人工翻译数据。
• 产业意义：为多语言模型的知识移除/遗忘提供预算化语言选择思路，避免全语言遗忘带来的扩展性与能力损害问题；具体合规、版权或隐私场景适用性待核实。

为什么重要

• 多语言 LLM 的安全、隐私与版权治理不能只依赖单语言遗忘；“英文已遗忘”不等于“多语言已遗忘”。
• COVER 在部署时仅需 benign calibration data 和 frozen model 访问，可能降低部署后校准门槛；实际成本与工程可行性待核实。
• 与已有卡片 SPEARBench、BioASQ 14b、PPL-Factory 不直接重复；本条补充的是 foundation-model 中“跨语言遗忘漏洞 + 语言预算化遗忘评估”的新脉络，增量在于 174 语言基准、COVER 源语言选择策略及其相对 uniform source selection 的量化收益。

局限与不确定性

• 来源为 arXiv 摘要与元数据，未提供全文；方法实现、超参数、具体模型、计算成本、代码与数据开放情况待核实。
• 174 个 language-script pairs 和 25 种 atomic paraphrase types 是否覆盖真实语言分布，以及低资源语言具体列表、LORELEI 实验范围和翻译质量，待核实。
• 结果主要报告相对 uniform source selection 的降低幅度；绝对遗忘效果、对模型通用能力或其他语言的副作用、不同 forget set 下的稳健性，待核实。
• 是否经过同行评审、是否可复现，待核实。
• 时间戳来自材料：Published/Updated 2026-09-30T17:48:13Z。

可用于图书/PPT/简报的角度

• 标题页：为什么“英文已遗忘”不等于“多语言已遗忘”。
• 框架图：language budgeted multilingual unlearning——源语言选择如何覆盖未获遗忘监督语言。
• 方法页：COVER 仅用 benign calibration data + frozen model 做源语言选择。
• 基准页：Cross-Lingual Unlearning Tensor：174 language-script pairs × 25 atomic paraphrase types。
• 结果页：相对 uniform source selection，mean held-out residual access 降低 7.8–27.3%。
• 案例页：从合成基准到 LORELEI 低资源真实新闻文档。
• 治理页：多语言模型遗忘审计与部署后校准；标注待核实项。
• 与相邻卡片区分：SPEARBench 关注流式语音自然度评估，BioASQ 关注生物医学问答流水线，PPL-Factory 关注任务/预算感知数据选择；本条可放入 foundation-model 多语言安全与遗忘章节。

原始材料

• 英文标题: Linguistic Loopholes in LLM Unlearning: From a 174-Language Benchmark to Coverage-Aware Unlearning
• 英文关键词: LLM unlearning; cross-lingual loophole; multilingual unlearning; language budgeted multilingual unlearning; Cross-Lingual Unlearning Tensor; COVER; LORELEI
• arXiv ID: 2609.40286v1
• Authors: Tyler Skow, Shravan Chaudhari, Rama Chellappa, Abhay Yadav
• Published/Updated: 2026-09-30T17:48:13Z
• Primary category: cs.CL
• Categories: cs.CL, cs.AI
• Abstract URL: https://arxiv.org/abs/2609.40286v1
• PDF URL: https://arxiv.org/pdf/2609.40286v1