知识卡片：回译依然重要——利用单语数据提升 LLM 低资源机器翻译

一句话结论

在低资源机器翻译中，若已有中等规模的目标语言单语数据，用“回译（Back-Translation, BT）”微调大模型比继续预训练（continued pretraining）更有效；在 Odia 和 Swahili 上，仅 1K 平行句对时，BT 在域内比继续预训练高出 7.7 至 16.4 个 XCOMET-XXL 分。

事件概述或研究问题

论文研究的核心问题是：在低资源语言的机器翻译场景下，除了少样本提示（few-shot prompting）和在小规模平行语料上微调外，如果还能获得中等规模的低资源语言单语数据，应如何最有效地利用它？

作者的主张是：相比把单语数据用于继续预训练（让模型继续吸收低资源语言），更有效的做法是采用前 LLM 时代的经典技术——回译。具体流程是：当前已微调的 LLM 把各语言的单语句子翻译成另一种语言，生成合成平行句对，再用这些句对以相反方向训练模型；同时穿插在真实平行集上的更新，以保持学习稳定。

方法/产品要点

• 核心方法：回译（Back-Translation, BT）。用当前微调后的 LLM 翻译单语数据，构造合成平行对，再反向训练同一模型。
• 训练稳定性：在平行集上的更新与回译更新交错（interleaved），避免学习不稳定。
• 增强手段：从平行数据中检索上下文示例（in-context examples），可进一步提升 BT 效果。
• 中间翻译解码：使用 beam decoding 生成中间翻译时，BT 甚至能超过使用 10 倍平行数据的模型。
• 实验设置：覆盖五种低资源语言，以 Hindi 作为高资源对照；使用两个 3B 规模的主干模型（backbones）。
• 分析维度：论文还分析了单语文本的来源、质量和数量对结果的影响。
• 评估方式：自动指标 XCOMET-XXL，并在 Odia 和 Sanskrit 上做盲测人工评估。

主要结果或产业意义

• 在 Odia 和 Swahili 上，仅用 1K 平行句对时，BT 在域内比“继续预训练到低资源语言”高出 7.7 至 16.4 个 XCOMET-XXL 分。
• 使用 beam decoding 的中间翻译时，BT 超过了一个使用 10 倍平行数据 的模型。
• 在五种低资源语言、两个 3B 主干上，BT 相比“仅平行数据微调”，在译入低资源语言方向上提升 16% 至 173% XCOMET-XXL。
• 在 Odia 和 Sanskrit 上的盲测人工评估与自动指标结论一致。
• 产业意义：对低资源语言翻译，中等规模单语数据的价值不必靠昂贵的继续预训练来兑现；一个更省算力、更易实现的回译流程即可带来显著增益。

为什么重要

当前 LLM 时代的常见直觉是“要适应新语言就继续预训练”。该研究提示，在低资源翻译这一类任务上，古老的回译技术仍具有竞争力，甚至优于继续预训练，并且对平行数据的需求更低。这为资源有限、但握有一定单语数据的团队提供了一条更经济的路径。

（与既有脉络的关系：本卡片关注“用单语数据提升 LLM 低资源翻译”，与 DeltaMerge-LowRes 关注“在权重空间组合语言/任务增量”的低资源适应路线不同，本条强调的是数据层面的回译增强；两者可视为低资源适应的不同技术轴，暂无直接重叠结论。）

局限与不确定性

• 具体五种低资源语言的完整名单，摘要未全部列出（仅明确 Odia、Swahili、Sanskrit，Hindi 为对照）——待核实。
• 单语数据的“中等规模”具体量级、来源与质量分层细节，摘要未给出数值——待核实。
• 主干模型的具体型号与训练配置、XCOMET-XXL 提升在不同语言间的差异原因——待核实。
• 结论是否可推广到 3B 以外的模型规模或其他任务（非翻译）——材料未涉及，待核实。
• 论文发表信息：arXiv 2610.18818v1，作者 Divyanshu Bathla、Parag Singla、Jitin Singla，提交于 2026-10-13。

可用于图书/PPT/简报的角度

• “旧方法在新范式下复活”：回译作为前 LLM 技术，在 LLM 低资源翻译中依然有效。
• 成本对比视角：回译 vs. 继续预训练 vs. 堆更多平行数据，谁的性价比更高。
• 低资源语言 AI 普惠：少量平行句对 + 中等单语数据即可显著提升翻译质量。
• 方法论隐喻：在数据稀缺时，“自己造数据再反向学习”是一种可复用的自举策略。
• 自动指标 + 盲测人工评估的双重验证范式。

原始材料

• 标题：Back-Translation Still Matters: Leveraging Monolingual Data for Low-Resource Machine Translation with LLMs
• 作者：Divyanshu Bathla, Parag Singla, Jitin Singla
• arXiv ID：2610.18818v1
• 分类：cs.CL（主）、cs.AI
• 提交时间：2026-10-13T17:50:18Z
• Abstract URL：https://arxiv.org/abs/2610.18818v1
• PDF URL：https://arxiv.org/pdf/2610.18818v1
• 关键词：Back-Translation, Low-Resource Machine Translation, Large Language Models, Monolingual Data, Fine-Tuning, XCOMET-XXL