知识卡片：在线方差缩减用于流式数据的域适应

一句话结论

ARROW 是首个面向流式数据环境、针对最大均值差异（MMD）和相关性对齐（CORAL）损失函数的在线随机方差缩减算法，其性能可与离线方法媲美。

事件概述或研究问题

现有针对 MMD 和 CORAL 损失的随机方差缩减（SVR）算法仅适用于离线场景，无法直接用于在线、分布式或增量学习，而流式数据中批次间统计波动会增大估计方差、降低域适应效果。本文提出 ARROW 以解决该问题。

方法/产品要点

• 维护对齐统计量的滑动平均参考（moving average references）。
• 对每个到来的小批量（minibatch）进行自适应重新加权，使小批量统计量与参考统计量对齐。
• 提出松弛加权方案（relaxed reweighting scheme），使权重优化问题可解。

主要结果或产业意义

实验与仿真表明，ARROW 在运行时间、方差缩减程度以及目标域准确率方面均与离线算法具有竞争力。具体数值待核实。

为什么重要

首次将 SVR 技术扩展到在线流式环境，填补了 MMD/CORAL 损失函数在流式数据域适应中的在线方差缩减空白，对需要实时或增量更新的部署场景（如物联网传感器、在线推荐系统）具有潜在价值。

局限与不确定性

• 方法仅在仿真和实验中验证，实际大规模分布式环境下的表现待核实。
• 松弛加权方案的理论保证（如收敛性、最优性边界）需进一步分析。
• 对滑动平均窗口大小、超参数敏感性的鲁棒性尚待系统评估。

可用于图书/PPT/简报的角度

• 作为“在线学习 + 域适应”技术结合的案例，展示传统离线方差缩减算法向流式场景迁移的设计思路。
• 比较不同 SVR 策略在流式与离线场景下的性能差异，突出 ARROW 的在线重加权机制。
• 在讲解 MMD/CORAL 损失函数时，可作为扩展应用（流式数据）的典型示例。

原始材料

• 英文标题: Online Variance Reduction for Domain Adaptation on Streaming Data
• 英文关键词: Online Variance Reduction, Domain Adaptation, Streaming Data, MMD, CORAL, ARROW
• 来源: arXiv:2607.20374v1
• 作者: Andrea Napoli
• 发布时间: 2026-07-22
• 更新日期: 2026-07-22
• 类别: cs.LG
• URL: https://arxiv.org/abs/2607.20374v1