论文研究“按时间顺序消费帧、严格滑动窗口批次、无全局打乱、无多轮回放”的连续视频流自监督预训练;结果显示对比学习和蒸馏类方法在该设置下表现困难,MAE 更稳健但仍落后于标准 i.i.d. 预训练,而提出的 StreamMAE 通过流感知正则化与运动偏置裁剪,缩小了这一差距。
值得关注:它把自监督预训练的“数据消费方式”本身当作研究变量:不是只问模型结构或目标函数,而是问连续视频流中的批次内冗余如何影响表示学习。与已有“从视频中自监督学习结构化运动表示”的卡片相比,本条增量在于聚焦流式预训练协议与批内…