在扩散 Transformer 中,条件通常只嵌入一次并在每个去噪步骤复用;该论文提出用“预测嵌入”替代固定条件,并让条件在每步去噪时重新计算,从而改善图像生成。其最终模型 NEPA-DiT-XL 在 class-conditional ImageNet 256×256 上达到 FID 1.32,训练计算约为 REPA 的三分之一(据摘要)。
值得关注:它挑战了扩散 Transformer 中“条件嵌入一次、全程复用”的常见做法,转向“条件随去噪状态动态重算”。 它把 next-embedding prediction / 自回归式嵌入预测与扩散图像生成连接起来,探索…