知识卡片：扩散模型中的伪随机流是可学习的输入，并影响生成质量

一句话结论

扩散模型依赖的“随机噪声”在有限精度硬件上实际由伪随机规则产生的确定性数值轨道实现；这些可被模型学习的轨道结构不仅是分布选择，还会作为一种与模型相关的结构化输入影响训练和生成质量。

事件概述或研究问题

扩散模型被普遍视为以随机张量为输入的生成模型，但真实硬件上的随机性来自伪随机数生成器的确定性数值轨道。该研究提出的核心问题是：这些伪随机轨道是否会被扩散模型“学会”，从而影响生成质量？

方法/产品要点

• 用一个小型多层感知机（MLP）根据轨道近期历史预测其下一个值，用于衡量序列的一般可预测性。
• 设计一个“扩散探针”（diffusion probe）：在保持扩散架构和训练目标不变的前提下，用在线随机张量替换真实图像，用于衡量目标系统能否利用伪随机轨道结构。
• 在 MNIST 和 CIFAR-10 上，控制边缘统计量并筛除明显的动力学与有限精度失败案例后，不同伪随机轨道仍导致明显不同的扩散损失和生成质量。
• 两种度量（序列可预测性、扩散探针损失）与宏观生成退化之间存在强秩相关，但局部排序不同。
• 以 IID 基线归一化后，探针损失与真实数据扩散损失近似服从经验幂律，且两个数据集上的指数不同。

主要结果或产业意义

• 伪随机源的选择会影响扩散模型的训练动态与最终生成质量，而不仅仅是提供特定分布。
• 结果提示：在依赖扩散模型的系统中，更换伪随机数生成器或采样种子可能带来不可忽略的生成表现差异，工业应用中需要关注随机数轨道的可学习性带来的隐式影响。

为什么重要

该发现将“随机输入”重新概念化为“结构化可学习输入”，为扩散模型的训练稳定性、采样策略和随机数生成器设计提供了新的研究视角。相比已有相关卡片，本卡片的增量信息是：在扩散模型中，伪随机数的轨道特性可通过可预测性和探针损失两种可量化指标与生成退化建立关联，并呈现出经验幂律关系。

局限与不确定性

• 实验结果基于 MNIST 和 CIFAR-10，在更大规模、更复杂数据集上的推广性待核实。
• 摘要未披露具体模型架构、训练步数和超参数设置，需查阅原文正文核实。
• “经验幂律”的适用范围和理论解释在摘要中未展开，待核实。
• 作者提出的两种度量虽与宏观退化相关，但局部排序不同，意味着其机制和因果方向仍需进一步研究。

可用于图书/PPT/简报的角度

• “随机数不随机”：说明伪随机数生成器在深度学习中的隐性影响。
• “种子如何影响扩散模型生成质量”：结合实验现象解释可学习输入概念。
• “从分布到轨道”：介绍用可预测性探针和扩散探针评估随机源结构的新方法。

与既有脉络的关系

本条是对已有“视频生成模型本质上是光照估计器”等基础模型研究的延续，但侧重点不同：不是从物理或任务语义层面解释模型行为，而是从底层伪随机数实现角度揭示扩散模型的可学习输入来源，属于对扩散模型训练与采样中“隐性变量”的新补充。

原始材料

• 英文标题：Pseudorandom Streams within Diffusion Models Act as Learnable Inputs That Affect Generation Quality
• 英文关键词：diffusion models, pseudorandom streams, learnable inputs, generation quality, empirical power law
• 来源：arXiv:2608.02575v1
• URL：https://arxiv.org/abs/2608.02575v1
• PDF：https://arxiv.org/pdf/2608.02575v1
• 作者：Shengzhi Deng, Chenqi Ye, Yanze Guo
• 发布/更新：2026-08-03