在测试的推理阶段边界上,**边界K/V缓存是发散轨迹的因果充分载体**;BF16下“保留实时缓存”与“一次性预填相同token”会产生行为差异,而FP32下不产生解码分歧。精确token重放可以可重复,但不等于保持实时状态保真度。
该研究检验一个常用于阶段重放诊断的假设:重建中间token前缀后,用“一次性预填(fresh-prefill)”继续生成,等价于从原本到达该前缀的解码器状态继续生成。作者在一个Qwen2.5衍生系统的完整推理阶段边界上检验了这一假设,并比较了不同KV缓存构造方式与数值精度的影响。