知识卡片：PixelMoE——用 LLM 式混合专家扩展像素空间扩散

一句话结论

PixelMoE 表明标准 LLM 式 MoE（Token-Choice 路由、细粒度专家、共享专家、偏置负载均衡）可直接迁移到像素空间扩散，在激活参数量相当的条件下持续优于稠密基线，并在 ImageNet-1K 上取得 FID 1.47（256×256）与 1.53（512×512）。

事件概述或研究问题

• 像素空间扩散模型直接建模原始图像，无需依赖学习到的 tokenizer，是潜空间扩散之外的一条有吸引力的路线。
• 但像素空间模型的扩展此前主要走稠密路线，模型容量与激活计算被紧密耦合，扩展成本高。
• 本文的研究问题是：能否把标准 LLM 式 MoE 稀疏扩展范式有效迁移到像素空间扩散，从而在不大幅增加激活计算的前提下扩大模型容量。

方法/产品要点

• PixelMoE 框架：用标准 LLM 式 MoE 对像素空间生成模型做稀疏容量扩展，不引入扩散专用路由机制，也不使用辅助路由目标。
• 路由与专家设计：
  • 标准 Token-Choice（TC）路由；
  • 细粒度 routed experts，实现输入自适应的稀疏计算；
  • 共享专家（shared expert），用于捕获通用表示；
  • 基于偏置（bias-based）的负载均衡策略。
• Pixel-Space Hierarchical Flow Matching：为配合稀疏容量扩展而提出，在去噪轨迹上变化空间分辨率，从全局结构形成逐步过渡到细粒度细节精修。

主要结果或产业意义

• 在激活参数量可比的条件下，PixelMoE 在多个模型尺度上持续优于对应的稠密模型，说明像素空间中的稀疏容量扩展是有效的。
• 在类条件 ImageNet-1K 上：
  • 256×256：FID 1.47；
  • 512×512：FID 1.53；
  • 且未使用 representation alignment 或感知损失（perceptual losses）。
• 论文称该结果与领先的像素空间和潜空间生成模型相比具有竞争力。
• 代码与模型“将很快发布”（截至摘要信息，具体发布状态待核实）。

为什么重要

• 对“像素空间扩散能否高效扩展”这一开放问题给出了肯定证据：把 LLM 领域成熟的 MoE 稀疏扩展范式迁移过来即可，无需为扩散专门设计路由。
• 与既有脉络的关系：已有卡片《像素空间文生图扩散模型训练的实证研究》关注的是训练策略层面的潜空间→像素空间迁移；本条关注的是架构层面的稀疏容量扩展，二者构成像素空间扩散不同维度的推进。已有卡片《训练通信高效的混合专家语言模型》关注 MoE 的层重配置与训练成本，本条则把 MoE 迁移到视觉生成任务，属于跨模态的延伸。

局限与不确定性

• 论文摘要未给出训练数据规模、训练算力、模型总参数量与激活参数量的具体数值，待核实。
• 结果主要在类条件 ImageNet-1K 上报告，文本条件生成、更大分辨率、视频等其他设定下的表现待核实。
• 代码与模型仅说明“将很快发布”，实际可获得性与复现情况待核实。
• 与潜空间扩散模型在推理速度、显存占用、端到端时延等方面的系统对比，摘要未提供，待核实。

可用于图书/PPT/简报的角度

• “LLM 的 MoE 配方可以直接搬进视觉生成”：架构范式跨模态迁移的一个案例。
• 稀疏激活 vs 稠密扩展：像素空间扩散扩展路径的转折点。
• 分层流匹配（Hierarchical Flow Matching）与分辨率调度：从全局结构到细节的去噪课程。
• 无 representation alignment、无感知损失的 FID 表现：训练目标简洁性与生成质量的权衡。
• 像素空间 vs 潜空间的路线之争：tokenizer 依赖是否必要。

原始材料

• 标题：PixelMoE: Scaling Pixel-Space Diffusion with LLM-Style Mixture-of-Experts
• arXiv ID：2610.18857v1
• 作者：Ruixiao Dong, Jianmin Bao, Bozhi Luan, Zijie Meng, Xin Tao, Pengfei Wan, Kun Gai, Li Li, Houqiang Li
• 发布时间：2026-10-13T17:59:21Z
• 主分类：cs.CV
• 摘要链接：https://arxiv.org/abs/2610.18857v1
• PDF 链接：https://arxiv.org/pdf/2610.18857v1

关键词：PixelMoE; pixel-space diffusion; Mixture-of-Experts; LLM-style MoE; Token-Choice routing; shared expert; load balancing; Pixel-Space Hierarchical Flow Matching; ImageNet-1K; FID