AI消息速览

QuadTok:面向自回归图像生成的四叉树视觉分词器

事件日期 2026-10-07 · 学术前沿 · 已接受

事件日期2026-10-07
信息日期2026-10-07
入库日期2026-10-08
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:QuadTok:面向自回归图像生成的四叉树视觉分词器

一句话结论

QuadTok 提出一种分层四叉树视觉 tokenization 框架,通过动态分配表示能力减少 token 使用,并利用树结构带来的自然因果性支持自回归图像生成;材料称其 947M GPT-style 模型在 ImageNet 256×256 上达到 2.08 gFID,并支持零样本空间控制生成。

事件概述或研究问题

  • 英文标题:QuadTok: Quadtree Visual Tokenizer for Autoregressive Image Generation
  • arXiv ID:2610.10497v1;主分类为 cs.CV。
  • 作者:Yucheng Mao, Zeyuan Chen, Xiaojun Shan, Xiang Zhang, Divyansh Srivastava, Bingnan Li, Zhuowen Tu。
  • 材料标注发布时间与更新时间均为 2026-10-07T17:47:42Z。
  • 研究问题:传统视觉 tokenization 常使用 2D grids 或 1D token sequences;QuadTok 试图用分层四叉树结构桥接 2D spatial binding 与 1D sequence-level flexibility。

方法/产品要点

  • 提出分层四叉树结构:对视觉上复杂的区域动态分配表示能力,对同质区域保持粗分辨率。
  • 与固定 256-token grid 对比,目标是减少 token 数量并保持重建保真度。
  • 树结构引入自然因果性,可直接支持自回归图像生成。
  • 生成时先提供四叉树拓扑(quadtree topology supplied before generation),再使用 947M GPT-style generative model。
  • 利用四叉树保留的强空间相关性,材料称生成器支持 zero-shot spatially controlled image generation。
  • 代码链接:https://github.com/myc634/QuadTok。

主要结果或产业意义

  • 相比固定 256-token grid,ImageNet 训练的 tokenizer 在 ImageNet 上节省约 10% tokens,零样本迁移到 COCO 时节省约 9%,同时保持可比的重建保真度。
  • 在预先给定四叉树拓扑的条件下,947M GPT-style 生成模型在 ImageNet 256×256 benchmark 上取得 2.08 gFID。
  • 材料还声称 QuadTok generator 具备零样本空间控制图像生成能力。
  • 产业意义可能在于:内容自适应的 token 分配与树结构因果顺序,或可降低自回归图像生成的序列预算并增强空间可控性;具体部署成本与效果待核实。

为什么重要

  • 它把视觉 tokenizer 的 2D 空间结构与 1D 序列建模需求结合起来,避免固定网格或纯序列化带来的刚性。
  • 动态分辨率与 token 分配机制直接关系到自回归图像生成的效率与保真度权衡。
  • 树结构天然提供生成顺序,这为自回归图像建模提供了不同于常规 raster-scan 序列的路径。
  • 与已有卡片相比,本条不讨论测试时迭代优化、个性化评估或闭环驾驶仿真;增量信息集中在视觉 tokenizer 结构、自回归图像生成和零样本空间控制生成。

局限与不确定性

  • 材料主要为标题、摘要和元数据,完整论文中的实验设置、训练细节、模型架构、消融、基线列表与计算成本均未展开,待核实。
  • 2.08 gFID 的具体评测协议、可比性与是否经过独立复现,材料未说明,待核实。
  • zero-shot spatially controlled image generation 的评估指标、控制精度、泛化范围与失败案例,待核实。
  • 代码链接的实际可用性、许可证、文档与复现结果,待核实。
  • 材料标注的 arXiv 日期与发表状态、同行评审状态,待核实。
  • 材料未提供官方英文关键词列表;以下英文术语系从摘要中提取,官方关键词待核实。

可用于图书/PPT/简报的角度

  • 视觉 tokenization 的“内容自适应分辨率”与四叉树方法。
  • 2D spatial binding 与 1D sequence-level flexibility 的权衡。
  • 自回归图像生成中的 token 效率问题。
  • 树结构因果性作为生成先验。
  • 零样本空间控制图像生成的潜在应用与边界。
  • 与固定 256-token grid 的 token 节省对比。

原始材料

  • 英文标题:QuadTok: Quadtree Visual Tokenizer for Autoregressive Image Generation
  • 英文关键词/术语(材料未列出官方关键词,以下为摘要中出现的英文术语):Quadtree; Visual Tokenizer; Autoregressive Image Generation; Visual Tokenization; ImageNet; COCO; gFID; GPT-style; Zero-shot Spatially Controlled Image Generation。
  • 原始来源:
    • arXiv URL:https://arxiv.org/abs/2610.10497v1
    • PDF URL:https://arxiv.org/pdf/2610.10497v1
    • Code:https://github.com/myc634/QuadTok
  • 元数据:
    • Authors: Yucheng Mao, Zeyuan Chen, Xiaojun Shan, Xiang Zhang, Divyansh Srivastava, Bingnan Li, Zhuowen Tu
    • Published: 2026-10-07T17:47:42Z
    • Updated: 2026-10-07T17:47:42Z
    • Primary category: cs.CV
    • Categories: cs.CV

发现内容有误?

免登录提交,管理员审核并完成修正后才会公开修订说明。

值得关注

它把视觉 tokenizer 的 2D 空间结构与 1D 序列建模需求结合起来,避免固定网格或纯序列化带来的刚性。 动态分辨率与 token 分配机制直接关系到自回归图像生成的效率与保真度权衡。 树结构天然提供生成顺序,这为自回归图像建模提供了不同于常规 raster-scan 序列的路径。 与已有卡片相比,本条不讨论测试时迭代优化、个性化评估或闭环驾驶仿…

相关主题

对应的教材知识点

教材知识点匹配尚未完成。