AI消息速览

ZipDepth:轻量级零样本单目深度估计模型

事件日期 2026-07-09 · 学术前沿 · 已接受

事件日期2026-07-09
信息日期2026-07-09
入库日期2026-07-10
通道学术前沿
状态已接受
来源arXiv 论文

知识卡片:ZipDepth:轻量级零样本单目深度估计模型

一句话结论

ZipDepth是一个仅6.1M参数的紧凑型单目深度网络,通过知识蒸馏与高效编码器-解码器设计,在零样本精度与部署效率之间取得最佳平衡,可在从服务器GPU到功耗受限设备上实现实时运行,性能接近参数量大50倍的基础模型。

事件概述/研究问题

单目深度估计在基础模型推动下取得了稳健的零样本泛化能力,但计算需求远超嵌入式与移动平台。已有的轻量级替代方案几乎仅在单域自监督范式内开发,在域迁移时无声失效。ZipDepth旨在弥合这一鸿沟,通过结合高效可重参数化编码器-解码器架构与来自基础模型的大规模多域训练集知识蒸馏,实现轻量级零样本深度估计。

方法/产品要点

  • 模型架构:紧凑型单目深度网络,包含高效的可重参数化编码器-解码器。
  • 训练策略:从基础模型(参数量为ZipDepth的50倍以上)进行大尺度知识蒸馏,训练集覆盖多域数据。
  • 模型规模:仅6.1M参数。
  • 运行效率:从服务器GPU到功耗受限设备均能达到实时速率。

主要结果或产业意义

  • 在五个基准测试上,ZipDepth在轻量级模型中实现了零样本精度与部署效率的最佳权衡。
  • 显著向参数量大50倍的基础模型的精度迈进。
  • 适合嵌入式、移动设备等资源受限场景,实现“随处可用”的零样本单目深度估计。

为什么重要

当前基础模型精度虽高但难以部署,而现有轻量模型在域迁移时易失败。ZipDepth首次将知识蒸馏与高效架构结合,在保持极小参数量的同时获得接近基础模型的零样本泛化能力,为将深度感知能力普及到边缘设备提供了可行路径。

局限与不确定性

  • 文中未提及ZipDepth在极端域迁移(如完全未见过的传感器或光照条件)下的表现,其泛化边界待核实。
  • 知识蒸馏所依赖的基础模型的具体架构与训练数据集细节待核实。
  • 在极高精度要求场景下(如自动驾驶中的毫米级深度),与原始基础模型间的差距待核实。

可用于图书/PPT/简报的角度

  • 标题建议:从“大而全”到“小而精”:ZipDepth如何用6.1M参数实现零样本单目深度估计
  • 关键词:轻量级深度学习、知识蒸馏、单目深度估计、边缘部署、零样本泛化
  • 核心图示:对比基础模型(300M+参数)与ZipDepth(6.1M参数)在精度-效率二维图上的位置,突出最佳权衡点。
  • 应用场景:手机AR、无人机避障、嵌入式机器人视觉等。

原始材料

  • 标题(英文):ZipDepth: Bringing Lightweight Zero-Shot Monocular Depth Anywhere, on Any Device
  • arXiv ID:2607.08771v1
  • 作者:Fabio Tosi, Luca Bartolomei, Matteo Poggi, Stefano Mattoccia
  • 发布时间:2026-07-09
  • 摘要(英文):Monocular depth estimation has seen remarkable progress through foundation models achieving robust zero-shot generalization, yet their computational demands place them far beyond the reach of embedded and mobile platforms. Lightweight alternatives exist, but have been developed almost exclusively within single-domain, self-supervised paradigms, failing silently under domain shift. We present ZipDepth, a compact monocular depth network that bridges this gap by combining an efficient reparameterizable encoder-decoder with large-scale knowledge distillation from a foundation model over a large multi-domain training set. Comprising just 6.1M parameters, ZipDepth runs at real-time rates from server GPUs to power-constrained devices, achieving the best trade-off between zero-shot accuracy and deployment efficiency among lightweight models across five benchmarks, taking a significant step towards the accuracy of foundation models with 50x more parameters.
  • 关键词(英文):foundation-model, monocular depth estimation, zero-shot, knowledge distillation, lightweight
  • URL:https://arxiv.org/abs/2607.08771v1