知识卡片:ZipDepth:轻量级零样本单目深度估计模型
一句话结论
ZipDepth是一个仅6.1M参数的紧凑型单目深度网络,通过知识蒸馏与高效编码器-解码器设计,在零样本精度与部署效率之间取得最佳平衡,可在从服务器GPU到功耗受限设备上实现实时运行,性能接近参数量大50倍的基础模型。
事件概述/研究问题
单目深度估计在基础模型推动下取得了稳健的零样本泛化能力,但计算需求远超嵌入式与移动平台。已有的轻量级替代方案几乎仅在单域自监督范式内开发,在域迁移时无声失效。ZipDepth旨在弥合这一鸿沟,通过结合高效可重参数化编码器-解码器架构与来自基础模型的大规模多域训练集知识蒸馏,实现轻量级零样本深度估计。
方法/产品要点
- 模型架构:紧凑型单目深度网络,包含高效的可重参数化编码器-解码器。
- 训练策略:从基础模型(参数量为ZipDepth的50倍以上)进行大尺度知识蒸馏,训练集覆盖多域数据。
- 模型规模:仅6.1M参数。
- 运行效率:从服务器GPU到功耗受限设备均能达到实时速率。
主要结果或产业意义
- 在五个基准测试上,ZipDepth在轻量级模型中实现了零样本精度与部署效率的最佳权衡。
- 显著向参数量大50倍的基础模型的精度迈进。
- 适合嵌入式、移动设备等资源受限场景,实现“随处可用”的零样本单目深度估计。
为什么重要
当前基础模型精度虽高但难以部署,而现有轻量模型在域迁移时易失败。ZipDepth首次将知识蒸馏与高效架构结合,在保持极小参数量的同时获得接近基础模型的零样本泛化能力,为将深度感知能力普及到边缘设备提供了可行路径。
局限与不确定性
- 文中未提及ZipDepth在极端域迁移(如完全未见过的传感器或光照条件)下的表现,其泛化边界待核实。
- 知识蒸馏所依赖的基础模型的具体架构与训练数据集细节待核实。
- 在极高精度要求场景下(如自动驾驶中的毫米级深度),与原始基础模型间的差距待核实。
可用于图书/PPT/简报的角度
- 标题建议:从“大而全”到“小而精”:ZipDepth如何用6.1M参数实现零样本单目深度估计
- 关键词:轻量级深度学习、知识蒸馏、单目深度估计、边缘部署、零样本泛化
- 核心图示:对比基础模型(300M+参数)与ZipDepth(6.1M参数)在精度-效率二维图上的位置,突出最佳权衡点。
- 应用场景:手机AR、无人机避障、嵌入式机器人视觉等。
原始材料
- 标题(英文):ZipDepth: Bringing Lightweight Zero-Shot Monocular Depth Anywhere, on Any Device
- arXiv ID:2607.08771v1
- 作者:Fabio Tosi, Luca Bartolomei, Matteo Poggi, Stefano Mattoccia
- 发布时间:2026-07-09
- 摘要(英文):Monocular depth estimation has seen remarkable progress through foundation models achieving robust zero-shot generalization, yet their computational demands place them far beyond the reach of embedded and mobile platforms. Lightweight alternatives exist, but have been developed almost exclusively within single-domain, self-supervised paradigms, failing silently under domain shift. We present ZipDepth, a compact monocular depth network that bridges this gap by combining an efficient reparameterizable encoder-decoder with large-scale knowledge distillation from a foundation model over a large multi-domain training set. Comprising just 6.1M parameters, ZipDepth runs at real-time rates from server GPUs to power-constrained devices, achieving the best trade-off between zero-shot accuracy and deployment efficiency among lightweight models across five benchmarks, taking a significant step towards the accuracy of foundation models with 50x more parameters.
- 关键词(英文):foundation-model, monocular depth estimation, zero-shot, knowledge distillation, lightweight
- URL:https://arxiv.org/abs/2607.08771v1