知识卡片:基于切片切比雪夫矩的差分隐私合成数据
一句话结论
SPLICE 通过测量带噪的切片切比雪夫多项式矩并拟合分布,在高维数据上实现了与维度无关的全局分布保证(Sliced Wasserstein-1 距离 $\tilde{O}(1/\sqrt{n})$),并在基准测试中达到差分隐私合成数据的当前最优水平。
事件概述或研究问题
现有实用的差分隐私(DP)合成数据方法主要致力于近似保留目标分布的低维边缘,高维全局结构只能寄希望于“幸运的副产品”;而追求全局精度保证的方法则面临随数据维度 $d$ 指数增长的代价(维度灾难)。本文提出新算法 SPLICE,试图在高维场景下同时获得可证明的全局分布保证与实用性能。
方法/产品要点
- 核心思路:测量目标分布的带噪切片切比雪夫多项式矩,再拟合一个分布去匹配这些矩;这是对近期一维合成数据多项式方法的推广/变体。
- 理论保证:给定 $n$ 个样本,在常数隐私参数下,SPLICE 返回的私有分布与目标分布的 Sliced Wasserstein-1 距离为 $\tilde{O}(1/\sqrt{n})$,且该界不依赖数据维度 $d$。
- 辅助理论结果:对单位球上的分布,沿 $\tilde{O}(d/\alpha^2)$ 个随机方向匹配前 $O(1/\alpha)$ 个切比雪夫矩,即可保证 $\alpha$ 的 Sliced Wasserstein 误差。
- 工程实现:借鉴张量分解文献中的工具给出实用实现,并在广泛基准上与既有 DP 合成数据方法对比达到当前最优。
主要结果或产业意义
- 理论上突破了 DP 合成数据全局精度保证对维度的指数依赖,给出维度无关的收敛界。
- 实验上在广泛基准中优于先前 DP 合成数据方法,说明该方法不仅理论优雅,也具备实用竞争力。
- 附带一个独立的矩匹配结论,可能对分布逼近相关研究有单独参考价值。
为什么重要
DP 合成数据长期在“实用(保边缘)”与“可证明(保全局)”之间取舍:前者高维全局结构无保证,后者受维度灾难困扰。SPLICE 声称同时缓解这两者,若其结论成立,将为高维隐私数据发布提供兼具理论保证与实测性能的路线,并与既有的 DP 降维/隐私统计分析脉络(如面向高斯数据的差分隐私 PCA)形成互补——前者面向合成数据生成,后者面向主成分估计,增量在于全局分布保证与维度无关界。
局限与不确定性
- 理论界针对常数隐私参数;更严格隐私预算下的表现待核实。
- 矩匹配结果的适用前提是单位球上的分布,一般数据分布需何种预处理/假设,待核实。
- “state-of-the-art”的比较范围、基准数据集与具体指标,摘要未展开,待核实。
- 实际运行时间与可扩展性(尤其张量分解实现的开销)待核实。
可用于图书/PPT/简报的角度
- “维度灾难”在隐私合成数据中的表现,以及用随机切片矩绕开维度依赖的思路。
- 从低维边缘保留到全局分布保证:DP 合成数据方法谱系的对比框架。
- 切比雪夫多项式矩 + 张量分解:经典数值工具在现代隐私学习中的复用。
- 理论保证与工程实现并重的算法设计范式(可证明 + 基准领先)。
原始材料
- 标题:Differentially Private Synthetic Data from Sliced Chebyshev Moments
- 作者:Lucas Rosenblatt, R. Teal Witter, Christopher Musco
- arXiv ID:2610.42081v1(cs.LG;交叉 cs.CY, cs.DS)
- 发布/更新:2026-10-30T17:34:58Z
- 摘要页:https://arxiv.org/abs/2610.42081v1
- PDF:https://arxiv.org/pdf/2610.42081v1
- 关键词:differentially private synthetic data;sliced Chebyshev moments;Sliced Wasserstein distance;curse of dimensionality;tensor decomposition
发现内容有误?
免登录提交,管理员审核并完成修正后才会公开修订说明。
值得关注
DP 合成数据长期在“实用(保边缘)”与“可证明(保全局)”之间取舍:前者高维全局结构无保证,后者受维度灾难困扰。SPLICE 声称同时缓解这两者,若其结论成立,将为高维隐私数据发布提供兼具理论保证与实测性能的路线,并与既有的 DP 降维/隐私统计分析脉络(如面向高斯数据的差分隐私 PCA)形成互补——前者面向合成数据生成,后者面向主成分估计,增量在于全局…
相关主题
对应的教材知识点
根据卡片内容自动匹配,点击查看已审核的教材讲解: