arXiv 预印本Jaehee Seo
扩散模型估计局部本征维度的极小化极大下界
原标题:Minimax Lower Bound for Estimating Diffusion-based Local Intrinsic Dimension
论文75
虽然基于扩散的方法最近已成为探究高维数据内在几何结构的有效工具,但其统计难度在很大程度上仍未被深入探索。我们研究了 FLIPD (Kamkari et al., 2024; arXiv:2406.03537) 背后的有限尺度总体泛函的估计问题,FLIPD 是一种基于扩散的局部内在维度(LID)度量,通过高斯平滑密度的对数尺度导数定义。直观而言,高斯平滑将局部维度转化为一种尺度律:在 $d$ 维流形附近,核质量以 $σ^d$ 的形式增长,因此对噪声尺度求导便能揭示这一内在指数。在正则流形模型下,我们在整个模型类上一致地证明了该有限尺度场与流形维度 $d$ 的偏差至多为 $O(σ^2)$。随后,我们针对从 $n$ 个观测值中估计该有限尺度场的问题,在 $n^{-1/(2α+d)}\lesssimσ\leσ_0$ 范围内建立了 $(nσ^d)^{-1}$ 阶的极小极大下界。在我们下界构造所涵盖的最小尺度处,该界变为非参数速率 $n^{-2α/(2α+d)}$。
为什么值得读
它首次为扩散模型估算局部数据维度给出了严格的统计下界,划清了算法启发式经验与非参数样本极限的边界。
标签
Diffusion ModelsLocal Intrinsic DimensionMinimax Lower BoundNonparametric StatisticsManifold LearningTheoretical ML