arXiv 预印本Yizhu Wang论文84
面向未知流形的内在混合潜空间扩散模型
原标题:Intrinsic-Hybrid Latent Diffusion Models for Generative Modeling on Unknown Manifolds
我们提出了内在混合潜扩散模型(Intrinsic Hybrid Latent Diffusion Model,ILDM),这是一种将概率降维与未知流形上的几何感知扩散相结合的生成框架。尽管扩散模型(DM)已在高维数据合成领域取得最先进的结果,但它们依赖大规模训练数据集,并忽略了内在几何结构。潜扩散模型(LDM)通过学习潜在空间来应对高维性问题,但通常强加欧几里得结构,无法捕捉底层流形几何,尤其是在数据稀疏的场景下问题更为突出。ILDM 将潜在空间解释为未知黎曼流形的一个坐标图,并通过概率解码器对几何结构和不确定性进行量化。其前向过程是一种混合扩散过程,根据局部不确定性在黎曼动力学和欧几里得动力学之间切换,其中黎曼分量由从解码器推导出的概率度量张量控制。为学习生成动力学,我们提出了一种针对混合扩散场景设计的近似去噪得分匹配方法,从而实现由混合朗之万动力学定义的反向过程。在 COIL-100、MNIST 和心脏 MRI 数据集上的实验表明,与标准扩散模型和潜扩散模型相比,ILDM 显著提升了生成质量,并取得了更低的 FID 和 LPIPS 分数。
为什么值得读
它正面回应数据稀缺场景中潜空间几何被欧氏假设掩盖的问题,适合评估流形建模能否改善医学影像等小样本生成。
标签
扩散模型潜空间流形学习生成建模医学影像几何深度学习