arXiv 预印本Chloé Hashimoto-Cullen
时序变分自编码器的 PAC-Bayesian 重构保证
原标题:PAC-Bayesian Reconstruction Guarantees for Time Series Variational Autoencoders
论文68
准确预测时间序列对于涉及复杂数据的应用至关重要,其涵盖了从能源系统到医疗健康及金融等广泛领域。在目前最先进的模型中,生成式隐变量模型的应用日益广泛;然而,针对现代隐变量模型的原则性泛化保证仍然十分有限。特别是,尽管变分自编码器被广泛应用于序列数据,但其理论分析在很大程度上仍局限于独立同分布(i.i.d.)设定。在这项工作中,我们为应用于时间序列的隐变量模型建立了一个 PAC-贝叶斯框架。基于重构界,我们将 PAC-贝叶斯保证扩展到马尔可夫隐结构,并通过序列生成过程来捕捉时间依赖性。这些保证不会随轨迹长度的增加而发散。我们的界依赖于文献中常见的假设;同时,我们提供了一个可验证这些假设的示例框架,以表明它们并不像表面上看起来那样严苛。
为什么值得读
首次将 PAC-Bayesian 重构界拓展至时序 VAE,且理论界不随时间序列长度发散,为经验驱动的时序生成模型补上了缺失的基础理论支撑。
标签
Time SeriesVariational AutoencodersPAC-BayesianGeneralization TheoryLatent Variable ModelsMachine Learning