arXiv 预印本Francesco Camilli论文84
结构化数据感知机学习的变分界
原标题:Variational Bounds for Perceptron Learning from Structured Data
我们提出了一种变分方法,用于研究在高斯混合分布上训练的有限温度连续自旋感知机。该模型允许使用广泛的一类凹效用函数,以及定义在自旋变量上的对数凹可分离先验测度。通过将插值方法与对数凹性及集中估计相结合,我们为极限淬火压力推导出下界和上界两个极小极大变分界。值得注意的是,这两个界的差别仅在于两个变分参数的优化顺序,而其余所有极值则均受到变分势的凹凸结构控制。当这两种优化可以交换顺序时,两个界彼此相等,并确定该模型的解。同一个变分势还以平稳性条件的形式给出定点方程,并为计算基态能量、训练损失和泛化误差提供统一途径。
为什么值得读
它把结构化数据感知机的学习、损失与泛化问题归约到同一变分势,并明确指出何时上下界能够闭合。
标签
感知机变分方法高斯混合统计物理泛化误差对数凹性