自然图像对比学习的理论：正弦滤波器与部分白化

论文分析具有平稳统计特征的图像数据上，对比损失的最优表示。作者发现，在多类基础增强下，最优CNN可由正弦一层卷积、逐点非线性、全局平均池化和执行部分白化的线性层构成；滤波器频率与权重可依据图像功率谱通过waterfilling算法计算，SGD实验也观察到类似正弦滤波器。