瓶颈生成架构中，追逐决策边界的蒸馏为何失效

论文研究无数据知识蒸馏中的边界搜索原则能否从分类器扩展到自编码器。作者将连续重建改写为逐特征分类，在MNIST实验中发现，解码器多个受共享低维瓶颈约束的输出并非独立分类器，随机对比目标会破坏潜在流形几何并造成梯度冲突；具备流形感知的合成方法则提供了有效基线。