HuggingFace 每日论文Siming Fu论文89
Poly-OPD：面向可选能力流模型的异构多教师在线策略蒸馏
原标题:Poly-OPD: Heterogeneous Multi-Teacher On-Policy Distillation for Capability-Selectable Flow Models
Poly-OPD提出一种多教师在线策略蒸馏框架，将FLUX.1-dev与Z-Image的互补能力迁移到2.5B参数的SD3.5-Medium学生模型。方法通过像素桥接不同潜空间，以冻结DINOv2特征对齐监督，并用共享注意力LoRA、教师专属前馈适配器及差距感知课程减少能力干扰。报告称GenEval由67.3升至73.3，DrawBench HPSv3由9.34升至11.35。
为什么值得读
多教师蒸馏通常受潜空间不兼容和能力互相干扰限制；该工作给出可复用的桥接、适配器组织与课程训练方案，并报告学生超过教师的结果。
标签
图像生成在线蒸馏多教师Flow MatchingLoRASD3.5FLUX模型压缩