arXiv Computer Vision· Xinrui Lin, Shumin Wang, Suqi Song, Fan Li, Yanyong Zhang·· 3 小时前AI 评分24
FocusOPD：面向扩散模型的结构引导在线策略蒸馏
FocusOPD: Structure-Guided On-Policy Distillation for Diffusion Models
AI 导读
FocusOPD 通过将 token 级方向性特征对齐限制在深层 Transformer 块和早期去噪步，改进了多教师在线策略蒸馏的能力迁移。在 GenEval 上从 0.953 提升至 0.967，PickScore 从 23.797 提升至 23.944，LAION-Aesthetic 从 6.052 提升至 6.199。消融实验表明，选择性的深层与早期监督比全网络、全轨迹对齐更有效且更高效。
来源：arXiv Computer Vision · arxiv.org