arXiv Computer Vision· Chenyu Zhang, Lanjun Wang, Yueyang Cheng, Ruidong Chen, Wenhui Li, An-an Liu·· 13 小时前AI 评分31
如何在 Diffusion Transformer 中检测并抑制风险概念
What Concepts Lie Within? Detecting and Suppressing Risky Content in Diffusion Transformers
AI 导读
研究者发现 Diffusion Transformer（DiT）的注意力头对语义概念具有特异性敏感度，据此提出一种免训练的推理时防护方法。
推荐理由模型分析
该工作针对DiT类文生图模型在无显式风险词对抗提示下难以拦截风险内容的瓶颈，发现注意力头对语义概念存在特异性敏感，并据此提出免训练推理期防护：用注意力头向量作判别签名，结合动量跟踪与敏感性引导的自适应抑制。开发者可据此比较其在性、版权风格等风险类别上的抑制效果与画质保持，并关注跨DiT模型迁移与对抗鲁棒性的适用边界。
来源：arXiv Computer Vision · arxiv.org