arXiv Computer Vision· Anirudh Sundara Rajan, Krishna Kumar Singh, Richard Zhang, Yong Jae Lee·· 20 小时前AI 评分30
Pristine Models:在预训练阶段隔离不安全概念,推理时可断开不安全分支
Pristine Models
AI 导读
Pristine Models 是一种新的文生图架构,通过注意力机制将安全与不安全知识分离到独立参数化的分支中,不安全分支可在推理时断开。在 ImageNet 上,它比仅用安全数据训练或事后概念移除的图像质量更高、文本对齐更好,同时保留全量数据预训练的大部分效用;该方法在 CC12M 上同样有效。
来源:arXiv Computer Vision · arxiv.org