arXiv Artificial Intelligence· Jianwei Li, Min-Seon Kim, Jung-Eun Kim·· 2 天前AI 评分31
QES:用专家隔离与关停遏制 LLM 后门
Backdoor Containment via Expert Quarantine and Shutdown in LLMs
AI 导读
研究者提出 Quarantined Expert Shutdown(QES),在类 MoE 结构中用路由专家 LoRA 分支和轻量路由器把触发条件行为引入指定专家,部署时只需将该专家的路由权重置零即可完成缓解。在两项任务、三种攻击和四个模型族上,多数设置下攻击成功率从 100% 降至 0-10%,下游效用通常保持或仅受轻微影响。
来源:arXiv Artificial Intelligence · arxiv.org