arXiv Artificial Intelligence· Yukun Chen, Yidou Chen, Yiming Li, Xinyu Zhang, Baosong Yang, Hongwei Yao, Zhan Qin·· 17 小时前AI 评分42
针对大语言模型模型合并的合并条件后门攻击 OMCB 与 SMOKE 框架
Towards Merging-conditional Backdoor Unalignment against Large Language Models
AI 导读
研究者揭示了一种新型威胁——单侧合并条件后门（OMCB）：它在单个模型中保持休眠且无法被检测，但在模型合并后激活并导致安全对齐失效。为此提出基于元学习的攻击框架 SMOKE，通过双层优化注入后门，内层用随机低秩初始化合成代理元向量，外层模拟合并过程优化目标模型。实验表明 SMOKE 在多种模型架构与合并技术上有效，并能抵抗现有后门检测。
来源：arXiv Artificial Intelligence · arxiv.org