提出模型合并条件后门攻击框架SMOKE

2026年10月15日，arXiv Artificial Intelligence 刊出由 Yukun Chen 等作者完成的研究，提出针对大语言模型模型合并的新型威胁与攻击框架。报道称，研究者揭示了一种单侧合并条件后门（OMCB）：该后门在单个模型中保持休眠且无法被检测，但在模型合并后会被激活，并导致安全对齐失效。为验证这一威胁，研究者提出基于元学习的攻击框架 SMOKE，通过双层优化注入后门，其中内层使用随机低秩初始化合成代理元向量，外层模拟合并过程以优化目标模型。报道称实验表明，SMOKE 在多种模型架构与合并技术上均有效，并能抵抗现有后门检测。目前该事件仅有这一篇报道，尚无后续跟进或相互矛盾的说法。

AI 根据报道生成 · 56 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。