研究：恶意微调防御在持续训练下失效

2026年10月15日，arXiv 上的一项研究考察了针对恶意微调的防御能否抵御最简单的升级方式——攻击者持有权重后延长训练。作者梳理了十五种近期防御，发现它们都基于有限攻击者假设，如扰动有界、短程模拟攻击或有害与良性行为的训练关联，权重发布后没有机制维持保护。研究随后在四个开放权重模型上测试六种代表性防御，将同一有害微调攻击持续三个 epoch，并沿途测量有害性与能力。结果显示，在全部 72 次受防御运行中，模型在训练结束时的有害性都高于发布时；在 Llama-3.1 上以最高学习率训练时，受防御模型最终的有害性几乎与未受防御模型相当。作者也指出防御并非同样薄弱：有一种防御在一个模型上保持了较低有害性，而某些攻击恢复有害性是以牺牲通用能力为代价。结论是，当前防御可以延迟或干扰恶意微调，但在多数情况下其测得的抵抗力无法在持续训练下保持，尚不应被视为持久保护。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。