arXiv Artificial Intelligence· Itay Zloczower, Eyal Lenga, Gilad Gressel, Yisroel Mirsky·2026-10-15 12:00· 19 小时前AI 评分62

研究：恶意微调防御在持续训练下为何失效

A Few Steps Further: Why Defenses Against Malicious Finetuning Erode Under Continued Training

AI 导读

一项 arXiv 论文考察了针对恶意微调的防御能否抵御最简单的升级方式，即攻击者持有权重后延长训练。作者梳理十五种近期防御，发现它们都基于有限攻击者假设，如扰动有界、短程模拟攻击或有害与良性行为的训练关联，权重发布后没有机制维持保护。