跳到正文
arXiv Artificial Intelligence· Gal Wertheizer, Rom Himelstein, Tomer Peretz, Avi Mendelson·· 2 天前AI 评分32

AnchorRep:用表征排斥防御 LLM 跨模型对抗迁移攻击

AnchorRep: Defending LLMs Against Cross-Model Adversarial Transfer via Representation Repulsion

AI 导读

AnchorRep 通过轻量 LoRA 适配器将受防御模型对有害提示的内部表征推离冻结锚点模型的表征,在五个模型、四个架构家族上将跨模型攻击成功率降至 1.1%。该方法仅用少量有害提示训练,无需对抗样本。现有防御虽能降低迁移,但代价高昂:最高导致 77% 良性输出退化,或将过度拒答率提高 18%;为此作者提出 Benign Garble Rate 指标量化此类退化。

来源:arXiv Artificial Intelligence · arxiv.org