arXiv Artificial Intelligence· Doniyorkhon Obidov, Honggang Yu, Xiaolong Guo, Kaichen Yang·· 13 小时前AI 评分31
AttentionSwitch：联合学习稀疏注意力头选择与缩放，为 LLM 构建越狱防御
AttentionSwitch: Jailbreak Defense for LLMs via Joint Learning of Sparse Attention-Head Selection and Scaling
AI 导读
AttentionSwitch 是一种在冻结 LLM 内联合优化干预位置与强度的越狱防御方法，通过学习稀疏注意力头集合与查询条件化的乘性缩放因子，在不改变表征方向的前提下衰减或放大所选注意力头的输出。该方法在多种主流语言模型和越狱攻击上优于现有防御，训练数据稀缺时表现尤为突出。
推荐理由模型分析
AttentionSwitch 把越狱防御中“在哪里干预”和“如何干预”从顺序优化改为联合优化，在冻结的 LLM 内学习稀疏注意力头集合与查询条件缩放因子，只衰减或放大选中头的输出而不改变表示方向。作者报告在多个模型和攻击上优于现有防御，训练数据稀缺时优势更明显。适合关注推理期安全干预、低算力微调替代方案的研究者参考；效果仍以论文实验为界。
来源：arXiv Artificial Intelligence · arxiv.org