arXiv Artificial Intelligence· Hong kyu Lee, Kai Shu, Li Xiong·· 2 天前AI 评分32
组合式失对齐:大型视觉语言模型的安全性审计
Compositional Unalignment: Auditing Safety in Large Vision-Language Models
AI 导读
研究提出用“失对齐”作为对齐鲁棒性的补充审计手段,发现最小监督微调即可达到与多阶段强化学习管线相当的 LLM 评委分数,说明基准分数本身无法证明鲁棒性。识别与拒答组合式危害是解耦的:九种方向发现方法检测组合式危害的 AUC 最高达 0.99,但消融这些方向要么不影响拒答、要么破坏模型连贯性。
来源:arXiv Artificial Intelligence · arxiv.org