arXiv Artificial Intelligence· Tianshi Wang, Jingsong Wang, Fengling Li, Jingjing Li, Xin Li, Lei Zhu·· 2 小时前AI 评分27
反事实邻域风险场 CNRF：为视觉语言模型提供基于证据的选择性安全防护
Counterfactual Neighborhood Risk Fields: Evidence-Grounded Selective Safety for Vision-Language Models
AI 导读
研究者提出反事实邻域风险场（CNRF），通过构建上下文匹配的良性-有害反事实对，用其表征差异作为与能力相关的风险方向，并将邻域支持度与风险分开估计，避免把不熟悉误判为有害。在三种 VLM 和五类多模态越狱攻击上，CNRF 取得 86.06-89.30% 的宏观防御成功率，同时保留可观的良性任务效用。
来源：arXiv Artificial Intelligence · arxiv.org