arXiv Artificial Intelligence· Moreno D'Inc\`a, Nicu Sebe, Massimiliano Mancini·· 3 小时前AI 评分32
利用文本拒绝方向实现多模态安全:MARS 免训练方法
Harnessing Textual Refusal Directions for Multimodal Safety
AI 导读
研究者提出 Modality-Agnostic Refusal Steering(MARS),一种无需多模态安全数据的免训练方法,通过激活中心化、在几何定义的信任域内自适应缩放引导强度并选择最优干预层,在首个生成 token 处注入多模态安全。
来源:arXiv Artificial Intelligence · arxiv.org