跳到正文
arXiv Artificial Intelligence· Yewon Han, Jisu Jeon, Suhyun Choi, Juan Yeo, Minsoo Jo, Gihoon Kim, Hyunggyu Lim, Taesup Kim·· 20 小时前AI 评分40

STOU:以自我为中心的多模态助手安全基准,区分拒绝与理解

Safety for Whom? Benchmarking Understanding Beyond Refusal in Egocentric Multimodal Assistants

AI 导读

研究者提出 STOU 基准,包含 2,902 条以自我为中心的视频-音频与视频-文本查询,将潜在伤害目标分为用户自身(Self)、在场他人(The Others)和社会整体(Others),并把安全理解与拒绝行为解耦评分。对 10 个开源与闭源全模态及多模态 LLM 的评测显示,拒绝率随伤害目标系统性变化,模型常能识别风险却仍提供协助,仅凭拒绝率无法证明助手安全。

来源:arXiv Artificial Intelligence · arxiv.org