提出场景语义越狱攻击SGA并发布SceneSafetyBench
热点事件持续更新
提出场景语义越狱攻击SGA并发布SceneSafetyBench
1 篇报道1 个报道来源19 小时前更新
先了解这件事
AI 综述
2026年10月14日arXiv Computer Vision发布的研究提出SceneSafetyBench基准，并在八类风险、九款白盒与黑盒多模态大模型（MLLM）上验证了一种新漏洞：仅靠任务相关的场景语义，无需额外攻击指令，就能让模型从拒绝转为服从。基于该发现，作者提出Scene-Grounded Attacks（SGA），在保留原始任务的同时构造经校验的场景化查询并组合其独立响应。报道称，SGA在九个目标MLLM上平均攻击成功率达86.17%，比最强基线高8.55个百分点，并在八个模型上取得最高ASR。上述数字与结论均来自该篇报道。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 12:00
场景即攻击面：SceneSafetyBench 揭示 MLLM 场景化安全失效，SGA 攻击成功率 86.17%报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- arXiv Computer Vision场景即攻击面：SceneSafetyBench 揭示 MLLM 场景化安全失效，SGA 攻击成功率 86.17%
研究者提出 SceneSafetyBench，在八类风险、九款白盒与黑盒 MLLM 上验证了一种新漏洞：仅靠任务相关的场景语义，无需额外攻击指令，就能让模型从拒绝转为服从。基于此提出的 Scene-Grounded Attacks（SGA）在九个目标 MLLM 上平均攻击成功率达 86.17%，比最强基线高 8.55 个百分点，并在八个模型上取得最高 ASR。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。