研究者提出跨模态拆分意图越狱攻击SIJA

2026年10月20日，arXiv Artificial Intelligence 刊出 Xianmin Ye 等作者的研究，提出针对大型图像编辑模型的跨模态越狱攻击 SIJA。该攻击将不安全编辑意图拆分到文本与视觉线索中：文本指定编辑对象，辅助视觉线索以图形语义隐藏安全关键动作与规格。报道称，SIJA 在 GPT Image 2 上攻击成功率达 68.28%，在 Qwen-Image-3.0-Pro 上达 91.38%。团队同时构建基准 SI2ESBench，用于评估图像编辑模型在拆分意图输入下的安全性。结果显示，现有防护常无法识别分布式意图的危害；为此研究者提出编辑意图重建防御原则，评估多模态上下文联合隐含的完整变换。目前进展停留在论文发布与实验评估阶段。

AI 根据报道生成 · 37 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。