arXiv Artificial Intelligence· Xianmin Ye, Zhiyuan Fan, Tianju Liu, Yuhang Wang, Zhenxing Niu, Haichang Gao·· 2 小时前AI 评分40
拆分编辑意图：针对大型图像编辑模型的跨模态越狱攻击
When the Editing Intent Is Split: A Cross-Modal Jailbreak Attack for Large Image Editing Models
AI 导读
研究者提出拆分意图越狱攻击 SIJA，将不安全编辑意图拆分到文本与视觉线索中，在 GPT Image 2 上攻击成功率达 68.28%，在 Qwen-Image-3.0-Pro 上达 91.38%。团队同时构建 SI2ESBench 基准用于评估此类拆分意图输入下的图像编辑模型安全性。结果显示现有防护常无法识别分布式意图的危害，为此提出编辑意图重建防御原则，评估多模态上下文联合隐含的完整变换。
来源：arXiv Artificial Intelligence · arxiv.org