arXiv Artificial Intelligence· Xiaogeng Liu, Xinyan Wang, Chaowei Xiao·· 17 小时前AI 评分58
FlipJev:快速黑盒红队攻击为类型化决策模型找到通用对抗后缀
FlipJev: Fast Black-Box Red Teaming Finds Universal Adversarial Suffixes for Typed Decision Models
AI 导读
研究提出 FlipJev,一种不调用攻击方语言模型的快速黑盒查询攻击,针对类型化决策模型 Jev 在 12 个数据集上找到短对抗后缀,可在数分钟内翻转高置信度答案。
来源:arXiv Artificial Intelligence · arxiv.org