arXiv Artificial Intelligence· Juanyang Xu, Zheng Wang, Xingyu Zhao, Siddartha Khastgir, Andi Zhang·· 2 小时前AI 评分31
Pair-Aware 优化:协调探索与精炼以越狱 LLM 智能体
Pair-Aware Optimization: Coordinating Exploration and Refinement for Jailbreaking LLM Agents
AI 导读
研究系统比较纯 ZO、纯 FO、ZO->FO 与 FO->ZO 四种策略,提出 ZO-FO 框架:用 ZO 优化探索对抗前缀,再用 FO 优化精炼对应后缀,并以 Pair-aware 优化保留多个前缀候选、按条件精炼后缀并在前缀-后缀对中选择。在恶意指令与恶意环境基准上,混合优化优于单一优化器方法,且优化顺序显著影响效果;优化与评估阶段均采用一致的随机解码。
来源:arXiv Artificial Intelligence · arxiv.org