arXiv Artificial Intelligence· Ren-Jian Wang, Ke Xue, Zeyu Qin, Ziniu Li, Sheng Tang, Hao-Tian Li, Shengcai Liu, Zhi Yu, Yuanpeng Tan, Chao Qian·· 18 小时前AI 评分36
QDRT：为大语言模型自动生成高质量多样化攻击者的质量-多样性红队框架
Quality-Diversity Red-Teaming: Automated Generation of High-Quality and Diverse Attackers for Large Language Models
AI 导读
研究者提出质量-多样性红队框架 QDRT，通过行为条件训练和行为回放缓冲区实现目标驱动的多样性，并训练多个专门化攻击者覆盖不同攻击风格与风险类别。在 GPT-2、Llama-3、Gemma-2、Qwen2.5 及商用模型 GPT-4.1、GPT-5-Chat 上，QDRT 生成的攻击更多样也更有效。代码已公开。
来源：arXiv Artificial Intelligence · arxiv.org