跳到正文
arXiv Artificial Intelligence· Abrar Alotaibi, Moataz Ahmed·· 18 小时前AI 评分37

REPRO:用反思式进化提示优化实现 LLM 自动化红队测试

REPRO: Reflective Evolutionary Prompt Optimizer for Automated LLM Red-Teaming

AI 导读

REPRO 是一个纯黑盒的对抗提示优化框架,仅靠单个消费级 GPU 上压缩的 7B 反思模型驱动进化搜索,在 AdvBench、JailbreakBench 和 HarmBench 上覆盖 11 个家族共 36 个目标模型,单轮对每个评估目标均达到 100% 攻击成功率(ASR),每个行为中位查询 24 次。

来源:arXiv Artificial Intelligence · arxiv.org