arXiv Artificial Intelligence· Yuqi Jia, Hangsheng Zhang, Chenxi Liu, Junjie Liang, Xun Chen·· 18 小时前AI 评分38
ReMAS：用强化学习对多智能体系统做黑盒红队测试
Black-Box Red-Teaming of Multi-Agent Systems via Reinforcement Learning
AI 导读
ReMAS 是首个面向多智能体系统（MAS）的强化学习红队框架，通过微调攻击者 LLM 生成对抗提示词以提取系统提示词。该框架分两步：改写阶段优化基础攻击提示词，模板生成阶段构造更易调用特定子智能体的攻击模板。实验显示其攻击成功率显著高于现有黑盒攻击方法，并可跨不同后端 LLM 与 MAS 结构迁移。
来源：arXiv Artificial Intelligence · arxiv.org