跳到正文
arXiv Artificial Intelligence· Yuqing Huang, Jack Ji, Jithin Pradeep, Sagarika Suresh, Jekaterina Novikova·· 3 小时前AI 评分34

M³:将多轮越狱建模为马尔可夫决策过程的多 LLM 系统

$M^3$: A Multi-LLM System for Multi-Turn Jailbreaking as a Markov Decision Process

AI 导读

M³ 是一个自动化红队框架,把多轮越狱形式化为有限时域马尔可夫决策过程,由攻击 LLM 与目标 LLM 交互,并通过状态 LLM 维护紧凑内部状态。在两个基准、六个目标模型上,其 ASR@5 最高提升 53%;即便使用轻量攻击模型,ASR@1 和 ASR@5 也分别提升至多 26% 和 34%。

来源:arXiv Artificial Intelligence · arxiv.org