分层强化学习红队对话方法研究

2026年10月15日，arXiv Artificial Intelligence 刊出 Roman Belaire 等作者的研究，提出一种新的红队测试范式：将针对对话大模型的红队测试形式化为分层强化学习框架下的马尔可夫决策过程，目标是最大化预期累积危害。该生成式智能体借助 token 级危害奖励学习多样化的多轮攻击，可持续发现绕过基线的漏洞，在稀疏奖励和长程规划下取得新的 SOTA。报道称该工作被 NeurIPS 2026 收录。目前进展停留在论文发布与录用层面，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。