研究者提出 CoM 越狱发现方法

2026年10月30日，arXiv Artificial Intelligence 刊出 Michał Burzyński 等作者的论文，提出 Curriculum of Models（CoM）越狱发现方法。据该报道，CoM 让调查模型依次针对目标的多个修改版本训练，从很少拒绝有害请求的版本逐步过渡到原始目标，以缓解安全训练目标下奖励稀疏的问题。报道称，当调查模型只被训练诱导单一行为时，CoM 比两个基线都更可靠地找到成功越狱；当同时训练多种行为时，CoM 训练的调查模型能诱导出留出行为，但 PRBO 训练的模型成功率更高。报道还提到该方法在 CBRN、爆炸物与非法药物诱导任务上的表现。目前尚无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。