arXiv Artificial Intelligence· Micha{\l} Burzy\'nski, Noah T. Rossi, Shomit Basu, Andy Arditi·· 17 小时前AI 评分34
通过模型课程发现越狱提示：CoM 方法在 CBRN、爆炸物与非法药物诱导任务上的表现
Discovering Jailbreaks via Curriculum of Models
AI 导读
研究者提出 Curriculum of Models（CoM），让调查模型依次针对目标的多个修改版本训练，从很少拒绝有害请求的版本逐步过渡到原始目标，以缓解安全训练目标下奖励稀疏的问题。
来源：arXiv Artificial Intelligence · arxiv.org