arXiv Artificial Intelligence· Savyasachi Gupta, Aniruddha Srinivas Joshi·· 18 小时前AI 评分29
综述:RLVR 中验证器噪声与鲁棒性——58 项研究揭示错误结构比错误率更关键
Checking the Checkers: A Synthesis of Verifier Noise and Robustness in RLVR
AI 导读
一项综述梳理了 58 项测量、分析或缓解 RLVR 验证器错误的研究,发现错误的结构比错误率更重要:随机错误主要拖慢学习,而在固定预算或 KL 正则下也会降低最终准确率。策略可学会触发的假阳性会导致训练停滞甚至崩溃,即便初始错误率很低。验证器是错误拒绝还是错误接受取决于其检查内容和构建者而非所属类别,且多数缓解方法只针对单一错误类型测试。
来源:arXiv Artificial Intelligence · arxiv.org