跳到正文
arXiv Artificial Intelligence· Chaoli Mou, Xinning Chen, Zhan Zhuang, Qinghe Zheng, Deyuan Kong, Yu Zhang·· 19 小时前AI 评分24

S-trace:面向 RLVR 的选择性后继资格迹方法

Selective Successor Eligibility Traces for RLVR

AI 导读

针对 GRPO 等无评论家算法将轨迹级优势统一分配给所有 token、难以区分各推理步骤贡献的问题,研究者提出选择性后继资格迹方法 S-trace,通过后继重要性重加权恢复 PPO 式裁剪下的下游信用信号,并借助基于熵的 token 选择将其传播至选定的历史 token。

来源:arXiv Artificial Intelligence · arxiv.org