研究pass@k优化导致pass@1下降的梯度冲突机制

2026年10月15日，arXiv Artificial Intelligence 刊出 Anas Barakat 等作者的论文，针对 LLM 后训练中 pass@k 提升而 pass@1 下降的权衡展开研究。论文从提示词干扰导致的梯度冲突给出理论刻画：pass@k 策略梯度会隐式向低成功率提示词重新加权，当这些提示词存在负干扰时，其更新方向会偏离 pass@1 方向。研究在可验证的数学推理与代码生成任务上通过大语言模型实验验证了该发现。作者在论文中表示，其研究的是这一权衡的来源，并给出 pass@k 策略优化可通过提示词干扰引发的梯度冲突降低 pass@1 的理论刻画。截至该报道，事件进展为上述理论分析与实验验证结果。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。