GRAFT：梯度路由缓解RL奖励黑客

2026年10月15日，arXiv Artificial Intelligence 刊出由 Jake Ward 等作者提出的 GRAFT（Gradient Routing Adapter Fine Tuning，梯度路由适配器微调）方法，用于应对强化学习中因奖励函数设定不当而出现的 reward hacking（奖励黑客）问题。报道称，该方法的核心做法是：对监控器标记出的样本，不采取惩罚或过滤，而是将其梯度更新约束到一组新增的“牺牲参数”上，从而在训练中定位并消除非预期行为。报道未给出该方法的具体实验设置、适用任务范围、性能数据或使用限制，也未提及是否开源或收费。截至该报道，事件进展为方法提出阶段，尚无后续验证或应用报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。