跳到正文
arXiv Artificial Intelligence· Yuejia Li, JunHeng Li, Hao Wu, Ke He, Mang Ye·· 19 小时前AI 评分29

Radioactive Feedback:仅凭评分监督训练的学生模型如何被植入行为偏好

Radioactive Feedback: Tracing Models Trained by Label-Only LLM Supervision

AI 导读

研究提出 Radioactive Feedback,通过在 LLM-as-a-Judge 的奖励中编码注册的行为偏好模式,使仅凭标量分数训练的学生模型也能被植入特定偏好。评估者对质量达标的回答施加有界逐点调整,重复优化即可将该模式传递给第三方训练的学生模型。代码与数学实验显示,注册偏好仅通过分数即可跨数据集迁移,并支持针对固定参考池的黑盒检测。

来源:arXiv Artificial Intelligence · arxiv.org