Value Probes 改进语言模型红队审计

2026年10月30日，arXiv Artificial Intelligence 刊出研究，Jonathan F. Jao 与 Andrew Kyle Lampinen 提出 Value Probes 方法：从目标模型的激活中线性探测，预测折扣未来奖励，并以此作为 beam-search 红队审计的启发式。报道称，在 18 种目标行为和 3 种模型规模上，该方法将峰值审计分数较 token 匹配的标准审计方法提升约 50%。研究还称，Value Probes 可用更小模型的 off-policy 数据拟合，并提供比昂贵的语言模型跟进更高效的替代方案。目前进展停留在论文报告层面，尚无独立复现或后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。