arXiv Artificial Intelligence· Gabrielle Kaili-May Liu, Avi Caciularu, Gal Yona, Idan Szpektor, Arman Cohan·· 19 小时前AI 评分26
用元认知反馈强化学习让 LLM 忠实表达不确定性
Reinforcement Learning with Metacognitive Feedback Elicits Faithful Uncertainty Expression in LLMs
AI 导读
研究者提出元认知反馈强化学习（RLMF），依据模型对自身表现的自评质量来优化偏好学习中的完成排序，并配合元认知数据选择筛选高价值训练样本。在忠实校准任务上，RLMF 取得可泛化的 SOTA 表现且保持准确率，较标准 RL 提升最高 63%，同时增强模型评估和表达自身能力边界的能力。
来源：arXiv Artificial Intelligence · arxiv.org