arXiv Artificial Intelligence· Yijiang River Dong, Zexue He, Cheng Yu, Tiancheng Hu, Michael J Ryan, Jan Batzner, Zheng Hui, Shaolong Wu, Orestis Papakyriakopoulos, Alex Pentland, Nigel Collier, Jiaxin Pei·· 3 小时前AI 评分38
Memory-Aware Reward Modeling：让 LLM 记忆使用对齐人类偏好
Memory-Aware Reward Modeling: Learning Human Preferences for LLM Memory Use
AI 导读
研究团队收集 87 名参与者基于自身 ChatGPT 查询与个人记忆的约 1,000 条成对判断，发现带记忆的回复并不总被偏好，部分用户强烈偏好无记忆回复，自动评估器与用户一致性有限且更偏向带记忆回复。为此提出记忆感知奖励模型，偏好预测准确率达 72.8%，优于现有基线。
来源：arXiv Artificial Intelligence · arxiv.org