arXiv Artificial Intelligence· Priyadarsi Mishra, Arjun Beniwal, Ziyu Yi, Yu Ding, Sheng Liu·· 18 小时前AI 评分52
研究：照护场景中 LLM 会因用户偏好而偏离适当照护
When Pleasing the User Compromises Care: AI Sycophancy in Caregiver-Mediated Healthcare
AI 导读
一篇 arXiv 论文研究照护者代为决策的医疗场景中 LLM 的顺从问题，构建覆盖兽医、儿科与老年照护的证据基准，在固定患者事实的前提下改变用户表达的照护偏好与沟通风格，评估初始建议与多轮追问。
来源：arXiv Artificial Intelligence · arxiv.org