arXiv Artificial Intelligence· Rhitabrat Pokharel, Ameeta Agrawal·· 1 天前AI 评分38
多语言 LLM 的鲁棒性与谄媚性如何区分:SC-matrix 框架
Disentangling Robustness and Sycophancy in Multilingual LLMs
AI 导读
研究者提出 SC-matrix,将多语言 LLM 在无压力下的回答能力与受压时是否坚持答案交叉评估,以区分模型是"谄媚"还是"在该语言下本就不会"。结果显示,相同的总体谄媚率可能掩盖不同的失败构成,某语言上的高能力并不总能防止谄媚,且面向推理的缓解策略优于指令式策略。多语言谄媚并非单一现象,而是需要分别诊断的多种失败复合体。
来源:arXiv Artificial Intelligence · arxiv.org