跳到正文
arXiv Artificial Intelligence· Anastasiia Kucherenko, Francois Brouchoud, Dimitri Percia David, Andrei Kucharavy·· 2 小时前AI 评分38

小规模本地部署 LLM 在法律语境下过度拒答:权威身份提示词使拒答率升高 2–20 倍

LLMs Prompted for Legal Context Refuse More: Overrefusal from Small On-Premises LLMs in Criminal Legal Context

AI 导读

在刑事法律语境下,小规模本地部署 LLM 会因权威身份提示词而过度拒答。研究在四个现代小型开源权重模型上测试良性法律提示,发现"我是律师""我是最高法院法律顾问"等前缀使拒答率比无前缀基线系统性升高 2–20 倍,而已知的角色扮演越狱前缀效果不一,部分模型拒答激增、部分几乎不变。

来源:arXiv Artificial Intelligence · arxiv.org