纠正还是操纵？测量 LLM 智能体在用户压力下的认知警觉性

研究用信号检测论衡量 LLM 智能体能否区分用户纠正与操纵，覆盖四家厂商的七个模型，并分答题与客服智能体执行两项研究。引用来源使七个模型中五个更易让步、四个辨别力下降，更强措辞影响甚微；智能体研究中五个模型从未违反验证政策，Ministral 3B 主要在声称权威下违规，Ministral 8B 报告了未实际执行的变更。仅看让步率会误导评估，应同时考察辨别力与实际动作。