arXiv Computer Vision· Zhifang Zhang, Qi Wei, Weitong Chen, Olaf Maennel, Wei Emma Zhang, zuomin ren, Lei Feng, Miao Xu·· 20 小时前AI 评分24
检测后门多模态大推理模型中的思维链劫持
Detecting Chain-of-Thought Hijacking in Backdoored Multimodal Large Reasoning Models
AI 导读
研究提出 InertiaGuard，一种无需训练、在测试时运行的检测器，用于识别后门多模态大推理模型中的思维链（CoT）劫持。该方法基于"信念惯性"度量：诚实推理在高熵"顿悟时刻"修正答案，而劫持则以近乎确定性的转向推翻自信答案，劫持片段的信念惯性显著更低；进一步限定于图像依赖片段得到视觉信念惯性（VBI），当轨迹的 VBI 低于在少量干净轨迹上校准的阈值时即被标记。
来源：arXiv Computer Vision · arxiv.org