干预式训练减少上下文内省中的因果绕行

研究在三种低层信号类型和八个语言模型上训练数百个内省器，发现直接 SFT 训练会导致“因果绕行”，即自我报告依赖与报告对象相关但无因果关系的信号。为此提出干预式训练，让模型报告反事实扰动后的值，从而更准确地内省内生信号与注入信号，在分布外（OOD）数据上尤为明显。该机制可跨 token 位置泛化，并随数据量增加而扩展，表明有因果根基的内省虽可行但并非必然。