研究比较激活探针检测与引导安全行为

2026年10月23日，arXiv Artificial Intelligence 刊出 Nimun Bajwa 与 Massimo Poesio 的论文，研究激活探针的设计选择如何影响大模型安全相关行为的检测与引导。据该报道，研究在单一模型 Llama-3.1-8B-Instruct 上、于同一流程内统一比较探针的主要设计选择，覆盖欺骗、高风险意识和谄媚三种行为，并交叉两种估计器（差值均值与逻辑回归）与三种 token 池化方案（last、mean、学习式注意力）。报道未给出各组合的具体效果数值，也未说明该方法在其他模型或更大范围行为上的适用性。目前进展停留在论文发表与实验设计说明层面，尚无后续跟进报道。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。