arXiv Artificial Intelligence· Nimun Bajwa, Massimo Poesio·2026-10-23 12:00· 4 小时前AI 评分31

在 Llama-3.1-8B-Instruct 中探测与引导安全相关行为

Probing and Steering for Safety-Relevant Behaviours in Large Language Models

AI 导读

研究在 Llama-3.1-8B-Instruct 上统一比较激活探针的设计选择，覆盖欺骗、高风险意识和谄媚三种行为，交叉两种估计器（差值均值与逻辑回归）和三种 token 池化方案（last、mean、学习式注意力）。