arXiv Artificial Intelligence· Federico Torrielli, Peter Schneider-Kamp, Lukas Galke Poech·2026-10-23 12:00· 3 小时前AI 评分31

激活预言机的置信度与校准：让语言模型内部表征解读更可靠

Confidence and Calibration of Activation Oracles for Reliable Interpretation of Language Model Internals

AI 导读

研究比较了五种估计激活预言机置信度的方法，覆盖 Qwen 和 Gemma 两个模型家族、8B 至 27B 参数的四个预言机，在 secret word 任务上每种方法/预言机组合使用 6000 个样本。