研究比较LLM行为与隐藏状态语义几何

2026年10月15日，arXiv Artificial Intelligence刊出Louis Schiekiera等人的论文《从关联到激活：比较LLM中行为与隐藏状态的语义几何》。研究者在八个指令微调Transformer模型上，采用相似性强制选择和自由联想两种范式，使用共享的5000词词表，共收集1750万+试次，并据此构建基于行为的相似度矩阵。表征相似性分析显示，强制选择行为与隐藏状态几何的一致性显著高于自由联想；在留出词回归中，行为相似度（尤其强制选择）能预测未见词的隐藏状态相似度，且超出词汇基线和跨模型共识。论文摘要称，研究旨在考察“LLM的隐藏状态几何能在多大程度上从其心理语言学实验行为中恢复”。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。