arXiv Artificial Intelligence· Laya Iyer, Chen Shani·2026-10-22 12:00· 18 小时前AI 评分26

每个部分各司其职：词性如何影响 LLM 后训练中的概念增强效果

Every Part Has Its Role: Part-of-Speech Effects in LLM Post-Training

AI 导读

研究复现并扩展了概念增强方法，将替换目标词的做法从名词扩展到动词和形容词，考察承载概念信号的词性是否影响困惑度与下游表现。结果显示，概念增强在新闻文本上最稳定地降低困惑度且与词性无关，而动词带来最可靠的下游收益。CKA 与线性探针分析表明，下游增益最大的条件未必是内部表征改变最大的条件。