研究：语言模型上下文夹带的共享干预机制

2026年10月15日，arXiv Artificial Intelligence 刊出 Jinghan Zheng、Jiajun Shi 的论文，研究语言模型中的上下文夹带（entrainment）现象。研究使用覆盖 19 个词汇-语义子类的事实干扰项关系补全提示，定位到消融后可减少上下文夹带的注意力头，并测试这些头集在精确关系、语义家族和混合关系分布之间的迁移能力。结果显示：同家族迁移优于跨家族迁移；移除全局共享头后家族残差减弱；子类特定搜索反复重新发现许多全局头。干净补全与上下文使用探针表明，该共享干预可减少有害复制，同时保留普通关系补全和简单上下文能力。目前进展为论文发布，尚无后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。