研究提示适配对LLM内部计算的影响

2026年10月15日，arXiv Artificial Intelligence 刊出 Mikhail Aleksandrov 等作者的研究《并非所有漂移都是机制：追踪 LLM 中的提示词适配》。该研究对比了离散提示词优化、prompt tuning 与 prefix tuning 对稠密模型和 MoE 语言模型内部计算的影响，发现适配位置决定任务信息如何传递到输出：优化文本主要改变响应构建，输入级提示词将影响写入内容表征，逐层 prefix 则通过注意力维持直接控制，在 MoE 模型中还引发不同的专家路由模式。目前该事件仅有这一篇报道，尚无后续跟进或结论更新。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。