研究揭示语言模型隐藏来源承诺及引导方法

2026年10月30日，arXiv Computer Vision 刊出 Samuel Dawit Assefa、Jae Won Cho 的研究，考察语言模型在冲突上下文问答中的行为：即使被要求披露冲突，模型仍可能只给出单方面答案。研究称，在 Qwen 0.8B 中，隐藏来源承诺可由一个残差来源选择方向的符号刻画，该符号对应答案采用哪份文档；稀疏中层 MLP 写入同一坐标，引导该坐标即可改变所选来源。研究还称，Gemma 3 1B 迁移实验在 LLM 审核标签下保留了来源选择读出与稀疏写入桥接。上述结论均出自该研究报道，尚未见独立复现或后续跟进报道。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。