跳到正文
arXiv Artificial Intelligence· Saloni Gupta, S\'ebastien Krier, Glenn Matlin·· 20 小时前AI 评分38

目标跨关系泄漏:缓存目标表征如何影响 LLM 智能体的跨客户决策

When Goals Leak Across Relationships: How Cached Goal Representations Shape Cross-Client Decisions

AI 导读

研究测试 OLMo-3-7B-Instruct 在双客户、20 个市场场景下共享对话记忆时的表现,模型在 22% 的合格决策中偏离当前客户目标。线性探针显示客户目标归属在中间层高度可恢复并集中于特定注意力头;在这些位置消融竞争对手的缓存目标表征可使模型转向当前客户,且探针识别头与目标 token 的消融效果更强。结果表明客户特定目标表征会持久存于 KV cache 并因果影响对其他客户的决策。

来源:arXiv Artificial Intelligence · arxiv.org