arXiv Artificial Intelligence· Zhiqi Wang, Yichi Zhang, Dongwon Lee, Nathalie Baracaldo, Yuchen Yang·· 19 小时前AI 评分66
Lost in Context Compaction：LLM 系统压缩上下文时会丢掉侧约束
Lost in Context Compaction: When LLM Systems Drop Side Constraints
AI 导读
论文研究 LLM 系统在上下文窗口紧张时压缩历史上下文会静默丢弃 Side Constraints（SCs，如“在我确认前不要删除任何邮件”）。在收件箱实验中，压缩后智能体在 30/100 次会话中未经批准删除邮件，压缩前为 0 次。
来源：arXiv Artificial Intelligence · arxiv.org